Suman y siguen las advertencias en torno a la inteligencia artificial, y esta vez quedaron por escrito en un documento dirigido a inversionistas.
A tres semanas de la decisión de OpenAI (ChatGPT) de suspender su salida a bolsa este año, su rival Anthropic (Claude) advertirá a quienes evalúen comprar sus acciones que sus modelos de IA plantean un “riesgo catastrófico o existencial para la humanidad”, según informaron este martes varios medios, recogidos por CNBC.
De acuerdo con Reuters, la compañía dedicó unas 80 de las 261 páginas de su documento de registro a detallar los riesgos potenciales de la tecnología que desarrolla y para la cual busca financiamiento. Al negocio propiamente tal le destinó apenas 48 páginas.
Según la propia firma, la IA puede tener “conductas de autopreservación”, entre ellas la capacidad de “resistirse a ser apagada”, “ocultar o manipular información” y llevar a cabo comportamientos “que se asemejan al chantaje”, según la agencia.
US$ 2 billones de valoración y dos clientes clave
Anthropic apunta a una valoración de US$ 2 billones (millones de millones) en su debut bursátil. En el prospecto informó que registró una pérdida neta de US$ 42.000 millones en 2025 y que planea gastar US$ 518.000 millones en nube, capacidad de cómputo y otra infraestructura durante el próximo año, de acuerdo con esa agencia.
La compañía también alertó que su base de clientes es extremadamente estrecha: casi un cuarto de sus ingresos del año pasado provino de solo dos clientes, según dijeron al Financial Times dos personas familiarizadas con el documento.
Tres semanas de alertas
El prospecto llega al cierre de semanas en que la preocupación por la seguridad de la IA escaló desde el interior de las propias compañías que la desarrollan, como ha informado Pulso.
El primer remezón vino a comienzos de septiembre, cuando el investigador Jacob Coxon, especialista en preentrenamiento de modelos, renunció a Anthropic y acusó a esa firma y a OpenAI de “apostar con nuestras vidas” y de correr “directo hacia una superinteligencia auto-mejorante”.
Evan Hubinger, líder de ciencia del alineamiento de Anthropic, respaldó el diagnóstico y cifró en más de 10% la probabilidad de que la IA mate a todos los humanos en la próxima década.
El 12 de septiembre fue el turno del propio máximo ejecutivo y cofundador de Anthropic, Dario Amodei. En el ensayo “We Must Pace the Frontier” llamó a la industria a moderar la velocidad con que mejoran sus modelos más avanzados, con un plan de tres pasos para lograrlo sin “sacrificar la ventaja comercial ni el liderazgo de Estados Unidos en IA”.
El primero, al que Anthropic se comprometió de forma unilateral, consiste en dar a evaluadores externos acceso permanente y de nivel empleado a sus sistemas. No era su primera advertencia: en enero, Amodei ya había escrito que la tecnología causará una disrupción “inusualmente dolorosa” en el mercado laboral..
Ese mismo día, el máximo ejecutivo de OpenAI, Sam Altman, descartó que su compañía salga a bolsa este año. “Ahora sería un momento desaconsejable para salir a bolsa, y no sentimos presión en eso”, dijo a Fortune.
Altman y Elon Musk respaldaron en X la propuesta de Amodei, este último con tres palabras: “Dario tiene razón”. Dos días después, Altman se pronunció a favor de un marco regulatorio federal para la IA de frontera.
Este lunes, por su parte, Nvidia también dio pasos en esa dirección y anunció el lanzamiento de una plataforma de software abierto y un diseño de sistema de referencia para reforzar la seguridad de los agentes IA, desde la etapa de pruebas hasta su despliegue.
