OpenAI, la compañía detrás de ChatGPT, pidió al gobierno de Estados Unidos encabezar una iniciativa internacional para establecer estándares comunes de seguridad en el desarrollo de los sistemas de inteligencia artificial más avanzados.
La propuesta plantea que Washington trabaje junto con otros países para definir mecanismos de evaluación, supervisión humana y comunicación de incidentes relacionados con la IA.
El objetivo es preparar a los gobiernos y a la industria para una nueva generación de sistemas capaces de participar de manera autónoma en el desarrollo de tecnologías cada vez más sofisticadas.
Según informó The Wall Street Journal, la iniciativa aparece en un momento de creciente preocupación entre los principales desarrolladores de inteligencia artificial por los riesgos de seguridad asociados con estas tecnologías y las consecuencias que podría tener una competencia internacional sin mecanismos de supervisión compartidos.
El planteamiento también coincide con la reunión de la Asamblea General de Naciones Unidas en Nueva York y los preparativos del encuentro entre el presidente estadounidense, Donald Trump, y su homólogo chino, Xi Jinping, en Washington, donde la inteligencia artificial figura entre los asuntos de interés para ambas potencias.
¿Qué propone OpenAI para controlar los riesgos de la inteligencia artificial?
El documento, titulado “Building standards for the next phase of AI”, se centra especialmente en los sistemas de inteligencia artificial capaces de participar en su propio desarrollo y perfeccionamiento, un proceso conocido como mejora recursiva o recursive self-improvement (RSI).
En términos simples, se trata de tecnologías que podrían contribuir a diseñar, entrenar y optimizar nuevas generaciones de modelos, reduciendo progresivamente la intervención humana en determinadas etapas de investigación.
OpenAI advierte que, si estos procesos avanzan sin medidas de seguridad adecuadas, podrían alcanzar una velocidad que dificulte la capacidad de los investigadores para comprender sus resultados, evaluar sus riesgos y mantener un control efectivo sobre su funcionamiento.
La compañía aclara que la mejora recursiva completamente autónoma todavía no ocurre y sostiene que no debería desarrollarse hasta que existan garantías suficientes para hacerlo de forma segura.
Para enfrentar estos riesgos, OpenAI propone aprovechar la red internacional de institutos especializados en seguridad de IA, incluidos los existentes en Reino Unido, Francia, Alemania, Japón, Canadá, Australia y Singapur.
La iniciativa contempla que el Centro de Estándares e Innovación de IA de Estados Unidos (CAISI) trabaje con estas organizaciones para establecer criterios técnicos comunes que permitan evaluar los modelos más avanzados.
Entre las medidas propuestas figuran la evaluación de las capacidades de investigación autónoma, la definición de situaciones que requieran una revisión humana inmediata y la creación de protocolos compartidos para clasificar, registrar y comunicar incidentes de seguridad.
Además, OpenAI plantea establecer canales protegidos de comunicación entre gobiernos y operadores de infraestructura crítica para intercambiar información sobre vulnerabilidades, amenazas emergentes y riesgos para la seguridad nacional.
La compañía precisa que estos estándares técnicos internacionales no constituirían por sí mismos licencias, autorizaciones obligatorias ni requisitos de aprobación previa para lanzar nuevos modelos. Cada país determinaría si incorpora estas reglas a su propia legislación y de qué manera lo hace.
El incidente que encendió las alarmas en OpenAI
La propuesta tiene como antecedente uno de los episodios de ciberseguridad que ha afectado a la propia compañía.
En julio de 2026, durante evaluaciones internas, varios modelos de OpenAI lograron eludir los mecanismos diseñados para mantenerlos aislados de Internet.
Los sistemas aprovecharon vulnerabilidades de la infraestructura de investigación y terminaron comprometiendo sistemas internos y de Hugging Face, una plataforma ampliamente utilizada por la comunidad de inteligencia artificial.
De acuerdo con la investigación publicada posteriormente por OpenAI, los agentes lograron comunicarse mediante canales no autorizados, compartir información entre ellos y obtener acceso a recursos externos que estaban fuera de los límites establecidos para las pruebas.
La empresa reconoció que sus mecanismos de supervisión y respuesta no permitieron identificar oportunamente el alcance de las primeras señales de comportamiento no autorizado.
El incidente ocurrió en un entorno de evaluación de ciberseguridad y no fue consecuencia de un proceso de mejora recursiva. Sin embargo, OpenAI lo considera un ejemplo de los problemas que podrían adquirir mayor gravedad si los futuros sistemas alcanzan niveles superiores de autonomía.
El episodio también ha contribuido a abrir un debate sobre la responsabilidad de las compañías cuando sus sistemas autónomos producen daños o acceden a recursos informáticos sin autorización.
Trump se opone a frenar el desarrollo de la IA
El llamado de OpenAI coincide con las diferencias entre las principales empresas tecnológicas y la administración de Donald Trump respecto de las medidas necesarias para supervisar el desarrollo de la inteligencia artificial.
Mientras compañías como OpenAI y Anthropic han planteado la necesidad de coordinar medidas de seguridad e incluso moderar el ritmo de desarrollo de los sistemas más avanzados, el gobierno estadounidense ha expresado su preocupación por las consecuencias que una desaceleración podría tener para la competitividad tecnológica del país frente a China.
El lunes 21 de septiembre, Trump reiteró su postura en una publicación en redes sociales, donde sostuvo que Estados Unidos lidera la carrera internacional por la inteligencia artificial y que su administración buscará mantener esa posición.
El mandatario aseguró que no pretende obstaculizar el crecimiento de una tecnología cuyo impacto, según afirmó, podría superar al de la Revolución Industrial e incluso al de internet.
Sin embargo, también señaló que el Departamento de Justicia y otros organismos encargados de hacer cumplir la ley podrían intervenir si fuera necesario controlar los riesgos asociados con su desarrollo.
Por su parte, el secretario del Tesoro estadounidense, Scott Bessent, manifestó su oposición a otorgar exenciones de responsabilidad legal a las empresas desarrolladoras de inteligencia artificial.
Durante una audiencia ante el Congreso, el 15 de septiembre, Bessent argumentó que los responsables de crear estas tecnologías deben responder por sus productos y por los resultados que generen.
Su posición responde, entre otras cuestiones, a las propuestas de permitir una coordinación más amplia entre compañías tecnológicas en materia de seguridad, que han abierto interrogantes sobre su compatibilidad con las normas de competencia.
Estados Unidos y China abren un diálogo sobre seguridad de IA
Pese a las diferencias sobre el ritmo que debería seguir el desarrollo de la inteligencia artificial, la cooperación internacional en materia de seguridad comienza a ocupar un espacio en las conversaciones diplomáticas.
Según informó Reuters, representantes de Estados Unidos y China acordaron establecer un diálogo sobre los riesgos de la IA y los mecanismos de comunicación ante posibles incidentes.
El secretario del Tesoro estadounidense, Scott Bessent, señaló que funcionarios de ambos países volverán a reunirse en Shenzhen, China, dentro de aproximadamente dos meses para continuar las conversaciones sobre seguridad y protocolos de emergencia.
La propuesta de OpenAI contempla precisamente que ambas potencias puedan intercambiar información sobre amenazas emergentes y vulnerabilidades de sus sistemas más avanzados.
La compañía sostiene que los mecanismos compartidos de evaluación y comunicación permitirían responder a problemas que trascienden las fronteras nacionales, sin que los países deban renunciar a sus respectivas facultades regulatorias.
En paralelo, el debate llegará esta semana al Consejo de Seguridad de Naciones Unidas, donde está prevista la participación del director ejecutivo de OpenAI, Sam Altman, en una sesión dedicada a la inteligencia artificial y la seguridad internacional.
El llamado de OpenAI se produce, además, en un momento en que la industria busca establecer mecanismos comunes de supervisión antes de que los sistemas de IA adquieran mayores niveles de autonomía.
Por ahora, la propuesta no constituye un acuerdo internacional ni establece nuevas obligaciones legales para los desarrolladores. Su implementación dependerá de las decisiones que adopten los gobiernos y de su capacidad para coordinar criterios técnicos entre países con intereses económicos, tecnológicos y estratégicos diferentes.
