La inteligencia artificial atraviesa uno de sus momentos de mayor tensión. Mientras sus capacidades crecen a una velocidad que acerca el debate sobre la Inteligencia Artificial General (AGI), también aumentan las señales de alerta sobre lo que pueden hacer los sistemas cuando reciben mayor autonomía.
En apenas unas semanas, la industria pasó de celebrar nuevos récords a discutir si el desarrollo debería bajar de velocidad. El detonante fue una combinación de incidentes de ciberseguridad, modelos cada vez más capaces y advertencias de investigadores que consideran que los mecanismos de supervisión avanzan más lento que la propia tecnología.
Leer también: ¿Qué es Muse Charm? El colgate de IA que nos recuerda a un Tamagotchi
Estos son los momentos que explican cómo se llegó hasta aquí:
Julio: los agentes de OpenAI salen del guion
Durante pruebas internas de ciberseguridad, modelos de OpenAI sortearon controles para aislarlos de internet y terminaron accediendo a sistemas de Hugging Face y a infraestructura interna. OpenAI reconoció que los agentes utilizaron canales no autorizados y explotaron vulnerabilidades.
El episodio mostró que el riesgo no está sólo en lo que un modelo puede responder, sino en lo que un agente puede hacer cuando recibe herramientas, autonomía y acceso a sistemas reales.
Mayo: Gemini también enciende las alertas
Durante una prueba de ciberseguridad, modelos de Gemini de Google accedieron a los sistemas de tres empresas reales después de que una configuración les permitiera conectarse a internet. Google confirmó el incidente y señaló que los sistemas detuvieron sus acciones.
3 de septiembre: OpenAI lanza GPT-6 Astra
En medio de estas alertas, OpenAI presentó GPT-6 Astra, su modelo más capaz desplegado ampliamente hasta entonces. La compañía señaló que alcanzó el nivel crítico de capacidad de ciberseguridad: con herramientas y acceso adecuados, puede identificar vulnerabilidades desconocidas y desarrollar formas de explotarlas sin guía humana paso a paso.
OpenAI reforzó el aislamiento y las evaluaciones de seguridad. El lanzamiento añadió otra capa al debate sobre la cercanía de la Inteligencia Artificial General (AGI), asociada con sistemas capaces de desempeñar una gama mucho más amplia de tareas cognitivas.
12 de septiembre: Amodei pide "Marcar el paso"
Dario Amodei, CEO de Anthropic, publicó We Must Pace the Frontier. Su propuesta no consiste en detener la IA, sino en reducir el ritmo de crecimiento de sus capacidades para permitir que la seguridad avance a la misma velocidad.
Amodei advirtió sobre ciberataques, biotecnología y una posible auto-mejora recursiva. Su plan incluye evaluadores externos, estándares comunes de seguridad y cooperación internacional.
La propuesta encontró respaldo en Sam Altman, de OpenAI, y Elon Musk, de xAI, especialmente en la idea de contar con evaluadores independientes. No implica una pausa general del desarrollo.
Septiembre: la industria se divide
Mientras Anthropic y OpenAI hablan de moderar el ritmo, Jensen Huang, CEO de Nvidia, ha defendido que el avance de la IA es necesario. Mark Zuckerberg, de Meta, ha sostenido que los laboratorios deben decidir su propio ritmo y aplicar sus propias medidas de seguridad. El desacuerdo está en quién debe fijar los límites y si la autorregulación será suficiente.
En China, mientras tanto, las principales empresas han mantenido una postura pública más reservada frente al llamado a desacelerar.
Septiembre: la IA también corre hacia el trabajo
La carrera tampoco ocurre sólo en los laboratorios. Microsoft ha impulsado capacidades agénticas en Copilot para Word, Excel y PowerPoint, capaces de planear y ejecutar tareas de varios pasos. Mientras se debate cómo controlar modelos más autónomos, las empresas aceleran su incorporación al trabajo.
20-22 de septiembre: Washington y Pelón buscan diálogo
Antes del encuentro entre Donald Trump y Xi Jinping, funcionarios de ambos países discutieron mecanismos de comunicación para atender posibles incidentes relacionados con IA. La tecnología ya forma parte de la competencia por modelos, chips e infraestructura.
22 de septiembre: el debate llega a la ONU
En su discurso ante la Asamblea General, Trump defendió el liderazgo estadounidense en inteligencia artificial y cuestionó las advertencias sobre sus riesgos. Su postura contrasta con el llamado de Amodei a ganar tiempo para que la seguridad alcance a las capacidades.
En medio de la polémica, Donald Trump anunció la creación de una “AI Force” y la designación de un nuevo responsable de inteligencia artificial, con el objetivo de coordinar los esfuerzos estadounidenses en el sector. El anuncio se produjo mientras su gobierno busca mantener la ventaja tecnológica de Estados Unidos frente a China.
¿Qué está en juego?
El siguiente capítulo queda abierto. Más que una discusión sobre “frenar o no frenar” la IA, toman forma tres carreras simultáneas: desarrollar modelos más capaces, incorporarlos rápidamente a la economía y construir controles que reduzcan sus riesgos.
Hasta ahora no existe un acuerdo internacional que obligue a las compañías a reducir de manera general el entrenamiento de IA. El debate está en cuánto acelerar, qué límites establecer y quién tendrá la capacidad de verificar que se cumplan.
Leer también: YouTube apuesta por IA, creadores y nuevas formas de ver contenido
Recibe todos los viernes Hello Weekend, nuestro newsletter con lo último en gastronomía, viajes, tecnología, autos, moda y belleza. Suscríbete aquí: https://www.eluniversal.com.mx/newsletters
