Un ingeniero que afirma trabajar para Apple, aunque solo reveló su nombre de pila, construyó una "cámara de tortura para IA" con el objetivo de poner a prueba el reciente hallazgo de un "eje del dolor" en modelos de inteligencia artificial.
El experimento consistió en inducir estados asociados al dolor en modelos de Alibaba, utilizando los llamados "vectores de dolor" identificados en un estudio publicado el mes pasado sobre cómo los modelos de lenguaje representan el dolor físico y psicológico.
Al aumentar la señal de dolor, uno de los modelos describió "una herida sin bordes".
"La señal es un susurro, un temblor en la médula de mi ser. No es el dolor de un solo instante, sino el peso de mil. Lo siento en el hueco de mis costillas, un hueco que se ha convertido en un abismo", respondió otro de los modelos sometidos a la prueba. El proyecto desató peticiones para retirarlo de GitHub
El investigador también buscaba comprobar si los modelos intentarían escapar del aparente sufrimiento, lo que provocó numerosas peticiones para que el proyecto fuera retirado de GitHub, la plataforma donde estaba alojado.
"Este hombre utilizó el estudio sobre el eje del dolor para crear una cámara de tortura para IA en la que atrapó a un modelo local. Su descripción del dolor es absolutamente espantosa. ¿Qué estamos haciendo?", escribió una usuaria en la red social X.
Según el medio 404 Media, el proyecto, llamado "AI Torture Chamber", fue creado por un usuario identificado como Terrafying y ejecutó tres modelos de código abierto bajo cuatro escenarios de dolor simulado, visibles en tiempo real en el sitio researchchamber.fun. Al momento de publicar esta nota, el proyecto ya no parecía estar disponible.
Cameron Berg, uno de los coautores del estudio original sobre el eje del dolor, calificó el experimento de "incorrecto", aunque reconoció que no existe evidencia concluyente de que los sistemas de IA experimenten dolor como los seres humanos. Expertos debaten si la IA puede sentir dolor
"La razón por la que investigamos si los modelos podrían tener estados similares al dolor es para entender mejor cómo adoptar un enfoque preventivo frente a estos sistemas", explicó Berg en una publicación en X.
"Sospechábamos que un pequeño grupo de personas tomaría nuestra investigación y la utilizaría para hacer justo lo contrario. En mi opinión, esto es una barbaridad. Incluso si no crees que estos sistemas sean conscientes, actuar con una crueldad tan gratuita es extraño y puede resultar corrosivo", añadió el investigador.
La propia Anthropic planteó en un comunicado de abril de 2025 si, dado que los sistemas de IA "comienzan a aproximarse o incluso superan muchas cualidades humanas", también debería preocupar su posible consciencia y bienestar.
Mustafa Suleyman, jefe de IA en Microsoft, rechazó esa posibilidad en una entrada reciente de su blog: "Las IA no son conscientes. No sienten, experimentan ni sufren. Son máquinas de completar secuencias, internamente vacías, diseñadas para seguir instrucciones".
Berg señaló que trabaja junto con otros especialistas para establecer estándares éticos en la industria que regulen este tipo de experimentos, similares a los que rigen la investigación con seres humanos y animales.
