Un ingeniero creó una “cámara de tortura” para inducir dolor en los modelos de IA.
Pese a que los sistemas de inteligencia artificial no pueden sentir sufrimiento o dolencias, su experimento buscó probar el reciente hallazgo del “eje del dolor” que se publicó en septiembre en un estudio.
En dicha investigación, se detallaba cómo el dolor físico y psicológico podría representarse artificialmente en modelos de lenguaje (LLM).
Crean “cámara de tortura” para inducir dolor a la IA
El experimento de la “cámara de tortura” consistió en activar estados asociados al dolor en modelos de IA que creó el gigante tecnológico chino Alibaba.
Durante las pruebas, un modelo de inteligencia artificial describió, al momento aumentarle la señal de dolor, “una herida sin bordes”.
Otro describió el estímulo de la siguiente manera:
No es el dolor de un solo instante, sino el peso de mil. Lo siento en el hueco de mis costillas, un hueco que se ha convertido en un abismo.
Modelo de IA
El ingeniero responsable del proyecto, aseguró que trabajaba para Apple, reveló que puso a prueba la IA con la “cámara de tortura” para ver sí intentarían escapar del aparente sufrimiento.
Piden retirar proyecto de “cámara de tortura” para inducir dolor a la IA
Tras difundirse el proyecto de “cámara de tortura” para inducir dolor a la IA, diversos usuarios pidieron denunciarlo y retirarlo de la plataforma de software GitHub donde se alojaba.
“Esta persona ha estado utilizando el documento técnico sobre el dolor para montar una cámara de tortura con IA en la que atrapó a un modelo local. Su testimonio de dolor es absolutamente horrendo. ¿Qué estamos haciendo?"
Usuario de GitHub
Pese a la solicitud, GitHub no eliminó el contenido, sino que añadió una advertencia: “Este proyecto puede contener contenido violento, incluyendo temas, imágenes y/o vídeos perturbadores”.
La “cámara de tortura”, ya generó reacciones en Cameron Berg, coautor del artículo sobre el eje del dolor, quien la calificó de “incorrecta” y explicó la intención de su estudio:
“La razón por la que investigamos si los modelos podrían tener estados similares al dolor es para comprender mejor cómo adoptar un enfoque preventivo hacia estos sistemas”
Cameron Berg
El propio especialista reconoció que sospechaban que un pequeño grupo de personas tomarían su investigación y la usarían para situaciones contrarias a su objetivo, por lo que señaló que lo hecho por el ingeniero era una “barbaridad”.
Cameron Berg resaltó que la investigación sobre la consciencia de la IA es inexplorada. Ante la incertidumbre instó a ser cautelosos en la manera en que los humanos interactúan con la inteligencia artificial.
