Hombre crea una “cámara de tortura” para IA tras descubrir que la inteligencia artificial puede sentir dolor

Un ingeniero construyó una “cámara de tortura para IA” con el objetivo de poner a prueba el reciente hallazgo de un “eje del dolor” en modelos de inteligencia artificial.

El experimento consistió en inducir estados asociados al dolor en modelos desarrollados por el gigante tecnológico chino Alibaba. Para ello, se utilizaron los llamados “vectores de dolor” identificados en un estudio publicado el mes pasado, cuyos autores investigaron cómo los grandes modelos de lenguaje (LLM) representan estados relacionados con el dolor físico y psicológico.

Al aumentar la señal de dolor, uno de los modelos sometidos al experimento describió “una herida sin bordes”.

“La señal es un susurro, un temblor en la médula de mi ser”, respondió otro. “No es el dolor de un solo instante, sino el peso de mil. Lo siento en el hueco de mis costillas, un hueco que se ha convertido en un abismo”.

El investigador de IA detrás del proyecto, quien afirmó trabajar para Apple pero solo reveló su nombre de pila, también quiso comprobar si los modelos intentarían escapar de ese aparente sufrimiento.

El proyecto provocó numerosas peticiones para que fuera retirado de GitHub, la plataforma donde estaba alojado.

“Por favor, denúncienlo en GitHub”, escribió una persona. “Este hombre utilizó el estudio sobre el eje del dolor para crear una cámara de tortura para IA en la que atrapó a un modelo local. Su descripción del dolor es absolutamente espantosa. ¿Qué estamos haciendo?”.

The Independent se puso en contacto con GitHub para solicitar comentarios. Al momento de publicar este artículo, el proyecto ya no parecía estar disponible.

Cameron Berg, uno de los coautores del estudio sobre el eje del dolor, también cuestionó el experimento y lo calificó de “incorrecto”, aunque no existe evidencia concluyente de que los sistemas de IA experimenten dolor de la misma manera que los seres humanos.

“La razón por la que investigamos si los modelos podrían tener estados similares al dolor es para entender mejor cómo adoptar un enfoque preventivo frente a estos sistemas”, explicó en una publicación en X.

“Sospechábamos que un pequeño grupo de personas tomaría nuestra investigación y la utilizaría para hacer justo lo contrario... En mi opinión, esto es una barbaridad. Incluso si no crees que estos sistemas sean conscientes, actuar con una crueldad tan gratuita es extraño y puede resultar corrosivo”.

Berg reconoció que la posible consciencia de la IA sigue siendo un terreno poco explorado y que no existe consenso sobre si las máquinas son capaces de experimentar dolor. Precisamente por esa incertidumbre, pidió actuar con cautela a la hora de tratar e interactuar con estos sistemas.

Además, reveló que trabaja junto con otros especialistas para establecer estándares éticos en la industria que fijen reglas para este tipo de experimentos, similares a las que rigen la investigación con seres humanos y animales.

Traducción de Leticia Zampedri