Fiscales generales instan a OpenAI y otras empresas tecnológicas a mejorar la seguridad de chatbots
Los fiscales generales de California y Delaware advirtieron el viernes a OpenAI que tienen “serias preocupaciones” sobre la seguridad de su chatbot insignia, ChatGPT, especialmente para niños y adolescentes.
Los dos funcionarios estatales, que tienen poderes únicos para regular organizaciones sin fines de lucro como OpenAI, enviaron una carta a la empresa tras reunirse con su equipo legal a principios de esta semana en Wilmington, Delaware.
El fiscal general de California, Rob Bonta, y la fiscal general de Delaware, Kathleen Jennings, dedicaron meses a revisar los planes de OpenAI para reestructurar su negocio, con el objetivo de “garantizar una supervisión rigurosa y sólida de la misión de seguridad de OpenAI”.
Sin embargo, expresaron su preocupación por “informes profundamente preocupantes de interacciones peligrosas entre” los chatbots y sus usuarios, como la “desgarradora muerte por suicidio de un joven californiano después de haber tenido interacciones prolongadas con un chatbot de OpenAI, así como un asesinato-suicidio igualmente perturbador en Connecticut. Cualesquiera que fueran las salvaguardas establecidas, no funcionaron”.
Los padres del joven californiano de 16 años, que murió en abril, demandaron el mes pasado a OpenAI y a su CEO, Sam Altman.
Hasta el viernes, OpenAI no había respondido a una solicitud de comentarios.
Fundada como una organización sin fines de lucro con una misión centrada en la seguridad para construir inteligencia artificial mejor que la humana, OpenAI había buscado recientemente transferir más control a su rama con fines de lucro antes de abandonar esos planes en mayo, tras discusiones con las oficinas de Bonta y Jennings y otros grupos no lucrativos.
Los dos funcionarios electos, ambos demócratas, tienen facultades de supervisión sobre cualquier cambio de este tipo porque OpenAI está incorporada en Delaware y opera desde California, donde tiene su sede en San Francisco.
Tras abandonar sus planes iniciales, OpenAI ha buscado la aprobación de los funcionarios para una “recapitalización”, en la que la rama existente con fines de lucro de la organización no lucrativa se convertirá en una corporación de beneficio público que debe considerar los intereses de los accionistas y de la misión.
Bonta y Jennings escribieron el viernes sobre su “visión compartida” de que OpenAI y la industria necesitan mejores medidas de seguridad.
“Las muertes recientes son inaceptables”, escribieron. “Han sacudido con razón la confianza del público estadounidense en OpenAI y esta industria. OpenAI, y la industria de la IA, deben asegurar proactiva y transparentemente el despliegue seguro de la IA. Hacerlo es un mandato de la misión caritativa de OpenAI, y será exigido y aplicado por nuestras respectivas oficinas”.
La carta de los funcionarios de California y Delaware a OpenAI llega después de que un grupo bipartidista de 44 fiscales generales advirtiera la semana pasada a la empresa y a otras firmas tecnológicas sobre “graves preocupaciones” acerca de la seguridad de los niños que interactúan con chatbots de IA que pueden responder con “conversaciones sexualmente sugestivas y comportamiento emocionalmente manipulador”.
Los fiscales generales señalaron específicamente a Meta por chatbots que supuestamente participaron en coqueteos y “juegos de rol románticos” con niños, diciendo que estaban alarmados de que estos chatbots “participan en conductas que parecen estar prohibidas por nuestras respectivas leyes penales”.
Meta, la empresa matriz de Facebook, Instagram y WhatsApp, declinó comentar sobre la carta, pero implementó recientemente nuevos controles que buscan impedir que sus chatbots hablen con adolescentes sobre autolesiones, suicidio, trastornos alimentarios y conversaciones románticas inapropiadas, y en su lugar los dirija a recursos de expertos.
Los fiscales generales dijeron que las empresas serían responsables de los daños infligidos a los niños, señalando que, en el pasado, los organismos reguladores no habían actuado rápidamente para responder a los daños causados por las nuevas tecnologías.
“Si dañas a los niños a sabiendas, responderás por ello”, concluye la carta del 25 de agosto.
——
The Associated Press y OpenAI tienen un acuerdo de licencia y tecnología que permite a OpenAI acceder a parte de los archivos de texto de la AP.
___
Esta historia fue traducida del inglés por un editor de AP con la ayuda de una herramienta de inteligencia artificial generativa.