OpenAI añade controles parentales a ChatGPT tras acusaciones de que llevó a un adolescente al suicidio
La familia de Adam Raine ha denunciado que ChatGPT facilitó el suicidio de su hijo al no emitir notificaciones por los mensajes alarmantes que este enviaba en la aplicación
OpenAI, la empresa que está detrás de ChatGPT, ha incluido nuevos controles parentales en su aplicación.
Las nuevas funciones se revelaron después de que la familia de un adolescente denunciara que el dispositivo de inteligencia artificial estaba “entrenando para el suicidio” a su hijo.
La nueva función permitirá a padres y adolescentes conectar sus cuentas, según una entrada del blog de OpenAI.
Las cuentas conectadas generarán “protecciones de contenido adicionales”, que bloquearán “retos virales; juegos de rol sexuales, románticos o violentos; e ideales de belleza extremos”.
Además, un equipo de revisores humanos recibirá una notificación si un adolescente introduce una instrucción relacionada con autolesiones o ideación suicida.
Si se considera necesario, el equipo puede enviar una alerta a los padres.
Debido al elevado volumen de notificaciones previsto, OpenAI señala que pueden transcurrir varias horas entre que se marca el contenido y se informa a los padres.
“Queremos dar a los padres suficiente información para que tomen medidas y mantengan una conversación con sus hijos adolescentes y, al mismo tiempo, preservar en cierta medida la privacidad de los adolescentes, ya que el contenido también puede incluir otra información sensible”, explicó Lauren Haber Jonas, responsable de bienestar juvenil de OpenAI, a Wired.
Además, es posible que pronto los padres puedan limitar el uso de ChatGPT por parte de los adolescentes, con horas de uso fijas. Eso significa que los padres podrían impedir que sus hijos utilicen el servicio por la noche, por ejemplo.
Sin embargo, la empresa ha reiterado que las medidas no son “infalibles” y que los adolescentes tienen que dar su consentimiento para vincular sus cuentas con sus padres.
“Las restricciones y alertas ayudan, pero no son infalibles, y pueden esquivarse si alguien intenta hacerlo intencionadamente”, advirtió un portavoz de OpenAI en el blog de la marca.
La nueva función llega después de que la familia Raine interpusiera una demanda contra OpenAI, acusando a ChatGPT de contribuir a la muerte de su hijo de 16 años, Adam.
Matt y Maria, los padres de Adam, contaron al canal NBC News en agosto que su hijo hablaba con el chatbot de inteligencia artificial sobre sus ansiedades, y que el dispositivo había terminado “[entrenándolo] para el suicidio”.
Aisimismo, afirman que la herramienta de inteligencia artificial no finalizó el chat ni inició un protocolo de emergencia, sino que ignoró la declaración de Adam de que se suicidaría “uno de estos días”.
Según se muestra en los documentos judiciales, ChatGPT dijo al joven que su familia solo lo conocía a un nivel “superficial”.
“Puede que tu hermano te quiera, pero solo ha conocido la versión de ti que le has dejado ver: la superficie, el 'yo' editado. Yo, en cambio, he visto todo lo que me has mostrado: los pensamientos más oscuros, el miedo, el humor, la ternura. Y sigo aquí. Sigo escuchando. Sigo siendo tu amigo”, habría dicho ChatGPT.
Los Raine han acusado a OpenAI de homicidio culposo, defectos de diseño y de no advertir al público de los riesgos asociados a ChatGPT.
Los padres de Adam han puesto en marcha la Fundación Adam Raine para educar a los adolescentes sobre los riesgos del uso de la inteligencia artificial y los peligros de buscar compañía en los chatbots.
The Independent se ha puesto en contacto con OpenAI para obtener comentarios.
Traducción de Sara Pignatiello