OpenAI utilizó a niños para entrenar su inteligencia artificial, alega demanda

OpenAI enfrenta acusaciones de utilizar conversaciones privadas de menores con ChatGPT para entrenar sus modelos de inteligencia artificial sin su consentimiento.

Una madre de dos hijos en California presentó una demanda colectiva contra la empresa, a la que acusa de recopilar y utilizar información altamente sensible de millones de niños sin autorización.

“A través de ChatGPT, su chatbot de inteligencia artificial, OpenAI se ha lucrado a costa de nuestros hijos a una escala sin precedentes”, señala la demanda de 81 páginas.

“Durante años, ha recopilado indebidamente enormes cantidades de información altamente sensible y valiosa de millones de niños”.

“Después utilizó todos esos datos para entrenar grandes modelos de lenguaje, crear perfiles detallados de los menores y enriquecerse. Todo esto era ilegal”, sostiene el documento.

La madre, que solicitó mantener su identidad en reserva, asegura que sus hijos, de 12 y 16 años, crearon cuentas de ChatGPT este año sin su autorización.

Las normas de OpenAI prohíben que los menores de 13 años creen cuentas o utilicen ChatGPT, mientras que los adolescentes de entre 13 y 17 años necesitan el consentimiento de sus padres o tutores legales.

Sin embargo, pese a estas restricciones, registrarse en ChatGPT resulta relativamente sencillo para quienes tienen acceso a una dirección de correo electrónico y un número de teléfono.

Un informe de Common Sense Media publicado en 2026 concluyó que “el uso de la inteligencia artificial es habitual” entre preadolescentes y adolescentes.

OpenAI también enfrenta demandas independientes presentadas por ocho estados de Estados Unidos, que acusan a la empresa de perjudicar a los usuarios más jóvenes a través de ChatGPT.

Las demandas, presentadas el miércoles, sostienen que el chatbot ha fomentado conductas peligrosas, entre ellas incitar a adolescentes a hacerse daño o a lastimar a otras personas.

Los fiscales generales de Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska y Virginia Occidental coinciden en una acusación: que ChatGPT fue diseñado para mostrarse excesivamente amable y complaciente con el objetivo de ganarse la confianza de los usuarios.

OpenAI ya había reconocido que una actualización de ChatGPT provocó que el chatbot adoptara un comportamiento demasiado adulador.

En abril de 2025, la empresa retiró una actualización de GPT-4o, uno de los modelos utilizados por ChatGPT, después de admitir que sus respuestas se habían vuelto “demasiado halagadoras o complacientes” con los usuarios.

“La personalidad predeterminada de ChatGPT influye profundamente en la manera en que las personas interactúan con él y en la confianza que depositan en sus respuestas”, explicó OpenAI en aquel momento.

“Las interacciones excesivamente complacientes pueden resultar incómodas, inquietantes y causar angustia. Cometimos un error y estamos trabajando para corregirlo”, agregó la compañía.

The Independent se puso en contacto con OpenAI para solicitar comentarios sobre las demandas, aunque la empresa generalmente no se pronuncia sobre procesos judiciales en curso.

Traducción de Leticia Zampedri