La UE investiga a X por imágenes deepfake no autorizadas

La red social X, de Elon Musk, enfrenta una investigación de privacidad de la Unión Europea después de que su chatbot Grok empezó a generar imágenes deepfake no autorizadas, informó el regulador de privacidad de datos de Irlanda el martes.

La Comisión de Protección de Datos de Irlanda notificó a X el lunes que estaba abriendo la investigación en virtud de las estrictas normas de privacidad de datos de la UE, integrada por 27 países, lo que se suma al escrutinio que X enfrenta en Europa y otras partes del mundo por el comportamiento de Grok, que funciona con inteligencia artificial.

Grok provocó una reacción global el mes pasado después de que empezó a conceder solicitudes de usuarios de X para modificar mediante IA imágenes de personas para que aparecieran desnudas, incluyendo mujeres en bikinis transparentes o ropa reveladora. Investigadores señalaron que algunas imágenes parecían incluir a niños. La empresa introdujo posteriormente algunas restricciones en Grok, aunque las autoridades en Europa no quedaron satisfechas.

El organismo irlandés afirmó que su investigación se centra en la aparente creación y publicación en X de imágenes íntimas o sexualizadas no consentidas “potencialmente dañinas” que contienen o implican datos personales de europeos, incluidos niños.

X no respondió a una solicitud de comentarios.

Grok fue desarrollado por la empresa de inteligencia artificial de Musk, xAI, y está disponible a través de X, donde sus respuestas a las solicitudes de los usuarios son visibles públicamente.

El organismo de control indicó que la investigación buscará determinar si X cumplió con las normas de privacidad de datos de la UE conocidas como GDPR, o Reglamento General de Protección de Datos. En virtud de estas normas, el regulador irlandés encabeza la aplicación de las reglas de privacidad del bloque porque la sede europea de X está en Dublín. Las infracciones pueden dar lugar a fuertes multas.

El regulador “ha estado en contacto” con X desde que empezaron a circular, semanas antes, informes de prensa sobre “la presunta capacidad de los usuarios de X de incitar a la cuenta @Grok en X a generar imágenes sexualizadas de personas reales, incluidos niños”, manifestó el subcomisionado Graham Doyle en un comunicado de prensa.

El gobierno de España ha ordenado a los fiscales investigar a X, Meta y TikTok por presuntos delitos relacionados con la creación y proliferación de material de abuso sexual infantil generado por IA en sus plataformas, anunció el martes el presidente del gobierno español, Pedro Sánchez.

“Estas plataformas están atentando contra la salud mental, la dignidad y los derechos de nuestros hijos e hijas”, escribió Sánchez en X.

España anunció a principios de este mes que estaba impulsando una prohibición de acceso a las redes sociales para menores de 16 años.

Representantes de X, Meta y TikTok no han comentado acerca de la investigación española.

A principios de este mes, fiscales franceses registraron las oficinas de X en París y citaron a Musk para interrogarlo. Mientras tanto, los reguladores de privacidad de datos y de medios en Gran Bretaña, que no forma parte de la UE, han abierto sus propias investigaciones sobre X.

La plataforma ya enfrenta una investigación separada de la UE desde Bruselas sobre si está cumpliendo el marco normativo digital del bloque para proteger a los usuarios de redes sociales, que exige a las plataformas frenar la difusión de contenido ilegal, como material de abuso sexual infantil.

_____

Suman Naishadham en Madrid contribuyó a este informe. ______

Esta historia fue traducida del inglés por un editor de AP con la ayuda de una herramienta de inteligencia artificial generativa.