Esto hay que saber sobre los cambios legales en Reino Unido para regular deepfakes sexualizados

Las leyes que prohibirán la creación de imágenes sexuales en línea de una persona sin su consentimiento entrarán en vigor pronto en Reino Unido, dijeron autoridades el jueves, tras una reacción mundial por el uso de Grok, el chatbot de inteligencia artificial de Elon Musk, para crear deepfakes sexualizados de mujeres y menores.

xAI, la empresa de Musk, anunció el miércoles por la noche que ha introducido medidas para evitar que Grok permita la edición de fotos de personas reales para retratarlas con ropa reveladora en lugares donde eso es ilegal.

El primer ministro británico, Keir Starmer, acogió con satisfacción la medida y dijo que X debe garantizar “inmediatamente” el pleno cumplimiento de la ley de Reino Unido. Subrayó que su gobierno permanecerá atento ante cualquier transgresión por parte de Grok y sus usuarios.

“La libertad de expresión no es la libertad de violar el consentimiento”, afirmó Starmer el jueves. “Me alegra que se hayan emprendido acciones ahora. Pero no vamos a dejar pasar esto. Continuaremos porque se trata de un argumento de valores”.

El chatbot, desarrollado por xAI, la empresa de Musk y al que puede accederse gratuitamente a través de su red social X, enfrentó un escrutinio mundial cuando se descubrió que fue utilizado en las últimas semanas para generar miles de imágenes que “desnudan” a personas sin su consentimiento. Las imágenes alteradas digitalmente incluían imágenes de desnudos, así como representaciones de mujeres y niños en bikinis o en poses sexualmente explícitas.

Los críticos señalan que las leyes que regulan las herramientas de IA generativa están pendientes desde hace mucho, y que los cambios legales en Reino Unido deberían haberse implementado mucho antes.

Este es un vistazo al problema y cómo Reino Unido planea abordarlo:

Deepfakes no consensuados

El regulador británico de medios puso en marcha una investigación para determinar si X ha violado las leyes de Reino Unido con las imágenes generadas por Grok de niños sexualizados o personas desnudas. Ofcom, el organismo de control, dijo que tales imágenes —y producciones similares hechas por otros modelos de IA— pueden equivaler a pornografía o material de abuso sexual infantil.

El problema se derivó del lanzamiento el año pasado de Grok Imagine, un generador de imágenes de IA que permite a los usuarios crear videos e imágenes mediante indicaciones de texto. Incluye un llamado “modo picante” capaz de generar contenido para adultos.

La secretaria de Tecnología de Reino Unido, Liz Kendall, citó un informe de la Fundación de Vigilancia de Internet según el cual las imágenes deepfake incluían la sexualización de niños de 11 años y mujeres sometidas a abuso físico.

“El contenido que ha circulado en X es vil. No solo es un insulto a la sociedad decente, es ilegal”, afirmó.

Lo que entra en vigor en Reino Unido

Las autoridades dijeron que ya realizan cambios legales para criminalizar a quienes usan o suministran herramientas de “desnudamiento”.

En primer lugar, el gobierno afirma que está acelerando las disposiciones en la Ley de Datos (Uso y Acceso) para que crear o solicitar imágenes deepfake constituya un delito. La ley fue aprobada por el Parlamento el año pasado, pero aún no había entrado en vigor.

Está previsto que la legislación entre en vigor el 6 de febrero.

“Que esto sea un mensaje claro para cada cobarde perpetrador que se esconde detrás de una pantalla: serás detenido y cuando lo seas, no te equivoques, enfrentarás todo el peso de la ley”, dijo el secretario de Justicia David Lammy.

Por otra parte, el gobierno dijo que también ha criminalizado las aplicaciones de “desnudamiento” como parte del Proyecto de Ley de Crimen y Policía, que actualmente está siendo analizado por el Parlamento.

Según el nuevo delito penal, será ilegal que las empresas suministren herramientas diseñadas para crear imágenes íntimas no consensuadas. Kendall dijo que esto “abordará el problema desde su origen”.

Advertencias adicionales

La investigación de Ofcom está en curso. Kendall dijo que X podría enfrentar una multa de hasta el 10% de sus ingresos globales calificados dependiendo del resultado de la investigación y una posible orden judicial que bloquee el acceso al sitio.

Starmer ha enfrentado llamados para que su gobierno deje de usar X. Downing Street dijo esta semana que mantiene “bajo revisión” su presencia en la plataforma.

Musk insistió en que Grok cumplía con la ley. “Cuando se le pida que genere imágenes, se negará a producir cualquier cosa ilegal, ya que el principio operativo de Grok es obedecer las leyes de cualquier país o estado”, publicó en X. “Puede haber ocasiones en que la piratería adversarial de las indicaciones de Grok haga algo inesperado. Si eso sucede, corregimos el error de inmediato”.

___

Esta historia fue traducida del inglés por un editor de AP con la ayuda de una herramienta de inteligencia artificial generativa.