Firma de Musk afirma que Grok, su chatbot de IA, no podrá hace imágenes de desnudos donde sea ilegal

El chatbot de IA de Elon Musk, Grok, no podrá editar fotos para mostrar a personas reales con poca ropa en lugares donde eso sea ilegal, según un comunicado publicado en X.

El anuncio, realizado tarde el miércoles, siguió a una reacción global por la generación de imágenes sexualizadas de mujeres y niños que incluyó prohibiciones y advertencias por parte de algunos gobiernos.

El estado de California, por ejemplo, anunció una investigación el miércoles sobre la proliferación de material sexualmente explícito no consensuado producido a través de Grok.

Inicialmente, las consultas de los medios sobre el problema solo recibieron la respuesta: "los medios tradicionales mienten".

La empresa de Musk, xAI, ahora dice que bloqueará geográficamente el contenido si viola las leyes en un lugar particular.

"Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora como bikinis, ropa interior y otras prendas reveladoras", afirmó.

La regla se aplica a todos los usuarios, incluidos los suscriptores de pago, que tienen acceso a más funciones.

xAI también ha limitado la creación o edición de imágenes sólo a suscriptores de pago "para garantizar que las personas que intenten abusar de la cuenta de Grok para violar la ley o nuestras políticas puedan ser responsabilizadas".

El "modo picante" de Grok había permitido a los usuarios crear contenido explícito, lo que provocó una reacción de gobiernos de todo el mundo.

Malasia e Indonesia tomaron acciones legales y bloquearon el acceso a Grok. El Reino Unido y la Unión Europea estaban investigando posibles violaciones de las leyes de seguridad en línea. Francia e India también han emitido advertencias, exigiendo controles más estrictos. Brasil pidió una investigación sobre el mal uso de Grok.

Las funciones de edición de Grok estaban "facilitando la producción a gran escala de imágenes íntimas no consensuadas y falsas que se están utilizando para acosar a mujeres y niñas en internet, incluso a través de la plataforma de redes sociales X", dijo el anuncio de California.

"La avalancha de denuncias detallando el material sexualmente explícito no consensuado que xAI ha producido y publicado en línea en las últimas semanas es impactante. Este material, que muestra a mujeres y niños en situaciones de desnudez y sexualmente explícitas, ha sido utilizado para acosar a personas en internet", indicó en el comunicado el fiscal general del estado, Rob Bonta.

"No tenemos tolerancia para la creación y difusión basada en IA de imágenes íntimas no consensuadas o de material de abuso sexual infantil", expresó.

___

Esta historia fue traducida del inglés por un editor de AP con la ayuda de una herramienta de inteligencia artificial generativa.