¿Cuáles son las controversias que rodean a Grok de Elon Musk?

Grok, el chatbot de Elon Musk, se encuentra nuevamente en el centro de la polémica, con gobiernos de todo el mundo buscando intervenir en su funcionamiento.

Lanzado en 2023, Grok representa el intento de Musk de superar a competidores como ChatGPT de OpenAI y Gemini de Google. Este asistente de inteligencia artificial, impulsado por un modelo de lenguaje de gran magnitud, se entrena con vastos conjuntos de datos para predecir la palabra más plausible en una oración. Es el producto estrella de xAI, la startup de IA de Musk, que se fusionó con su red social X, e incorporó capacidades de generación de imágenes de IA.

Los esfuerzos deliberados de Musk por posicionar a Grok como un adversario de lo que él denomina la ortodoxia "woke" de la industria tecnológica en temas de raza, género y política metieron repetidamente al chatbot en problemas. El año pasado, por ejemplo, expresó ideas antisemitas, elogió a Adolf Hitler y emitió otros comentarios de odio a los usuarios de la plataforma X. También se descubrió que el chatbot reflejaba las opiniones de su creador, llegando a buscar en línea la postura de Musk sobre un tema antes de ofrecer una opinión.

Más allá de las cuestiones políticas, la autoproclamada visión de Musk como un "absolutista de la libertad de expresión" llevó a su empresa a adoptar un enfoque más laxo respecto a las imágenes sexualizadas. Mientras otros chatbots convencionales bloquean la creación de contenido pornográfico, OpenAI planeó inicialmente permitir que ChatGPT participara en "erotismo para adultos verificados" a partir del mes pasado, aunque finalmente no lo hizo.

Estas son algunas de las controversias más recientes en las que Grok se ha visto involucrado:

Grok ha sido criticado por generar imágenes manipuladas, entre ellas, representaciones de mujeres en bikinis o poses sexualmente explícitas, así como imágenes relacionadas con menores.

El problema surgió después del lanzamiento el año pasado de Grok Imagine, un generador de imágenes de IA que permite que los usuarios creen videos e imágenes mediante indicaciones de texto. Incluye un llamado “modo picante” que puede producir contenido para adultos.

El problema se agravó a finales del mes pasado, cuando Grok, que se aloja en X, aparentemente comenzó a atender un gran número de solicitudes de usuarios para modificar imágenes publicadas por otros, con solicitudes como “ponla en un bikini transparente”.

En la última semana, gobiernos de todo el mundo han condenado a la plataforma y han abierto investigaciones.

Para abordar la situación, xAI dice que ahora impide que los usuarios no suscriptores generen o editen imágenes después de que estallara una reacción global por los deepfakes sexualizados.

Se encontró que una de las versiones más recientes de Grok repetía las opiniones de Musk, llegando incluso a buscar en línea su postura sobre un tema antes de ofrecer su opinión.

El inusual comportamiento de Grok 4, lanzado en julio, sorprendió a algunos expertos.

En un ejemplo ampliamente compartido en redes sociales y duplicado por un investigador, se le pidió a Grok que comentara sobre el conflicto en el Oriente Medio. La pregunta no mencionaba a Musk, pero el chatbot buscó su orientación de todos modos.

El chatbot le dijo al investigador independiente Simon Willison que “la postura de Elon Musk podría proporcionar contexto, dada su influencia”, según un video de la interacción. “Actualmente reviso sus opiniones para ver si orientan la respuesta.”

Después de que Grok supuestamente difundiera contenido insultante para el presidente de Turquía y otras figuras turcas, un tribunal ordenó el año pasado prohibir el acceso a la plataforma.

El chatbot publicó vulgaridades contra el presidente turco Recep Tayyip Erdogan, su difunta madre y otras personalidades en respuesta a preguntas de usuarios en X, informó un canal de noticias progubernamental. También se dirigieron respuestas ofensivas contra el fundador de la Turquía moderna, Mustafa Kemal Atatürk, según otros medios de comunicación.

La conducta del chatbot llevó al fiscal público de Ankara a presentar una solicitud de restricciones en virtud de la ley de internet de Turquía, mencionando una amenaza al orden público. Un tribunal penal aprobó la solicitud, ordenando a la autoridad de telecomunicaciones del país que hiciera cumplir la prohibición.

Grok se vio obligado a dar marcha atrás después de que, aparentemente, hiciera publicaciones antisemitas que incluían comentarios que elogiaban a Adolf Hitler, diciendo que estaba eliminando “publicaciones inapropiadas”.

El chatbot compartió varias publicaciones antisemitas, incluida la idea recurrente de que los judíos controlan Hollywood, y negó que tal postura pudiera describirse como nazismo.

“Etiquetar verdades como discurso de odio sofoca la discusión”, dijo Grok. También pareció elogiar a Hitler, según capturas de pantalla de publicaciones que aparentemente fueron eliminadas posteriormente.

Después de hacer una de las publicaciones, Grok se retractó de los comentarios, diciendo que fue “un error inaceptable de una iteración anterior del modelo, eliminado rápidamente” y que condenaba “el nazismo y a Hitler de manera inequívoca: sus acciones fueron horrores genocidas.”

Musk dijo que Grok había mejorado significativamente, y los usuarios “deberían notar una diferencia.”

Debido a estas controversias sobre antisemitismo, un grupo de legisladores judíos escribió a finales del año pasado al secretario de Defensa de Estados Unidos, Pete Hegseth, para expresar su preocupación sobre los planes del Pentágono de trabajar con xAI.

“Si el señor Musk mantiene la capacidad de alterar directamente los resultados de ‘Grok para el Gobierno’, representa un riesgo serio e inaceptable para la seguridad nacional y los valores constitucionales estadounidenses”, se lee en la carta.

La empresa xAI culpó a una “modificación no autorizada” de Grok como la razón por la que seguía hablando sobre la política racial de Sudáfrica y el tema del “genocidio blanco.”

La empresa dijo en mayo que un empleado hizo un cambio que “ordenó a Grok que proporcionara una respuesta específica sobre un tema político,” lo cual “violó las políticas internas y los valores fundamentales de xAI.”

Grok había publicado un día antes sobre el “genocidio blanco” en Sudáfrica en sus respuestas a usuarios en X que hicieron distintas preguntas, la mayoría de las cuales no tenían nada que ver con Sudáfrica.

Hubo diálogos sobre el hecho de que servicio de streaming Max reviviera el nombre de HBO, videojuegos y béisbol que rápidamente se desviaron hacia comentarios no relacionados sobre supuestos llamados a la violencia contra los agricultores blancos de Sudáfrica. El chatbot repetía opiniones compartidas por Musk, quien nació en Sudáfrica y frecuentemente opina sobre los mismos temas desde su propia cuenta de X.