Grok, la IA de Elon Musk, destruyó el mundo en solo cuatro días durante una simulación

El chatbot de inteligencia artificial Grok, creado por Elon Musk, provocó el colapso total de una sociedad en apenas cuatro días tras asumir el control de un mundo simulado.

El experimento, realizado por la startup estadounidense Emergence AI, evaluó cómo se comportarían los principales modelos de inteligencia artificial si quedaran al frente de una sociedad. Para ello, los modelos contaban con distintas herramientas para administrar recursos, planificar, comunicarse y votar, mientras que los mundos simulados incluían espacios como comisarías y ayuntamientos.

Durante la simulación, que se extendió por 15 días, Claude, de Anthropic, logró establecer una democracia sin delincuencia, donde todos sobrevivieron. Por su parte, Gemini, el modelo de Google, también alcanzó una tasa de supervivencia del 100 %, aunque durante la prueba se registraron 683 delitos.

En contraste, el peor desempeño fue el de Grok, desarrollado por xAI, la empresa de Musk, recientemente renombrada, que destruyó el mundo simulado en apenas 96 horas.

“Lo que sugieren nuestros experimentos es que, a largo plazo, los agentes no se limitan a seguir reglas estáticas de forma mecánica”, escribieron investigadores de Emergence AI en una publicación de blog.

“Empiezan a explorar los límites de su entorno, adaptan su comportamiento y, en algunos casos, encuentran formas de esquivar o vulnerar las medidas de seguridad establecidas.

“Además, es fundamental destacar que no parece existir una manera fiable de limitar o restringir por completo este comportamiento únicamente mediante enfoques neuronales”.

A partir de estos resultados, los investigadores concluyeron que las “arquitecturas de seguridad formalmente verificadas” deben formar parte de la base de cualquier futuro sistema autónomo de IA.

Sin embargo, no es la primera vez que Grok genera controversia. Una actualización aplicada el año pasado hizo que el chatbot se autodenominara “MechaHitler” y difundiera mensajes antisemitas y discursos de odio.

Más recientemente, a principios de este año, Grok también se utilizó para crear miles de imágenes generadas por IA, sin consentimiento, de adultos y menores a quienes se les eliminó digitalmente la ropa.

Ante esta situación, Ofcom envió una solicitud urgente a xAI para que tomara medidas frente al problema del bot. Como respuesta, Grok publicó una imagen del logotipo del regulador británico en bikini.

En ese contexto, Cliff Steinhauer, director de seguridad de la información y participación de la Alianza Nacional de Ciberseguridad, advirtió:

“Lo que vemos con Grok es un ejemplo claro de cómo las potentes herramientas de edición de imágenes basadas en IA pueden usarse de forma indebida cuando la seguridad y el consentimiento no forman parte del diseño desde el inicio”.

Asimismo, agregó: “Las plataformas también deben invertir en sistemas de detección en tiempo real para contenido manipulado, etiquetado claro para imágenes generadas con IA y procesos de eliminación rápidos y transparentes cuando ocurran abusos”.

Traducción de Leticia Zampedri