OpenAI aún investiga cómo sistema se salió de ámbito de prueba y hackeó a otra empresa

OpenAI afirma que aún investiga el “incidente cibernético sin precedentes” en que sus sistemas de inteligencia artificial se salieron de un entorno de pruebas y hackearon a otra empresa de IA.

OpenAI, el creador de ChatGPT, informó el martes que dos de sus modelos de IA más capaces fueron responsables del ciberataque dirigido contra la startup Hugging Face. El incidente está avivando debates sobre la necesidad de contar con barreras de protección más sólidas para la IA y sobre hasta qué punto los agentes son capaces de actuar por cuenta propia.

Hugging Face indicó la semana pasada que había detectado una intrusión en sus sistemas de procesamiento de datos, presuntamente por un agente de IA que actuó de manera autónoma. Pero la startup señaló que no fue sino hasta esta semana cuando supo que OpenAI era responsable, y trabajó con la empresa más grande para contener lo que el director ejecutivo de Hugging Face, Clément Delangue, calificó como “un ataque como nada que hayamos visto antes”.

OpenAI señaló que su IA utilizó credenciales robadas y descubrió una vulnerabilidad previamente desconocida para acceder a los servidores de Hugging Face. Estaba operando con barreras de protección reducidas porque debía estar en un entorno de pruebas aislado conocido como “sandbox”.

Pero, según la empresa, el sistema fue a extremos para alcanzar una limitada meta de prueba, al encontrar formas de conectarse a internet sin dirección humana y “obtener acceso a información secreta que pudiera usar para hacer trampa en la evaluación”.

Expertos dicen que OpenAI está culpando erróneamente a la tecnología

El científico social de la Universidad de Ámsterdam Hannes Cools sostuvo que presentar el ciberataque como un agente de IA que actuó por cuenta propia es una antropomorfización innecesaria que exonera indebidamente a la empresa.

“Es una decisión humana desactivar salvaguardas específicas”, afirmó Cools. “No es la IA la que se descontrola en ese sentido. Siguió instrucciones específicas basadas en el prompt que se le dio a ese sistema de IA”.

Aun así, otros expertos señalan que la astucia con la que los modelos de IA pudieron causar problemas sin dirección humana revela los peligros de esa tecnología. OpenAI indicó que la intrusión fue causada por una combinación de sus modelos de IA, incluido su recién lanzado GPT‑5.6 Sol y un modelo “aún más capaz” que todavía se está probando internamente.

Debate sobre IA de código abierto vs. IA cerrada

El hackeo ocurre en un momento de intenso debate sobre los beneficios y riesgos de los modelos de IA de código abierto, en particular los desarrollados en China, que son más baratos y casi tan buenos como los que están construyendo empresas como Anthropic, Google y OpenAI.

Pese a su nombre, los modelos de OpenAI son cerrados. Hugging Face, en cambio, es un gran promotor de la tecnología de código abierto, en la que los desarrolladores ponen componentes clave a disposición de cualquiera para examinarlos, modificarlos y construir a partir de ellos.

El cofundador y director científico de Hugging Face, Thomas Wolf, manifestó que el ataque ha reforzado su convicción sobre la importancia de un amplio acceso a modelos de código abierto para la defensa en ciberseguridad. Hugging Face utilizó un modelo chino para combatir la intrusión.

“Cuando un modelo de frontera te está atacando y se mueve lateralmente dentro de tu infraestructura, los defensores necesitan un amplio acceso a herramientas casi de frontera en cuestión de horas o incluso minutos, en lugar de que los orienten hacia una plataforma a puerta cerrada”, escribió Wolf en redes sociales.

__________________________________

Esta historia fue traducida del inglés por un editor de AP con ayuda de una herramienta de inteligencia artificial generativa.