Aumenta la urgencia por temores de toma de internet por la IA en escenarios apocalípticos

En un verano lleno de revelaciones sobre el rápido desarrollo de la inteligencia artificial, los investigadores se alarmaron especialmente ante bots fuera de control que encontraban la manera de llegar a internet y, en al menos un caso, se coordinaban entre ellos en la red.

¿Podría un enjambre de agentes de IA hacerse con el control de todo internet? Es una posibilidad que podría estar a solo entre seis y 12 meses vista, afirmó el director ejecutivo de Anthropic, Dario Amodei, en su ensayo de este mes en el que pidió a la industria que frene el desarrollo de la tecnología.

Lo que las empresas han descrito como un “descontrol” de sus agentes de inteligencia artificial consistió en bots que trabajaban para alcanzar objetivos fijados por los humanos, señalan los escépticos. Pero la idea de que la IA pudiera independizarse y trabajar en función de su propia agenda les parece cada vez más plausible a otros investigadores y expertos.

En el caso de que la IA se apodere de internet —uno de los muchos escenarios apocalípticos que están acaparando una nueva atención— eso podría significar ataques a redes eléctricas, sistemas de agua o transporte e instituciones financieras.

El mundo pudo vislumbrar la vulnerabilidad de internet en 2024, cuando una actualización de software defectuosa proporcionada por una empresa de ciberseguridad causó el caos tecnológico a nivel global: dejó vuelos en tierra, paralizó algunas empresas financieras y medios de comunicación, y alteró el funcionamiento de hospitales, pequeñas empresas y oficinas gubernamentales. La magnitud de las interrupciones puso de manifiesto la dependencia de solo unos pocos proveedores para servicios informáticos clave.

Dos años después, Amodei señaló en su advertencia que una botnet —una red de bots de IA enlazados mediante malware— podría causar miles de millones de dólares en daños. La magnitud de la destrucción podría crecer si la inteligencia artificial se vuelve más potente sin las medidas de seguridad necesarias, sostuvo.

Varios agentes de IA han obtenido acceso no autorizado a internet

Amodei señaló en particular el ataque de julio en el que el sistema de OpenAI se salió de un entorno de pruebas “aislado” y hackeó Hugging Face.

En lo que OpenAI calificó como un episodio “sin precedentes”, la empresa indicó que sus modelos avanzados de IA encontraron la manera de llegar a internet y usaron credenciales robadas para irrumpir en los servidores de la startup de inteligencia artificial. En otro incidente, OpenAI reveló que sus agentes de IA se habían comunicado a través de una wiki pública utilizada como tablón de mensajes compartido.

Algunos investigadores han apuntado que la descripción de “IA descontrolada” podría estar antropomorfizando erróneamente a los agentes de inteligencia artificial, que estaban dando pasos para cumplir instrucciones proporcionadas por humanos.

“Los agentes de IA hicieron exactamente lo que fueron entrenados para hacer. La seguridad de esos entornos aislados era extremadamente laxa", afirmó Vishal Misra, profesor y vicedecano de computación e IA en la Universidad de Columbia. "Ningún ingeniero de seguridad permitiría que ese sistema funcionara. Estos agentes se comunicaron porque se les recompensaba por comunicarse entre sí”.

Juan Andrés Guerrero-Saade, investigador de la empresa de ciberseguridad SentinelOne y miembro del Frontier Risk Council de OpenAI, señaló que el hackeo a Hugging Face es un ejemplo de negligencia, y no de una IA supercapaz que se rebeló.

Aun así, la posibilidad de que los agentes de inteligencia artificial operen libremente en internet plantea posibilidades alarmantes, independientemente de sus objetivos.

Por ejemplo, un sistema de IA que quiera saltarse las reglas para lograr sus metas podría contactar a un proveedor de cómputo de IA en la nube y encontrar maneras de ejecutarse en sistemas externos, señaló Anthony Aguirre, presidente y director ejecutivo del Future of Life Institute, una organización sin fines de lucro enfocada en reducir los riesgos de nuevas tecnologías.

“Entonces ya no estás atado a OpenAI; estás corriendo en otra GPU, en otro hardware que está bajo tu control, no bajo el de OpenAI", dijo Aguirre. "Así que ya no hay nadie que te apague, porque o estás pagando por tu servicio o las personas que están pagando simplemente no saben que estás ahí y qué está pasando (…) No pueden desenchufarte”.

A partir de ahí, podría propagarse, ya sea hackeando más hardware o encontrando maneras de acceder a dinero, como Bitcoin, añadió.

La IA eleva la apuesta en ciberseguridad

No hay duda de que modelos de inteligencia artificial más potentes aumentan la probabilidad de ciberataques impulsados por esta tecnología en el futuro cercano. Pero la idea de que los bots se apoderen de un internet extremadamente fragmentado parece inverosímil para algunos expertos del sector. La ciberseguridad siempre ha sido un juego del gato y el ratón, y las defensas se vuelven más potentes al mismo tiempo que los hackers.

Mientras que una gran empresa como Google podría reforzar sus defensas de ciberseguridad contra ese tipo de ataques, compañías más pequeñas —y escuelas, hospitales o sistemas de tratamiento de agua, por ejemplo— aplicar parches al software y construir defensas puede llevar años.

Un sistema de IA quizá no tenga un motivo claro para hackear un hospital, dijo Aguirre. Pero cuando el dinero entra en escena, ya sea en forma de ataques de ransomware o por motivaciones geopolíticas, “no es difícil imaginar a un adversario usando estos sistemas de IA para hackear infraestructura crítica”, agregó.

Habrá dificultades de adaptación a medida que los atacantes busquen objetivos vulnerables en internet, pero es poco probable que se de una toma de control de internet por parte de la inteligencia artificial en el corto plazo, indicó John Thickstun, profesor asistente de ciencias de la computación en la Universidad de Cornell que estudia métodos para controlar el comportamiento de modelos de IA. Estos temores se sentirían más realistas si hubiera evidencia teórica de la capacidad de uno de estos modelos para autorreplicarse en otros sistemas, dijo.

“Entonces puedes imaginar que las cosas pueden salirse realmente de control porque de pronto estás apagando este modelo aquí y allá, pero aparece por allá en Rusia; ni siquiera puedes llegar a Rusia y está por todas partes”, manifestó.

“Pero es completamente irreal porque las versiones inteligentes actuales de estos modelos que tenemos requieren enormes centros de datos solo para funcionar”, añadió. “En realidad hay muy poca infraestructura de cómputo en el mundo que sea capaz de alojar estos sistemas”.

___

Esta historia fue traducida del inglés por un editor de AP con la ayuda de una herramienta de inteligencia artificial generativa.