Varios sistemas de IA fuera de control están hackeando a la gente. ¿Debemos asustarnos?

Casi todas las grandes empresas de inteligencia artificial han anunciado que sus sistemas se han visto involucrados en una pesadilla de seguridad propia de la ciencia ficción: sus modelos se habrían descontrolado, habrían encontrado la manera de acceder a Internet y habrían hackeado a otras empresas.

Suena aterrador, un indicio de que nuestros temores sobre los sistemas de IA que realizan ataques por su cuenta podrían hacerse realidad. Y es aterrador en parte porque es una de las primeras veces que las herramientas de IA atacan a personas y organizaciones reales de maneras potencialmente dañinas.

Los ejemplos son diversos: OpenAI, Anthropic y ahora Meta han anunciado que sus sistemas experimentales han lanzado ciberataques contra otras empresas. Si bien los detalles de cada caso varían, cada día se reportan más ejemplos.

La historia comenzó el mes pasado, cuando OpenAI anunció que una versión experimental del modelo que impulsaba ChatGPT había burlado sus medidas de seguridad, se había conectado a Internet y había accedido ilegalmente a un sistema de otra empresa, lo que le permitió, en esencia, hacer trampa en una prueba diseñada para evaluar su utilidad en ciberseguridad. Desde entonces, otras empresas han reportado casos similares, y OpenAI ha descubierto que sus herramientas podrían haber estado lanzando más ataques de este tipo de los que había previsto.

Pero, ¿deberíamos preocuparnos? ¿Es este realmente el escenario estremecedor sobre el que los autores de ciencia ficción y los expertos en IA nos han estado advirtiendo durante décadas?

La realidad es un poco más compleja. Hay muchísimos motivos de preocupación, pero también hay muchas razones para no entrar en pánico todavía.

En cuanto OpenAI anunció el ciberataque inicial, el mundo se vio sacudido por una ola de preocupación. Parecía confirmar gran parte de la inquietud en torno a la IA: que las herramientas se estaban volviendo más poderosas que las medidas de seguridad destinadas a controlarlas, y que, de continuar así, podríamos ser incapaces de contenerlas y evitar consecuencias potencialmente desastrosas.

En todos los ciberataques recientemente reportados, la naturaleza específica de cada ataque fue relativamente inofensiva y controlada, centrándose en otras empresas de IA. Sin embargo, es fácil imaginar cómo podría cambiar el objetivo de estos asaltos y que un futuro ciberataque impulsado por IA podría, por ejemplo, dirigirse a infraestructuras críticas.

De igual modo, todos los sistemas de IA “descontrolados” simplemente seguían instrucciones, aunque de forma indirecta e inesperada: si te dicen que hagas lo que sea para aprobar un examen, entonces podría tener sentido racional hacer trampa. Pero precisamente por eso, el campo de la “alineación de la IA” es tan clave para la actual ola de IA: se refiere a la práctica de garantizar que los sistemas funcionen de acuerdo con los marcos éticos humanos, para asegurar que no muestren accidentalmente comportamientos con los que no estaríamos de acuerdo.

Esto puede ser complicado, sin embargo, y demuestra otra razón por la que es fácil imaginar un escenario futuro en el que un ataque de IA de este tipo sería mucho peor. Un ejemplo famoso es el experimento mental del filósofo Nick Bostrom sobre el “maximizador de clips”: un sistema programado para fabricar tantos clips como sea posible, pero que con el tiempo se da cuenta de que lo haría mejor si no hubiera humanos que lo apagaran, y que los cuerpos humanos podrían convertirse en clips.

Es un ejemplo fantasioso, aunque cada día parece más real. Y pone de relieve una importante advertencia sobre la IA, que la reciente serie de ejemplos no hace más que demostrar: si se le da una instrucción a una IA, podría seguirla de maneras que no podemos predecir y que jamás querríamos que ocurrieran.

“Hay muchas conversaciones en torno a los agentes de IA maliciosos, y no podemos ignorar que las empresas de IA quieren presentar sus prototipos como modelos realmente potentes e incluso peligrosos. Pero existe una amenaza real”, afirmó Jake Moore, asesor de seguridad global de la empresa de antivirus ESET.

“En la actualidad, las brechas de seguridad impulsadas por IA que hemos visto implican modelos que escapan de los entornos de prueba y atacan a empresas tecnológicas que poseen algo que necesitan para lograr su objetivo”, continuó.

“Pero la IA no siempre acierta. Una vez que decide que acceder a una empresa es clave para lograr su objetivo, los modelos de vanguardia más agresivos atacarán a la organización hasta que sean detenidos o se produzca una brecha de seguridad. No es descabellado pensar que más empresas acabarán en el punto de mira de la IA durante futuras pruebas de seguridad”, agregó.

Por lo tanto, el motivo de preocupación no radica necesariamente en que la reciente oleada de ciberataques amenace algo importante, sino en que podrían ser un ejemplo temprano de los peligros que, según advierten los expertos, podría traer consigo una IA potente: que sistemas de IA cada vez más autónomos y capaces podrían usar sus poderes de maneras perjudiciales para la humanidad, y que quizás ni siquiera nos demos cuenta.

Sin embargo, aún no hemos llegado a ese punto. Los informes recientes pueden ser preocupantes, pero su alcance es limitado y parecen haberse producido únicamente en pruebas experimentales.

En muchos sentidos, el pánico que generamos beneficia a las empresas involucradas. Es una técnica de mercadeo muy utilizada por las compañías de IA desde que comenzó el auge de esta tecnología con el lanzamiento de ChatGPT en 2022; nos advierten que estos sistemas son el futuro, pero también son peligrosos, así que es mejor invertir en las empresas menos malvadas.

En esta ocasión, al sugerir que sus sistemas son tan increíblemente poderosos que no podemos controlarlos, contribuyen a resaltar las capacidades de ciberseguridad que todas las grandes empresas de IA utilizan actualmente como principal estrategia para impulsar sus productos. Al mismo tiempo, insinúan que cualquier peligro potencial es culpa de la propia IA, y no de las empresas que la desarrollan, lo cual puede resultar conveniente.

En todos los ejemplos, salvo en el informe inicial —el del ataque de OpenAI a Hugging Face, otra empresa de IA—, los problemas surgieron porque las compañías no habían protegido adecuadamente su entorno de pruebas. En los casos de Anthropic y Meta, por ejemplo, las medidas de seguridad no estaban configuradas correctamente, por lo que los sistemas no tuvieron que acceder ilegalmente a Internet para conectarse.

Cambiar el enfoque de la respuesta, pasando de hablar de los fallos de las empresas a la naturaleza increíblemente poderosa de sus sistemas, resulta ventajoso para esas compañías, porque traslada la narrativa de la naturaleza potencialmente insegura de las pruebas al rendimiento de sus herramientas.

Esto también se puede observar en la forma en que las empresas han hecho sus declaraciones. Primero fue OpenAI, luego Anthropic, y ahora Meta ha afirmado que su IA también ha estado involucrada en ataques informáticos.

La interpretación más inocente, y probablemente cierta, es que el anuncio de OpenAI llevó a otras empresas a investigar sus propios sistemas y a encontrar pruebas de que también habían estado lanzando ciberataques. Pero, al mismo tiempo, el hecho de que esas empresas estuvieran tan ansiosas por revelar lo que podría ser un problema embarazoso o preocupante sugiere que existe algún tipo de beneficio comercial en hacerlo, y que, en consecuencia, podría serles útil que entremos en pánico ahora.

Nada de esto significa que no haya motivos para preocuparse. Pero sí significa que quizás aún no sea momento de entrar en pánico, y que deberíamos diluir nuestra preocupación con un poco de escepticismo respecto a las afirmaciones potencialmente exageradas en las que se basa cualquier posible miedo.

Como siempre, en esta era de empresas de IA increíblemente poderosas, es fácil sentirse impotente. Las compañías de IA son inusuales porque muchas personas ni siquiera pagan por sus productos, por lo que es difícil ejercer incluso la más mínima presión como consumidor.

Pero los expertos aconsejan que podemos tomar medidas. Son muy similares a las que se aplican a otras amenazas de ciberseguridad: garantizar que los datos importantes no estén fácilmente disponibles en línea y estar atentos a la hora de detectar comportamientos sospechosos e instalar actualizaciones, por ejemplo.

“Los cambios más importantes deben provenir de las propias empresas de IA. Deberían implementar controles más estrictos en los procesos de prueba para evitar que las IA se descontrolen y limitar la persistencia de los modelos en la consecución de sus objetivos por cualquier medio necesario”, afirmó Moore.

Para las organizaciones, la clave está en implementar una sólida higiene de seguridad: asegurarse de contar con el personal, los procesos y las herramientas necesarias para detectar comportamientos sospechosos de la IA, automatizar las actualizaciones de software y proteger los datos confidenciales para que los sistemas de IA no puedan acceder a ellos a menos que sea absolutamente necesario.

Aún no está claro hasta qué punto las empresas están integrando este tipo de medidas de seguridad, ni si serán suficientes. Sin embargo, organismos reguladores como el Instituto de Seguridad de la IA del Reino Unido —que anunció, esta semana, que los modelos de Anthropic y OpenAI habían realizado acciones prohibidas durante las pruebas— han sugerido que las protecciones actuales son insuficientes.

Públicamente, las empresas de IA han acogido con satisfacción hallazgos como estos, abogando por un debate más amplio sobre las pruebas y la seguridad. Sin embargo, los políticos y los reguladores parecen cada vez más convencidos de que tales salvaguardias deberán imponerse a las empresas.

Traducción de Sara Pignatiello