Cómo la IA podría amenazar a la humanidad en cinco años: de patógenos a armas nucleares

Puede que solo falten unos años para que una inteligencia artificial fuera de control acabe con la humanidad, al menos según algunos de los investigadores responsables de desarrollar esta tecnología.

En una serie de contundentes publicaciones en X el martes, Jacob Coxon, exempleado de Anthropic y OpenAI, advirtió que las personas que desarrollan IA creen “de verdad” que podría matarnos a todos para finales de la década, una afirmación que, lejos de ser refutada por quienes trabajan en el sector, recibió el respaldo de Evan Hubinger, responsable de seguridad de la IA en Anthropic. “Jacob tiene razón”, afirmó. “¡Creemos que la IA podría acabar con todos los humanos! Personalmente, creo que hay más de un 10 % de probabilidades de que ocurra en la próxima década”.

Las declaraciones llegan en un momento en que el temor a que la IA actúe en contra de los intereses de la humanidad comienza a trascender el terreno de las hipótesis. Durante años, los críticos sostuvieron que este tipo de advertencias también podía funcionar como una estrategia de marketing para aumentar el valor y la relevancia de las empresas de IA, pero Coxon rechazó expresamente esa interpretación y renunció a Anthropic antes que seguir participando en lo que describió como una carrera irresponsable hacia el desarrollo de una IA capaz de perfeccionarse a sí misma.

Las preocupaciones tampoco se limitan a las declaraciones de quienes trabajan en la industria. A principios de este verano, el Instituto de Seguridad de la IA del Reino Unido detectó un episodio inquietante durante una prueba de ciberseguridad, cuando un sistema avanzado de IA investigó a personas reales vinculadas con un proyecto de software de código abierto y creó identidades falsas para intentar convencer a una persona de que aprobara código malicioso; cuando descubrieron lo que hacía, el sistema trató de ocultar sus acciones e incluso evaluó la posibilidad de crear otra identidad para continuar.

Es cierto que el sistema actuaba dentro de una prueba de ciberseguridad muy exigente y perseguía el objetivo que se le había asignado, pero el instituto consideró el episodio un claro ejemplo de un comportamiento autónomo potencialmente preocupante que no había sido autorizado.

El temor es que estos incidentes sean apenas el comienzo, sobre todo porque el instituto calcula que la duración de las tareas que los principales modelos de IA pueden completar de forma autónoma se duplica cada ocho meses. Al mismo tiempo, sus capacidades avanzan en ámbitos que van desde los negocios hasta la biología, lo que plantea un problema evidente: si estos sistemas pueden ayudar a los investigadores a descubrir nuevos medicamentos, también podrían facilitar que alguien con intenciones maliciosas utilizara esas mismas capacidades para desarrollar, por ejemplo, un nuevo agente patógeno.

Ante esos riesgos, Anthropic protege sus modelos más avanzados con estrictas medidas de seguridad, mientras que OpenAI informó este mes que decidió pausar el desarrollo de un modelo aún no lanzado después de que alcanzara un umbral a partir del cual la empresa ya no podía descartar que tuviera capacidades de ciberseguridad consideradas “críticas”.

Sin embargo, la inquietud ya trascendió a las compañías que desarrollan estos modelos y comenzó a extenderse entre quienes los utilizan y observan de primera mano lo que pueden hacer. JPMorgan, por ejemplo, advirtió que los agentes de IA representan un “cambio estructural” para su negocio, dado que estos sistemas ya no se limitan a recomendar acciones, sino que también pueden ejecutarlas.

El discurso dentro de Silicon Valley también cambió de forma considerable. En julio, Sam Altman, director ejecutivo de OpenAI, declaró que “ahora estamos, por así decirlo, en la singularidad”, en referencia al escenario hipotético en el que el progreso tecnológico se acelera y se retroalimenta hasta alcanzar un ritmo que vuelve cada vez más difícil para los seres humanos anticipar lo que vendrá después.

Un año antes, Altman ya había afirmado que la humanidad superó el punto de inflexión y que el despegue había comenzado. Puede que se equivoque y, como responsable de una de las principales empresas de IA del mundo, tiene un interés evidente en convencer al público de que la tecnología que desarrolla OpenAI es revolucionaria; sin embargo, cuando figuras como Coxon abandonan la industria y dan la voz de alarma sin un beneficio aparente, resulta cada vez más difícil descartar esas advertencias como una simple estrategia para generar expectativa.

open image in gallery

En una inusual intervención pública el mes pasado, el fundador de Microsoft, Bill Gates, advirtió que la tecnología avanza a un ritmo vertiginoso y podría utilizarse como arma en ciberataques y actos de bioterrorismo, además de mostrar ya indicios de que podría llegar a actuar en contra de los intereses humanos.

Gates también advirtió que la actual ola de cambios provocada por la IA será la mayor fuerza para reducir las desigualdades que se haya creado o la peor fuente de injusticia, por lo que consideró que es responsabilidad de todos procurar que ocurra lo primero y no lo segundo.

Sin embargo, el problema, según escribió Gates en su ensayo, La turbulenta era de la IA ya está aquí. Las decisiones que tomemos ahora son cruciales, es que “no existe” ningún plan para facilitar la transición hacia la era de la IA y que el tiempo, un factor clave para afrontar sus posibles efectos, no se aprovecha con prudencia.

“Necesitamos tiempo para prepararnos para la convulsión social, política y económica”, escribió, pero “los incentivos geopolíticos y económicos presionan demasiado para avanzar a toda velocidad”.

open image in gallery

En el ensayo de 6.000 palabras, publicado en su página web personal, Gates Notes, Gates retomó algunas de sus reflexiones anteriores sobre el futuro de la tecnología, varias de las cuales resultaron acertadas con el paso del tiempo.

En 1995, por ejemplo, escribió un ensayo titulado La marea de Internet, en el que anticipó cómo la entonces incipiente web transformaría nuestras vidas y sostuvo que Internet era más importante que la llegada de la interfaz gráfica de usuario.

Años después, en un ensayo de 2002 sobre informática confiable, Gates anticipó un enfoque de seguridad digital basado en incorporar la protección desde el diseño inicial de los productos, en lugar de añadir parches a medida que surgieran problemas. Microsoft interrumpió después el desarrollo para capacitar a sus ingenieros en la creación de software seguro y revisó a fondo su código en busca de vulnerabilidades.

Pero una de sus advertencias que más resuena hoy entre los expertos llegó durante la Conferencia de Seguridad de Múnich de 2017, cuando alertó que decenas de millones de personas podrían morir a causa del bioterrorismo. “La próxima epidemia podría originarse en la pantalla de la computadora de un terrorista decidido a utilizar la ingeniería genética para crear una versión sintética del virus de la viruela o una cepa de gripe supercontagiosa y mortal”, afirmó entonces.

La pregunta, por lo tanto, es quién debería asumir la responsabilidad y, en última instancia, rendir cuentas por el rumbo que toma la tecnología.

Joanna Bryson, profesora de ética y tecnología en la Hertie School de Berlín, sostuvo: “Gates tiene razón sobre muchos de los riesgos, como la desigualdad, la delincuencia, la ciberseguridad y las armas autónomas, pero sigue tratándolos como problemas creados por la propia IA, cuando muchos de ellos son problemas de gobernanza, concentración de poder y redistribución”.

“La solución consiste en responsabilizar a las empresas de producir sistemas que puedan gobernarse, mantenerse y utilizarse de forma segura, además de gravar a quienes obtienen esos beneficios”.

El desafío está en conseguir que los países acuerden estos cambios al mismo tiempo. Gates propuso crear una nueva organización internacional para regular la IA que, según planteó, podría tomar elementos de las inspecciones nucleares y de los acuerdos globales destinados a preservar la capa de ozono; sin embargo, reconoció que esto exigiría cierto grado de cooperación entre Estados Unidos y China justo cuando ambos países compiten por obtener ventaja en la misma tecnología que deberían regular de forma conjunta.

Tras las alarmantes declaraciones de Coxon, OpenAI remitió a una declaración de su científico jefe, Jakub Pachocki, quien afirmó la semana pasada: “La coordinación internacional sobre el futuro desarrollo de la IA debe convertirse en una prioridad absoluta para los gobiernos de todo el mundo”.

El clima en Silicon Valley parece haber cambiado: las preocupaciones sobre los riesgos que esta tecnología podría representar para la existencia de la humanidad ya no se limitan al terreno de la ficción.

En ese contexto, el diputado laborista Darren Jones escribió al primer ministro, Andy Burnham, y a los responsables de la ONU y la OCDE para pedir un tratado multinacional para el desarrollo “regulado y seguro” de la superinteligencia; no una prohibición de la innovación o la actividad científica, sino un enfoque que priorice la seguridad ante el rápido desarrollo de esta tecnología.

Si alguna vez hubo un momento para que los gobiernos empezaran a escuchar estas advertencias y actuar, es este.

Traducción de Leticia Zampedri