OpenAI, Anthropic y 100 grandes empresas dan la voz de alarma ante el grave peligro que representa la IA

Más de 100 de las mayores empresas del mundo alertaron ante la inminente amenaza que supone la inteligencia artificial.

OpenAI, Anthropic, Microsoft, Alphabet (matriz de Google), Amazon y muchas otras empresas afirmaron que se avecina una oleada de ciberataques impulsados por inteligencia artificial y que el mundo no está preparado.

Estos ciberataques suponen un riesgo para “las empresas y los servicios públicos de los que dependen nuestras comunidades, desde hospitales y plantas de tratamiento de agua hasta la infraestructura que alimenta internet”, advierte la carta abierta firmada por más de 100 empresas.

La carta está firmada por muchas de las empresas que desarrollan precisamente la tecnología de IA que ya se utilizó en este tipo de ataques. Por ejemplo, fue firmada y difundida por OpenAI, creadora de ChatGPT, que actualmente está siendo objeto de fuertes críticas por un incidente en el que uno de sus sistemas experimentales lanzó un ataque informático contra otra empresa de IA.

La carta señalaba que este tipo de herramientas de ciberseguridad “ya ofrecen a los defensores nuevas formas de corregir vulnerabilidades acumuladas durante años”. Sin embargo, advertía que ahora se requieren medidas decisivas para garantizar que dichas herramientas se utilicen para proteger los sistemas en lugar de atacarlos.

En ella, se establecen tres principios que deben guiar la respuesta colectiva ante la amenaza. Estos son: reconocer que “el statu quo en materia de seguridad no será suficiente”, ya que muchos equipos de seguridad no cuentan con recursos suficientes para proteger sus sistemas; dotar a los defensores de mejores herramientas de inteligencia artificial para proteger dichos sistemas y colaborar en una “respuesta colectiva”.

“Las capacidades cibernéticas están avanzando a nivel mundial, lo cual puede ser positivo: ninguna empresa debería controlar el futuro”, advertía la carta. “Esto también implica que se necesita una respuesta global, que requiere nuevas alianzas para elevar los estándares de seguridad y encontrar nuevas soluciones a las amenazas cibernéticas emergentes”.

Las empresas solicitaron nuevos fondos para equipos de seguridad y sistemas de IA defensiva que garanticen la contención de estas amenazas. Además, señalaron que el tiempo para “hacer que nuestro mundo digital sea mucho más seguro” es limitado antes de que este peligro ponga en riesgo algunas de nuestras infraestructuras más importantes y críticas.

“En los próximos meses, los ciberataques impulsados ​​por IA se generalizarán mucho más a medida que los modelos de todo el mundo adquieran mayores capacidades”, decía la carta. En ella se hacía un llamamiento a los líderes gubernamentales e industriales para que “destinaran todo el peso de su tecnología, recursos y experiencia a este esfuerzo”.

La carta instaba a los gobiernos a acelerar los programas de acceso seguro, que otorgan a determinadas empresas acceso a modelos más potentes antes que al público en general, y a todas las demás organizaciones a "convertir la ciberdefensa en una prioridad de liderazgo inmediata".

La carta abierta pretende reflejar y responder a la creciente preocupación de que los sistemas de ciberseguridad basados en IA estén superando rápidamente nuestra capacidad de control y que puedan otorgar una ventaja indebida a los piratas informáticos. Las propias empresas de IA advirtieron que sus herramientas muestran un comportamiento cada vez más peligroso, aunque en su mayoría insistieron en que, de hecho, mejorarán la seguridad si se utilizan correctamente.

Fue firmada por muchas de las empresas líderes mundiales en inteligencia artificial de vanguardia, incluyendo OpenAI, así como por Anthropic (creadora de Claude) y Alphabet (empresa matriz de Google, propietaria también de DeepMind). Además, cuenta con la participación de diversas entidades ajenas al sector tecnológico, como aseguradoras y empresas financieras como Mastercard y Zurich.

En junio, la alianza mundial de inteligencia Cinco Ojos, compuesta por Estados Unidos, Gran Bretaña, Canadá, Australia y Nueva Zelanda, emitió una inusual declaración conjunta en la que advertía que la revolución de la IA estaba a punto de “transformar fundamentalmente” la ciberseguridad.

Traducción de Olivia Gorsin