Guterres pide cooperación global sobre seguridad en inteligencia artificial

El secretario general de la ONU, António Guterres, instó el miércoles a los competidores mundiales en inteligencia artificial a cooperar para abordar las amenazas que plantea esa tecnología, y advirtió que “el mundo no puede permitirse una carrera hacia el abismo en materia de seguridad de la IA”.

Guterres señaló que no se pueden ignorar las preocupaciones expresadas por quienes están en la primera línea de la tecnología de IA, según las cuales su desarrollo “avanza a toda velocidad, por delante de nuestra comprensión de los riesgos”.

Los gobiernos deben asumir su primera responsabilidad de proteger a los civiles de las amenazas de la IA, lo que significa que “la acción nacional es esencial”, les dijo Guterres a los reporteros de la ONU. “Pero la coordinación global también es indispensable”.

“Necesitamos barreras de seguridad para generar confianza... y que hagan que la IA sea segura, transparente y responsable, con la dignidad humana en el centro”, añadió.

Guterres se refería a una propuesta de Dario Amodei, director ejecutivo de Anthropic, para garantizar la seguridad de la IA mediante la coordinación de una desaceleración de su desarrollo por parte de las principales empresas tecnológicas y los gobiernos.

Sam Altman, de OpenAI; Elon Musk, de SpaceXAI, y otros destacados líderes del sector han señalado en los últimos días que el desarrollo de la IA necesita desacelerarse. Pero el director general de Meta, Mark Zuckerberg, tomó distancia de esa postura el miércoles, diciendo que cada empresa de IA tiene que garantizar que su tecnología sea segura.

Hay otros obstáculos para una labor coordinada sobre la IA, entre ellos la competencia interna y global, especialmente con China, y los incentivos de lucro. También ha habido rechazo por parte del presidente estadounidense Donald Trump, quien esta semana calificó de “un engaño” las amenazas de que la IA pudiera destruir a la humanidad, y sostuvo que los empeños por limitar la tecnología forman parte de una “conspiración enferma”.

Guterres ha elogiado el enorme potencial de la IA, incluso para acelerar el desarrollo económico y la educación y para fortalecer los sistemas de salud. Pero también ha advertido sobre la amenaza “existencial” de una “inteligencia artificial fuera de control”. Indicó que la IA será un tema importante en sus conversaciones con líderes mundiales en su reunión anual la próxima semana, con motivo del periodo de sesiones de la Asamblea General de la ONU.

“Naciones Unidas seguirá explorando ideas y enfoques prácticos en los próximos días”, expresó Guterres. “Necesitamos un entendimiento compartido de cómo impulsar el desarrollo seguro, protegido y responsable de la IA, al tiempo que identificamos cuándo sistemas cada vez más potentes pueden requerir barreras de seguridad más estrictas, o medidas adicionales para gestionar riesgos potenciales”.

A instancias de Guterres, la Asamblea General estableció el primer organismo científico mundial sobre IA en 2025. En su informe preliminar de julio, el panel de 40 integrantes advirtió que el uso rápido y sin control de la IA a gran escala conlleva el riesgo de causar daños a la salud mental de los usuarios, un “posible uso como herramienta destructiva, impactos en los sistemas sociales, económicos y ambientales, y retos relacionados con el control de la tecnología”.

El secretario general les dijo a los reporteros que es consciente de que las divisiones geopolíticas podrían representar problemas. Pero sostuvo que los países “que tienen la mayor capacidad en las fronteras de la IA” deberían establecer contacto, intercambiar información y acordar algunas medidas de seguridad comunes “para evitar esta carrera hacia el abismo que podría conducir algún día a un desastre gigantesco a nivel global”.

Guterres respondió a una pregunta sobre si la reunión de la próxima semana de altos funcionarios de las 193 naciones que integran la ONU no sería la oportunidad perfecta para una cumbre destinada a frenar los excesos de la IA. Señaló que no había tiempo para preparar adecuadamente un encuentro.

Pero añadió: “Creo que tiene todo el sentido, en el momento adecuado, celebrar una cumbre internacional seria sobre inteligencia artificial”. Y en una cumbre, afirmó, “es absolutamente esencial contar con todo el mundo” —gobiernos, empresas, científicos y sociedad civil— “y espero que esto será posible”.

———

Esta historia fue traducida del inglés por un editor de AP con la ayuda de una herramienta de inteligencia artificial generativa.