La IA está en la mente del mundo. ¿Es la ONU el lugar para dilucidar qué hacer al respecto?

Hace apenas unos años, la inteligencia artificial fue apenas mencionada en la convocatoria a los diversos gobernantes del planeta para asistir a la Asamblea General de la ONU.

Pero después de que el lanzamiento de ChatGPT el otoño pasado acelerara el entusiasmo y la ansiedad sobre la IA, este año ha sido un tema candente en la mayor reunión anual de la diplomacia.

Presidentes, primeros ministros, monarcas y ministros de gabinete se reunieron mientras los gobiernos en varios niveles reflexionan sobre la regulación de la IA o ya la han aprobado. Los pesos pesados del sector reconocen que se necesitan barreras de contención, pero quieren proteger los beneficios que visualizan en el uso de esta tecnología. Algunos expertos externos, e incluso en el interior de las compañías, advierten que también existen riesgos potencialmente catastróficos, y todo el mundo asegura que no hay tiempo que perder.

Muchos ojos están puestos sobre las Naciones Unidas como quizás el único lugar para abordar el asunto a un nivel que esté a la altura de la magnitud del tema.

El organismo mundial tiene algunos atributos únicos que ofrecer —incluidos un alcance sin igual y un historial de negociación de pactos sobre temas globales—, y está listo para implementar un consejo asesor sobre la IA este otoño.

“Tener una convergencia, una comprensión común de los riesgos, ése sería un desenlace muy importante”, dijo en una entrevista Amandeep Gill, enviado del secretario general de la ONU para la Tecnología. Añadió que sería muy valioso llegar a un entendimiento común sobre qué tipo de gobernanza funciona, o podría funcionar, para minimizar los riesgos de la inteligencia artificial y maximizar las oportunidades que ofrece para hacer el bien.

UNA CONVERSACIÓN QUE GANA IMPULSO

En 2017, apenas tres oradores mencionaron la IA durante el debate general, el principio del período de sesiones de la Asamblea General de la ONU. Este año, más de 20 oradores lo hicieron, en representación de países que van desde Namibia hasta Macedonia del Norte, desde Argentina hasta Timor Oriental.

El secretario general António Guterres adelantó planes para nombrar este mes a los integrantes del consejo asesor, y para que las recomendaciones preliminares ya hayan sido establecidas a finales de año, una velocidad vertiginosa para los estándares de la ONU.

Al primer ministro de Lesotho, Sam Matekane, le preocupan las amenazas a la privacidad y la seguridad; al premier nepalés, Pushpa Kamal Dahal, el posible uso indebido de la IA; y al ministro de Asuntos Exteriores de Islandia, Thórdís Kolbrún R. Gylfadóttir, el potencial de que esa tecnología “se convierta en una herramienta de destrucción”. Gran Bretaña publicitó su próxima “Cumbre de Seguridad sobre la IA”, mientras que España se presentó como un anfitrión dispuesto para una posible agencia internacional sobre inteligencia artificial. Por su parte, Israel promocionó sus habilidades tecnológicas como un posible desarrollador de IA útil.

Días después de que los senadores estadounidenses conversaran sobre IA a puerta cerrada con escépticos y altos directivos del mundo de la tecnología, el presidente Joe Biden dijo que Washington trabaja “para asegurar que nosotros gobernemos esta tecnología y no al revés: que ella nos gobierne a nosotros”.

Y con la Asamblea General como centro de gravedad, la semana pasada hubo tantos paneles de discusión y reuniones sobre políticas de IA en la ciudad de Nueva York y sus alrededores que en ocasiones los asistentes tuvieron que correr de uno a otro.

“Las reuniones más importantes que estamos teniendo son las reuniones en la ONU, porque es el único organismo que es inclusivo, que nos trae a todos aquí”, dijo Omar Al Olama, ministro para la inteligencia artificial de los Emiratos Árabes Unidos, en un evento patrocinado por la ONU en el que participaron cuatro funcionarios de alto rango de varios países. Atrajo tal interés que media docena de sus homólogos ofrecieron comentarios desde la audiencia.

Los actores de la industria tecnológica también se aseguraron de estar presentes durante la gran semana de la ONU.

“Lo que es realmente alentador es que hay mucho interés global sobre cómo hacer esto bien, y la ONU está en una posición de ayudar a armonizar todas las conversaciones” y trabajar para garantizar que todas las voces sean escuchadas, dijo James Manyika, un vicepresidente sénior de Google. El gigante tecnológico ayudó a desarrollar un nuevo sitio web de la ONU, habilitado con inteligencia artificial, para buscar datos y hacer un seguimiento de los avances en los objetivos clave del organismo mundial.

MUCHA GENTE HABLA, PERO EL AVANCE QUIZÁS ES LENTO

Si bien la ONU tiene ventajas, también tiene el reto de un ethos en el que convergen muy diversos puntos de vista y en el que se busca alcanzar consensos, el cual a menudo avanza con lentitud. Además, sus miembros son gobiernos, mientras que la IA es impulsada por una serie de empresas privadas.

De todas formas, un asunto global necesita un foro global, y “la ONU es absolutamente un lugar en el cual tener estas conversaciones”, dice Ian Bremmer, presidente del Eurasia Group, una firma de asesoría sobre riesgos políticos.

Incluso si los gobiernos no son desarrolladores informáticos, Gill hace notar que pueden “influir en la dirección que tome la IA”.

“No se trata sólo de regular contra el uso indebido y el daño, asegurándose de que la democracia no se vea socavada, que el estado de derecho no se vea debilitado, sino que también se trata de promover un ecosistema de innovación diverso e inclusivo”, y fomentar las inversiones públicas en la investigación y la capacitación de la fuerza laboral en sitios donde no hay muchas empresas tecnológicas adineradas que lo hagan, agregó.

Las Naciones Unidas tendrán que navegar por un territorio que algunos gobiernos y bloques nacionales —incluida la Unión Europea y el Grupo de los 20 países industrializados— ya están delimitando con cumbres, declaraciones y, en algunos casos, regulaciones propias.

Las ideas difieren sobre cómo debería ser un posible organismo global que regule la IA: ¿quizás un panel de expertos en evaluación y determinación de hechos, similar al Panel Intergubernamental sobre el Cambio Climático? ¿O una agencia de vigilancia como el Organismo Internacional de Energía Atómica? ¿Una entidad normativa similar a las agencias de la ONU que regulan la aviación civil y y el tránsito marítimo? ¿O algo diferente?

Está también la cuestión de cómo generar innovación y los grandes avances esperados —en medicina, predicción de desastres, eficiencia energética y más— sin exacerbar las inequidades y la desinformación, o, peor aún, propiciar una calamidad de robots desenfrenados. Ese escenario de ciencia ficción comenzó a parecer mucho menos descabellado cuando cientos de líderes tecnológicos y científicos, incluido el director general de OpenAI —la empresa que desarrolló ChatGPT—, emitieron una advertencia en mayo sobre “el riesgo de extinción (de la humanidad) debido a la IA”.

Un ejecutivo de OpenAI convertido en competidor dijo después al Consejo de Seguridad de la ONU en julio que la inteligencia artificial plantea “amenazas potenciales a la paz internacional, la seguridad y la estabilidad global” debido a su imprevisibilidad y su potencial de ser utilizada indebidamente.

No obstante, existen puntos de vista claramente divergentes sobre dónde residen los riesgos y las oportunidades.

“Para países como Nigeria y el Sur Global, el mayor problema es: ¿qué vamos a hacer con esta tecnología asombrosa? ¿Tendremos la oportunidad de utilizarla para mejorar las condiciones de nuestra gente y nuestras economías por igual y al mismo ritmo que Occidente?”, preguntó Olatunbosun Tijani, ministro de Comunicaciones de Nigeria, en un debate sobre IA organizado por la Biblioteca Pública de Nueva York. Mencionó que “incluso la conversación sobre la gobernanza ha sido liderada desde Occidente”.

Aisén Etcheverry, ministra de Ciencia de Chile, cree que la IA podría permitir una renovación digital, una oportunidad para reducir las brechas que tecnologías anteriores abrieron en materia de acceso, inclusión y riqueza.

UN CAMINO INTRINCADO HACIA ADELANTE, PERO CON VENTAJAS CLARAS

Pero se necesitará más que mejorar la infraestructura de las telecomunicaciones. Los países que quedaron rezagados anteriormente necesitan que el idioma, la cultura y las diferentes historias de las que provienen estén representados en el desarrollo de la inteligencia artificial, expuso Etcheverry en el evento paralelo patrocinado por la ONU.

Gill, quien es de India, comparte esas preocupaciones. El diálogo sobre la IA debe expandirse más allá de una dicotomía de “promesas y peligros” hacia “una comprensión más matizada donde el acceso a las oportunidades, su dimensión de empoderamiento ... también estén en primer plano”, dijo.

Incluso antes de que el consejo asesor de la ONU establezca una agenda detallada, se ofrecieron muchas sugerencias durante las conversaciones en torno a la Asamblea General. Trabajar en estándares mínimos globales para la inteligencia artificial. Alinear los diversos esfuerzos regulatorios y de cumplimiento en todo el mundo. Considerar establecer registros, validación y certificación de y en IA. Enfocarse en regular los usos en lugar de la tecnología en sí. Elaborar un “mecanismo de respuesta rápida” en caso de que se hagan realidad las posibilidades más temidas.

No obstante, desde el punto de vista de la doctora Rose Nakasi, hay una visión clara de las ventajas de la IA.

La científica informática de Uganda y sus colegas del laboratorio de inteligencia artificial de la Universidad Makerere están utilizando la tecnología para optimizar el análisis microscópico de muestras de sangre, el método estándar para diagnosticar la malaria.

Su trabajo está dirigido a países que no tienen suficientes patólogos, especialmente en las zonas rurales. Un ocular de aumento, producido con impresión 3D, se adapta a la cámara de los teléfonos inteligentes y toma fotografías de portaobjetos de microscopio. Después, el análisis de imágenes impulsado por IA selecciona e identifica patógenos. La división de beneficencia de Google donó al laboratorio 1,5 millones de dólares recientemente.

La IA es “una facilitadora” de la actividad humana, dijo Nakasi en un momento entre eventos relacionados con la Asamblea General.

“No podemos solamente dejarla que haga todo por sí sola”, agregó. “Pero una vez que esté bien regulada, cuando la tengamos como una herramienta de apoyo, creo que puede hacer mucho”.