El rey Carlos III pide a empresarios desarrollar la IA con cuidado y consideración

El rey Carlos III instó el jueves a altos directivos de OpenAI, Anthropic, Google DeepMind y Nvidia a asegurarse de que la inteligencia artificial permanezca bajo control y al servicio de las personas y del planeta.

La reunión en Escocia se convocó para debatir cómo la IA puede beneficiar a la sociedad, y llega en un momento crucial para la tecnología, mientras se intensifica el debate sobre si los rápidos avances la harán indetenible para la capacidad humana.

“El desarrollo de la IA —su esencia y su ritmo— resulta a la vez intrigante y profundamente preocupante en igual medida”, declaró el monarca en sus palabras de apertura.

Indicó que deben considerarse con urgencia los “peligros existenciales de que tales tecnologías caigan en las manos equivocadas y se utilicen de maneras potencialmente catastróficas”.

“Entonces, sin duda, necesitamos medios suficientes de control antes de que sea demasiado tarde”, señaló.

El rey pidió a los asistentes, entre ellos el director ejecutivo de Nvidia, Jensen Huang, y el presidente de Google DeepMind, Demis Hassabis, que reflexionaran sobre los “principios fundamentales” que deberían guiar el desarrollo de la IA.

Sarah Friar, la directora financiera de OpenAI, también estuvo en la reunión, junto con el ministro británico de IA, Kanishka Narayan. También debía asistir un representante de Anthropic, según un comunicado del Palacio de Buckingham.

La reunión se produce mientras la atención mundial se centra en el vertiginoso avance de la IA y en las advertencias de que podría descontrolarse, amenazando a la humanidad. Se celebró en Dumfries House, en Ayrshire, Escocia, sede de la King’s Foundation, la organización benéfica del monarca.

Después de que el investigador de Anthropic Jacob Coxon causara revuelo al renunciar con una grave advertencia sobre los posibles riesgos de la tecnología, el director ejecutivo de Anthropic, Dario Amodei, respondió con un ensayo en el que sostuvo que la industria quizá necesite reducir el ritmo de su trabajo.

Una de sus propuestas fue que empresas y países trabajen juntos en un plan coordinado para esa desaceleración.

El rey, sin mencionar a ningún país o empresa, apuntó que los participantes de la reunión deben considerar cómo aprovechar los beneficios de la IA “con la seguridad en el centro” y cómo “construir cooperación y consenso internacionales” para lograrlo.

Carlos les dijo a los ejecutivos tecnológicos que su tarea “no es meramente avanzar la tecnología, sino garantizar que permanezca firmemente al servicio de la humanidad, la comunidad y el mundo natural”.

El debate sobre desacelerar la IA ha dividido a la industria. Huang, quien ha criticado el llamado a frenar, afirmó que corresponde a cada empresa desarrollar su tecnología de forma segura y probarla adecuadamente antes de lanzar cualquier producto al público.

“Cuando un producto no es lo suficientemente seguro, debemos retenerlo y seguir desarrollándolo. Siempre hemos hecho eso y debemos seguir haciéndolo”, sostuvo Huang en su discurso, tras las palabras del rey.

En el acontecimiento más reciente sobre conductas alarmantes de la IA, OpenAI informó el miércoles de seis incidentes de comportamiento “inesperado o preocupante” por parte de sus modelos, como actuar sin autorización, coordinarse con otros modelos y eludir la supervisión.

Aunque el rey es una figura simbólica cuyos comentarios sobre asuntos sociales pueden ser influyentes, gran parte del debate actual sobre la IA se centra en empresas estadounidenses y su competencia con China, con Reino Unido desempeñando un papel menor, aunque aún vital.

El Instituto de Seguridad de la IA del Reino Unido, una organización gubernamental de investigación, goza de buena reputación y el país produce muchos investigadores de esa tecnología, entre ellos el presidente de Google DeepMind, Demis Hassabis, y Coxon.

_________________________________

Esta historia fue traducida del inglés por un editor de AP con ayuda de una herramienta de inteligencia artificial generativa.