El papa pide una regulación firme de la IA en una encíclica sobre el futuro de la humanidad

El papa León XIV pidió el lunes una regulación sólida de la inteligencia artificial y que sus desarrolladores trabajen por el bien común en lugar de por el lucro, en un amplio manifiesto sobre cómo salvaguardar a la humanidad mientras la tecnología impacta en todo, desde el trabajo hasta la guerra.

“Magnifica Humanitas” (Humanidad Magnífica), la primera encíclica de León, había sido esperada con entusiasmo desde que el primer papa nacido en Estados Unidos anunció, días después de su elección, que consideraba que la IA era el mayor desafío que enfrenta hoy la humanidad.

En el texto, León denunció la “cultura del poder” que impulsa la carrera por la IA, especialmente en el desarrollo de métodos cada vez más sofisticados de guerra a distancia. Declaró que “no es permisible” confiar decisiones irreversibles y letales a sistemas de IA, lo que abre otro punto de fricción entre el papa estadounidense y el gobierno del presidente de Estados Unidos, Donald Trump, que ha trabajado de manera agresiva para desregular el desarrollo de la IA.

Expertos de la industria tecnológica, del ámbito académico y de la moral católica señalaron que el documento probablemente se convertirá en un referente en el debate sobre la IA, un punto de referencia tanto para responsables de políticas públicas como para investigadores y ciudadanos corrientes. Llega en un momento en que los avances casi diarios de la tecnología disparan el aumento de las preocupaciones por la sustitución de empleos humanos por la IA e incluso por el reemplazo de la inteligencia humana.

“Esto se presta a que las personas que están a la vanguardia de estas herramientas y pueden ver las cosas increíbles que son capaces de hacer se planteen preguntas sobre su propio ‘¿qué significa ser humano?’", comentó Taylor Black, ejecutivo de IA en Microsoft y director del instituto de IA de la Catholic University of America.

El papa critica a las empresas de IA incluso mientras recibe a Anthropic

El papa tenía previsto presentar el texto el lunes en un acto en el Vaticano en el que participaría el cofundador de Anthropic, que actualmente está inmersa en una batalla legal con el gobierno de Trump por el acceso a su tecnología de IA. El Vaticano decidió involucrar a Anthropic como parte de un esfuerzo durante la última década por entablar un diálogo con Silicon Valley sobre el costo humano de la IA.

Y, sin embargo, en su texto, León arremetió repetidamente contra la concentración de poder y datos en manos de tan pocas personas en el sector privado como un peligro, especialmente para los niños y los más vulnerables, y pidió una regulación externa de su trabajo.

“No basta invocar genéricamente la ética; se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea”, escribió. “No serviría de nada una IA más moral, si esta moral es decidida por unos pocos”.

León apeló varias veces a los desarrolladores de IA y a los líderes políticos responsables de regularlos para que simplemente reduzcan la velocidad y reflexionen sobre lo que están haciendo. Los instó a seguir pautas éticas y espirituales para tomar la decisión de trabajar no por su propio lucro o poder, sino por el mejoramiento de la humanidad.

Los competidores de IA OpenAI y Anthropic son la segunda y la tercera empresas privadas más valiosas de Estados Unidos, cada una valorada en cientos de miles de millones de dólares, más que el PIB de muchas naciones.

Expertos dicen que el texto se convertirá en un referente

En un texto metódico, el papa, licenciado en matemáticas, trazó la historia de la doctrina social de la Iglesia católica y aplicó sus conceptos centrales —justicia, solidaridad, la dignidad del trabajo y el destino universal de los recursos— a la revolución digital.

“Estoy convencido de que esto demostrará ser un documento definitorio para nuestra era, un documento profundo y profético”, dijo Paolo Carozza, profesor de derecho en la Facultad de Derecho de Notre Dame y presidente del consejo de supervisión de Meta.

“El papa León ofrece una voz clara, integral y coherente que nos insta a asumir la responsabilidad de construir un mundo en el que la tecnología sirva a los seres humanos en lugar de degradarlos”, afirmó.

En sus capítulos más contundentes, León denunció cómo la IA había ayudado a acelerar la “normalización de la guerra” al insensibilizar a las personas ante su costo. No mencionó conflictos específicos, pero citó “imperialismos contrapuestos, entre potencias que quieren conservar su primacía y potencias que aspiran a conquistarla".

Exigió transparencia y rendición de cuentas por parte de los desarrolladores de IA para que siempre se conozca la cadena de mando en la toma de decisiones al ordenar ataques con armamento de IA. Declaró que la teoría de la “guerra justa” de la Iglesia católica, que proporciona criterios específicos sobre cuándo puede justificarse el uso de la fuerza, ahora estaba “desactualizada” dadas las innovaciones tecnológicas de la guerra.

Un texto en la tradición de justicia social de la Iglesia

León firmó el texto el 15 de mayo, el 135º aniversario de la publicación de “Rerum Novarum” (De las cosas nuevas), el documento de enseñanza más importante del héroe y homónimo de León, el papa León XIII. Ese documento abordó los derechos de los trabajadores, los límites del capitalismo y las obligaciones que los Estados y los empleadores debían a los trabajadores mientras avanzaba la Revolución Industrial.

Se convirtió en la base del pensamiento social católico moderno, y el actual papa lo citó al inicio de su pontificado en relación con la revolución de la IA, que cree que plantea las mismas preguntas existenciales que planteó la Revolución Industrial hace más de un siglo. “Magnifica Humanitas” se convierte así en el capítulo más reciente de una historia de un siglo de papas que adaptan “Rerum Novarum” a las cuestiones sociales de su tiempo, a menudo deteniéndose en la dignidad del trabajo para el florecimiento humano.

La IA está evocando tanto temores existenciales como una visión utópica en medio de un debate cada vez más intenso sobre si se convertirá en un catalizador que enriquezca a la humanidad o en una toxina tecnológica que embote la inteligencia humana mientras elimina millones de empleos bien remunerados.

“El objetivo de obtener mayores beneficios no puede justificar decisiones que sacrifiquen sistemáticamente el empleo, porque la persona humana es un fin y no un medio, y el orden económico debe permanecer subordinado a su dignidad y al bien común”, escribió León.

León extendió su preocupación por defender la dignidad humana en el trabajo para emitir la primera disculpa papal de la historia por el propio papel de la Santa Sede en la legitimación de la esclavitud.

Papas anteriores han pedido disculpas por la participación de cristianos en el comercio transatlántico de esclavos. Pero ningún papa ha reconocido públicamente, y mucho menos se ha disculpado, por el papel que los propios papas desempeñaron al otorgar a soberanos europeos autoridad explícita para someter y esclavizar a “infieles”.

Una década de diálogo con Silicon Valley

Funcionarios del Vaticano declinaron decir quiénes exactamente contribuyeron a la encíclica de León. Pero funcionarios del Vaticano y de la Iglesia han participado en un diálogo con empresas tecnológicas de Silicon Valley durante una década. Hacia el final de su pontificado, el papa Francisco comenzó a pronunciarse más sobre la IA y los riesgos que plantea para la humanidad.

La decisión de incluir a Anthropic en el lanzamiento en el Vaticano fue criticada por algunos que lo consideraron un sello papal de aprobación a la firma de IA.

En febrero, el gobierno de Trump ordenó a todas las agencias de Estados Unidos que dejaran de usar la tecnología de Anthropic después de que esta se negara a permitir al ejército estadounidense un uso sin restricciones. Anthropic, que se presenta como la empresa de IA que pone la seguridad y la mitigación de riesgos en primer plano de su investigación, ha demandado al gobierno.

Brian Boyd, enlace de fe en Estados Unidos de la organización sin fines de lucro Future of Life Institute, interpretó la inclusión del cofundador de Anthropic, Christopher Olah, como similar a una audiencia papal con un jefe de Estado, y no un respaldo.

“Creo que es más bien un reconocimiento de (que) esta es una empresa extremadamente poderosa que actualmente está ganando esta carrera para reemplazar a los trabajadores humanos”, dijo Boyd.

Anthropic es una “corporación enorme que está asumiendo un riesgo y una responsabilidad enormes”, continuó Boyd, pero dijo que la empresa ha “demostrado genuina buena voluntad e integridad e interés en el diálogo”.

___

Winfield informó desde Middletown, Connecticut, y Houmani informó desde Los Ángeles. Los periodistas de The Associated Press Kelvin Chan en Londres y Colleen Barry en Milán contribuyeron a este despacho.

___

La cobertura de religión de The Associated Press recibe apoyo a través de la colaboración de AP con The Conversation US, con financiamiento de Lilly Endowment Inc. AP es la única responsable de este contenido.