La tecnología recurre cada vez más a la religión para crear una IA ética

A medida que aumentan las preocupaciones por la inteligencia artificial y su rápida integración en la sociedad, las empresas tecnológicas recurren cada vez más a líderes religiosos para que las orienten sobre cómo dar forma a la tecnología, un sorprendente cambio de rumbo frente al arraigado escepticismo de Silicon Valley hacia la religión organizada.

Líderes de diversos grupos religiosos se reunieron la semana pasada con representantes de empresas como Anthropic y OpenAI en la mesa redonda inaugural del “Pacto Fe-IA” en Nueva York para debatir la mejor manera de incorporar moralidad y ética a esta tecnología de rápido desarrollo. El evento fue organizado por la Alianza Interreligiosa para Comunidades Más Seguras, con sede en Ginebra, que busca abordar asuntos como el extremismo, la radicalización y la trata de personas. Se espera que la mesa redonda sea la primera de varias que se realizarán en todo el mundo, incluso en Beijing, Nairobi y Abu Dhabi.

Los ejecutivos tecnológicos deben reconocer su poder —y su responsabilidad— de tomar las decisiones correctas, manifestó la baronesa Joanna Shields, una socia clave de la iniciativa. Trabajó como ejecutiva tecnológica, con etapas en Google y Facebook, antes de dar el giro hacia la política británica.

“Las regulaciones no pueden seguir el ritmo de esto”, afirmó. “Este diálogo, esta conexión directa es tan importante porque las personas que construyen esto entienden el poder y las capacidades de lo que construyen, y la mayoría de ellas quiere hacerlo bien”.

El objetivo de esta iniciativa, según Shields, es llegar eventualmente a un “conjunto de normas o principios” informado por distintos grupos y credos, desde cristianos hasta sijs y budistas, que las empresas respetarán.

Desafíos por delante

En la reunión estuvieron presentes diversos grupos religiosos, incluidos representantes de la Hindu Temple Society of North America, la Comunidad Internacional Bahá’í, The Sikh Coalition, la Arquidiócesis Ortodoxa Griega de América y la Iglesia de Jesucristo de los Santos de los Últimos Días, ampliamente conocida como la iglesia mormona.

Antes de que estas empresas iniciaran el acercamiento, algunas tradiciones habían emitido sus propias orientaciones éticas sobre el uso de la IA. La Iglesia de Jesucristo de los Santos de los Últimos Días ha dado una aprobación con matices de la tecnología en su manual. “La IA no puede reemplazar el don de la inspiración divina ni el trabajo individual necesario para recibirla. Sin embargo, la IA puede ser una herramienta útil para mejorar el aprendizaje y la enseñanza”, se lee en el texto.

La Convención Bautista del Sur, la mayor denominación protestante de Estados Unidos, aprobó una resolución en 2023: “Debemos participar de manera proactiva y dar forma a estas tecnologías emergentes en lugar de simplemente responder a los desafíos de la IA y otras tecnologías emergentes después de que ya hayan afectado a nuestras iglesias y comunidades”.

Un desafío para crear una lista de principios comunes es que las religiones globales, pese a los puntos en común, difieren en sus valores y necesidades. “Las comunidades religiosas ven las prioridades de manera distinta”, comentó la rabina Diana Gerson, participante de la mesa redonda y vicepresidenta ejecutiva asociada de la Junta de Rabinos de Nueva York.

La alianza pone de relieve una coalición creciente entre la fe y la tecnología, nacida del esfuerzo por crear una IA moral, un concepto controvertido que plantea preguntas sobre si eso es posible y qué significa.

“Queremos que Claude haga lo que haría una persona profunda y hábilmente ética en la posición de Claude”, sostiene Anthropic en la “Constitución de Claude”, un documento público redactado para su chatbot. Esa constitución se elaboró con la ayuda de numerosos líderes religiosos y de ética.

En esta creciente alianza, Anthropic ha sido la más decidida, al menos públicamente, en sus esfuerzos por cortejar a líderes religiosos. El movimiento se produce tras una disputa pública a inicios de este año con el Pentágono sobre el uso militar de la inteligencia artificial, después de que Anthropic dijera que restringiría el uso de su tecnología para desarrollar armas autónomas o para la vigilancia masiva de estadounidenses.

“Hay un componente de relaciones públicas en esto. El eslogan era ‘Muévete rápido y rompe cosas’. Y rompieron demasiadas cosas y a demasiadas personas”, expresó Brian Boyd, enlace de fe en Estados Unidos para la organización sin fines de lucro Future of Life Institute. “Existe una obligación moral por parte de las empresas, que lo están reconociendo tardíamente, y también, creo, un cuestionamiento sincero en algunos miembros de las empresas”.

Surge cierto escepticismo

Pero otros defensores de la regulación y la seguridad de la IA no están tan seguros de que estos esfuerzos sean genuinos.

“En el mejor de los casos es una distracción. En el peor, está desviando la atención de cosas que realmente importan”, señaló Rumman Chowdhury, directora ejecutiva de la organización sin fines de lucro Humane Intelligence y enviada científica de Estados Unidos para la IA bajo el gobierno de Biden.

Chowdhury dice que no se inclina a creer que la religión sea el mejor lugar para ayudar a responder preguntas en torno a la IA y la ética, pero considera que entiende por qué las empresas recurren cada vez más a ella.

“Creo que una visión muy ingenua que Silicon Valley ha tenido durante un par de años en relación con la IA generativa era que podríamos llegar a algún tipo de principios universales de ética”, explicó. “Se han dado cuenta muy rápidamente de que eso simplemente no es cierto. No es real. Así que ahora miran quizá a la religión como una forma de lidiar con la ambigüedad de situaciones éticamente grises”.

No está claro hasta qué punto estas empresas, notoriamente opacas, traducen en acciones lo que escuchan de los líderes religiosos, ni cómo podrían verse esas acciones. Pero algunos críticos temen que la conversación sobre crear versiones éticas de la tecnología distraiga de conversaciones más amplias sobre la IA y su papel en la sociedad.

“Bajo el pretexto de: ‘Vamos a construir todas estas cosas. Eso ya está decidido. Y cuando construyamos estas cosas de estas maneras, ¿cómo nos aseguramos de que el resultado final quizá sea bueno?’”, preguntó Dylan Baker, ingeniero principal de investigación en el Distributed AI Research Institute. “Es como: ’Esperen, esperen, esperen. Tenemos que cuestionar si realmente queremos construir estas cosas”.

___

La cobertura de temas religiosos de The Associated Press recibe apoyo mediante la colaboración de la AP con The Conversation US, con financiamiento de Lilly Endowment Inc. La AP es la única responsable de este contenido.

___

Esta historia fue traducida del inglés por un editor de AP con la ayuda de una herramienta de inteligencia artificial generativa.