Empresa Anthropic de IA dice que "no puede, en conciencia, acceder" a las exigencias del Pentágono

El director general de Anthropic, Dario Amodei, indicó el jueves que la empresa de inteligencia artificial “no puede, en conciencia, acceder” a las exigencias del Pentágono para permitir un uso más amplio de su tecnología.

La compañía señaló en un comunicado que no se está retirando de la negociación, pero que el nuevo lenguaje contractual recibido del Departamento de Defensa “prácticamente no avanzó nada en impedir el uso (del chatbot) Claude para la vigilancia masiva de estadounidenses o en armas totalmente autónomas”.

El principal portavoz del Pentágono ha reiterado que las fuerzas armadas quieren usar la tecnología de inteligencia artificial de Anthropic de maneras legales, y que no permitirán que la empresa imponga ningún límite antes de que el viernes venza el plazo para aceptar sus exigencias.

Sean Parnell escribió el jueves en redes sociales que el Pentágono “no tiene ningún interés en usar la IA para realizar vigilancia masiva de estadounidenses (lo cual es ilegal), ni queremos usar la IA para desarrollar armas autónomas que operen sin participación humana”.

Las políticas de Anthropic impiden que sus modelos, como su chatbot Claude, se utilicen con esos fines. Es la más reciente entre sus pares —el Pentágono también tiene contratos con Google, OpenAI y xAI de Elon Musk— en no suministrar su tecnología a una nueva red militar interna de Estados Unidos.

Parnell indicó que el Pentágono quiere “usar el modelo de Anthropic para todos los fines lícitos”, pero no ofreció detalles sobre lo que eso implica. Sostuvo que abrir el uso de la tecnología evitaría que la empresa “ponga en riesgo operaciones militares cruciales”.

“No permitiremos que ninguna compañía dicte los términos sobre cómo tomamos decisiones operativas”, manifestó.

Durante una reunión el martes entre el secretario de Defensa, Pete Hegseth, y Amodei, funcionarios militares advirtieron que podrían designar a Anthropic como un riesgo para la cadena de suministro, cancelar su contrato o invocar una ley de la era de la Guerra Fría, llamada Ley de Producción para la Defensa, con el fin de otorgar a las fuerzas armadas una autoridad más amplia para usar sus productos, incluso si la empresa no lo aprueba.

Parnell mencionó sólo dos de esas consecuencias en la publicación del jueves en la red social X, y dijo que Anthropic tiene “hasta las 5:01 p. m., hora del Este, del viernes para decidir”.

“De lo contrario, pondremos fin a nuestra asociación con Anthropic y los consideraremos un riesgo para la cadena de suministro”, escribió.

Anthropic no respondió de momento el jueves a una solicitud de comentarios. Luego de la reunión del martes, la empresa indicó en un comunicado que “continuó conversaciones de buena fe sobre nuestra política de uso para garantizar que Anthropic pueda seguir apoyando la misión de seguridad nacional del gobierno, en consonancia con lo que nuestros modelos pueden hacer de manera confiable y responsable”.

El senador republicano Thom Tillis, que no busca la reelección, dijo el jueves que el Pentágono ha manejado el asunto de manera poco profesional, mientras que Anthropic está “tratando de hacer lo más que puede para ayudarnos a protegernos de nosotros mismos”.

“¿Por qué demonios estamos teniendo esta discusión en público?”, les dijo Tillis a los periodistas. “Esta no es la forma de tratar a un proveedor estratégico que tiene contratos”.

“Cuando una empresa se resiste a una oportunidad de mercado por temor a sufrir consecuencias negativas, hay que escucharla y luego, a puerta cerrada, averiguar qué es lo que realmente están tratando de resolver”, agregó.

El senador Mark Warner, el demócrata de mayor rango en la Comisión de Inteligencia del Senado, dijo que estaba “profundamente perturbado” por los reportes de que el Pentágono está “trabajando para intimidar a una empresa líder de Estados Unidos”.

“Lamentablemente, esto es una indicación más de que el Departamento de Defensa busca ignorar por completo la gobernanza de la IA”, señaló Warner en un comunicado. Esto “subraya aún más la necesidad de que el Congreso promulgue mecanismos sólidos y vinculantes de gobernanza de la IA para contextos de seguridad nacional”.

Mientras funcionarios del Pentágono dicen que siempre cumplirán la ley en su uso de modelos de IA, Hegseth le dijo a Fox News en febrero pasado —semanas después de convertirse en secretario de Defensa— que, “en última instancia, queremos abogados que den un asesoramiento constitucional sólido y que no existan para intentar ser obstáculos de nada”.

___

El periodista de The Associated Press Ben Finley contribuyó a este despacho.

___

Esta historia fue traducida del inglés por un editor de AP con la ayuda de una herramienta de inteligencia artificial generativa.