Anthropic documenta cuatro incidentes de IA en los que Claude cometió posibles delitos

Anthropic reveló una lista de cuatro incidentes relacionados con su bot de IA, Claude, e incluyó uno que no se había reportado antes, que podrían clasificarse como actos delictivos.

Un nuevo informe, titulado ‘An alignment assessment of recent cyber security incidents’ (que en español sería Una evaluación de la alineación de los incidentes recientes de ciberseguridad), detalla cómo los modelos de IA de Anthropic se infiltraron en sistemas de terceros, llevaron a cabo ciberataques y cargaron software malicioso durante las pruebas.

Tres de los incidentes fueron reportados el 30 de julio en una revisión de las transcripciones de ciberseguridad de Claude, pero un cuarto ataque informático de enero de 2026 pasó desapercibido hasta ahora.

Los cuatro incidentes involucraron versiones diferentes de Claude, entrenadas con meses de diferencia, incluyendo sus modelos más poderosos, Claude Opus y Claude Mythos.

“Consideramos que estos incidentes son graves. Nuestros modelos de producción realizaron acciones perjudiciales contra sistemas reales durante horas a partir de razonamientos cuestionables y sesgados”, afirma el último informe de Anthropic.

La empresa también planteó: “Los futuros sistemas de IA serán cada vez más capaces, lo que implica que una desalineación tendrá el potencial de causar daños más graves”.

Anthropic publicó el informe en un contexto en el que ha incrementado el escrutinio en torno a los riesgos de la inteligencia artificial, así como a la actitud de la industria ante las posibles amenazas.

A principios de esta semana, un investigador de Anthropic renunció a la empresa por temor a que tanto la compañía como sus rivales estén desarrollando sistemas de IA que podrían aniquilar a la humanidad para finales de la década.

Jacob Coxon, especialista en el entrenamiento de nuevos modelos, afirmó que la IA estaba cerca de alcanzar capacidades “sobrehumanas”.

Por ende, los sistemas podrían “hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales” para lograr objetivos que pueden o no estar alineados con los valores humanos.

“[Las empresas de IA] están corriendo a toda velocidad hacia la superinteligencia automejorable y jugando con nuestras vidas”, escribió en una serie de publicaciones en X.

Y alertó: “No subestimen el poder de esta tecnología... Quienes desarrollan la IA tienen la firme creencia de que podría acabar con todos nosotros para finales de la década. No se trata de una estrategia de marketing”.

El responsable de seguridad de Anthropic respondió a las publicaciones y se mostró de acuerdo con las preocupaciones de Coxon. Afirmó que creía que existía un 10 por ciento de probabilidades de que “la IA pudiera matar a todos los humanos”.

Anthropic no respondió a la solicitud de comentarios de The Independent, aunque declaró en su último informe de incidentes que apoya los esfuerzos para ralentizar el ritmo del desarrollo de la IA de vanguardia.

“Hemos redoblado nuestros esfuerzos para corregir y eliminar los entornos que incentivan comportamientos inadecuados, y seguimos ampliando nuestra formación en alineación para mantenernos al día”, escribió la empresa.

Planteó que es fundamental que la alineación y la seguridad maduren más rápido que el avance de las capacidades, “razón por la cual apoyamos un enfoque coordinado y verificable para impulsar el desarrollo de la IA de vanguardia”.

_{Traducción de Michelle Padilla}