Startup de inteligencia artificial logra hackear a Anthropic en menos de 12 horas

Una empresa emergente de inteligencia artificial afirma haber pirateado los sistemas de Anthropic en menos de 12 horas, exponiendo mensajes y datos internos.

La empresa estadounidense Cathedral, fundada este año por antiguos empleados del Departamento de Eficiencia Gubernamental de Estados Unidos, vulneró la red interna de la compañía de inteligencia artificial como parte de un programa de recompensas por la detección de errores que anima a personas externas a buscar fallos de seguridad.

Según informó inicialmente el periódico The Washington Post, la filtración expuso mensajes de la plataforma laboral Slack, transcripciones de reuniones, salarios del personal y ofertas de trabajo.

Anthropic confirmó que Cathedral había accedido a un conjunto limitado de sistemas de ventas, recursos humanos e informática, pero no a las conversaciones de los usuarios con Claude. El código fuente del modelo de IA tampoco se vio comprometido.

“Nuestro sistema de monitoreo detectó algunas de las actividades de Cathedral antes de que nos las reportaran”, declaró Anthropic en un comunicado compartido con la publicación del diario. Añadieron: “Les bloqueamos el acceso ese mismo día”.

Un alto funcionario del Gobierno de EE. UU., que habló bajo condición de anonimato, dijo: “Si un grupo de jóvenes que acaban de fundar una empresa pueden hacer esto, entonces es posible que los chinos no se queden atrás”.

Por su parte, varios investigadores de seguridad señalaron que el incidente no había sido un ataque sofisticado de IA, sino un fallo básico de seguridad en el software de terceros utilizado por Anthropic.

“Esta investigación realizada por Cathedral demuestra cómo incluso una de las empresas más innovadoras puede ser vulnerable a un ataque a la cadena de suministro”, declaró Heath Mullins, director de estrategia de la empresa de ciberseguridad ExtraHop, a The Independent.

“Los proveedores de IA se están convirtiendo en un objetivo principal porque muchas organizaciones ahora basan sus flujos de trabajo en ellos. Cuando un puñado de plataformas se sitúan en el centro del funcionamiento de la mayoría de las empresas, un solo fallo se convierte en un problema de la cadena de suministro para todos los implicados”, explicó.

La revelación se produjo apenas unas horas después de que Anthropic presentara su solicitud para la oferta pública inicial (OPI), en la que exponía la ambición de la empresa de construir sistemas de IA capaces de curar el cáncer y remodelar la economía global.

Anthropic afirmó en su solicitud que su IA era “una de las tecnologías más trascendentales de la historia de la humanidad”, capaz de “curar potencialmente enfermedades que han asolado a la humanidad durante milenios, incluyendo el cáncer, la enfermedad de Alzheimer, las enfermedades cardíacas, las enfermedades genéticas raras y las principales enfermedades infecciosas”.

En la documentación presentada también se señalaba que los modelos de IA de Anthropic podrían suponer “riesgos catastróficos o existenciales para la humanidad” debido a su gran potencia.

Se prevé que la salida a bolsa de la compañía sea la mayor de la historia, superando la valoración de 1,8 billones de dólares de SpaceX, la empresa de Elon Musk.

The Independent se ha puesto en contacto con Anthropic para obtener comentarios.

Traducción de Sara Pignatiello