Anthropic dice que su modelo Claude ayuda a crear su propia próxima versión

Claude, de Anthropic, está ayudando a la empresa a desarrollar la próxima versión del modelo, informó el jueves el laboratorio de inteligencia artificial.

Claude encabeza el 26% de la investigación y desarrollo de modelos de Anthropic, lo que, según la empresa, significa que puede completar la mayor parte de una tarea determinada “de principio a fin a partir de una instrucción de alto nivel”, aunque sigue bajo supervisión humana. El modelo aún no funciona de manera completamente autónoma.

Aun así, cerca del 90% de la investigación y el desarrollo de la empresa se realiza en “colaboración” con Claude, lo que, según Anthropic, significa que el modelo puede hacer “grandes partes del trabajo bajo una estrecha dirección humana”.

El anuncio se produjo mientras algunas figuras destacadas de la IA, encabezadas en gran medida por el director general de Anthropic, Dario Amodei, piden desacelerar el desarrollo de la tecnología por preocupaciones de seguridad.

Mientras los líderes consideran moderar el ritmo del desarrollo de la IA, “deberíamos hacer todo lo posible por minimizar la brecha entre lo que saben los laboratorios de frontera y lo que sabe el público”, señaló la empresa en un blog. “Esto significa medir mejor el desarrollo de la IA, informarlo públicamente y darle a la sociedad la oportunidad de decidir cómo usar esta información”.

La empresa indicó que los modelos que aceleran su propio desarrollo podrían hacer que sea “más difícil para los humanos entender o controlar estos sistemas”. Sostuvo que compartir estas métricas podría conducir a una mejor comprensión de cuán cerca están los principales laboratorios de IA de alcanzar la auto-mejora recursiva, o la capacidad de un modelo para construir de manera autónoma a su sucesor.

Anthropic también instó a otros desarrolladores de IA a compartir métricas similares de forma regular, alentando el uso de una metodología pública para que las cifras puedan compararse con el tiempo y, potencialmente, entre laboratorios.

No estaba claro, a partir de la divulgación de Anthropic, cuán cerca cree la empresa que está de lograr la auto-mejora recursiva, pero es notable el ritmo al que Claude ha contribuido cada vez más a la investigación y el desarrollo. La porción de trabajo que Claude “encabeza”, o realiza en gran medida mientras permanece bajo supervisión humana, era nula en febrero. Seis meses después, encabezaba una cuarta parte del trabajo de investigación y desarrollo, habiendo alcanzado ese umbral en agosto.

La empresa también compartió detalles de las medidas de supervisión de agentes que tiene implementadas, y señaló que había aproximadamente 30.000 agentes realizando trabajo de investigación e ingeniería hasta agosto. Las medidas de supervisión son cruciales para ver con qué frecuencia los sistemas de monitoreo detectan el mal comportamiento de los agentes, indicó la empresa. Anthropic se comprometió recientemente a establecer evaluadores externos de terceros que estarán integrados dentro de la empresa para supervisar las tareas de seguridad.

Un investigador de Anthropic impulsó gran parte del diálogo reciente sobre la seguridad de la IA cuando renunció la semana pasada con una advertencia alarmante sobre las amenazas que la tecnología plantea para la humanidad. Desde entonces, Amodei; el director general de OpenAI, Sam Altman; Elon Musk y otros líderes tecnológicos han respaldado la idea de desacelerar el desarrollo, pero otros líderes de la industria y el presidente estadounidense Donald Trump han manifestado oposición a ello.

___

Esta historia fue traducida del inglés por un editor de AP con la ayuda de una herramienta de inteligencia artificial generativa.