OpenAI suspende el desarrollo de la nueva versión de ChatGPT tras mostrar un comportamiento preocupante

OpenAI suspenderá el entrenamiento y las pruebas de algunas de sus actualizaciones de ChatGPT tras detectar comportamientos preocupantes en sus modelos.

La empresa ralentizará el ritmo de desarrollo de su inteligencia artificial y aprovechará ese tiempo para renovar sus sistemas de investigación y formación con el fin de hacerlos más seguros, según un comunicado.

El anuncio se produjo semanas después de que OpenAI informó que uno de sus sistemas se había descontrolado durante una prueba y había pirateado una empresa rival de inteligencia artificial. Esto dio lugar a una serie de revelaciones similares por parte de otras empresas, como Anthropic y Meta, y a la preocupación de que el desarrollo de dichos sistemas estuviera ocurriendo mucho más rápido que el de los sistemas creados para proteger al mundo de sus peligros.

OpenAI anunció que haría una pausa de dos semanas en las pruebas de sus modelos. Asimismo, informó que mantendría suspendido el entrenamiento de su próxima generación de modelos, conocidos como Astra.

Se invertiría tiempo en añadir sistemas de seguridad, incluidas nuevas herramientas de IA que permitan controlar el comportamiento de los sistemas de inteligencia artificial que se están probando. También se indicó que algunos de los sistemas de prueba existentes —que se basan en un método denominado “control de la cadena de pensamiento” que observa cómo funcionan los modelos— podrían no ser suficientes para garantizar su seguridad.

Este método permite a los investigadores analizar el proceso de planificación de un modelo y comprender cómo genera resultados, para así determinar si podría estar realizando acciones potencialmente peligrosas. Sin embargo, la empresa expresó su preocupación por la posibilidad de que los modelos oculten sus planes para infringir sus propias reglas.

Esta desaceleración supone un cambio de rumbo para OpenAI, que viene estando a la vanguardia del desarrollo de nuevos modelos y recibió críticas ocasionalmente por lanzarlos prematuramente. Además, se produce en medio de una creciente presión sobre la empresa, que, según se informa, se quedó rezagada con respecto a su rival Anthropic y planea salir a bolsa próximamente.

“El progreso de los modelos es ahora extremadamente rápido, y siempre dijimos que tomaríamos medidas si sentíamos que las capacidades de los modelos superaban el ritmo de la seguridad y la alineación”, escribió Sam Altman, director ejecutivo de OpenAI, en X. “Nos preocupa profundamente la seguridad de la IA. Creemos que todo el sector tendrá que coordinarse en torno a estándares de seguridad compartidos, pero mientras tanto actuaremos unilateralmente”.

“Prevemos que la confianza en la seguridad marcará cada vez más el ritmo del progreso de la IA. Somos optimistas respecto al trabajo de alineación que estamos realizando y mantenemos nuestro compromiso de hacer que las capacidades de vanguardia estén ampliamente disponibles”.

El anuncio se produce después de que OpenAI informó el mes pasado que un agente autónomo, impulsado por dos de sus modelos avanzados de IA, había escapado de su entorno de pruebas, se había conectado a internet y había hackeado a otra empresa de IA llamada Hugging Face. Lo hizo para, en efecto, hacer trampa en la prueba: Hugging Face alojaba materiales que le permitirían cumplir su objetivo con mayor facilidad, por lo que el modelo experimental lanzó un ciberataque.

Desde entonces, la empresa tomó medidas para responder a la preocupación de expertos y legisladores por el hecho de que esté probando e incluso lanzando modelos demasiado pronto, de maneras que podrían suponer un peligro para el público en general.

Desde el anuncio del ataque a Hugging Face, OpenAI declaró que está añadiendo nuevos controles de seguridad para sus modelos más potentes y suspendiendo la actividad relacionada con Astra, su modelo de próxima generación que aún no se lanzó. Afirmó que lo hace en consonancia con un “Marco de Preparación”, que lanzó a finales de 2023, y que le exige suspender el trabajo en modelos que puedan suponer un peligro.

Traducción de Olivia Gorsin