Mark Zuckerberg aborda el pánico por los peligros de la IA, y lanza advertencia a compañías rivales

El director ejecutivo de Meta, Mark Zuckerberg, se ha pronunciado públicamente sobre el creciente pánico ante la posibilidad de una inteligencia artificial asesina, desmarcándose de otras empresas y pareciendo lanzar una advertencia a sus rivales.

En los últimos días ha crecido el pánico ante los peligros de la IA, después de que un antiguo investigador de Anthropic declarara haber renunciado a su trabajo debido a los riesgos de esta tecnología. Esto ha generado una preocupación generalizada sobre la amenaza que representan los sistemas de inteligencia artificial.

Cada vez más, los líderes de las empresas de IA parecen respaldar las peticiones de ralentizar el ritmo de desarrollo de la tecnología para que los desarrolladores puedan dedicar más tiempo a garantizar la seguridad de los sistemas. Esto ha generado sugerencias, incluso entre algunos ejecutivos, de que los gobiernos podrían verse obligados a supervisar a estas empresas para asegurar que ninguna avance a pasos agigantados y ponga en peligro al mundo.

Sin embargo, en sus primeras declaraciones importantes desde que comenzó la polémica, Zuckerberg pareció sugerir que la industria de la IA tenía motivos suficientes para garantizar por su cuenta que su tecnología se desarrollara de forma segura. Advirtió que cualquier empresa que no lo hiciera podría enfrentarse a una responsabilidad legal “significativa” si se descubriera que sus sistemas no son seguros.

Sus declaraciones se producen tres días después de que el director ejecutivo de Anthropic, Dario Amodei, instara a las empresas de IA a reducir el ritmo al que mejoran las capacidades de sus modelos, tras las advertencias de riesgo existencial emitidas por varios investigadores.

Sam Altman, director ejecutivo de la empresa rival OpenAI, y Elon Musk, jefe de xAI, respaldaron públicamente la propuesta de Amodei en cuestión de horas.

El lunes, el presidente de Estados Unidos, Donald Trump, restó importancia a las preocupaciones sobre el potencial de la IA para causar daño, afirmando que el país ya contaba con salvaguardias para esta tecnología y que China se beneficiaría de las dudas que se generaran sobre su desarrollo. La opinión de que las regulaciones perjudicarán la capacidad de las empresas estadounidenses para competir con sus homólogas chinas es compartida por ejecutivos del sector tecnológico, incluido el director ejecutivo de Nvidia, Jensen Huang.

“La confianza y la alineación se están convirtiendo rápidamente en las capacidades más importantes que diferenciarán a los agentes y los modelos”, declaró Zuckerberg el martes, y añadió: “Cualquier laboratorio que no se centre en la alineación se quedará atrás”.

El martes, Zuckerberg también afirmó que los laboratorios tecnológicos tenían un fuerte incentivo para evitar que sus modelos causen daños, ya que de lo contrario se enfrentarían a una responsabilidad legal “significativa”. Mencionó que Meta había retrasado el lanzamiento de su agente de IA Muse a principios de este año para reforzar su seguridad.

“No exigimos a los demás que hicieran esto antes de hacerlo nosotros. Simplemente, lo hicimos como parte de nuestro trabajo diario porque era claramente lo correcto para la gente y para nosotros”, dijo.

Mientras que Amodei abogó por una desaceleración generalizada en la industria de la auto-mejora recursiva (la capacidad de la IA para mejorarse a sí misma), Zuckerberg afirmó que Meta ya había destinado la “mayoría significativa” de su capacidad de procesamiento a la creación de productos que satisfacen las necesidades inmediatas de los usuarios, en lugar de perseguir sistemas de IA de auto-mejora.

Zuckerberg también dijo que Meta Superintelligence Labs, su división de IA, ya contrataba evaluadores independientes en varias áreas; calificó esta medida de “buena práctica de la industria” y afirmó que “otros laboratorios también [podían] hacer esto”.

El empeño de Zuckerberg por posicionar a Meta como un actor responsable en materia de seguridad de la IA se produce semanas después de que la compañía acordara pagar hasta 18.000 millones de dólares para resolver las demandas presentadas por estados de EE. UU. que alegaban que había diseñado Facebook e Instagram para crear adicción en los niños, aunque sin admitir haber cometido ninguna irregularidad.

Para aumentar la incertidumbre en torno a cualquier enfoque coordinado por parte de las empresas de IA, el presidente de la FTC (Comisión Federal de Comercio de EE. UU.), Andrew Ferguson, dijo el martes que todos deberían desconfiar profundamente de las empresas de IA que buscan exenciones antimonopolio mientras presionan para que se implementen nuevas regulaciones.

Si bien Ferguson no mencionó a Anthropic por su nombre, Amodei solicitó la semana pasada autorización antimonopolio para permitir que sus rivales coordinaran un ritmo más lento en el desarrollo de la IA debido a preocupaciones de seguridad.

Informes adicionales de agencias

Traducción de Sara Pignatiello