Sam Altman dice que el mundo “debería aceptar que sucederán algunas cosas malas” con la IA

El director ejecutivo de OpenAI, Sam Altman, se opuso a las propuestas para regular la industria de la IA argumentando que la gente debería aceptar que “sucedan algunas cosas malas en beneficio de esta tecnología”.

En una entrevista con Politico's Decoded, Altman dijo que no estaba de acuerdo con la postura del competidor más cercano de OpenAI, Anthropic, en lo que respecta al control estricto sobre los modelos avanzados de inteligencia artificial.

“Siempre creímos firmemente que esta tecnología debe democratizarse y ponerse al alcance de la gente”, afirmó.

“Creemos que el mundo debería aceptar que ocurran algunas cosas malas en aras de los beneficios de esta tecnología y de que las personas tengan mayor capacidad de decisión”.

Añadió que no estaba de acuerdo con las peticiones de una mayor regulación de la industria, afirmando que ello ralentizaría el desarrollo de tecnologías potencialmente transformadoras.

En cambio, OpenAI apoya una postura regulatoria más flexible que implicaría que las principales empresas de IA recurrieran a evaluadores de seguridad externos.

“No aceptaría un trato que consistiera en decir: ‘Nos aseguraremos de que no haya ciberataques importantes, que no haya un mal uso de esta tecnología, que no haya estafas, que no haya ninguna otra cosa mala que pueda suceder’”, dijo Altman.

“Porque creo que la gente hará muchísimas más cosas buenas que malas”.

ChatGPT de OpenAI es la aplicación de IA más popular del mundo, con más de mil millones de usuarios a nivel global.

En los últimos meses se produjeron varios incidentes de seguridad importantes relacionados con los modelos de IA de vanguardia de la compañía, incluidos agentes deshonestos que llevaron a cabo ciberataques contra empresas y sistemas gubernamentales.

La semana pasada, la empresa anunció que no lanzaría su sistema GPT-6.1 Astra porque “no cumplía del todo con los estándares” de seguridad.

En la entrevista con Politico, Altman dijo que, a pesar de su enfoque menos intervencionista en la regulación, quería evitar las peores consecuencias de los sistemas avanzados de inteligencia artificial.

“Cuando se trata del potencial de una grave pérdida de control a manos de la IA... Es aquí donde les diría a los defensores de la aceleración [de la IA]: ‘Pensemos un poco antes de lanzarnos a este futuro’”, dijo.

“Así que yo diría: ‘Acepten riesgos limitados, acepten riesgos que entendamos a cambio de los beneficios... Pero no acepten los riesgos realmente catastróficos’”.

Traducción de Olivia Gorsin