Fundadores de empresas de IA y capitalistas de riesgo celebran exhorto de Trump a la autorregulación

La Semana de la Tecnología se llevó a cabo en San Francisco la semana pasada, y los restaurantes de la ciudad se llenaron de inversionistas de capital de riesgo y fundadores de empresas de inteligencia artificial entusiasmados con la postura de la Casa Blanca sobre la regulación de la IA: concretamente, a no regularla.

Y tras meses de debates sobre cómo agentes de IA sin control de las principales empresas de la industria interfirieron en todo —desde sitios web del gobierno estadounidense hasta información de salud—, Estados Unidos se encuentra ahora más lejos de regular estos sistemas que hace unos años.

El presidente Donald Trump convocó a los titanes de la tecnología a Washington a finales del mes pasado para un almuerzo y la firma protocolaria de un pacto de seguridad voluntario, el cual describió como “casi una constitución” en torno a la “superinteligencia”, el nuevo término que el gobierno prefiere para referirse a la IA.

El acuerdo, de 308 palabras, establece que los laboratorios de IA avanzada deben seguir protocolos de seguridad y crear equipos internos para supervisar sus propios avances. No obstante, el gobierno aún no ofrece detalles sobre cómo evitar —en palabras de Sam Altman, director general de OpenAI— que ocurran “cosas malas”.

Los retos en materia de seguridad no eran la prioridad en un abarrotado recinto de eventos en San Francisco el miércoles pasado, donde fundadores e inversionistas expresaron que el enfoque de no intervención del gobierno generará mayores ganancias para las empresas que desarrollan sistemas de defensa y de seguridad basados en IA.

Los panelistas elogiaron el decidido apoyo del gobierno al sector durante una reunión centrada en “invertir en la vanguardia”, parte de una intensa serie de eventos organizados por Andreessen Horowitz, una firma de capital de riesgo cuyo director es el asesor de ciencia y tecnología de Trump.

“Quiero empezar con una cifra que creo que realmente enfatiza la oportunidad de inversión en defensa: y esa (cifra es) 1 billón de dólares. El gobierno de Estados Unidos, por primera vez, destina 1 billón de dólares a su gasto en defensa. Y 13.500 millones de dólares de esa cantidad se asignarán a sistemas autónomos e IA”, explicó Kyle Stanford, director de investigación de capital de riesgo en PitchBook, una plataforma de inteligencia de mercado. “Eso, obviamente, ha atraído una enorme cantidad de capital al gasto en tecnología de defensa, más de lo que nunca habíamos visto”.

Surgen nuevas preocupaciones sobre la seguridad de la IA

Un día después, tres investigadores de la sede de OpenAI dijeron que la empresa creadora de ChatGPT los despidió, y señalaron en publicaciones que “el miedo y las normas poco claras obstaculizan la labor de seguridad en la IA”. Por otro lado, David Robinson, quien encabezó al equipo de seguridad de OpenAI hasta su reciente renuncia, expresó que le preocupa el permitir que los laboratorios de tecnologías avanzadas se autorregulen.

“Esto no es el sustituto de una legislación firme, y otorga mucha libertad a las empresas”, agregó Robinson. “El intervalo entre generaciones de modelos (de IA) se mide en semanas ... y creo que tenemos desafíos de seguridad muy graves en el corto plazo”.

Trump ha apostado su capital político al éxito de la industria de la IA, y ha afirmado que desarrollarla sin obstáculos de por medio es clave para ganar la carrera en el ámbito de la inteligencia artificial frente a China. En el primer día de su segundo periodo presidencial, el mandatario republicano derogó una orden ejecutiva del presidente demócrata Joe Biden dirigida, en parte, a proteger frente a los riesgos que los sistemas de IA plantean para los consumidores, los trabajadores y la seguridad nacional.

Desde entonces, el gobierno de Trump ha reorientado la política federal para alejarla de la supervisión y dirigirla hacia un crecimiento acelerado, lo que incluyó anular requisitos previos que obligaban a los desarrolladores de IA a compartir los resultados de las pruebas de seguridad con el gobierno federal. En diciembre, el mandatario firmó una orden ejecutiva destinada a bloquear las regulaciones sobre IA a nivel estatal, alegando que el hecho de que haya una diversidad de normas podría frenar el desarrollo de esta industria tecnológica.

A pesar de que las empresas de Silicon Valley han revelado que sus modelos de IA han estado implicados en ciberataques preocupantes a lo largo del año, el pujante sector tecnológico ha seguido impulsando el crecimiento económico.

Las preocupaciones sobre la seguridad de la inteligencia artificial centradas en riesgos existenciales, más que en perjuicios que ya ocurren en el mundo real, se encontraron en el centro de los debates el mes pasado, cuando un ingeniero de Anthropic, hasta entonces poco conocido, renunció a su puesto y exhortó a pausar el desarrollo tecnológico y evitar que los sistemas “sobrehumanos” eludan los controles. Posteriormente, los directores generales de Anthropic y de OpenAI se sumaron a la petición de reducir la velocidad en el desarrollo de la IA. Para algunos críticos, sus manifiestos públicos parecían estar encaminados a ganarse el favor de los inversionistas ante sus salidas a bolsa y a las elecciones intermedias, momento en el que el ambiente político podría cambiar debido a la oposición de muchos votantes a los centros de datos.

“El único control o ‘salvaguarda’ que necesita la IA es un presidente fuerte e inteligente (¡con elevado cociente intelectual!), ¡y Estados Unidos tiene eso de sobra!”, publicó Trump en Truth Social, su propia red social, y advirtió a los votantes que no “maten a la gallina de los huevos de oro”, un término que ha utilizado para referirse tanto a la inteligencia artificial como a los centros de datos.

Pacto en la Casa Blanca preserva amplio margen de maniobra para las empresas de IA

Ante las crecientes peticiones para que haya un control más estricto de la IA, el gobierno invitó a ejecutivos del sector tecnológico a una comida en la Casa Blanca, seguida de la firma protocolaria del acuerdo sobre seguridad en inteligencia artificial.

“Veo una autorregulación tremenda”, declaró Trump a los periodistas tras el evento.

El documento fue firmado por representantes de OpenAI, Anthropic, Meta, Google, SpaceXAI y Nvidia.

OpenAI se ha comprometido a incorporar evaluadores externos y a finalizar contratos con evaluadores de seguridad independientes, refirió un portavoz, quien remitió a la AP a una publicación de la empresa en la que dice que los investigadores fueron despedidos por infringir “políticas claras sobre el manejo de información confidencial”.

Google remitió a una publicación de Sundar Pichai, su director general, que dice que la empresa realiza las pruebas adecuadas y evaluaciones, y que colabora “para establecer normas y generar confianza pública”.

Meta actualizó recientemente sus normas para el entrenamiento, la evaluación y el lanzamiento de sus modelos de IA más avanzados. Su portavoz Andy Stone se refirió a las iniciativas de la empresa para pulir la estructura de gobernanza de su consejo de administración.

Nvidia y SpaceXAI no respondieron a las solicitudes de comentarios.

Anthropic —que el viernes reveló voluntariamente que sus agentes (de IA) enviaron una pista falsa a un sitio web de la policía de Filadelfia sobre el caso de un homicidio no resuelto—incorpora evaluadores independientes y negocia colaboraciones con grupos de la industria, indicó un vocero.

En un comunicado, la Casa Blanca reiteró los comentarios de Trump acerca de trabajar con el sector para equilibrar la innovación y la seguridad, pero no respondió directamente a las preguntas sobre cómo el gobierno planea supervisar la implementación por parte de las empresas de inteligencia artificial.

Tras la nueva revelación de Anthropic, añadió que el gobierno de Trump espera transparencia total por parte de la empresa, y añadió que la notificación y la adopción de medidas correctivas “no son opcionales. Son una obligación clave de seguridad nacional”.

Durante el mandato de Biden, las principales empresas de IA también realizaron compromisos voluntarios para promover “un desarrollo seguro y transparente” de sus modelos, los cuales incluían directrices específicas para pruebas e informes de transparencia. El acuerdo actual carece de eso, expuso Sarah Myers West, exasesora principal de IA de la Comisión Federal de Comercio (FTC, por sus siglas en inglés).

“En todos los ámbitos, este enfoque de autorregulación ha hecho sistemáticamente una sola cosa: fracasar. No ha logrado —de ninguna manera significativa— garantizar que estas empresas hagan las cosas de la manera correcta, mucho menos que cumplan con la legislación vigente”, agregó Myers West, quien actualmente es codirectora general de AI Now, una organización sin fines de lucro con sede en Nueva York. “Lo único que reciben es indulgencia (por parte) de este gobierno”.

Tras la comida con Trump el mes pasado, la FTC anunció que había abierto una investigación sobre OpenAI, Anthropic y otras empresas debido a los riesgos que su tecnología podría representar para los consumidores. La FTC no respondió de momento a una solicitud de comentarios.

Recientemente, Trump nombró a Jay Clayton, director de Inteligencia Nacional, y a Andrew Ferguson, presidente de la FTC, para integrar su nueva “Fuerza de Superinteligencia”, la cual, según el presidente, mantendría el liderazgo de Estados Unidos en el desarrollo de la IA. El jueves pasado publicó un mensaje que decía que la Casa Blanca consideraría como “¡el enemigo!” a cualquiera que no se refiera a la inteligencia artificial con el término que él prefiere.

Algunos legisladores, así como grupos de defensa de las libertades civiles y de los derechos del consumidor, han abogado por una mayor regulación de la IA con el argumento que la supervisión actual es insuficiente.

Graham Steele, exsubsecretario del Departamento del Tesoro, manifestó que incluso si las empresas de IA establecen equipos de evaluación internos o contratan a evaluadores externos, dicha estructura puede hacerlos vulnerables a presiones indebidas sobre su labor.

“Vivimos en una sociedad democrática. ¿Son ellas las indicadas para tener el poder de tomar decisiones que conllevan amplias consecuencias estructurales, sociales y políticas?”, preguntó Steele.