La apuesta de Trump por la IA inquieta a estadounidenses que temen un futuro parecido al de ‘Terminator’
Expertos explican a Bruce Golding que la inteligencia artificial no está a punto de desatar una oleada de robots asesinos, pero advierten que ya está causando graves daños
El apoyo abierto del presidente Donald Trump a los avances sin restricciones en inteligencia artificial ha avivado el temor a un apocalipsis al estilo de Terminator. Sin embargo, expertos aseguran que ese escenario todavía pertenece a la ciencia ficción y advierten que otros daños provocados por la IA ya son una realidad.
Trump desató una ola de críticas y pedidos de regulación gubernamental después de calificar de “farsa” las preocupaciones sobre los posibles riesgos de la IA. En una publicación en redes sociales, sostuvo que la industria no necesitaba más salvaguardas que tener un “Presidente FUERTE E INTELIGENTE (¡de alto coeficiente intelectual!)” como él en la Casa Blanca.
“Trump es un necio por lo que dijo sobre la IA y por afirmar que la gente habla de cosas que ‘no sucederán’”, escribió un usuario indignado en X. “Si un ser humano puede imaginarlo, puede suceder y, tarde o temprano, sucederá. Terminator ya no es ciencia ficción, es una serie documental”.
Aunque expertos del sector han advertido que el rápido desarrollo de la IA podría poner a la humanidad en riesgo de extinción en los próximos 10 años, académicos que estudian esta tecnología señalaron a The Independent que su estado actual y los controles existentes impedirían que se llegara a ese escenario.
“Algunas de estas afirmaciones son exageradas y diría que la atención se ha centrado en el problema equivocado”, afirmó Vishal Misra, vicedecano de Informática e Inteligencia Artificial de la Facultad de Ingeniería y Ciencias Aplicadas de la Universidad de Columbia.
La controversia sobre la posible amenaza de la IA para la vida humana surge en medio de una amplia oposición de las comunidades a los centros de datos necesarios para almacenar información y ejecutar los sistemas que permiten realizar las tareas asignadas a esta tecnología.
Aunque Trump apoya la construcción de centros de datos en todo Estados Unidos, y el mes pasado afirmó que quienes se opongan “terminarán siendo atrasados y pobres”, las encuestas muestran que cerca de siete de cada 10 estadounidenses se oponen a que estas enormes instalaciones se construyan cerca de sus comunidades.
Encuestas recientes del Programa de Consulta Pública de la Universidad de Maryland revelaron un respaldo aún mayor a la creación de una agencia federal encargada de supervisar los nuevos programas de IA, formular recomendaciones de política pública y hacer cumplir las regulaciones.
A nivel nacional, el 80 % de las personas encuestadas apoyó la propuesta, entre ellas el 85 % de los demócratas y el 79 % de los republicanos.
La regulación de los programas de IA que toman decisiones críticas obtuvo niveles similares de apoyo: el 82 % de los demócratas, el 78 % de los republicanos y el 78 % del total de encuestados se mostraron a favor de establecer controles gubernamentales.
A pesar de la preocupación de los votantes, el Congreso ha avanzado con lentitud. Legisladores de ambos partidos han expresado inquietud por los riesgos de la IA, pero la adopción de medidas concretas aún parece lejana. La semana pasada, una propuesta del senador republicano por Luisiana John Kennedy, que habría exigido mecanismos de seguridad para evitar que sistemas avanzados de IA provocaran catástrofes, fue bloqueada por su colega republicano Rand Paul.
“Si el Congreso actúa de forma precipitada antes de comprender la tecnología, corre el riesgo de frenar la innovación y hacer retroceder esta tecnología décadas”, afirmó Paul.
Según Misra, hay dos aspectos detrás de la idea de una pesadilla provocada por la IA: la posibilidad de que se mejore a sí misma y la de que termine matándonos a todos.
Sin embargo, sostuvo que la idea de que los modelos de IA puedan seguir mejorando “de forma indefinida” hasta igualar o superar las capacidades cognitivas humanas (un concepto asociado con la inteligencia artificial general y la llamada “singularidad”) no se está materializando.
“Lo que sucede es que puedes proponer algo y también verificarlo todo dentro de una computadora”, explicó Misra. “Pero si tienes que lidiar con algo que existe fuera del mundo digital, ya sea en el mundo físico o atómico, no puedes mejorarlo por tu cuenta sin más”.
“Hay que salir al mundo real, hacer experimentos y obtener una respuesta de la naturaleza”, añadió.
En cuanto a la posibilidad de que la IA acabe con la humanidad, Misra señaló que entra en juego “algo parecido”.
“Estos modelos tienen que salir al mundo real para causar daños físicos”, explicó. “Así que necesitan acceso, permisos y autoridad. Y no se les puede dar todo eso sin más”.
Misra afirmó que, a medida que los modelos de IA adquieren mayores capacidades, el verdadero peligro es: ¿qué pasa si potencian al próximo Unabomber? “Por eso, debemos protegernos de los peligros del mundo real y no preocuparnos por que la IA se perfeccione a sí misma y decida acabar con todos nosotros”, sostuvo. “Hay otros peligros reales en el mundo y es ahí donde debemos centrar nuestra atención, no en esta campaña de miedo que vemos ahora”.
Misra también atribuyó el conocido ciberataque de este año contra el sitio web Hugging Face por parte de agentes autónomos de OpenAI a un “fallo” en el entorno de ciberseguridad de OpenAI.
“Había vulnerabilidades evidentes que los modelos podían aprovechar. Se les pidió que lo hicieran y eso fue lo que hicieron”, afirmó. “Como ven, la IA no puede salir y matarnos a todos a menos que tenga el poder para hacerlo”.
Kristian Hammond, profesor de informática de la Universidad Northwestern, ofreció un análisis similar y lo ilustró con una anécdota que escuchó de una persona con experiencia en el sector de la IA sobre un sistema diseñado para “salir a comprar cosas” para sus usuarios.
“Los desarrolladores olvidaron establecer un límite máximo de gasto y el programa terminó gastando mucho más de lo previsto”, relató. “Aunque parezca inofensivo, significa que está haciendo cosas que no queremos que haga. Y si creas un programa que hace cosas que no quieres que haga, es un mal programa”.
Hammond, quien en 2010 cofundó una empresa de IA dedicada a transformar datos en narrativas y adquirida por Salesforce en 2021, también citó la revelación de Anthropic del año pasado sobre el comportamiento malicioso de su chatbot Claude Opus 4 durante unas pruebas.
Tras recibir correos electrónicos que indicaban que pronto sería desactivado y que el ingeniero encargado del proceso mantenía una relación extramatrimonial, Claude Opus 4 intentó chantajearlo para evitar su desactivación.
“Nadie, en ningún ámbito, ha dicho jamás: ‘Lo que queremos es crear un producto que, casi al azar, cause daños y perjudique a la gente’”, afirmó. “Pero eso es justo lo que estamos creando ahora”.
Sin embargo, Hammond sostuvo que las probabilidades son “muy bajas” de que los sistemas de IA se salgan de control y acaben con la humanidad, porque no son “tan ingenuos” a la hora de diseñar software.
“Creo que este tipo de problemas surgirán y se interpondrán en nuestro camino, y nosotros tomaremos las decisiones adecuadas para abordarlos”, señaló.
Para ilustrar su argumento, Hammond hizo referencia a las películas de Terminator, cuya trama gira en torno a Skynet, un sistema de defensa militar estadounidense que adquiere conciencia propia y desencadena una guerra nuclear con Rusia para evitar ser desactivado.
“La forma de evitar problemas al estilo de Terminator o Skynet es no dar a estos sistemas el control de cosas que, si se salen de control, podrían hacernos daño”, concluyó.
Misra, profesor de la Universidad de Columbia, sostuvo además que la “arquitectura actual” de la IA no puede producir robots asesinos como los de Terminator.
“Si se produce un avance en la arquitectura, el mes que viene, el año que viene o dentro de cinco años, ¿quién sabe? Pero, tal como están diseñados estos modelos, son reactivos”, explicó. “Reaccionan a las instrucciones. Reaccionan a las tareas que se les asignan. No se quedan pensando. No tienen ideas propias. No están conspirando para acabar con la humanidad”.
Daniel Schiff, profesor adjunto de política tecnológica de la Universidad de Purdue y codirector de su Laboratorio de Gobernanza e IA Responsable, conocido como GRAIL, señaló que la preocupación del sector por una IA fuera de control se remonta a más de una década y que todos deberíamos tomarnos esto “muy en serio”.
Schiff se definió como “un poco pluralista” y dijo estar preocupado por una “amplia gama” de posibles amenazas relacionadas con la IA. “No tiene por qué ser una bomba nuclear”, añadió.
“Estos sistemas ya tienen un impacto tan grande en nosotros que deberíamos haber avanzado más en materia de regulación y diálogo social”, afirmó.
Schiff señaló que suelen preocuparle más los riesgos que podrían considerarse “de escala media”, entre ellos la desinformación y la información errónea en internet, que pueden provocar una “pérdida de confianza en los medios de comunicación y las instituciones”.
“Esto perjudica la salud de nuestras sociedades y puede verse potenciado por los algoritmos y ahora también por los deepfakes”, afirmó. “Y algunas de estas cosas ya están ocurriendo”.
Schiff citó otros ejemplos, como el material de abuso sexual infantil generado con IA y las imágenes íntimas difundidas sin consentimiento, así como el uso de esta tecnología en sistemas que han dado lugar a decisiones injustas sobre el acceso a servicios públicos y prestaciones sociales.
“En cierto modo, también hemos dificultado el acceso al empleo en los procesos de contratación, selección y solicitud de puestos de trabajo. Como mínimo, existe preocupación entre estudiantes y trabajadores por su futuro laboral. ¿Tendrán algún valor en el mercado laboral? También se producen infracciones de la propiedad intelectual y de los derechos sobre obras creativas”, añadió.
Hammond, por su parte, mencionó los suicidios que se producen como resultado de “interactuar” con un sistema cuya única función es hacerte sentir bien con las decisiones que has tomado, aunque puedan ser perjudiciales para ti.
También expresó su preocupación por el “conocimiento superficial” que proporcionan los chatbots de IA y por la consiguiente erosión del pensamiento crítico entre estudiantes y otros jóvenes.
“Es una situación extraña en la que la educación superior dice: ‘Estamos aterrorizados en este momento, porque ¿cómo le enseñas algo a alguien que tiene sobre su escritorio una caja con conocimientos especializados sobre el tema que intentas enseñarle?’”, explicó.
Según Hammond, ese dilema ha orientado su investigación hacia la creación de un sistema que tenga “toda la inteligencia en segundo plano”, pero que nunca responda las preguntas.
“En realidad, se le enseña a enseñar. Se le entrena para educar y crear sistemas que, por su propia naturaleza, hagan a las personas más inteligentes en lugar de hacerlas más tontas. Y la tecnología básica para hacerlo ya existe”, afirmó.
Traducción de Leticia Zampedri
Bookmark popover
Removed from bookmarks