Furor por las caricaturas con IA: ¿por qué conviene pensarlo dos veces?

Están por todas partes estos días: caricaturas que exageran rasgos, intereses y experiencias, creadas con inteligencia artificial. Son divertidas, sí, pero también recuerdan cuánto aprenden sobre nosotros estos sistemas.

Hacer una es simple: basta con abrir ChatGPT u otro chatbot, subir una foto nítida y pedir “Crea una caricatura mía con esta imagen y todo lo que sabes sobre mí”. Además, se pueden sumar detalles sobre el trabajo o el estilo de vida para orientar el resultado. Así, en cuestión de segundos, la imagen queda lista para descargar y compartir.

Millones ya lo hicieron, impulsados por la viralidad en redes y los picos de uso registrados. Sin embargo, si todavía no te “caricaturizaste”, quizá valga la pena pensarlo un momento antes de sumarte.

Una de las críticas más recurrentes apunta al impacto ambiental. Como sucede con cualquier herramienta basada en inteligencia artificial —y, en general, con toda tecnología que depende de centros de datos—, generar una imagen con ChatGPT implica un consumo de energía y de agua destinada a la refrigeración de los sistemas. En el caso de las imágenes, el proceso demanda más recursos que otras funciones, por lo que el consumo es aún mayor.

Ahora bien, lo mismo ocurre con cualquier otro uso de la inteligencia artificial. Si bien el debate sobre cómo emplear estas tecnologías de manera ética sigue abierto —y en gran medida depende de una decisión personal—, no hay evidencia de que sumarse a la tendencia de las caricaturas sea particularmente más perjudicial para el medioambiente que utilizar IA para cualquier otra tarea.

Pero más allá de lo lúdico, estas caricaturas digitales también despiertan inquietudes concretas sobre la privacidad. Crear una versión animada de uno mismo no es un gesto inocente: implica entregar a la inteligencia artificial datos de alto valor, como una imagen en primer plano del rostro y detalles personales sobre la propia vida. Y eso abre varias preguntas. 

La primera tiene que ver con el corazón mismo de estos sistemas: funcionan a partir de datos. Los modelos de lenguaje y otras herramientas de IA son tan eficaces como la información que reciben y, por eso, las empresas tienen incentivos evidentes para recolectar la mayor cantidad posible. Cada vez que alguien sube una foto, está aportando nuevos insumos que podrían utilizarse de formas que ni siquiera imagina.

Si alguna de esas fotos pasa a integrar el material con el que se entrenan los sistemas de inteligencia artificial, borrarla después puede convertirse en una tarea casi imposible. Y lo más inquietante es que probablemente el usuario jamás se enteraría. La imagen quedaría allí, incorporada a una base de datos que, en teoría, podría utilizar su información personal para crear nuevas imágenes o textos en manos de alguien desconocido, alguien a quien nunca verá ni sabrá quién es.

La segunda fuente de preocupación es tan vieja como el propio internet, pero hoy cobra un nuevo impulso: la publicidad. Durante décadas, la recolección masiva de datos para segmentar anuncios ha sido uno de los grandes motores del negocio digital.

open image in gallery

La publicidad empieza a asomarse en el mundo de los chatbots.  OpenAI anunció que desde esta semana ChatGPT comenzará a incorporar anuncios, un giro que marca un antes y un después para la plataforma. Hasta ahora, la publicidad no era un terreno tan evidente para las empresas que desarrollan sistemas de inteligencia artificial, pero el escenario empieza a cambiar.  Cuantos más datos acumulen, más precisos y rentables podrán ser esos anuncios.

Esa lógica ya se refleja en las imágenes que circulan en redes sociales. Muchas caricaturas muestran a las personas en su entorno laboral, practicando un hobby o rodeadas de elementos que describen su estilo de vida.  El chatbot integra esos detalles porque los obtuvo en interacciones previas con el usuario. 

Esa “memoria” también tiene ventajas, ya que permite que el usuario no tenga que explicar quién es cada vez que interactúa con el sistema. De hecho, OpenAI impulsó esa idea con un resumen anual que mostraba qué tipo de usuario eras y qué información habías compartido. En su política de privacidad, la compañía señala que recopila datos para “comunicarse contigo” y “responder a tus preguntas”, además de prevenir fraudes o usos indebidos.

El problema es que esos mismos datos pueden utilizarse con fines menos transparentes, como la publicidad. También pueden reutilizarse para “mejorar y desarrollar” el sistema, es decir, para seguir entrenándolo. Y ahí aparece la gran incógnita: no hay una forma clara de saber qué ocurrirá con esa información en el futuro. Como sucede con buena parte de la inteligencia artificial, ni siquiera la propia empresa puede anticipar con precisión cómo podría terminar utilizándose. 

Como sucede con tantos servicios digitales, la clave parece estar en el equilibrio entre confianza y prudencia. Usar las plataformas en las que confías, pero sin bajar la guardia y cuidando qué tipo de información compartes. 

Al final, es una decisión personal: definir si te sientes cómodo con que tus datos se utilicen para entrenar los sistemas de inteligencia artificial del futuro, que podrían aplicarse tanto en ámbitos profundamente personales como en otros más fríos e impersonales.

Traducción de Leticia Zampedri