Google encuentra música generada por IA de 240.000 años de antigüedad con una nueva herramienta de detección

Google presentó una nueva herramienta de detección de IA diseñada para comprobar si una imagen, texto, video o archivo de audio se creó utilizando inteligencia artificial.

SynthID Detector se basa en marcas de agua imperceptibles en contenido multimedia generado por IA. Google afirma haber añadido ya marcas de agua a más de 180.000 millones de imágenes y videos, así como a 240.000 años de contenido de audio.

La puesta en marcha de esta tecnología de detección se produce tras la condena, esta semana en Estados Unidos, de un hombre de 54 años a 18 meses de prisión por fraude en streaming asistido por inteligencia artificial.

Michael Smith, de Carolina del Norte, llevó a cabo este plan durante siete años en servicios como Apple Music y Spotify sin ser detectado, y ganó millones de dólares de las plataformas a través de cientos de miles de canciones generadas por inteligencia artificial.

El año pasado se lanzó una versión preliminar de SynthID Detector para que los profesionales de los medios la utilizaran como herramienta de verificación. La versión más reciente está disponible para que cualquier persona la use.

“A medida que las herramientas de IA mejoran y se vuelven más fáciles de usar, tener un contexto claro sobre el contenido que encuentras en línea te ayuda a tomar decisiones informadas sobre en qué confiar”, escribió Pushmeet Kohlo, vicepresidente de ciencia e iniciativas estratégicas de Google DeepMind, en una publicación de blog.

“Esta herramienta se suma a nuestras funciones de verificación integradas en la Búsqueda, la aplicación Gemini y Chrome, que actualmente gestionan regularmente más de un millón de solicitudes diarias”.

Las marcas de agua no alteran la apariencia de una imagen o video para los usuarios humanos ni afectan su calidad. Además, están diseñadas para seguir funcionando incluso después de aplicar un filtro o recortar una imagen.

Actualmente, la herramienta de detección solo funciona con contenido generado mediante las plataformas de Google, OpenAI, Nvidia, Kakao y Apple.

El lanzamiento de SynthID Detector se produce pocos días después de que OpenAI reveló una marca de agua invisible para las salidas de texto de ChatGPT.

El sistema textGrain modifica sutilmente la selección de palabras para que los usuarios humanos puedan leerlo con normalidad, pero para que los sistemas automatizados que conocen los patrones secretos puedan detectarlo.

Anthropic anunció una tecnología similar para su chatbot Claude, aunque ambas empresas advirtieron que las marcas de agua no son muy efectivas cuando un humano edita o contribuye al texto generado por la IA.

Estas herramientas surgen en respuesta a la Ley de IA de la Unión Europea, que exige que los productos de IA generativa hagan que sus resultados sean identificables por sistemas automatizados.

La herramienta de detección más reciente de Google se puede encontrar a través de su división de inteligencia artificial DeepMind.

Traducción de Olivia Gorsin