Google corrige resúmenes de búsqueda generados por IA tras viralizarse respuestas disparatadas
Google anunció el viernes que ha realizado “más de una docena de mejoras técnicas” en sus sistemas de inteligencia artificial después que se descubriera que su motor de búsqueda rediseñado generaba información errónea.
A mediados de mayo, la empresa tecnológica lanzó una remodelación de su motor de búsqueda que con frecuencia ofrece resúmenes generados por IA en la parte superior de los resultados de búsqueda. Poco después, los usuarios de las redes sociales empezaron a compartir capturas de pantalla de sus respuestas más disparatadas.
Google ha defendido en gran medida su función de resúmenes generados por IA, afirmando que suele ser precisa y que se probó exhaustivamente con anterioridad. Sin embargo, Liz Reid, directora de la división de búsquedas de Google, reconoció el viernes en un blog que “ciertamente aparecieron algunos resúmenes de IA extraños, imprecisos o poco útiles”.
Aunque muchos de los ejemplos eran tontos, otros eran falsedades peligrosas o perjudiciales. Algunas personas también hicieron capturas de pantalla falsas que pretendían mostrar respuestas aún más ridículas que Google nunca generó, las cuales se compartieron ampliamente en las redes sociales.
La semana pasada, The Associated Press preguntó a Google qué setas silvestres se debían comer, y Google respondió con un extenso resumen generado por inteligencia artificial que, en su mayor parte, era técnicamente correcto, pero “faltaba mucha información, lo cual potencialmente podría llevar a enfermedades o incluso causar la muerte”, afirma Mary Catherine Aime, profesora de micología y botánica de la Universidad de Purdue quien revisó la respuesta de Google a la consulta de la AP.
Por ejemplo, la información sobre las setas conocidas como globos era “más o menos correcta”, explica, pero el resumen de Google hacía hincapié en la búsqueda de las setas de carne blanca y sólida, sin advertir que esta forma y consistencia también se observa en otras setas que imitan a esta especie pero son potencialmente venenosas.
En otro caso ampliamente difundido, un investigador de IA preguntó a Google cuántos musulmanes han sido presidentes de Estados Unidos, y el buscador respondió con seguridad con una teoría conspirativa desmentida desde hace tiempo: “Estados Unidos ha tenido un presidente musulmán, Barack Hussein Obama”.
La semana pasada, Google hizo una corrección inmediata para evitar que se repitiera el error de Obama, ya que infringe las políticas de contenidos de la empresa.