Revelan la aterradora razón por la que pedir consejos de salud a la IA podría ser peligroso

Utilizar sistemas de inteligencia artificial como ChatGPT para obtener consejos de salud podría ser increíblemente peligroso, y no solo porque estos sean erróneos, advierten los científicos.

Un nuevo estudio analiza los riesgos que plantea el enorme aumento del número de personas que recurren a los chatbots para obtener consejos de salud rápidos y siempre disponibles. Si bien señala que esto conlleva diversas ventajas, como un acceso más sencillo y una disponibilidad constante, también presenta numerosos inconvenientes.

Entre estos riesgos se incluye el hecho de que la IA generativa puede proporcionar información inexacta, y también que facilita que otros generen rápidamente información errónea personalizada y la compartan. Pero el documento advierte sobre algo que hace que estos riesgos sean especialmente preocupantes: el hecho de que estos consejos son prácticamente invisibles, incluso para las personas que deben actuar para responder a ellos.

Cuando alguien recibe consejos de IA perjudiciales, no queda constancia fuera de la plataforma, no hay dónde denunciarlo ni investigación independiente que permita medir las consecuencias. Esto puede generar problemas específicos, como cuando una persona recibe malos consejos de salud que la enferman, y los médicos no tienen forma de saber en qué consisten dichos consejos para poder tratarla.

“Recibimos consejos médicos de estos chatbots, pero nadie —literalmente nadie— los revisa. Si hay un error o un problema, simplemente no hay forma de que la gente lo sepa”, dijo Kaicheng Yang, profesor asistente de la Universidad de Binghamton y uno de los autores del artículo.

Citan el ejemplo de un hombre de 60 años que consultó con ChatGPT sobre cómo reducir el cloruro en su dieta y la herramienta le aconsejó usar bromuro de sodio en lugar de sal común. Sufrió alucinaciones y paranoia, y fue hospitalizado por intoxicación con bromuro.

Pero como el consejo lo daba un chatbot, los médicos no tenían forma de ver lo que se le había dicho al paciente, lo que dificultaba saber cómo tratarlo. “Los daños no solo son posibles, sino que están estructuralmente ocultos para los médicos, investigadores y reguladores que, de otro modo, podrían detectarlos y corregirlos”, afirman los autores.

La conocida tendencia de los chatbots a difundir información errónea también implica que cualquier afirmación falsa puede propagarse por Internet. Los usuarios pueden encontrarse con ellos en las redes sociales, por ejemplo, sin necesidad de buscar información sobre salud.

El artículo propone diversas soluciones posibles al problema, basadas en una mayor transparencia y responsabilidad por parte de las empresas de IA. Recomiendan que dichas empresas permitan a los usuarios acceder a sus conversaciones sobre salud para que puedan compartirlas con profesionales médicos y que desarrollen mejores mecanismos para identificar, denunciar e investigar las recomendaciones de salud.

También sugieren que los políticos deberían exigir mayor responsabilidad a las empresas de IA por sus resultados. Deberían estar sujetas al mismo tipo de responsabilidad por negligencia médica que afecta a los médicos, por ejemplo.

Esto podría ser necesario porque es improbable que las empresas tomen tales medidas por sí mismas, advierten los autores. “No creemos que debamos confiar en que las empresas lo hagan, ya que su incentivo siempre es ganar más dinero”, afirmó Yang.

“Construir un sistema así va en contra de ese incentivo. Por lo tanto, necesitamos algún tipo de práctica de monitoreo externo, una evaluación independiente”, añadió.

Este trabajo se recoge en un nuevo artículo titulado ‘The invisible risks of AI-generated health information’ (Los riesgos invisibles de la información sanitaria generada por IA), publicado en la revista Nature Health.

Traducción de Sara Pignatiello