Agricultor pierde 10 hectáreas de cultivos tras seguir consejos de una inteligencia artificial para cuidar su plantación

Un agricultor chino de 67 años aseguró que perdió unas 10 hectáreas de cultivos “de la noche a la mañana” después de seguir las recomendaciones de un asistente de inteligencia artificial sobre el uso de pesticidas.

El hombre, residente de Chuzhou, en la provincia de Anhui, recurría desde hacía cerca de un año a herramientas de IA para resolver dudas sobre sus cultivos, desde la planificación de las tareas hasta el uso de fertilizantes. Los buenos resultados que obtuvo al principio reforzaron su confianza en el sistema y lo llevaron a seguir sus indicaciones sin contrastarlas con otras fuentes.

El problema surgió cuando preguntó cuál era la mejor forma de controlar las malezas y las plagas en un cultivo de sésamo. El asistente le recomendó un tratamiento que terminó por destruir un extenso campo de plántulas.

Expertos agrícolas atribuyeron el daño al flufenacet, un herbicida que puede perjudicar los cultivos de sésamo si no se utiliza de forma específica y bajo las condiciones adecuadas.

Los efectos aparecieron al día siguiente. “Después de aplicar el producto, las plántulas ya estaban arruinadas”, contó el agricultor al medio taiwanés CTWANT. “Las malezas y las plántulas murieron al mismo tiempo, pero las plántulas lo hicieron incluso más rápido”.

La aplicación de inteligencia artificial que utilizó, cuyo nombre no trascendió, mostraba una advertencia en la parte superior de la pantalla: “El contenido generado por IA puede contener errores. Verifique la información”.

Avisos similares aparecen en herramientas como ChatGPT, de OpenAI, y Gemini, de Google, que alertan sobre la posibilidad de obtener respuestas incorrectas y recomiendan comprobar la información antes de tomar decisiones importantes.

Los riesgos de confiar en este tipo de respuestas sin verificarlas no se limitan a la agricultura. El año pasado, un hombre de 60 años desarrolló bromismo, una intoxicación poco frecuente causada por una exposición elevada al bromuro, después de consultar a ChatGPT sobre cuestiones relacionadas con su alimentación y salud.

El hombre buscaba eliminar la sal de mesa de su dieta y comenzó a utilizar bromuro de sodio en lugar de cloruro de sodio tras preguntar al asistente por posibles sustitutos. Después de consumir el compuesto durante tres meses, terminó hospitalizado con bromismo y síntomas de psicosis, una de las posibles manifestaciones de esta intoxicación.

El caso, publicado en Annals of Internal Medicine: Clinical Cases, llevó a sus autores a advertir sobre los riesgos de recurrir a herramientas de inteligencia artificial para tomar decisiones de salud. Según señalaron, estos sistemas “pueden contribuir al desarrollo de consecuencias adversas para la salud que podrían evitarse”.

Los investigadores también advirtieron que las aplicaciones de IA pueden ofrecer información científica incorrecta, presentar limitaciones para evaluar los resultados de forma crítica y favorecer la difusión de información errónea.

OpenAI introdujo desde entonces mejoras en ChatGPT para las consultas relacionadas con la salud. La compañía advierte que el chatbot no está diseñado para diagnosticar ni tratar enfermedades y que sus respuestas no sustituyen la atención de un profesional de la salud.

Traducción de Leticia Zampedri