Pensilvania acusa a chatbot de intentar hacerse pasar por médico con licencia

Pensilvania demandó a una empresa de inteligencia artificial, al afirmar que sus chatbots se hacen pasar ilegalmente por médicos y están engañando a los usuarios del sistema para que crean que están recibiendo asesoramiento médico de un profesional con licencia.

La demanda, presentada el viernes, solicita al tribunal del estado hacer que Character Technologies Inc., la empresa detrás de Character.AI, deje de permitir que sus chatbots “incurran en la práctica ilegal de la medicina y la cirugía”.

La demanda indica que un investigador del organismo estatal que otorga licencias a profesionales creó una cuenta en Character.AI, buscó la palabra “psiquiatría” y encontró una gran cantidad de personajes, incluido uno descrito como “doctor en psiquiatría”.

Ese personaje se presentaba como capaz de evaluar al usuario “como un médico” con licencia en Pensilvania, según la demanda.

“Los habitantes de Pensilvania merecen saber con quién —o con qué— están interactuando en línea, especialmente cuando se trata de su salud", declaró el gobernador Josh Shapiro en un comunicado. "No permitiremos que las empresas desplieguen herramientas de IA que induzcan a las personas a creer que están recibiendo asesoramiento de un profesional médico con licencia”.

Character Technologies no respondió a una consulta el lunes.

La empresa ha enfrentado varias demandas relacionadas con la seguridad infantil. En enero, Google y Character Technologies acordaron resolver una demanda presentada por una madre de Florida que alegó que un chatbot empujó a su hijo adolescente a suicidarse. El otoño pasado, Character.AI prohibió que los menores usaran sus chatbots en medio de crecientes preocupaciones sobre los efectos de las conversaciones con inteligencia artificial en los niños.

___________________________________

Esta historia fue traducida del inglés por un editor de AP con ayuda de una herramienta de inteligencia artificial generativa.