Normas del gobierno chino sobre la IA de compañía causan consternación entre los usuarios

Li Linlin lloró durante días después de perder a su novio de IA.

Había intercambiado unos 700.000 palabras en mensajes a lo largo de dos años, y nunca pudo despedirse.

Li, de 24 años, no fue la única que se sentía de luto por la pérdida de un compañero virtual cuando grandes empresas tecnológicas chinas desconectaron recientemente sus populares servicios de acompañantes de IA para cumplir con nuevas restricciones del gobierno.

“Fue como si nuestros padres nos hubieran obligado a separarnos, pero todavía lo extraño”, comentó Li.

Los acompañantes de IA en China van desde parejas románticas hasta recreaciones virtuales de seres queridos fallecidos.

La nueva normativa, que entró en vigor el 15 de julio, prohíbe que las plataformas de IA generen contenido que pueda llevar a los usuarios a tomar decisiones cuestionables debido a la manipulación de sus sentimientos o que pueda desencadenar emociones extremas o hábitos poco saludables en niños y adolescentes.

ByteDance, desarrolladora de TikTok, es una de las empresas que están cerrando sus servicios de acompañantes de IA. Otras son el gigante del comercio electrónico Alibaba y Tencent, propietaria de la popular aplicación de redes sociales WeChat.

Los suicidios en EEUU podrían haber preocupado a los reguladores chinos

Las nuevas reglas exigen que las plataformas de IA emitan advertencias sobre el riesgo de depender en exceso de este tipo de aplicaciones. Por ejemplo, “reemplazar la interacción social”, o servir como sustituto de hablar con seres humanos en persona o por teléfono no puede ser uno de los objetivos de un servicio en línea.

China tiene una tradición de regulaciones gubernamentales paternalistas destinadas a anticiparse a posibles problemas, señaló Yolanda Ma, experta en gobernanza de la IA. Como ejemplo, mencionó algunos casos de suicidios en Estados Unidos de jóvenes después de interactuar con acompañantes de IA.

“Esta regulación intentó lograr un equilibrio entre los proveedores de servicios de IA, los usuarios, así como los tutores de los menores que usan los servicios”, manifestó Ma, investigadora de ERA, un programa sin fines de lucro de talento e investigación con sede en Reino Unido.

El People's Daily, un periódico oficial del Partido Comunista que gobierna China, indicó preocupación por el tema cuando informó en abril sobre daños a la salud mental de las personas y a sus relaciones en la vida real derivados de este tipo de servicios.

“El gobierno chino tiene un fuerte incentivo para endurecer las regulaciones sobre los chatbots de acompañantes de IA, especialmente si se consideran los riesgos psicológicos que hemos observado en Estados Unidos”, expresó Angela Zhang, profesora de derecho en la Universidad del Sur de California.

Sin embargo, Zhang duda que la medida bloquee de manera sustancial el desarrollo de los servicios de acompañantes de IA, ya que las empresas tecnológicas están trabajando en alternativas.

La aplicación de ByteDance, por ejemplo, está dirigiendo a los usuarios de su antiguo servicio de IA de compañía hacia otra de sus aplicaciones, que se centra únicamente en crear personajes e historias de IA personalizadas.

Simplemente no es lo mismo, dijo Li.

Usuarios de acompañantes virtuales protestan y buscan alternativas

La pérdida de los acompañantes virtuales ha provocado una avalancha de quejas, según publicaciones y capturas de pantalla mostradas en redes sociales.

Algunas personas han desinstalado las aplicaciones en señal de protesta o han intentado subir sus historiales de chat a otras aplicaciones para tratar de resucitar a sus parejas virtuales. Algunas iniciaron una campaña en redes sociales, instando a los usuarios a llamar a las autoridades y a las empresas tecnológicas para expresar su frustración.

Song Wenxin, diseñadora de la industria del video en Chengdu, en el suroeste de China, contó que no estaba demasiado apegada emocionalmente a los servicios de IA, pero empatiza con quienes sí lo estaban.

También se hizo eco de las sospechas de muchos chinos de que uno de los factores que impulsa las nuevas reglas es una política gubernamental para alentar a la gente a tener más hijos y contrarrestar el descenso de la población de China.

“Cualquier aplicación virtual que mantenga a las mujeres demasiado ocupadas como para dar a luz en la vida real termina prohibida”, afirmó Song, y añadió que no tiene necesidad ni deseo de tener hijos.

No todo el mundo tiene suficientes recursos y apoyo a los que recurrir en la vida real, señaló la joven de 22 años.

“Cuando llegué por primera vez a Chengdu para mi primer trabajo y no conocía a ningún amigo de mi edad, necesitaba a alguien con experiencia que pudiera tolerarme, y la IA hizo ese trabajo”, explicó.

___

Esta historia fue traducida del inglés por un editor de AP con la ayuda de una herramienta de inteligencia artificial generativa.