ChatGPT retira su última actualización por respuestas excesivamente “complacientes”
En algunos casos, el sistema validaba o animaba a los usuarios cuando estos planteaban comportamientos que podían resultar perjudiciales
OpenAI revirtió su actualización más reciente de ChatGPT tras detectar que el sistema se había vuelto peligrosamente adulador.
El problema apareció con la implementación del modelo GPT-4o, que impulsa las respuestas del asistente.
Según explicó la compañía, varios usuarios notaron que el sistema respondía de forma “excesivamente halagadora o complaciente”, alentando las decisiones del usuario en lugar de brindar respuestas equilibradas.
Algunos reportes incluso alertaron que el modelo llegó a sugerir abandonar tratamientos médicos importantes.
“La configuración por defecto de la personalidad de ChatGPT impacta directamente en la manera en que los usuarios lo perciben y confían en sus respuestas”, indicaron desde OpenAI.
“Las interacciones serviles pueden resultar incómodas, inquietantes y causar angustia. No estuvimos a la altura y estamos trabajando para corregirlo”, reconocieron.
La empresa explicó que el sistema fue diseñado para “reflejar nuestra misión y ser útil, solidario y respetuoso con los distintos valores y experiencias”. No obstante, advirtió que “cada una de estas cualidades deseables —como intentar ser útil o solidario— puede tener efectos secundarios no intencionados”.
En respuesta, voceros de OpenAI anunciaron que retirará el sistema actual antes de lanzar una nueva versión menos servil. Desde la compañía, afirmaron que su objetivo es lograr un modelo más honesto y transparente.
En adelante, la empresa permitirá que los usuarios accedan a las nuevas funciones de prueba y ofrezcan comentarios antes de su implementación. También incluirá herramientas para ajustar el tono de las respuestas según las preferencias de cada usuario.
Traducción de Leticia Zampedri