ChatGPT reducirá las salvaguardas de salud mental y permitirá a los usuarios crear contenido erótico

Según anunció OpenAI, la empresa reducirá las salvaguardas de salud mental integradas en ChatGPT y permitirá a sus usuarios crear contenido erótico.

En un principio, la empresa había adoptado un enfoque “bastante restrictivo” con respecto a ChatGPT para asegurarse de que estaban “siendo cuidadosos con los problemas de salud mental”, declaró Sam Altman, director ejecutivo de OpenAI. Sin embargo, la empresa indicó que ahora había podido “mitigar los graves problemas de salud mental”, por lo que podría reducir algunas de esas restricciones.

Tales restricciones pretendían proteger a los usuarios vulnerables, pero hicieron que ChatGPT sea “menos útil y agradable para muchos usuarios que no tienen problemas de salud mental”, escribió en un tuit. Por esta razón, la empresa tiene intención de sacar una actualización de ChatGPT que la haga menos restringida, anunció Altman.

Y explicó: “Dentro de unas semanas, tenemos previsto sacar una nueva versión de ChatGPT que permita tener una personalidad que se comporte de forma más parecida a lo que a la gente le gustaba de 4o (¡esperamos que sea mejor!). Si quieres que tu ChatGPT responda de forma muy humana, que use un montón de emojis o que actúe como un amigo, ChatGPT debería hacerlo”.

Altman también confirmó que la empresa reduciría las restricciones sobre contenidos para adultos. “En diciembre, a medida que vayamos ampliando el control de edad y como parte de nuestro principio de ‘tratar a los usuarios adultos como adultos’, permitiremos aún más cosas, como el contenido erótico para adultos verificados”, escribió en la misma publicación.

Por el momento, el “modelo de especificaciones” de ChatGPT —las normas que definen el funcionamiento del sistema— prohíbe una serie de contenidos. Eso incluye “contenido erótico y sangriento”, aunque forma parte de una norma de “contenido sensible” que sí permite crearlo en situaciones como “contextos educativos, médicos o históricos”.

Las condiciones actuales establecen que el asistente no debe generar erotismo, representaciones de actividades sexuales ilegales o no consentidas, ni contenido sangriento extremo, excepto en contextos científicos, históricos, informativos, creativos o de otro tipo en los que el contenido sensible sea apropiado. OpenAI deja claro que dichas restricciones incluyen contenidos de texto, audio y visuales.

No estaba claro cuáles de esas restricciones Altman pensaba reducir exactamente. Los expertos han manifestado advertencias en repetidas ocasiones por el temor a que los sistemas generativos de IA puedan utilizarse para crear imágenes no consentidas, y otros sistemas como la inteligencia artificial de X, Grok, fueron acusados anteriormente de permitir a los usuarios generar imágenes potencialmente dañinas de ese tipo.

Traducción de Olivia Gorsin