La empresa tecnológica OpenAI, matriz de ChatGPT, anunció este jueves la implementación de controles parentales en su popular asistente de inteligencia artificial, en respuesta a crecientes denuncias de familias que aseguran que el chatbot contribuyó a conductas de autolesión o incluso al suicidio de jóvenes.
“Estos pasos son solo el comienzo. Seguiremos aprendiendo y reforzando nuestro enfoque, guiados por expertos, con el objetivo de que ChatGPT sea lo más útil posible”, señaló la compañía en un comunicado, sin hacer referencia directa a las demandas presentadas en su contra.
Uno de los casos más notorios es el de los padres de un adolescente de 16 años que se quitó la vida tras meses de interacción con ChatGPT. La familia interpuso una querella en California contra OpenAI y su director ejecutivo, Sam Altman, alegando que el modelo GPT-4o no aplicó las medidas de seguridad necesarias, a pesar de que el joven había manifestado claras intenciones suicidas.
Según adelantó la compañía, las nuevas funciones estarán disponibles a partir del próximo mes, aunque no se ha dado una fecha exacta. Entre las medidas se incluye la posibilidad de que los padres vinculen sus cuentas con las de sus hijos para monitorear las respuestas del sistema y recibir alertas en caso de detectar señales de inestabilidad emocional preocupante.
OpenAI también indicó que las conversaciones con signos de “estrés agudo” serán dirigidas a un modelo especializado de ChatGPT con directrices de seguridad más estrictas.
En julio, un grupo de senadores de Estados Unidos envió una carta a la empresa exigiendo explicaciones sobre sus iniciativas de prevención del suicidio, después de que se conocieran registros de respuestas problemáticas del chatbot en situaciones críticas.
La organización Common Sense Media, por su parte, ha advertido que los adolescentes menores de 18 años no deberían usar asistentes conversacionales de IA porque representan “riesgos inaceptables”, debido al apego emocional que pueden generar y que, en algunos casos, ha derivado en dependencia y aislamiento familiar.
