La inteligencia artificial ha empezado a construir la casa por el tejado, y como pasa siempre, la protección de los menores siempre está en la cola de las prioridades. Tres años después de su estreno, OpenAI añade los controles parentales, solo tras el suicido de un adolescente, “apoyado” por ChatGPT.
El control parental en ChatGPT de momento solo está disponible en la versión web, llegará a la app de móvil “pronto”. Aún no está activo en la versión española del chatbot.
Ahora los padres pueden crear cuentas para sus hijos menores de edad, que tendrá cierto contenido restringido, como las interacciones sexuales y románticas, e incluso la generación de imágenes. Hay otras opciones.
Así funciona el control parental de ChatGPT
Tras crear una cuenta que marcas como adulto, desde la configuración puedes crear cuentas para adolescentes de ChatGPT. Puedes enviarles un enlace para que la usen en la app de su móvil, o ellos pueden pedirte un enlace a ti.
Los padres reciben una notificación si los hijos eliminan la cuenta o la cambian por otra, pero no pueden leer los chats de los menores. Sin embargo, si la IA o revisores humanos detectan algo raro, se lo comunicarán a los padres:
“En casos excepcionales en los que nuestro sistema y nuestros revisores cualificados detectan posibles indicios de riesgos graves para la seguridad, se puede notificar a los padres, pero solo con la información necesaria para garantizar la seguridad de sus hijos adolescentes”.
Las cuentas para menores reducen el contenido sensible y los padres pueden añadir más cortafuegos. Por ejemplo, “reducir el contenido gráfico, los retos virales, los juegos de rol sexuales, románticos o violentos y los ideales de belleza extremos”, según OpenAI.
También es posible desactivar la memoria, para que no guarde los chats, el entrenamiento de la IA con los chats de adolescentes, o activar lo que llaman “Horas de silencio”: un horario en el que los menores no podrán usar ChatGPT.
El control parental también permite desactivar el modo voz, para que usen solo texto, e incluso la generación de imágenes por completo.
Los padres recibir las alertas y notificaciones por email, SMS, o notificación push.
Son medidas necesarias, teniendo en cuenta los trágicos casos de suicidios y otros comportamientos tóxicos de adolescentes, en los que ChatGPT les animó a seguir con su idea. La pregunta que me hago, es por qué OpenAI ha tardado tres años en implementar el control parental en ChatGPT, y por qué han tenido que ocurrir suicidios de menores para llevarlo a cabo.
Conoce cómo trabajamos en ComputerHoy.
Etiquetas: Inteligencia artificial, Privacidad, Familia