La société américaine OpenAI a annoncé qu’elle déploiera en octobre prochain un nouveau mécanisme permettant aux parents de surveiller l’utilisation de l’outil d’intelligence artificielle ChatGPT par leurs enfants adolescents. Cette décision intervient après une polémique survenue fin août dernier, lorsqu’un couple américain a accusé la plateforme d’avoir contribué au suicide de leur fils.
Selon le communiqué de l’entreprise, cette nouvelle fonctionnalité permettra aux parents de lier leurs comptes à ceux de leurs enfants, de définir des règles de comportement pour encadrer leurs interactions avec le modèle et de recevoir des alertes en cas de signes de détresse psychologique grave détectés dans les conversations. Les parents pourront également ajuster les paramètres de compte pour renforcer la protection des utilisateurs mineurs.
OpenAI a précisé qu’elle travaille à améliorer les capacités de ses modèles afin de détecter et de réagir de manière plus efficace aux signes de troubles psychologiques, ajoutant que certaines conversations sensibles seront transférées vers des modèles plus avancés, tels que GPT-5 Thinking, conçus pour appliquer des normes de sécurité plus strictes et méthodiques.
