OpenAI vient d’annoncer une série de mesures destinées à encadrer l’usage de ChatGPT par les adolescents âgés de 13 à 18 ans. L’entreprise déploie à l’échelle mondiale des outils permettant aux parents, et dans certains cas aux forces de l’ordre, d’être alertés si un jeune utilise le robot conversationnel pour discuter de suicide ou d’automutilation.

Concrètement, lorsqu’un message préoccupant est détecté, il est transmis à une équipe de modérateurs humains qui peut décider d’avertir les parents par courriel, SMS ou notification dans l’application. Les alertes devraient arriver dans un délai de quelques heures, un délai qu’OpenAI s’engage à réduire. Ces messages ne contiennent pas de citations exactes des échanges, mais signalent un risque potentiel et proposent des conseils de communication rédigés par des experts en santé mentale.

Pour activer ces protections, parents et adolescents doivent lier leurs comptes, une démarche qui nécessite le consentement du jeune. Une fois activées, les restrictions incluent un filtrage du contenu jugé inapproprié ( défis viraux dangereux, discussions sexuelles ou violentes, représentations extrêmes de la beauté ) ainsi que la possibilité pour les parents de définir des plages horaires d’utilisation de l’outil.

Les responsables d’OpenAI précisent que la confidentialité des adolescents demeure une priorité et que seules des informations générales seront partagées avec les parents. Dans les cas jugés critiques, notamment si les parents restent injoignables, OpenAI se réserve la possibilité de contacter directement les autorités.

Ces annonces surviennent dans un contexte sensible : l’entreprise fait face à une poursuite intentée par des parents qui estiment que ChatGPT aurait contribué au suicide de leur enfant. Le sujet de la responsabilité des robots conversationnels face aux usages à risque est désormais scruté de près par les régulateurs et par l’opinion publique.

Au-delà de la sécurité, ces nouvelles fonctions soulèvent aussi la question de l’équilibre entre encadrement parental et autonomie numérique des adolescents. Certains spécialistes estiment que ces outils pourraient encourager un dialogue plus ouvert entre jeunes et adultes, tandis que d’autres craignent qu’un excès de surveillance nuise à la confiance et incite les ados à chercher des solutions moins encadrées en ligne.

D’autres entreprises d’intelligence artificielle, comme Character.ai, ont déjà mis en place des mesures similaires après des drames comparables. Tout porte à croire que les contrôles parentaux vont devenir un standard dans le secteur, même si OpenAI souligne que ces garde-fous restent imparfaits et peuvent être contournés.

Source : OpenAI

++++

Tous les jours de la semaine, du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.