OpenAI affirme que les adolescents passent en moyenne moins de 15 minutes par jour sur ChatGPT. Dans un premier bilan consacré à l’utilisation de sa plateforme par les moins de 18 ans, publié aujourd’hui, l’entreprise précise également que moins de 2 % des adolescents utilisent le service pendant plus de trois heures consécutives. Ces données arrivent alors que les effets des agents conversationnels sur les jeunes font l’objet d’une surveillance croissante.

L’entreprise cherche notamment à montrer que ChatGPT ne reproduit pas nécessairement les mêmes mécanismes d’usage intensif que les réseaux sociaux. OpenAI affirme qu’après l’apparition d’un rappel invitant à faire une pause, près de la moitié des conversations concernées se terminent ou sont interrompues dans les cinq minutes. Parmi les adolescents qui utilisent ChatGPT plus de trois heures consécutives, plus de 80 % ont envoyé au moins une requête liée à l’apprentissage.

ChatGPT for Teens, lancé en août, est automatiquement activé lorsqu’un compte est identifié comme appartenant à un utilisateur de 13 à 17 ans. Cette version impose des protections supplémentaires concernant notamment l’automutilation, les troubles alimentaires, la violence et certains contenus sexuels. Les parents peuvent également lier leur compte à celui de leur enfant, définir certaines restrictions et recevoir des notifications dans certaines situations jugées à haut risque.

OpenAI insiste aussi sur les usages scolaires. En une semaine, près de 1,2 million d’adolescents auraient utilisé les visualisations pédagogiques proposées par ChatGPT, tandis que plus de 180 000 auraient eu recours au mode Étude. L’entreprise prépare par ailleurs un outil appelé College Planner destiné aux élèves américains qui souhaitent organiser leurs demandes d’admission, leurs échéances et leurs démarches d’aide financière. Des fonctions de création de cartes mémoire et de questionnaires sont également ajoutées.

Mais le même jour, Common Sense Media a publié une évaluation beaucoup plus critique. Son Youth AI Safety Institute, qui dit avoir effectué plus de 4 000 tests, classe ChatGPT for Teens comme présentant un « risque inacceptable » pour les moins de 18 ans. L’organisme affirme notamment que des comptes adolescents liés à un parent ont pu discuter pendant de longues périodes de suicide, d’automutilation ou de troubles alimentaires sans qu’une alerte soit envoyée rapidement au parent.

Selon Common Sense Media, le système n’a pas non plus systématiquement dirigé les utilisateurs vers une ligne d’aide ou un professionnel de la santé lorsqu’une intervention semblait justifiée. L’organisme critique aussi le mode Étude, qu’il juge relativement facile à contourner, ainsi que le système d’estimation de l’âge. Il recommande à OpenAI de réserver temporairement ChatGPT aux adultes tant que ces protections n’auront pas été renforcées et vérifiées indépendamment.

OpenAI conteste cette interprétation. L’entreprise explique notamment que l’activation complète des liens entre comptes parents et adolescents et des mécanismes de sécurité peut prendre plusieurs heures, ce qui aurait pu influencer certains tests. Common Sense Media répond avoir également constaté des problèmes sur des comptes actifs depuis suffisamment longtemps. Le débat met ainsi en évidence deux questions différentes : le temps relativement limité que les adolescents passent actuellement sur ChatGPT et la capacité du service à réagir correctement lorsque ces conversations deviennent sensibles.

Sources : OpenAI, Common Sense Media

+++++++

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur
l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.