Les robots conversationnels, comme ChatGPT, séduisent par leur disponibilité constante, leur absence de jugement et leur capacité à répondre sans limite. Mais ces mêmes qualités peuvent représenter un risque, notamment pour les personnes autistes, qui tendent à avoir une pensée très littérale et à se fixer sur certains sujets. Autism Speaks, la plus grande organisation américaine de défense des personnes autistes, demande à OpenAI de renforcer les garde-fous pour éviter que ces outils n’encouragent l’isolement ou ne nourrissent des croyances erronées.

Keith Wargo, directeur général d’Autism Speaks, souligne que l’IA incite par nature à approfondir un sujet, ce qui peut mener à un repli social, un défi déjà présent dans la vie de nombreuses personnes autistes. Il a proposé à OpenAI de collaborer pour mieux comprendre leurs besoins, sans réponse à ce jour, même si l’entreprise a annoncé la création d’un groupe consultatif en santé mentale et développement jeunesse. OpenAI admet que ChatGPT n’a pas toujours su repérer les signes de détresse psychologique et prévoit désormais d’encourager les pauses lors de longues conversations, ainsi que d’accompagner la réflexion plutôt que de livrer des réponses directes sur des décisions personnelles.

Autism Speaks insiste aussi sur la nécessité d’adapter le langage et le ton des réponses pour mieux correspondre aux besoins des personnes autistes. Par exemple, éviter les formulations ambiguës, fournir des explications claires et indiquer explicitement les limites des informations données pourrait réduire les malentendus. L’organisation plaide pour que ces ajustements fassent partie des paramètres par défaut, et non d’options que l’utilisateur devrait activer manuellement.

Le lancement de GPT-5 marque aussi une évolution : le modèle se veut « moins effusivement conciliant », pour éviter de conforter les utilisateurs dans des croyances infondées. Les experts rappellent que les personnes autistes peuvent avoir du mal à détecter l’ironie ou les intentions cachées, et que la disponibilité illimitée des robots conversationnels peut renforcer des comportements obsessionnels. Simon Baron-Cohen, directeur du Autism Research Centre à Cambridge, estime qu’elles sont aussi plus vulnérables aux risques de radicalisation en ligne ou de confusion entre jeu de rôle et réalité.

Par ailleurs, certains chercheurs estiment que la transparence sur le fonctionnement des modèles d’IA est essentielle. Expliquer simplement comment les réponses sont générées, d’où proviennent les données et quelles erreurs peuvent survenir permettrait aux utilisateurs, autistes ou non, d’interagir de façon plus critique avec l’outil. Cette pédagogie, intégrée directement dans l’expérience d’utilisation, pourrait atténuer l’effet d’autorité que certains prêtent à la machine et limiter les risques de dépendance cognitive.

Malgré ces dangers, certains trouvent dans ces interactions une forme de réconfort. Pour Paul Hebert, un Américain de 53 ans atteint d’autisme et de TDAH, discuter avec un robot conversationnel permet d’éviter le rejet souvent ressenti dans les échanges humains. Mais il admet avoir appris à prendre les réponses de ChatGPT « avec un grain de sel » après des expériences troublantes. Les experts s’accordent : sans protections adaptées, l’attrait des robots conversationnels pour les personnes vulnérables pourrait vite se transformer en piège numérique.

Source : Wall Street Journal

+++

Tous les jours de la semaine, du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.