Deloitte épinglé en Australie pour usage maladroit d’une IA dans un rapport gouvernemental

Le géant du conseil Deloitte est contraint de rembourser une partie des 440 000 dollars australiens facturés au gouvernement pour un rapport entaché d’erreurs produites par intelligence artificielle. Commandé par le Département de l’Emploi et des Relations professionnelles, le document devait évaluer le système informatique de sanctions appliquées aux demandeurs d’emploi dans le cadre du programme Future Made in Australia.

Publié en juillet, le rapport contenait de multiples références inventées : des citations judiciaires inexistantes, des articles scientifiques fictifs et même un jugement de la Cour fédérale totalement fabriqué. Ces anomalies ont été découvertes par le chercheur australien Chris Rudge, de l’Université de Sydney, qui a dénoncé un texte « plein d’hallucinations », terme utilisé pour décrire la tendance de certains modèles d’IA à générer de fausses informations pour combler des lacunes.

Sous la pression médiatique, Deloitte a reconnu avoir utilisé Azure OpenAI GPT-4o dans les premières étapes de rédaction. L’entreprise affirme toutefois que cette utilisation « n’a eu aucun impact sur le contenu substantiel, les conclusions ou les recommandations » du rapport, et précise que le texte final a été revu par des experts humains. Une version corrigée, publiée vendredi, a retiré plus d’une douzaine de fausses références et précisé la méthodologie.

Le gouvernement australien a confirmé qu’un remboursement partiel est en cours, correspondant au dernier versement du contrat. La sénatrice Barbara Pocock, du parti des Verts, estime toutefois que Deloitte devrait rembourser la totalité de la somme, jugeant qu’« un cabinet de cette taille ne peut pas se permettre les mêmes erreurs qu’un étudiant de première année ».

L’affaire survient au moment où Deloitte renforce son virage vers l’intelligence artificielle : la firme vient tout juste de signer un accord majeur avec Anthropic pour déployer le robot conversationnel Claude auprès de ses 450 000 employés dans le monde. Cette coïncidence n’a pas échappé aux observateurs, certains y voyant le symbole d’une dépendance grandissante des grandes firmes à l’IA… y compris lorsqu’elle les met en difficulté.

Ce scandale met aussi en lumière les limites de la relecture humaine dans les processus de production automatisée. Malgré les vérifications internes annoncées par Deloitte, le rapport final est parvenu jusqu’à la publication officielle avec des erreurs graves de droit et de méthodologie. Pour plusieurs experts en gouvernance numérique, cet épisode illustre les risques d’une utilisation précipitée de l’IA générative dans des contextes où la véracité et la fiabilité sont non négociables.

Et cette affaire pourrait avoir un effet durable sur la régulation des marchés publics. Le Département australien de l’Emploi a indiqué qu’il envisage désormais d’imposer des clauses spécifiques sur l’usage de l’IA dans les contrats de consultation. Une mesure qui pourrait inspirer d’autres gouvernements, soucieux de s’assurer que les consultants humains, et non les algorithmes, assument pleinement la responsabilité des analyses livrées aux institutions publiques.

Source : ndtv

+++

Tous les jours de la semaine, du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech


En savoir plus sur Mon Carnet

Subscribe to get the latest posts sent to your email.

Laisser un commentaire