Le patron d’Anthropic tire la sonnette d’alarme sur les risques liés à l’intelligence artificielle de prochaine génération. Dans un essai de 38 pages intitulé The Adolescence of Technology: Confronting and Overcoming the Risks of Powerful AI, le directeur général Dario Amodei évoque un danger « réel et imminent » de dommages à l’échelle de la civilisation si des mesures rapides et structurantes ne sont pas prises.

Selon Amodei, l’humanité s’approche d’un seuil critique. Il estime que les systèmes d’IA pourraient, d’ici un à deux ans, dépasser les capacités humaines dans presque tous les domaines intellectuels. Il décrit ce basculement comme l’émergence d’un « pays de génies dans un centre de données », une métaphore pour désigner des machines capables de produire de manière autonome et continue des avancées scientifiques, industrielles ou militaires.

L’un des premiers chocs anticipés concerne l’emploi. Amodei avance que jusqu’à 50 pour cent des emplois de bureau d’entrée de gamme pourraient être perturbés ou remplacés sur un horizon de un à cinq ans. Cette transformation rapide du marché du travail risquerait de dépasser la capacité d’adaptation des systèmes économiques et sociaux actuels.

Le dirigeant s’inquiète également des implications géopolitiques. Une intelligence artificielle dotée de capacités comparables à celles d’un État pourrait, selon lui, représenter l’une des menaces de sécurité nationale les plus graves du dernier siècle. Il souligne en particulier le risque de voir ces technologies renforcer des régimes autoritaires, en facilitant la surveillance de masse et le contrôle des populations.

Les usages malveillants constituent un autre axe central de son analyse. Amodei juge que les progrès en biologie, accélérés par l’IA, augmentent le risque d’attaques d’ampleur majeure, potentiellement menées par des acteurs isolés mais capables de causer des dégâts considérables. Il n’exclut pas, à moyen terme, des scénarios impliquant des millions de victimes.

Fait plus rare dans le discours des dirigeants du secteur, Amodei pointe aussi la responsabilité des entreprises d’intelligence artificielle elles-mêmes. Il reconnaît que ces acteurs concentrent un pouvoir inédit, qu’il s’agisse de la maîtrise des infrastructures, des modèles les plus avancés ou de l’influence directe sur des centaines de millions d’utilisateurs. Cette concentration appelle, selon lui, à une surveillance accrue et à des mécanismes de gouvernance plus stricts.

Malgré la gravité de ses propos, Amodei se dit prudemment optimiste. Il estime que la transition peut être maîtrisée à condition que les gouvernements, les entreprises et les citoyens prennent pleinement la mesure des enjeux. Il appelle les dirigeants politiques et économiques, ainsi que les grandes fortunes du secteur technologique, à s’engager davantage dans la régulation et la prévention des risques.

Son message se veut volontairement percutant. Pour Amodei, l’intelligence artificielle offre un potentiel immense, mais la fascination pour ses promesses économiques pourrait conduire à minimiser ses dangers. À ses yeux, l’enjeu n’est plus de savoir si ces systèmes vont transformer le monde, mais si les sociétés humaines seront capables d’en garder le contrôle.

Source : Axios

******

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.