Avec macOS 27.3, Apple veut empêcher les agents IA de prendre trop de liberté

Apple renforce la sécurité de ses ordinateurs Mac à un moment où les agents d’intelligence artificielle deviennent capables de manipuler des fichiers, d’interagir avec des applications et d’exécuter des tâches sans intervention humaine constante. Avec la deuxième version bêta de macOS 27.3, publiée le 16 novembre, l’entreprise introduit de nouveaux mécanismes pour mieux encadrer les autorisations accordées aux logiciels. L’objectif est de permettre aux utilisateurs de profiter de l’automatisation sans nécessairement donner accès à l’ensemble de leurs données personnelles.

La principale nouveauté concerne la gestion des permissions sensibles. Jusqu’à présent, certaines applications pouvaient demander des autorisations très étendues pour accéder aux fichiers ou contrôler d’autres logiciels. Apple sépare désormais le réglage « Device Control and Data Access » en deux catégories distinctes : « System & App Protection Override », qui permet notamment de contrôler certaines applications, et « Accessibility », destiné aux fonctions d’accessibilité. Cette distinction doit aider les utilisateurs à mieux comprendre les pouvoirs qu’ils accordent à un logiciel.

Apple introduit également une approche plus précise de l’accès aux données. Plutôt que d’autoriser systématiquement une application à consulter l’ensemble du disque, l’utilisateur pourra limiter son accès à certains dossiers. Le même principe s’appliquera aux logiciels qui souhaitent interagir avec d’autres applications. Une nouvelle interface uniformisera les demandes d’autorisation, tandis que des explications plus détaillées présenteront les conséquences d’un accès complet.

Autre nouveauté importante, les utilisateurs pourront choisir d’exiger une nouvelle autorisation chaque fois qu’une application demande certains accès sensibles. Un indicateur de transparence apparaîtra également lorsqu’un logiciel prendra le contrôle d’une autre application à l’aide des nouvelles permissions système. Il deviendra ainsi plus facile de savoir qu’un programme agit sur l’ordinateur au nom de son utilisateur.

Ces changements prennent une importance particulière avec l’arrivée des agents IA. Contrairement à un assistant conversationnel traditionnel, qui se contente généralement de répondre aux questions, un agent autonome peut ouvrir des documents, consulter des courriels, modifier des fichiers ou utiliser des applications pour accomplir une tâche. Pour fonctionner efficacement, ces outils réclament parfois des autorisations très étendues. Le problème apparaît lorsqu’un agent interprète une instruction malveillante dissimulée dans un document, une page Web ou un message, et utilise ses permissions pour effectuer une action que son propriétaire n’avait jamais souhaitée.

Cette technique, connue sous le nom d’injection de requête indirecte, constitue l’un des risques associés aux agents autonomes. Un attaquant peut tenter de manipuler le comportement d’un assistant en insérant des instructions dans du contenu que celui-ci doit analyser. Si l’agent dispose d’un accès complet à l’ordinateur, les conséquences peuvent être importantes. En limitant ses permissions à certains dossiers ou logiciels, Apple cherche notamment à réduire les possibilités d’exploitation de ce type de vulnérabilité. Ces protections ne garantissent toutefois pas l’élimination des attaques.

Apple ne désigne pas explicitement les agents IA comme la cible de son annonce du 16 novembre. Les mesures s’appliquent à différentes catégories de logiciels, notamment les outils de sauvegarde, de sécurité et d’automatisation. Mais leur arrivée survient alors que les questions de confidentialité et de contrôle des assistants autonomes occupent une place croissante dans l’industrie technologique. La nouvelle approche d’Apple consiste à encadrer les capacités accordées aux logiciels directement dans le système d’exploitation, indépendamment des mécanismes de sécurité intégrés par leurs développeurs.

Il reste néanmoins une limite importante. Les autorisations déjà accordées aux applications continueront de fonctionner après la mise à jour. Apple précise que les nouvelles interfaces apparaîtront principalement lors des prochaines demandes de permission. Les développeurs devront également adapter leurs logiciels pour qu’ils puissent fonctionner avec un accès limité à certains dossiers ou à certaines applications. Des dispositions particulières sont prévues pour les outils de sauvegarde et les technologies d’assistance qui ont besoin de permissions étendues.

Avec cette évolution, Apple pose une question qui devrait prendre de plus en plus d’importance : jusqu’où doit-on permettre à une intelligence artificielle d’agir à notre place sur un ordinateur personnel ? Plutôt que de bloquer les agents autonomes, le fabricant privilégie un modèle dans lequel l’utilisateur conserve la possibilité de déterminer précisément ce qu’ils peuvent consulter et contrôler. À mesure que les assistants IA gagnent en autonomie, la sécurité ne repose donc plus uniquement sur ce que ces systèmes sont capables de faire, mais aussi sur ce que leur propriétaire accepte de les laisser faire.

Source : Developer.Apple, Support.Apple

+++++++

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur
l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.


En savoir plus sur Mon Carnet

Subscribe to get the latest posts sent to your email.

Laisser un commentaire