À première vue, la scène a de quoi surprendre. Un prêtre catholique, installé au cœur de la Silicon Valley, participe à la réflexion éthique d’Anthropic, l’entreprise derrière l’assistant Claude. Pourtant, le parcours du père Brendan McGuire explique en partie cette rencontre entre foi, technologie et intelligence artificielle.

Selon un portrait publié récemment par l’Observer, Brendan McGuire n’est pas un religieux arrivé de l’extérieur pour commenter le secteur technologique. Avant d’entrer dans les ordres, il a travaillé dans l’industrie, avec une formation en ingénierie et en logiciels, puis une expérience de direction dans l’univers des technologies. Aujourd’hui, il est curé de la paroisse St. Simon à Los Altos, en Californie, une région où vivent et travaillent de nombreux chercheurs et dirigeants de l’industrie numérique.

Son apport à Anthropic s’inscrit dans le travail mené autour de la “constitution” de Claude, le document qui encadre les grands principes de comportement du modèle. Sur son site officiel, Anthropic présente ce texte comme le socle de valeurs destiné à rendre Claude à la fois utile, honnête, prudent et aligné sur des principes éthiques. L’entreprise précise que plusieurs personnes ont contribué à ce document, sous la direction principale d’Amanda Askell.

Le rôle de Brendan McGuire, tel que rapporté par l’Observer, a été d’apporter une perspective théologique et morale sur la manière de rendre l’outil plus apte au discernement. L’idée n’est pas de prêter une âme à la machine, mais plutôt de réfléchir à la façon dont un système d’IA peut être orienté vers des comportements jugés responsables. McGuire estime que sans cette direction morale, ces outils risquent surtout de reproduire, sans filtre, le meilleur comme le pire des comportements humains.

Cette collaboration ne semble pas être un geste isolé. Le Washington Post rapporte qu’Anthropic a réuni en mars dernier une quinzaine de responsables chrétiens, catholiques et protestants, pour discuter de questions morales liées à Claude. Les échanges ont porté sur des sujets sensibles, notamment la souffrance, le deuil, l’autodestruction et la valeur spirituelle que certains pourraient être tentés d’attribuer à des systèmes conversationnels très avancés.

Ce dialogue montre surtout une chose : les entreprises de l’IA cherchent désormais leurs repères bien au-delà du cercle des ingénieurs. En sollicitant des universitaires, des philosophes et même des figures religieuses, Anthropic reconnaît que la construction d’un assistant conversationnel ne relève plus seulement de la performance technique. Il s’agit aussi d’un choix de société, avec des arbitrages sur ce qu’une machine devrait ou ne devrait pas faire.

Reste une question de fond. Peut-on réellement intégrer une forme de conscience morale dans un système statistique ? Anthropic parle plutôt de principes, de hiérarchies de valeurs et de garde-fous. Le père Brendan McGuire, lui, semble y voir une occasion rare : tenter d’influencer la fabrication de ces outils avant qu’ils ne s’imposent partout. Dans une industrie souvent accusée d’avancer plus vite que sa réflexion éthique, la présence d’un prêtre autour de la table agit presque comme un symptôme de l’époque.

Source : Observer, Washington Post

******

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.