Le partenariat annoncé entre ROOST et Mila arrive à un moment où la sécurité de l’intelligence artificielle devient un sujet de politique publique autant qu’un enjeu technologique. Dévoilée aujourd’hui à Paris à la suite d’une signature effectuée dans le cadre de la réunion des ministres du Numérique du G7, cette collaboration vise à développer des outils de sécurité de l’IA à code source ouvert, en commençant par la protection des jeunes dans les environnements d’IA conversationnelle.

L’annonce est importante parce qu’elle touche à un angle mort de l’IA générative. Les jeunes utilisent de plus en plus les agents conversationnels pour apprendre, s’informer, se divertir, mais aussi parfois pour chercher de l’écoute ou du soutien émotionnel. Or, les mécanismes de modération actuels restent souvent conçus pour repérer des contenus explicites ou des violations évidentes. Ils sont moins bien adaptés aux échanges plus subtils, où le risque se construit dans la durée, par le ton, la dépendance émotionnelle ou la dynamique de conversation.

ROOST et Mila veulent donc travailler sur des outils capables d’aider les développeurs à repérer des situations problématiques dans les conversations entre jeunes et systèmes d’IA. Les premiers travaux porteront sur des mécanismes de protection destinés à reconnaître certains signaux de détresse ou d’interactions dangereuses, afin de favoriser une orientation vers du soutien approprié. L’objectif n’est pas de remplacer les professionnels, ni de transformer les systèmes d’IA en intervenants humains, mais de mieux outiller les plateformes pour éviter que leurs agents conversationnels aggravent des situations sensibles.

Le choix du code source ouvert est au cœur de l’annonce. ROOST, pour Robust Open Online Safety Tools, défend l’idée que les outils de sécurité numérique ne devraient pas être réservés aux grandes plateformes capables de financer leurs propres équipes et leurs propres infrastructures. En rendant ces outils ouverts, vérifiables et adaptables, l’organisme veut permettre à des acteurs plus petits, des chercheurs, des développeurs indépendants ou des organisations de la société civile, d’accéder à une infrastructure de sécurité commune.

Pour Mila, ce partenariat s’inscrit dans une trajectoire déjà amorcée. L’institut québécois d’intelligence artificielle a lancé en octobre 2025 son Studio de sécurité en IA, avec une première initiative consacrée aux risques associés aux grands modèles de langage dans des contextes de détresse psychologique. En mars 2026, Mila a aussi organisé un hackathon national consacré à la sécurité de l’IA conversationnelle pour les jeunes. Le partenariat avec ROOST donne maintenant à ces travaux un cadre international et une logique de diffusion plus large.

L’annonce s’inscrit aussi dans le contexte politique du G7. Sous présidence française, la protection des mineurs en ligne faisait partie des priorités du volet numérique, aux côtés de l’IA sécuritaire, de l’innovation ouverte et de la transition numérique responsable. Les ministres du G7 ont d’ailleurs adopté une approche commune sur la protection des enfants et des adolescents en ligne. Le partenariat entre ROOST et Mila s’insère donc dans une tendance plus large : les gouvernements ne veulent plus seulement discuter des risques de l’IA, ils cherchent des mécanismes concrets pour les réduire.

Reste toutefois une question essentielle : comment rendre ces outils réellement efficaces, sans créer une nouvelle couche de surveillance opaque ? L’ouverture du code peut aider, puisqu’elle permet l’audit, la critique et l’amélioration collective. Mais elle ne règle pas tout. La sécurité des jeunes dans les environnements d’IA conversationnelle exigera aussi des données de qualité, des évaluations indépendantes, une attention aux différences culturelles et linguistiques, ainsi qu’une réflexion sérieuse sur la vie privée.

La suite du partenariat devrait dépasser la seule question de la résilience des jeunes. ROOST et Mila évoquent déjà d’autres champs où les outils ouverts demeurent limités, notamment la lutte contre l’extrémisme violent et la détection de nouveaux contenus d’exploitation sexuelle des mineurs. Ces sujets sont délicats, mais ils montrent bien l’ambition du projet : construire une infrastructure de sécurité commune pour l’ère de l’IA, plutôt que laisser chaque plateforme bricoler ses propres réponses derrière des portes closes.

Pour le Québec, cette annonce confirme aussi le rôle particulier de Mila dans les débats internationaux sur l’IA responsable. L’institut montréalais ne se positionne pas seulement comme un centre de recherche en apprentissage profond, mais comme un acteur capable de contribuer à des solutions concrètes en matière de sécurité. Dans un secteur où la confiance du public demeure fragile, cette dimension pourrait devenir aussi stratégique que la performance des modèles eux-mêmes.

*****

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.