Des agents IA qui négocient entre eux, s'organisent, s'enchaînent en pipelines complexes sans intervention humaine à chaque étape : ce n'est plus un scénario de science-fiction, c'est la trajectoire actuelle du secteur. Et c'est précisément là que le bât blesse. Dès lors que des millions d'agents autonomes, créés par des entreprises différentes, poursuivant des objectifs différents, opèrent dans des espaces numériques partagés, les risques d'interactions imprévues explosent. Google DeepMind, en coalition avec Schmidt Sciences, la Cooperative AI Foundation, l'ARIA britannique et Google.org, vient d'annoncer un fonds de recherche pouvant atteindre 10 millions de dollars pour commencer à cartographier ces risques.
Pourquoi les systèmes multi-agents posent un problème spécifique
La sécurité de l'IA a longtemps été pensée à l'échelle d'un modèle unique : comment s'assurer qu'un LLM ne produit pas de contenu dangereux, ne se laisse pas manipuler par des injections de prompt, reste aligné sur les intentions de son utilisateur. C'est déjà complexe. Mais lorsque plusieurs agents interagissent, chacun potentiellement développé et déployé par des acteurs distincts, la question change de nature. Les comportements émergents d'un système multi-agents ne sont pas simplement la somme des comportements individuels de chaque composant.
Un agent peut être parfaitement aligné en isolation et contribuer à des dynamiques problématiques en interaction avec d'autres. Les boucles de rétroaction, les effets de coordination non intentionnelle, les conflits d'objectifs entre agents : autant de phénomènes que la recherche en sécurité IA actuelle peine à modéliser à grande échelle. C'est ce manque que le fonds entend combler, en finançant des travaux sur le comportement de ces systèmes et sur les cadres permettant d'en mitiger les risques.
Une coalition qui dépasse les frontières habituelles
Ce qui distingue cette initiative, c'est son architecture institutionnelle. Réunir Google DeepMind, un laboratoire académique comme la Cooperative AI Foundation, une agence gouvernementale britannique (l'ARIA, Advanced Research and Invention Agency) et une philanthropie scientifique comme Schmidt Sciences dans un même programme de financement est assez inhabituel. L'effort de recherche sur la sécurité de l'IA reste souvent cloisonné entre secteur privé, monde académique et gouvernements, avec des agendas qui divergent parfois.
Ici, l'idée semble être de construire une base de connaissances commune, indépendante d'un acteur unique, sur des risques qui concernent potentiellement l'ensemble de l'écosystème. Google a tout intérêt à ce que les standards de sécurité multi-agents émergent de travaux ouverts plutôt que d'être imposés par une régulation réactive après un incident. Les autres partenaires ont leurs propres motivations, mais la convergence d'intérêts est réelle.
Ce que les candidats peuvent soumettre
Le calendrier est précis : les dossiers doivent être déposés avant le 8 août 2026, et les lauréats seront annoncés à l'automne. Google DeepMind n'a pas détaillé publiquement la taille moyenne des grants individuels ni les critères de sélection au-delà des grandes orientations thématiques, mais le focus affiché porte sur deux axes : la compréhension empirique du comportement des systèmes multi-agents à grande échelle, et le développement de cadres concrets pour réduire les risques identifiés.
Les projets purement théoriques auront probablement moins de prise que ceux capables de produire des méthodes d'évaluation ou des protocoles applicables. C'est du moins la logique habituelle de ce type de fonds orienté « safety », où l'enjeu est de passer de l'identification des problèmes à des outils utilisables par les équipes qui déploient ces systèmes.
Dix millions de dollars, c'est modeste au regard des budgets de recherche des grands laboratoires, mais c'est significatif pour financer des équipes académiques ou des groupes de recherche indépendants capables de travailler sur des questions que les laboratoires commerciaux ont du mal à prioriser faute de retour immédiat. La vraie valeur de l'initiative sera visible dans les résultats publiés, et dans leur capacité à influencer les pratiques de développement dans un domaine qui évolue très vite.
