Imaginez un système de santé composé de plusieurs agents d'IA : l'un gère l'évaluation des symptômes, un autre la planification, un troisième l'assurance et un quatrième la pharmacie. Chacun est un expert dans son domaine. Mais ils possèdent tous leurs propres connaissances et objectifs distincts.

Aujourd'hui, ils peuvent échanger des données, mais ils ne sont pas encore capables de coordonner réellement les soins aux patients sans qu'un humain ne prenne les décisions. « L'intelligence est déjà là. Ce qui manque, c'est le tissu conjonctif qui transforme quatre étrangers en une seule équipe », explique Vijoy Pandey, vice-président senior et directeur général d'Outshift by Cisco.

Ce « tissu conjonctif » provient de l'ajout d'une couche sémantique — ce qu'Outshift appelle « l'Internet de la cognition » — qui permet aux agents de différents domaines de travailler ensemble et, surtout, de « penser » ensemble grâce à une intention, un contexte et un raisonnement partagés.

Cette couche sémantique repose sur une couche de connectivité sous-jacente appelée « l'Internet des agents », qui permet aux agents autonomes de se découvrir, de prouver leur identité et d'échanger des messages entre différents domaines. Utilisés ensemble, ils permettent « la prochaine étape sur la route vers la superintelligence artificielle distribuée », déclare M. Pandey.

Pendant des années, l'industrie de l'IA s'est concentrée sur la croissance. La mise à l'échelle verticale a conduit à des modèles plus grands, entraînés sur plus de données avec plus de puissance de calcul.

Cela a produit des capacités de raisonnement qui peuvent agir comme un « cerveau » pour les agents d'IA, capables de percevoir, de raisonner et d'agir dans des environnements numériques. Bien que la mise à l'échelle verticale puisse produire des agents de plus en plus performants, pour permettre une résolution de problèmes par agents à travers différents systèmes, entreprises et plates-formes, le prochain axe de mise à l'échelle doit être horizontal, affirme M. Pandey.

Les systèmes multi-agents sont déjà explorés dans des domaines tels que l'génie logiciel, la découverte de médicaments et les simulations scientifiques, mais leurs performances jusqu'à présent ont été décevantes. Une étude révèle un taux d'échec compris entre 41 % et environ 87 % lors de l'évaluation de sept systèmes multi-agents open-source.

« Les agents connectés gèrent bien l'action coordonnée ; ils prennent une tâche dont ils ont vu la forme, la divisent et se la transmettent », explique M. Pandey. « Ce qu'ils ne peuvent pas faire, c'est maintenir un objectif commun et raisonner vers quelque chose qu'aucun d'entre eux n'a été entraîné à résoudre. »

« Le fossé est architectural, ce n'est pas un problème de formulation des requêtes », ajoute M. Pandey. « Sans la bonne couche de coordination, les configurations multi-agents naïves peuvent moins bien fonctionner qu'un seul agent. Le changement radical est cette équipe d'agents qui converge d'elle-même vers un nouveau problème, sans qu'aucun humain ne couse les coutures. »

Pour atteindre cet objectif, M. Pandey indique qu'Outshift a construit une couche de connectivité appelée AGNTCY, un projet open-source désormais placé sous l'égide de la Linux Foundation. AGNTCY permet aux agents de différents systèmes, entreprises et plates-formes de se trouver, de prouver leur identité et d'échanger des messages via des protocoles ouverts et standardisés.

Et, comme l'explique M. Pandey, cela permet à la thèse de l'Internet de la cognition de faire un pas de plus. Cela crée une couche sémantique qui permet aux agents d'aligner leurs objectifs (partager l'intention), de mettre en commun leurs connaissances institutionnelles et leur mémoire composée (partager le contexte) et de prendre des compromis collectifs (partager le raisonnement).

M. Pandey compare cette progression à celle des humains : « Pendant des centaines de milliers de il y a des années, les humains sont devenus individuellement plus intelligents, et les gains mouraient avec chaque personne qui les réalisait », explique-t-il. « Il y a environ 70 000 ans, cela a changé, lorsque les humains ont appris à partager l'intention, à construire des connaissances cumulatives et à raisonner collectivement. C'est à ce moment-là que des individus dispersés sont devenus une civilisation. »

« Les agents sont au même seuil. Nous avons construit les génies de silicium et leur avons donné une autonomie. Ce qui leur manque, c'est la couche qui a permis aux humains de devenir collectifs », dit-il.

Permettre aux agents de travailler collectivement repose sur trois piliers de la pile technologique :

Intention partagée via les protocoles d'état de cognition : les protocoles d'état de cognition sont la poignée de main sémantique qui permet aux agents de s'entendre sur un objectif avant d'agir et de négocier ensuite pour y parvenir. Outshift a créé une couche de coordination open-source appelée Mycelium, que les organisations peuvent cloner et utiliser avec leurs propres agents.

« Nous avons constaté que les groupes non structurés parvenaient à une décision environ un tiers du temps sur 14 scénarios », déclare M. Pandey, évoquant des tests internes. « Un protocole de coordination qui oblige les agents à déclarer un objectif, à faire remonter les informations manquantes et à résoudre les conflits avant d'agir a fait monter ce chiffre à 93 %. »

Contexte partagé via le tissu de cognition : un tissu de cognition est une mémoire institutionnelle partagée et un maillage de communication qui permet aux perspectives des agents de se composer au fil du temps plutôt de se réinitialiser à chaque session.

Cette couche de contexte régie par des politiques résout le problème de « l'amnésie organisationnelle », selon M. Pandey, en garantissant que l'intelligence de base des systèmes ne cesse de progresser.

Raisonnement partagé par le biais d'amplificateurs cognitifs et de technologies de protection : deux types de moteurs de cognition peuvent être utilisés conjointement pour permettre un raisonnement partagé. Les amplificateurs cognitifs accélèrent le raisonnement et la modélisation partagés, et les technologies de protection (GAT) créent des cadres de sécurité, de coût et de conformité.

Les humains sont des contributeurs actifs à cette couche, prenant des décisions que le système leur achemine (plutôt que d'examiner les résultats après coup).

Le partage de la cognition dans les systèmes multi-agents peut créer de nouveaux risques, notamment des délégations involontaires, des injections malveillantes de requêtes ou un empoisonnement de la mémoire, ou encore des agents surprivilégiés ayant accès à des autorisations et à des données bien au-delà de ce que leurs tâches exigent.

Des contrôles spécifiques à l'environnement sont donc nécessaires pour se protéger contre les actions ou conséquences involontaires.

« Les agents ont des attributs similaires à ceux des humains, mais fonctionnent à la vitesse et à l'échelle de la machine », déclare M. Pandey. « Tout ce que nous avons construit pendant vingt ans — le contrôle d'accès, l'identité, la conformité — a été conçu pour les humains ou les machines, pas pour les deux. »

L'autorisation sémantique continue des agents (CASA) — une implémentation de référence open-source développée par Outshift — est une GAT qui s'efforce de garantir que les actions des agents restent solidement alignées sur l'objectif initial de l'utilisateur grâce à un processus d'autorisation continue.

Elle y parvient en lisant ce que l'agent essaie d'accomplir, puis en vérifiant chaque demande d'outil par rapport à cette tâche. Dans le cas d'un système de santé, par exemple, un agent chargé de résumer le dossier d'un patient peut commencer par interroger une base de données entière.

Cela pourrait amener CASA à refuser l'appel, car la demande ne correspond plus à la tâche pour laquelle il a été autorisé.

« Les contrôles d'aujourd'hui sont limités à un rôle ou à une session et non à la tâche, de sorte qu'un agent doté d'un outil peut l'utiliser pour n'importe quoi », explique M. Pandey. « Environ 90 % du temps, un agent n'a aucun moyen de confirmer qu'il est même autorisé pour le travail qui lui a été confié. »

Lors de la mise à l'échelle horizontale de l'intelligence dans l'entreprise, les entreprises devraient commencer par expérimenter un flux de travail interfonctionnel unique qui s'étend sur trois ou quatre équipes et nécessite actuellement un humain pour autoriser les transferts, conseille M. Pandey.

« Mettez-le en place sous la forme d'un petit système multi-agents sur une infrastructure ouverte et interopérable, avec une base de référence mesurable », dit-il. « Continuez à construire des modèles plus grands, ajoutez l'axe horizontal au-dessus d'eux et modifiez ce que vous mesurez. Suivez l'endroit où la perspicacité d'un agent a amélioré un autre agent — c'est le signal que l'axe horizontal fonctionne. »

En commençant à expérimenter dès maintenant avec les couches d'intention, de contexte et de raisonnement, les organisations peuvent garder une longueur d'avance.

« Les problèmes sont ouverts et l'infrastructure est encore en cours d'écriture », déclare M. Pandey. « C'est le moment de la construire. »

Pour plus d'informations sur l'Internet de la cognition, visitez Outshift.com.

Ce contenu a été produit par Insights, la branche de contenu personnalisé de MIT Technology Review. Il n'a pas été rédigé par l'équipe éditoriale de MIT Technology Review.

Il a fait l'objet de recherches, a été conçu et rédigé par des rédacteurs, éditeurs, analystes et illustrateurs humains. Cela inclut la rédaction d'enquêtes et la collecte de données pour les enquêtes.

Les outils d'IA qui ont pu être utilisés ont été limités à des processus de production secondaire ayant fait l'objet d'un examen humain approfondi.