C'est l'avertissement lancé par Zhuoqun Bian, présidente d'Ant Digital Technologies, la division entreprise d'Ant Group, lors du Forum des leaders de Fortune à Macao le 8 septembre. « Du point de vue des institutions financières, lorsque nous initions une transaction, nous devons effectuer le KYC [connaissance du client] », a-t-elle déclaré. « Dans l'économie des agents, vous devez connaître vos agents. Qui est l'agent ? À qui appartient-il ? Qui l'a autorisé ? »

Les agents pourraient orchestrer jusqu'à 5 000 milliards de dollars de dépenses de consommation mondiales d'ici 2030, selon un rapport de McKinsey publié en janvier. Pourtant, l'infrastructure dans laquelle ces agents opèrent a été conçue pour les humains. « À l'avenir, toutes les infrastructures devront être reconstruites ou améliorées pour les agents », a affirmé Mme Bian.

Le 6 septembre, Ant International, la filiale mondiale des paiements d'Ant Group, a annoncé avoir commencé à collaborer avec Mastercard et Visa sur un cadre d'interopérabilité « connaissez votre agent ». Ce cadre est destiné à permettre aux réseaux de cartes, portefeuilles numériques et places de marché de reconnaître les agents IA de confiance à travers différents écosystèmes. Les entreprises travailleront par l'intermédiaire de BuildFin.ai, une plateforme industrielle mise en place par l'Autorité monétaire de Singapour, la banque centrale de la cité-état.

Dans une note publiée en avril, le Fonds monétaire international a observé que les agents IA sont probabilistes et adaptatifs, ce qui signifie qu'une même invite peut donner des réponses différentes, tandis que les systèmes de paiement doivent fournir exactement la même réponse à chaque fois. « Les réseaux de paiement, des réseaux de cartes aux systèmes de règlement brut en temps réel (RGTR), reposent sur des règles prévisibles, une sécurité juridique et des structures de responsabilité claires pour garantir la confiance et la stabilité financière », ont écrit les auteurs de la note.

Pour les banques, la question la plus importante est de savoir si leurs propres systèmes peuvent suivre le rythme. « Personnellement, je n'ai jamais rencontré de situation où la technologie d'un agent nous a fait défaut, ou plutôt a conduit à un résultat indésirable », a déclaré Benson Wong, directeur général et responsable du numérique chez JPMorgan Private Bank. « Il s'agit toujours du modèle opérationnel, des processus, de la conformité et des contrôles. »

Le coût d'une erreur commise par un agent est proportionnel à son autonomie, a-t-il ajouté : « Si vous posez à un agent... une question d'information et qu'il répond mal, ce n'est pas bon, mais vous vivez un moment embarrassant. Si vous ne maîtrisez pas les flux de travail des agents, les impacts sont considérablement accrus. »

« Vous devez connaître vos agents beaucoup plus que vous ne connaissez vos clients », a conclu Mme Bian.