Personnalisation des agents IA : MCP gagne des fonctions de sécurité

Une intégration en amont de fonctionnalités jusque-là développées à façon

Le nouveau mécanisme OAuth de MCP, intégré en amont, pourrait rendre certaines fonctionnalités de la passerelle IA redondantes dans certains produits de fournisseurs, y compris ceux d’Arcade. Mais un développeur IA considère qu’il est préférable d’intégrer directement ce type de fonctionnalité dans le protocole.

« À condition que cette normalisation puisse être largement adoptée, le fait d’accorder à une IA la capacité d’agir de manière limitée en votre nom peut être sécurisé et évolutif », déclare Kyler Middleton, ingénieur logiciel principal chez Veradigm, une entreprise spécialisée dans les technologies de santé. « Il existe de nombreuses implémentations médiocres et incomplètes de cette fonctionnalité, et les discussions approfondies et le consensus de l’équipe MCP nous aident tous à progresser. »

Cependant, la discussion s’est poursuivie au sein de la communauté en amont à la fin du mois de septembre sur les inconvénients potentiels de l’approche MCP OAuth d’Arcade.

« Permettre aux serveurs d’obtenir des URL arbitraires peut augmenter le risque de phishing/d’ingénierie sociale », peut-on lire dans les notes d’une réunion du groupe d’intérêt sur la sécurité MCP qui s’est tenue le 23 septembre. « Il y a une discussion autour des serveurs qui pourraient déclarer des domaines approuvés qu’ils peuvent envoyer au client, et le client peut déterminer la politique sur les URI qu’il affichera à l’utilisateur final. Cela fera probablement l’objet d’une exploration ultérieure ».

Kyler Middleton partage ces préoccupations.

« Par exemple, je dispose de droits d’administration sur plusieurs plateformes où sont stockées des données sensibles. Si j’interagis avec un bot et qu’il me demande un jeton, que j’approuve, obtiendra-t-il automatiquement tous les droits dont je dispose, ou y aura-t-il un mécanisme mis en place par l’agent ou par le processus d’octroi du jeton, grâce auquel je pourrai n’accorder que certains droits spécifiques ? », s’interroge-t-elle. « Cela doit exister, mais cela pourrait facilement être contraignant pour les utilisateurs, donc cela doit être conçu avec soin ».

La sécurisation des agents IA, un travail en cours

Le nouveau mécanisme MCP OAuth, bien que prometteur, n’aborde qu’une seule couche de sécurité pour les agents d’IA. Or les utilisateurs et les développeurs doivent encore en aborder plusieurs autres, selon Ian Beaver, chief data scientist chez Verint, un fournisseur de centres de contact à la demande. Ailleurs dans l’industrie, d’autres contrôles d’exécution des agents d’IA ont été proposés sur la base des principes du règlement général sur la protection des données de l’UE. Ian Beaver indique que Verint a commencé à les mettre en œuvre.

« Il s’agit d’un ajout important, mais qui ne dispense pas les concepteurs d’applications agentiques d’enregistrer soigneusement tous les appels faits aux outils et aux API au nom de l’utilisateur », souligne M. Beaver à propos de la mise à jour MCP OAuth, dans un courriel adressé à Informa TechTarget [propriétaire du MagIT].

« Même avec cette modification, l’application ne saura pas si les changements sont effectués par l’utilisateur ou par un agent connecté par l’utilisateur », ajoute-t-il. « Il est donc essentiel que les développeurs adoptent un état d’esprit axé sur la sécurité, en enregistrant toutes les actions pour faciliter l’audit en cas de modification inattendue de l’application ».