IA agentique : les sandbox de Nvidia et de Google rejoignent la CNCF

OpenShell et Substrate se recoupent, mais pourraient être complémentaires

Agent Substrate, confié à la CNCF par Google la semaine dernière, va plus loin qu’OpenShell. Le projet isole les charges de travail des agents à l’aide de micro-VM, telles que le gVisor de Google, mais il modifie également la manière dont l’infrastructure sous-jacente est provisionnée. L’objectif : regrouper davantage d’agents dans chaque pod et nœud Kubernetes.

Pour ce faire, il utilise une construction appelée « Actors ». Elle représente des sessions d’agents individuelles bien plus petites que les conteneurs ou les pods. Les « Actors » peuvent également être éphémères. Agent Substrate stocke des instantanés (snapshots) de chaque micro-VM qui peuvent rester en veille, mais se « réveiller » rapidement lorsqu’on fait appel à eux.

L’objectif du projet n’était pas seulement d’assurer l’isolation des agents, mais aussi d’améliorer l’efficacité et la résilience de l’infrastructure globale, selon un article de blog publié le mois dernier par Michael Levan, architecte principal en IA chez Solo.io, l’un des contributeurs fondateurs d’Agent Substrate, aux côtés de Nvidia et Microsoft.

« Bien qu’il offre une certaine évolutivité dans sa mise en œuvre, OpenShell se concentre principalement sur les besoins en matière de politique et de gouvernance. C’est bien sûr extrêmement important, mais l’essentiel avec Agent Substrate [...]c’est que la politique et la gouvernance constituent la base même du système », écrit l'architecte.

Nvidia contribue aux deux projets, selon un billet de blog paru cette semaine. Le géant fabless y indique qu’il prévoit de collaborer avec Google pour intégrer OpenShell et Substrate. OpenShell lie les contrôles d’accès des agents aux nœuds d’infrastructure, tandis que Substrate de Google combine l’isolation d’exécution et l’orchestration multinœuds sur des clusters Kubernetes partagés.

L’on ne sait pas encore exactement comment les deux projets concilieront leurs différences architecturales. Cependant, leurs priorités divergent, selon un message publié le mois dernier sur LinkedIn par Boris Renski, PDG d’HyperShell. Ce contributeur d’OpenShell commercialise une prise en charge de la plateforme.

Boris Renski a publié un schéma comparant les axes prioritaires et secondaires de chaque projet. Pour Agent Substrate, les principales préoccupations portent sur l’approvisionnement flexible de l’infrastructure et la gestion de l’accès des agents aux dépôts de code, aux serveurs MCP et aux compétences. OpenShell, en revanche, met davantage l’accent sur le contrôle des opérations individuelles des API et des outils, la gestion de l’accès aux identifiants et la vérification que les politiques d’accès ne sont pas accidentellement trop permissives. Autant d’éléments que M. Renski a qualifiés d’émergents, limités ou absents d’Agent Substrate.

« Malgré ces divergences […] les deux projets convergent de plus en plus, avec des recoupements croissants », écrit-il. « Finalement, la plateforme dominante sera celle qui bénéficiera de l’adoption la plus large ».

Les outils et les équipes chargées de l’infrastructure et de la sécurité convergent

Cette actualité s’inscrit dans une tendance croissante visant à ancrer la sécurité des agents dans les outils d’infrastructure. L’architecture de référence OpenShell, lancée le mois dernier avec le soutien annoncé de Red Hat, Dell et HPE. Cette architecture de référence associe les mécanismes d’isolation des agents basés sur OpenShell à Sentry, une couche d’application des politiques basées sur le matériel qui s’exécuteront sur ses unités de traitement de données BlueField-4, en cours de production.

Le mois dernier également, IBM a intégré OpenShell et Sentry à sa solution Fusion AI Factory. Big Blue a déployé HashiCorp Vault Enterprise 2.2, qui prend en charge l’authentification au démarrage des applications sur site à l’aide d’une machine virtuelle appelée « module de plateforme de confiance » (TPM).

Une tendance qui est aussi organisationnelle. Au sein des entreprises, la gouvernance de l’IA favorise la convergence entre les équipes chargées de l’infrastructure et des opérations (I&O) et celles chargées des opérations de sécurité, selon un rapport de Gartner publié en septembre.

« Les risques liés à l’IA ont un impact croissant sur l’infrastructure, notamment en matière de sécurisation de l’accès aux applications GenAI grâce à l’inspection des prompts et des réponses, de protection contre la compromission des chaînes d’approvisionnement de l’IA affectant les flux de travail d’IA, et de prévention des attaques de type “jailbreak” par injection de prompts », indique le rapport. « Les capacités d’IA telles que les NetOps agentiques sont de plus en plus intégrées dans des outils qui accélèrent la convergence des fonctions I&O et de sécurité grâce à une télémétrie partagée ».

De son côté, Chris Aniszczyk, directeur technique de la CNCF, note que l’isolation des agents IA rejoint les problématiques de coût entraînées par la ruée vers l’or qu’est l’IA agentique.

« Au lancement d’OpenClaw, les Mac Mini étaient en rupture de stock partout dans le monde », rappelle-t-il. « Mais cet agent, même s’il fonctionne en continu, même s’il peut effectuer des tâches de manière aléatoire de jour comme de nuit, n’utilise pas nécessairement ce Mac Mini à 100 % de sa capacité pendant toute cette période", note-t-il. « Alors que nous assistons à une transition vers des agents fonctionnant en continu et hébergés dans des centres de données – une tendance que suivent désormais de nombreuses entreprises et même des produits SaaS –, cette capacité de mise à l’échelle efficiente devient vraiment importante ».

Redéfinir la résilience à l’ère de l’IA

Justement. Pour une entreprise pionnière dans l’adoption de cette technologie, Agent Substrate permettra de sécuriser à la fois les charges de travail liées à l’IA et celles qui ne le sont pas, tout en prenant efficacement en charge les agents d’IA pour 1 500 collaborateurs sur site.

« Substrate nous intéresse particulièrement [...] en raison du coût de la puissance de calcul », déclare Andrew Boswell, responsable informatique chez Swissquote, une société de services financiers basée à Genève. « L’idée de mettre en pause des charges de travail pour les reprendre ultérieurement [nous permet] d’utiliser notre propre matériel avec une densité bien plus élevée que ce qui aurait été possible autrement ».

Agent Substrate représente une évolution naturelle des outils d’infrastructure cloud-native que Swissquote utilise déjà, poursuit le responsable de l'institut financier suisse. Les préoccupations liées à la souveraineté numérique rendent également indispensable l’utilisation d’outils indépendants des fournisseurs et gérés en interne.

« Pour nous, il était vraiment important de posséder notre propre pile [mais] de disposer de solutions nous permettant de recourir à d’autres fournisseurs si nécessaire », souligne Andrew Boswell. « Agent Substrate fait partie de l’architecture en couches que nous avons entrepris de construire lorsque nous nous sommes demandé : “Utilisons-nous des logiciels open source pur jus et développons-nous par-dessus, ou achetons-nous des solutions ?” ».

En fin de compte, la souveraineté et la sécurité ne dépendent pas seulement de couches d’exécution renforcées, mais aussi de la capacité à intégrer indépendance et résilience dans une infrastructure capable d’évoluer au gré des besoins, affirme le responsable.

« Nous disposons d’un moyen de continuer à faire fonctionner les choses en interne, même si des modèles disparaissent à l’extérieur, ou si, par exemple, des événements géopolitiques nous coupent de l’accès à certains modèles ou fournisseurs, comme cela s’est produit avec Fable [d’Anthropic], par exemple », illustre-t-il. « Tout doit-il nécessairement être hébergé sur site ? Probablement pas, mais il est important de disposer de cette flexibilité stratégique là où elle est nécessaire et là où elle est appropriée ».

Cet article est l’adaptation d’un reportage paru en anglais sur TechTarget.com, une publication sœur du MagIT.