Laurent - stock.adobe.com

Mémoire agentique : pour se différencier, Databricks joue la carte de l’intégration

Les services de gestion de la mémoire agentique pullulent, mais Databricks pourrait bien tirer son épingle du jeu. Selon les analystes, l’éditeur se différencie par l’intégration d’Agent Memory à sa couche de gouvernance Unity Catalog et sa base de données Lakebase.

Databricks lance deux nouveaux outils en vue de fiabiliser la création et la maintenance des agents IA en entreprise.

L’éditeur avait déjà mis à disposition de ses clients Agent Bricks, un environnement de création et de gestion de ces fameux agents IA. En version bêta, Agent Memory y ajoute un composant reposant sur l’architecture propriétaire MemCurrent.

Développée par Databricks, elle alloue trois couches de mémoire (sessions, contexte, pipelines d’exécution) aux agents, afin de conserver des éléments (appels aux outils, historiques des messages, profils, préférences, spécifications de flux de travail, etc.) et les réutiliser lors des futures exécutions. Il en résulterait une réduction significative de la consommation de tokens, et donc des coûts d’exécution.

« Les modèles souffrent d’amnésie », déclare Sanjeev Mohan, fondateur et analyste principal du cabinet d’analyse SanjMo, auprès de TechTarget. « Même un agent sans état peut se connecter chaque matin sans aucun souvenir de ce qu’il a fait la veille. C’est ce qui rend la mémoire de l’agent si importante. Elle permet non seulement d’obtenir des résultats plus pertinents, mais aussi de réduire le coût et la latence d’exécution d’une tâche ».

Le deuxième service, AI Runtime, entre en disponibilité générale. Il est conçu pour fournir aux utilisateurs de Databricks l’infrastructure GPU pour entraîner, fine-tuner des modèles de langage et de deep learning.

Plus spécifiquement, AI Runtime permet aux ingénieurs et aux développeurs l’accès à des instances serverless équipées de puces NVIDIA d’anciennes générations – A10 (24 Go de VRAM) et H100 (80 Go de VRAM) – à travers le CLI, les notebooks, les jobs et la version de Ray de Databricks. L’orchestration des charges de travail GPU peut se faire depuis des pipelines CI/CD. La connexion à MLFlow facilite le suivi de l’exécution et des erreurs.

D’après Sanjeev Mohan, aucune de ces fonctionnalités n’est inédite sur le marché. Il souligne qu’AWS, Google Cloud et Microsoft offrent déjà des capacités de mémoire pour les agents (tout comme Couchbase), et que de nombreux fournisseurs proposent des infrastructures GPU pour l’entraînement et l’inférence. Cependant, en intégrant la mémoire des agents à Lakebase, une déclinaison de la base de données PostgreSQL, et l’environnement d’exécution de l’IA à la gouvernance via Unity Catalog, Databricks se distingue de la concurrence.

« Ce qui est unique, c’est que Databricks mise sur l’intégration de la mémoire dans Lakebase, à proximité immédiate des données », avance l’analyste. « De même, l’intégration d’AI Runtime avec Unity Catalog constitue sa singularité. En résumé, l’innovation de Databricks repose sur deux piliers : l’intégration et l’expérience développeur ».

Databricks veut prendre sur lui la gestion de la mémoire agentique

Le rapport de McKinsey intitulé « État de l’IA en 2026 » a révélé que seulement 40 % des entreprises réalisant un chiffre d’affaires supérieur à 1 milliard de dollars sont actuellement capables de déployer des agents à grande échelle. Seulement 22 % de celles dont le chiffre d’affaires est inférieur à 1 milliard de dollars y parviennent. Parallèlement, les dépenses IA des entreprises continuent de croître de façon exponentielle.

Michael Bendersky, directeur de la recherche chez Databricks, affirme, lui aussi, que, sans mémoire, les agents développés par les clients répétaient les mêmes erreurs, oubliaient les préférences des utilisateurs et devaient redécouvrir les informations lors de chaque session.

Certains clients disposaient des ressources techniques nécessaires pour concevoir leurs propres systèmes de mémoire pour les agents, mais cela impliquait de prendre en charge eux-mêmes le travail et les coûts liés au stockage, à la récupération et à la maintenance des données.

Les tests internes de Databricks tendent à démontrer que MemCurrent permet aux agents d’accomplir avec succès trois fois plus de tâches que les outils d’IA concurrent tout en réduisant la consommation de tokens d’un tiers. Évidemment, ces résultats sont à prendre avec des pincettes : aucun évaluateur indépendant ne les a vérifiés.

« Agent Memory est une fonctionnalité managée d’Agent Bricks pour les développeurs », vante Michael Bendersky. « Agent Memory fonctionne sur Lakebase, notre base de données PostgreSQL serverless, ce qui garantit une mémoire performante même en cas d’augmentation du trafic des agents, et permet aux clients de conserver leurs données dans leur propre environnement ».

Runtime AI n’est pas pour tout le monde

Tejas Sundaresan, chef de produit chez Databricks, assure également que les difficultés rencontrées par les clients expliquent le lancement d’AI Runtime.

Il s’agit plutôt de régler un défaut de la plateforme. Databricks ne proposait pas d’infrastructure GPU serverless avant la mise à disposition générale d’AI Runtime.

Résultat, les clients hébergeant leurs données chez Databricks ont dû se procurer des GPU et transférer leurs données propriétaires hors de leurs environnements contrôlés, pour entraîner et optimiser leurs modèles d’IA. Cela impliquait la mise en place de pipelines de données complexes et coûteux. Tout en prenant le risque d’une erreur de configuration des instances des fournisseurs cloud.

Pour Kevin Petrie, analyste chez BARC US, Agent Memory et AI Runtime répondent directement à certains problèmes concrets rencontrés par les entreprises lors du déploiement d’agents en production.

« La mémoire est un élément essentiel des programmes d’ingénierie contextuelle, qui doivent sélectionner et fournir aux agents des données et métadonnées fiables en temps opportun », note-t-il. « En stockant des jeux de données modulaires en mémoire, les utilisateurs d’agents IA peuvent réutiliser plus rapidement et à moindre coût le contexte approprié au lieu de devoir le rechercher à chaque requête ».

Il ajoute toutefois que, compte tenu du prix élevé des unités de mémoire, les contenus conservés doivent être de qualité. Sinon les performances des agents risquent d’en pâtir, tout comme le budget de la DSI.

Concernant AI Runtime, Kevin Petrie souligne que cette fonctionnalité offre des capacités intéressantes aux clients Databricks avancés pour l’entraînement et l’optimisation de modèles destinés à des cas d’usage spécifiques.

L’entraînement de LLM dédiés aux flux agentiques demeure une pratique récente et réclame un bon niveau de connaissance. Le marché potentiel d’AI Runtime pourrait donc être restreint. En outre, des instances CPU suffisent amplement pour l’exécution des outils et des scripts agentiques.

« La plupart des entreprises qui adoptent l’IA trouveront le niveau de sophistication nécessaire dans les modèles de pointe, les modèles open weight ou les petits modèles de langage », considère Kevin Petrie. « Elles doivent en revanche résoudre le problème majeur de la validation, de la préparation et de la gouvernance du contexte qui alimente ces modèles. Ce manque de contexte représente un véritable défi, et le combler représente un marché potentiel important pour Databricks ».

Pour approfondir sur IA appliquée, GenAI, IA infusée