kaliel - stock.adobe.com

Databricks lance un modèle pour optimiser la recherche de données IA

Databricks peaufine son alternative au mécanisme RAG afin d’améliorer les résultats des recherches complexes. Selon les analystes, si l’ajout est bienvenu, c’est son intégration à la couche de gouvernance qui est intéressante. Les concurrents disposent de solutions similaires.

Databricks s’attache une nouvelle fois à améliorer la précision des systèmes de recherche de données destinés à l’IA.

En janvier, Databricks a lancé « Instructed Retriever », une alternative aux pipelines traditionnels de « retrieval-augmented generation » (RAG).

Alors que les projets d’IA ont connu bien plus d’échecs que de succès à l’approche de 2026, le mécanisme RAG, qui permet aux assistants et agents IA de rechercher des données en fonction des requêtes des utilisateurs, s’est révélé insuffisant. Databricks a conçu Instructed Retriever, optimisé par le modèle Instructed-Retriever-1, afin de découvrir des données plus adaptées au contexte. Le système associé permet d’intégrer des instructions personnalisées et des schémas de données pour préciser les recherches.

Afin d’affiner les résultats de ce mécanisme, Databricks lance Adaptive Instructed-Retriever.

L’autre particularité d’Instructed Retriever, c’est qu’il s’appuie sur un mécanisme de parallélisation associé à l’approche « test time scaling ». Avec le raisonnement, le « test time scaling » est la fondation des grands modèles de langage les plus performants. Que ce soit à l’entraînement ou à l’inférence, plus le modèle dispose de temps de calcul pour produire un résultat, meilleur il sera. Cette observation empirique se concrétise pour les usagers des LLM à travers les API par la notion « d’effort ». Plus l’effort est élevé, meilleur les résultats sont.

De la même manière, Instructed Retriever explore simultanément plusieurs associations d’une requête unique et de filtres distincts, mais l’effort parallélisé ne repose que sur une seule étape de recherche.

Cela fonctionne bien pour la plupart des requêtes simples, mais ce n’est pas aussi rapide ni aussi précis lorsque les questions sont complexes, avec plusieurs niveaux de lecture et demande de s’appuyer sur une plus grande quantité de sources de données.

Adaptive Instructed-Retriever, lui, combine la recherche séquentielle (« où le modèle recueille des informations de manière itérative et affine ses requêtes au fil de plusieurs étapes », dixit Databricks) et la recherche parallélisée afin d’obtenir des résultats plus précis sans augmenter la latence.

Améliorer la précision de la recherche en plusieurs étapes

Lors du lancement d’Instructed Retriever, Databricks a comparé les performances de cet outil à celles des pipelines RAG traditionnels destinés à l’IA afin de démontrer son efficacité. De la même manière, Adaptive Instructed Retriever a été évalué par rapport à des solutions concurrentes pour prouver son efficacité.

Les tests menés par Databricks – aucune évaluation tierce n’a été fournie par l’éditeur – tend à démontrer que les capacités de rappel du nouveau modèle sont comparables à celles des modèles d’Anthropic, de DeepSeek et d’OpenAI. Le taux de rappel est une métrique qui mesure la capacité d’un modèle d’IA à trouver tous les « cas positifs réels », ici tous les documents ou extraits de documents qui répondent à la recherche.

Cependant, Adaptive Instructed-Retriever a effectué ses recherches nettement plus rapidement, en moyenne deux fois plus rapidement que ces très grands modèles d’IA.

« Ce modèle représente une évolution incrémentale pour les utilisateurs, mais elle est significative pour le produit », affirme Donald Farmer, fondateur et directeur de TreeHive Strategy, à TechTarget [propriété d’Informa TechTarget, également propriétaire du MagIT]. « L’utilisateur obtient surtout de meilleures réponses avec une latence en baisse et un coût moindre ».

Et de noter que l’approche de Databricks semble plus adaptée aux besoins des entreprises.

« En entreprise, la recherche d’informations n’est pas un problème isolé », souligne-t-il. « Les données sont dispersées entre des feuilles de calculs, des notebooks, des tableaux de bord et des documents, et l’obtention de la bonne réponse dépend souvent d’instructions qui nécessitent une interprétation. Une simple recherche par similarité [la méthode principale utilisée dans les mécanismes RAG, N.D.L.R.] ne suffit pas ».

Se démarquer grâce à la gouvernance

Bien qu’il soit bénéfique pour les utilisateurs et qu’il constitue une avancée importante des capacités de recherche de données de Databricks pour l’IA, Adaptive Instructed-Retriever ne constitue pas en soi un facteur de différenciation concurrentiel, selon l’analyste William McKnight, président du McKnight Consulting Group.

Par exemple, Snowflake propose également un modèle permettant la conversion de texte en SQL et la recherche sémantique au sein de vastes environnements de données d’entreprise. Cependant, ce qui séduira les utilisateurs de Databricks, c’est la synchronisation d’Adaptive Instructed-Retriever avec Unity Catalog, sa couche de gouvernance centralisée.

« Databricks se distingue [en intégrant] la recherche dynamique, l’extraction de prédicats et la gouvernance directement dans Unity Catalog, qui sert de colonne vertébrale optimisée pour ses outils de données conversationnels, notamment Databricks Genie, Databricks Assistant et le Mosaic AI Agent Framework », affirme-t-il.

Donald Farmer souligne également que Databricks n’est pas le premier fournisseur à proposer un petit modèle spécialisé dans la recherche de données. Google Cloud et Microsoft, entre autres, offrent des outils qui planifient et exécutent des sous-requêtes parallèles pour découvrir et exploiter les données pertinentes.

Databricks va toutefois plus loin avec Adaptive Instructed-Retriever en entraînant le modèle à savoir quand arrêter la recherche, selon l’analyste.

« Lorsqu’un agent d’IA recherche des données, il peut se contenter d’un seul examen pour répondre, ou bien continuer à chercher », explique-t-il « Plus on examine les données, plus la réponse est généralement pertinente, mais chaque examen prend du temps et coûte de l’argent. Le plus difficile est de savoir quand s’arrêter. Databricks a trouvé un moyen de le faire ».

Donald Farmer imagine que les économies permises par ce modèle pourraient contraindre les concurrents à réagir.

« Les clients ne choisissent pas une plateforme de données pour son modèle de recherche. Les mécanismes des concurrents sont probablement suffisamment performants. Toutefois, l’argument de la maîtrise des coûts est convaincant », affirme-t-il. « Ainsi, chaque éditeur aura besoin d’une couche de recherche rapide et peu coûteuse pour ses agents. Je m’attends à ce que les concurrents le fassent à leur manière. »

Databricks a développé Adaptive Instructed-Retriever après avoir constaté que les clients qui avaient commencé à mettre en production des outils d’IA agentique posaient des questions de plus en plus complexes aux agents. C’est en tout cas ce qu’affirme Michael Bendersky, directeur de la recherche chez l’éditeur.

« La recherche agentique nécessite plusieurs cycles », avance-t-il. « Dans ces environnements, les agents effectuent des recherches, récupèrent des informations, puis les examinent à nouveau jusqu’à ce qu’ils trouvent la bonne réponse. Dans le même temps, on ne souhaite pas que l’utilisateur attende plus longtemps que nécessaire que le système termine sa recherche »

Simplifier l’accès et stabiliser les performances des instances de calcul

Au cours des prochains mois, Databricks ajoutera des capacités de calcul GPU serverless (actuellement en préversion publique) à Adaptive Instructed-Retriever. L’éditeur entend optimiser les performances du modèle d’IA en adaptant automatiquement les capacités de calcul en fonction de la complexité et de la longueur de la recherche. En outre, selon Michael Bendersky, Databricks continue de s’attaquer aux questions du contexte des agents, de la gouvernance de l’IA, du contrôle des coûts et de l’ouverture de sa plateforme. Bref, tous les sujets qui représentent un obstacle à l’adoption élargie de la plateforme par les clients.

Selon Wiliam McKnight, continuer à améliorer la qualité et les performances des fonctionnalités existantes afin de permettre aux clients de créer et de déployer des capacités d’IA fiables constitue une stratégie judicieuse. Il remarque toutefois que Databricks devrait « le taux de disponibilité de ses capacités de mise en service des modèles » et de supprimer « les goulets d’étranglement des traitements concurrents en temps réels ».

« De plus, l’entreprise doit simplifier l’expérience utilisateur globale en s’orientant vers une plateforme ne nécessitant aucune administration matérielle et en proposant des modèles opérationnels prêts à l’emploi afin d’accélérer le retour sur investissement ». LeMagIT observe que la majorité des clients préfèrent conserver le choix entre le provisionnement d’instances et des fonctions serverless. Il y a deux ans, Databricks a décidé de lancer ses nouveaux services uniquement en mode serverless, tout en déclinant des versions serverless de ses fonctions s’appuyant originellement sur des clusters multitenant et dédiées. Le mode « classic compute » n’a toutefois pas disparu, mais c’est aux clients de gérer les charges de travail depuis la console de leur fournisseur cloud.

Donald Farmer, quant à lui, suggère que Databricks améliore encore ses capacités de récupération de données en permettant aux utilisateurs de mieux choisir les tables, les métriques et les définitions sémantiques à utiliser lors de la recherche des ressources destinées à alimenter les outils d’IA.

« La difficulté majeure pour les agents IA qui accèdent à un Lakehouse n’est pas de trouver des documents, mais de faire un choix parmi des milliers de tables, de métriques et de définitions sémantiques », martèle-t-il. « Je pense que ce sera une exigence à l’avenir [de la part des clients] ». Pour ce faire, Databricks peaufine Genie Ontology, mais l’extension de la notion de couche sémantique à l’IA agentique demeure un chantier en cours.

Cet article est une adaptation d’un article publié en anglais par Eric Avidon sur TechTarget.

Pour approfondir sur IA appliquée, GenAI, IA infusée