IA privée et « souveraine » : Teradata lance AI Factory

Des appliances Intelliflex à raccorder aux serveurs équipés de GPU Nvidia

Toutefois, les appliances Intelliflex ne sont pas dotées de GPU Nvidia. Non, Teradata s’appuie sur le design de référence Nvidia Enterprise AI Factory pour raccorder ses serveurs avec des clusters GPU déployés par les entreprises. Il faut donc disposer de GPU ou se procurer des serveurs auprès des partenaires de Nvidia. Puisque les H100, H200 et GB 200 sont « trustées » par les fournisseurs cloud et les startups en IA, il faudra se tourner vers les serveurs RTX Pro, qui ne sont pas encore disponibles, selon le site Web de Nvidia. HPE indique, lui, que ses serveurs Proliant Compute DL380a Gen12, dotés de GPU RTX Pro 6000 Blackwell Server Edition « sont disponibles à la commande ».

« AI Factory n’invente pas un nouvel avantage. Elle en réactive un juste au moment où le marché revient à la demande d’une IA souveraine, sécurisée et hautement performante sur site », déclare Michael Ni, analyste chez Constellation Research. « La volatilité des coûts du cloud et la surveillance réglementaire augmentent, ce qui incite les entreprises à repenser l’emplacement de leurs charges de travail d’IA les plus sensibles et les plus stratégiques. »

« Plusieurs des principales plateformes d’IA ne sont pas facilement disponibles sur site. L’AI Factory de Teradata [offre] une alternative », ajoute de son côté David Menninger, analyste chez ISG Research.

Cette notion d’IA souveraine est poussée par Nvidia lui-même. Bon nombre de ses partenaires proposant des solutions on premise qui adoptent ses designs de référence pour couvrir les charges de travail d’IA. C’est le cas de Dell, de Lenovo, ou encore de Nutanix.

Comme avec Teradata, la notion de souveraineté est à interroger puisque la plupart de ces fournisseurs sont américains. Cependant, si les appliances sont isolées du cloud, l’exposition au droit extraterritorial est fortement minimisée.

Le cloud hybride n’est jamais loin

Dans la pratique, de nombreuses entreprises disposent d’environnements hybrides. AI Factory offre désormais aux utilisateurs de Teradata la possibilité de développer des outils d’IA sur site. Cependant, la plateforme ne limite pas l’utilisation de ces outils aux environnements on premise.

Les capacités d’AI Factory peuvent fonctionner – et interopérer avec d’autres solutions d’IA – de la manière choisie par l’entreprise, que ce soit dans le cloud, sur site ou dans un environnement hybride, selon Louis Landry, directeur technique chez Teradata.

« Notre plateforme est la même, qu’elle soit dans le cloud ou sur site », insiste-t-il. « Il existe de nombreux cas d’usage de l’IA. Vous devez être en mesure de couvrir [tous les environnements]. »

Certains concurrents de Teradata offrent des capacités similaires pour les utilisateurs sur site, mais pas de manière aussi unifiée qu’AI Factory, estime Michael Ni. D’autres, tels que Databricks et Snowflake, se concentrent presque exclusivement sur le cloud.

« AI Factory est l’une des premières solutions d’IA plug-and-play, conformes aux exigences de gouvernance, conçues pour une utilisation sur site. Elle transforme les GPU et les données en moteurs de décision, sans les coûts supplémentaires liés au cloud », avance Michael Ni de Constellation Research.

En sus des critères de contrôle, il faut bien évidemment étudier l’aspect financier de ces déploiements sur site : consommation d’électricité, refroidissement, maintenance, mise à jour, etc.

S’aligner sur les offres des concurrents (et redorer l’image de Teradata)

David Menninger, lui, souligne que Cloudera propose la plateforme sur site le plus comparable à AI Factory, bien qu’il s’appuie sur des intégrations tierces pour offrir des fonctionnalités de recherche vectorielle (Pinecone) et de stockage.

Le 11 juin, Cloudera a annoncé que son offre Cloudera AI s’appuierait sur les templates de pipeline RAG et multiagent AI-Q de Nvidia, ainsi que les microservices NIM pour inférer des grands modèles de langage sur site et en cloud privé, en sus de prendre en charge la suite d’outils agentique du géant fabless. Il avait déjà mis au point « AI in a box » en partenariat avec Dell.

Le directeur technique de Teradata a également affirmé qu’il souhaitait prendre en charge les flux de travail agentique, sans expliquer comment.

En ce qui concerne l’offre globale de Teradata, sa technologie est à la hauteur de celle de ses concurrents, selon David Menninger. Cependant, lorsqu’il s’agit de séduire les clients, l’entreprise souffre d’un manque de notoriété.

« La difficulté de Teradata tient davantage au marketing qu’à des lacunes techniques », considère David Menninger. « Ils doivent rivaliser avec les géants du cloud ainsi qu’avec les stars du secteur comme Databricks et Snowflake. Ce n’est pas une tâche facile. »

De fait, certaines entreprises ont décidé de se séparer de leurs appliances Teradata, car elles en atteignaient les limites et qu’en réinstaller devenait cher et complexe. Les solutions proposées par Snowflake et Databricks étaient alors plus attrayantes.

Mais sur site, il faut aussi compter sur de nouveaux venus, dont Starburst (que Teradata a contribué à faire émerger, également partenaire de Nvidia et de Dell) et Dremio, puisque leur plateforme peut être déployée sur site, dans le cloud ou en mode hybride.

D’où la nécessité, selon David Menninger, de « rendre Teradata à nouveau attrayant ». Il souligne que l’éditeur s’est adapté aux tendances récentes en adoptant des formats de table ouverts, des outils open source et en ajoutant des moteurs de traitement. Néanmoins, depuis 2018, ses revenus sont plutôt à la baisse.

Michael Ni, quant à lui, suggère que Teradata se concentre sur la gouvernance de l’IA et le fait d’améliorer l’interaction entre ses différentes options de déploiement.

« Cela [permettrait] une intelligence en temps réel plus étendue, une intégration plus large des modèles et une cohérence sémantique entre l’IA et la BI, » imagine l’analyste chez Constellation Research.