L’idée discutable d’OpenAI d’acheter des puces à Google Cloud

Une diversification de puces qui pose des problèmes et ne résout pas tout

Pour autant, cette diversification pose un risque : « OpenAI a désormais l’enjeu d’adapter sa pile logicielle à autre chose que des GPU Nvidia. Or, cela demande un investissement pour des résultats qu’on ne connaît pas encore. Et, à la fin, il n’est pas certain que cette opération de diversification s’avérera rentable », ajoute l’analyste.

OpenAI a construit une grande partie de ses IA autour du logiciel Open source PyTorch, de la plateforme CUDA de Nvidia et de son serveur d’inférence Triton. L’écosystème des TPU de Google Cloud s’appuie davantage sur la bibliothèque Python JAX et le compilateur OpenXLA.

« Le portage entre deux environnements différents est d’autant moins simple que l’optimisation qui consiste à utiliser toutes les ressources d’un GPU nécessite un travail ardu sur les noyaux des systèmes, notamment en ce qui concerne l’utilisation de la mémoire et l’exécution distribuée. Ce sont des mois de développement », estime Matt Kimball.

Et puis il y a la difficulté d’exploitation. « L’adoption à grande échelle de technologies accélératrices différentes nécessitera des outils d’orchestration et de plan de contrôle permettant d’automatiser le déploiement et l’optimisation sur l’ensemble des architectures. Sans eux, la charge de travail technique pourrait réduire à néant les avantages liés à l’ajout d’un nouveau fournisseur de puces », dit-il encore.

Or, le coût de toute cette ingénierie, ajouté au coût d’achat des TPU, ajouté au manque à gagner de ressources qu’il faudrait revendre moins cher si elles n’atteignent pas le même niveau de performances, pourrait in fine dépasser celui de l’achat de GPU auprès de Nvidia.

« Cela dit, le point positif est que la personne qui dirige l’équipe responsable des optimisations chez OpenAI est un ancien cadre de Google Cloud, qui a participé à la conception des GPU », note l’analyste.

Enfin, il fait remarquer qu’acheter à Google Cloud des TPU qui sont fabriqués et assemblés dans les mêmes usines asiatiques que les GPU de Nvidia risque de ne pas servir à grand-chose s’il s’agit d’éviter les pénuries. Pénuries qui sont actuellement causées par une production insuffisante de ces fameuses usines au regard de la demande.

Google étend son marché des TPU

La pseudo-confirmation d’OpenAI, qui prend la forme d’un recrutement pour des développeurs connaissant les TPU, suit de quelques jours l’annonce faite par l’hyperscaler OCI concernant son intention d’acheter des TPU à Google Cloud, pour en doter ses datacenters en 2027. Et il est fort probable que ces deux informations n’en soient en définitive qu’une seule.

OCI est partie prenante dans le projet Stargate d’OpenAI. Aux USA, Stargate doit correspondre à des bâtiments entiers d’OCI qui seraient réservés à OpenAI. La construction des dits bâtiments et leur remplissage avec des serveurs de calcul est financée par les deux acteurs.

Il n’empêche que ces accords reflètent la volonté de Google d’étendre l’accès à ses TPU au-delà de son propre cloud. Selon Matt Kimball, la vente de ses TPU à des tiers pourrait s’avérer rentable pour Google Cloud dans le sens où elle servirait à populariser son architecture sans qu’il ait à maintenir en production de serveurs supplémentaires.

Au point que Google Cloud finisse par prendre des parts de marché à Nvidia ? Matt Kimball rejette cette hypothèse : « si l’on en croit les hyperscalers, la demande pour des services d’IA en ligne croît plus vite que ce qu’un seul fabricant de puces accélératrices peut fournir en termes de temps de calcul. Donc le marché pour les puces accélératrices devrait s’étendre plus vite que la production des TPU de Google Cloud », estime-t-il.

Cet article est l’adaptation d’une actualité parue en anglais sur TechTarget.com, une publication sœur du MagIT.