Au cœur de l’usine tchèque qui fabrique les serveurs pour l’Europe

Visite guidée dans l’usine située à Kutná Hora, où HPE fait fabriquer par Foxconn tous les serveurs et baies de stockage qu’il vend en Europe.

La plupart des serveurs et baies de stockage vendus aux clients européens ne sont pas fabriqués aux USA ou en Asie, mais bien en Europe. Deux marques, Pure Storage et HPE, ont ouvert les portes de leur usine sur le continent au MagIT. Surprise : l’essentiel de la production sort de deux sites, situés en République tchèque, tous deux appartenant à leur concurrent Foxconn.

Crédité par les analystes de plus gros fabricant de serveurs au monde, le Taiwanais Foxconn construit essentiellement des machines en marque blanche pour les hyperscalers. Ses moyens industriels sont colossaux et, comme en Europe, ce sont souvent ses usines qui servent aussi aux autres marques pour assembler les serveurs, baies de stockage ou racks de machines que leurs bureaux d’étude ont dessinés.

Photographie du site de Foxconn à Kutná Hora, dans la campagne tchèque
Le site de Foxconn à Kutná Hora, dans la campagne tchèque.

Sur le site de Kutná Hora, à un peu plus d’une heure de route de Prague, on dénombre ainsi 1 500 salariés de Foxconn qui assemblent des machines 24 heures sur 24, de cinq à six jours par semaine, parfois même le dimanche, et 55 ingénieurs HPE qui les testent pour vérifier qu’elles répondent au cahier des charges demandé par le client. L’usine ne produit pas que des machines HPE, mais concernant ce dernier, chaque mois, elle fabrique environ 30 000 serveurs, 500 baies racks prêtes à l’emploi, et expédie aussi près de 250 000 extensions (disques durs, barrettes de RAM…).

Outre le tout-venant des configurations pour datacenters, c’est aussi de cette usine que sortent tous les supercalculateurs et autres clusters d’IA critiques que HPE vend sur le continent européen. Parmi eux, le HPC6 de l’Italien ENI avec plus de 13 300 GPUs, l’Alps du laboratoire suisse CSCS qui en a 10 400, ou encore le Lumi du centre finlandais CSC qui en totalise plus de 11 600. HPE a aussi fabriqué ici des clusters pour l’ESA, pour le ministère des armées en France, ou encore pour l’écurie de formule 1 de Mercedes. Visite guidée.

Une base de données pour tout tracer, de la commande jusqu’aux composants

Photographie de Tereza Elbova, responsable de l’équipe HPE sur le site.
Tereza Elbova, responsable de l’équipe HPE sur le site.

« Une fois qu’une commande est passée avec un client, l’ordre de fabrication est passé dans notre base SAP interne à HPE. L’équipe locale s’assure que toutes les caractéristiques sont indiquées et complète éventuellement les détails manquants avec des solutions recommandées. Mais les détails peuvent aller très loin ; nos clients peuvent choisir jusqu’à la couleur des câbles réseau, ou encore l’endroit exact sur le câble où accrocher l’étiquette qui l’identifie », commence Tereza Elbova, responsable de l’équipe HPE sur le site.

Les cartes mères, les câbles, les composants électroniques, les châssis ne sont pas fabriqués dans cette usine. Ils sont importés d’autres usines, principalement en Asie. La fonction de l’usine de Kutná Hora est d’assembler ces pièces en serveurs et de s’assurer en bout de chaîne que les serveurs fonctionnent avant de les expédier chez un client final ou un grossiste.

Vue du stock de composants.
Vue du stock de composants.

Lorsque les commandes sont finalisées, elles sont communiquées aux équipes Foxconn qui, elles, lancent un nouveau cycle de production de 250 serveurs toutes les six heures. La première étape consiste à aller chercher les composants de ces 250 serveurs dans un hangar contenant 35 000 palettes. Des chariots robotisés vont automatiquement trouver le nécessaire, grâce aux références indiquées dans la base de données des commandes en cours.

« Les seuls composants qui ne sont pas stockés avec le reste sont les processeurs et les mémoires. Ils sont dans des compartiments sécurisés, car ce sont des petites pièces qui valent très cher », ajoute-t-elle, en montrant des containers de couleur bleue qui contiendraient pour plus de 500 millions de dollars de processeurs.

Au bout de chaque allée, des opérateurs munis de scanners à codes-barres identifient les pièces qu’ils réunissent dans 250 caddies, chacun devant servir à assembler un serveur. Un caddie contient en moyenne 30 à 40 pièces : carte mère, mémoires, cartes PCIe, ventilateurs, disques, etc.

« Le serveur final existe dans notre base à partir de ce moment, ce qui est important pour la traçabilité. Si un fournisseur nous prévient après coup d’un défaut de fabrication sur un composant, nous savons ainsi exactement quels serveurs sont impactés », dit la responsable.

Plus de 80 % des manipulations sont faites par des humains, plus adaptables

Cette première étape de collecte des composants et de leur distribution sur 250 caddies est échelonnée sur une période de huit heures. Elle consiste principalement à étiqueter chaque composant avec la référence de la commande. Un fait intéressant à noter est que, à l’occasion, c’est aussi à ce moment-là que peuvent être imprimés en 3D des outils qui vont aider au montage.

Détail de l'intérieur d'un serveur HPE
Des montages sont si complexes, que l’usine imprime des outils en 3D pour assister les assemblages de composants.

« Par exemple, lorsqu’un opérateur va visser une carte mère dans un châssis, il risque de déraper et d’abîmer avec son tournevis électrique les circuits de la carte mère. Pour éviter ce risque, nous imprimons des guides en 3D. Et nous le faisons régulièrement, car HPE conçoit régulièrement de nouvelles machines », illustre Tereza Elbova.

Elle explique que l’agilité et l’adaptabilité nécessaires au montage d’une très grande variété de configurations font qu’il n’est pas envisageable de robotiser ces montages. « Sur toute notre chaîne de production, plus de 80 % des manipulations sont effectuées par des humains. Les robots sont principalement utilisés pour déplacer les produits, d’un endroit à l’autre, ou d’une altitude à l’autre. »

Deux premiers assemblages ont aussi lieu en parallèle durant ces huit premières heures. D’un côté, les processeurs sont installés sur les cartes mères. De l’autre, les disques durs ou SSD sont montés sur des supports eux-mêmes prévus pour être montés plus tard dans une machine. « Ce sont des opérations qui nécessitent les mains les plus expertes. Le risque de tordre une broche quand on insère un processeur sur son socle est extrêmement élevé », précise la responsable.

Entre 20 minutes et 15 heures pour fabriquer un serveur

Photographie d'un poste de travail sur une chaîne de montage.
Poste de travail sur une chaîne de montage.

À l’issue de ces premières huit heures, les caddies arrivent au départ de huit chaînes de montage qui, selon la complexité de la machine à fabriquer, comprennent chacune trois à cinq étapes. « Chaque ligne de production peut fabriquer un maximum de 250 serveurs par jour, ce qui signifie qu’en période de très haute activité nous pouvons produire jusqu’à 2 000 serveurs par jour », précise Tereza Elbova, en rappelant que la moyenne est de 1 000 serveurs produits par jour, soit 125 par ligne de production, soit un peu plus d’une trentaine par cycle.

La première étape consiste à inspecter visuellement le châssis, à protéger ses éléments sensibles et à disposer à côté de lui les composants à mettre dedans. On s’apercevra lors de la suite de la visite que ces inspections sont fortement récurrentes, jusqu’au moment de l’emballage final de la machine avant expédition où un opérateur vérifie même qu’il n’existe aucune trace de doigt nulle part.

Photographie des écrans indiquant les procédures à suivre, ce qui fiabilise les montages personnalisés.
Des écrans indiquent les procédures à suivre, ce qui fiabilise les montages personnalisés.

Concernant le montage des composants, l’opérateur suit une procédure qui lui est indiquée par un écran sur son poste de travail. « Il n’y a pas vraiment d’automatisme. Par exemple, nous pouvons avoir l’habitude d’insérer telle carte PCIe dans le slot No 2, mais un client la veut dans le slot No 1. L’écran affiche donc à chaque fois une procédure personnalisée par client », dit notre hôte.

Tout est filmé par des caméras de vidéosurveillance. « Bien entendu, pour surveiller que ces pièces très coûteuses ne sont pas volées. Mais les images que nous prenons nous servent aussi à analyser l’ergonomie de chaque poste de travail afin de déterminer les points d’amélioration. Et si, lors des inspections ultérieures, nous trouvons des défauts récurrents, nous pouvons nous servir de ces images pour trouver ce qui ne va pas dans le processus de montage », précise-t-elle.

Photographie d'un serveur complexe de HPE.
La fabrication et le test d’un serveur complexe peuvent prendre jusqu’à une quinzaine d’heures.

À la fin du montage, nouvelle inspection. Visuelle d’abord, puis fonctionnelle ensuite, via une machine qui allume le serveur et teste que tous ses éléments répondent bien. Pour un serveur de base, le montage et l’inspection finale durent environ 20 minutes.

Pour les serveurs les plus complexes, notamment les nœuds de calcul dans les supercalculateurs ou les clusters d’entraînement d’IA, ce temps peut dépasser une quinzaine d’heures.

Jusqu’à trois jours pour finaliser des baies racks et deux mois pour des clusters

À ce stade, les serveurs autonomes partent à l’inspection. Mais pour nombre de clients, il s’agit de leur livrer des machines montées dans des baies de rack. HPE propose différents formats, d’une petite baie de 8U à une gigantesque de 52U.

Photographie de baies racks pour serveurs HPE
La préparation des baies racks se fait en parallèle de la construction des serveurs.

La préparation du rack en amont est une chaîne de production en soi. Des opérateurs y installent les alimentations, les switches. Quand les serveurs sont prêts, une seconde équipe les glisse dans la baie, là aussi selon la disposition demandée par un client, avec éventuellement des espaces libres ménagés aux endroits où le client prévoit d’ajouter des nœuds supplémentaires a posteriori.

« Nous peuplons toujours une baie rack en partant du bas, avec les machines les plus lourdes – certains serveurs peuvent peser 100 kg – et allant jusqu’au haut où se situent les éléments les plus légers », commente Tereza Elbova.

Photographie de cables réseau sur des serveurs HPE.
Le câblage des éléments d’une baie rack peut prendre jusqu’à 12 heures.

Une troisième équipe s’occupe ensuite de tout câbler. C’est l’étape la plus longue, elle peut prendre jusqu’à douze heures. « Pour chaque câble, il faut respecter une courbure donnée, il faut l’étiqueter. Et je rappelle que les clients peuvent choisir leur câble, la couleur du câble selon sa fonction, l’étiquette qu’il faut mettre dessus et l’endroit où l’on met l’étiquette », rappelle notre interlocutrice.

Une fois la baie rack entièrement montée, il y a de nouveau des inspections. Et des tests de fonctionnement. Ceux-ci peuvent durer un, deux ou trois jours selon la complexité de la baie ; chaque connexion, c’est-à-dire chaque câble, a droit à sa procédure de validation.

Dans le cas des clusters, qui réunissent plusieurs baies rack, des tests supplémentaires sont menés, mais cette fois sur la partie logicielle et ils sont supervisés par des équipes HPE.

Photographie d'un laboratoire de test permettant de tester les clusters de calcul avec les logiciels des clients.
Un laboratoire de test permet de tester les clusters de calcul avec les logiciels des clients.

« Ces tests-là peuvent prendre entre une semaine et deux mois. Il faut comprendre que lorsque nous vendons des supercalculateurs, nous ne vendons pas de l’équipement, mais de la performance. Et nous devons prouver à notre client que ce qu’il va recevoir aura les performances qu’il a achetées. Donc, dans ce cas très précis, nous ouvrons un VPN pour que notre client puisse installer à distance ses logiciels et que nous puissions avec lui faire toutes les mesures qui l’intéressent », explique la responsable.

Un soin extrême jusque dans l’expédition

Photographie du conditionnement dans un coffre de bois d'une baie de serveurs refroidis à l'eau.
Les baies refroidies à l’eau sont conditionnées dans des coffres en bois.

La dernière étape consiste à préparer les machines pour l’expédition. Outre une énième inspection visuelle, on pose à ce moment les panneaux latéraux sur les baies, on met des crochets et des rampes qui serviront à déplacer la machine chez le client. On ajoute aussi une étiquette remplie d’un liquide qui change de couleur si la machine est renversée à plus de 40° durant le transport.

Les serveurs et les baies traditionnelles, refroidis par ventilateurs, sont emballés dans des cartons. Ceux refroidis par liquide, plus fragiles, sont conditionnés dans des coffrets en bois.

« Les colis sont ensuite acheminés à Prague d’où des transporteurs les amènent à leur destination. Mais il arrive que nous gérions des transports sécurisés », dit Tereza Elbova. Elle raconte que, dans le cas de clusters critiques pour des ministères, pour la Défense, il arrive que le convoi soit encadré par des gens armés et les colis équipés de balises GPS.

De ce que LeMagIT a pu en voir, les étapes concernant la fabrication des baies de stockage de Pure Storage – dans l’usine Foxconn de Pardubice située un peu plus loin – sont similaires à celles mises en place pour les machines HPE.

Pour approfondir sur x86