Le refroidissement liquide est-il suffisamment efficace pour Blackwell ?

À mesure que la technologie de l’IA continue de progresser, de plus en plus de centres de données se tournent vers le refroidissement liquide. Par rapport aux méthodes traditionnelles de refroidissement par air, le refroidissement liquide, en particulier le refroidissement liquide direct (DLC), offre une efficacité de dissipation de chaleur nettement supérieure. La conductivité thermique du liquide est 50 à 3,000 27 fois supérieure à celle de l’air, ce qui permet une meilleure gestion thermique dans les environnements de serveurs à haute densité qui génèrent une chaleur importante. De plus, le refroidissement liquide peut réduire la consommation globale d’énergie. Les recherches indiquent que la transition des systèmes à air aux systèmes liquides peut réduire la consommation d’énergie des installations de 15.5 % et la consommation totale d’énergie du site de XNUMX %. Un autre avantage du refroidissement liquide est son fonctionnement plus silencieux et son encombrement physique plus réduit.

En résumé, le refroidissement liquide offre une efficacité énergétique élevée, un fonctionnement silencieux et des avantages en termes d’économie d’espace.

Solutions de refroidissement liquide CoolIT Systems

CoolIT Systems (CoolIT), fondée en 2001, a initialement conçu et distribué des produits de refroidissement liquide direct pour l'industrie du jeu sur ordinateur de bureau. En 2014, la société a commencé à développer des produits pour les centres de données et les fabricants de serveurs, et elle est désormais considérée comme l'un des principaux fournisseurs de solutions de refroidissement liquide direct. Basée à Calgary, au Canada, CoolIT possède des installations de fabrication au Canada et en Chine. CoolIT fournit notamment un support de refroidissement liquide pour El Capitan, qui est considéré comme le supercalculateur le plus rapide au monde.

Récemment, suite à des rapports faisant état d'une surchauffe de Blackwell, CoolIT Systems a annoncé le lancement du CHx1000, l'unité de distribution de liquide de refroidissement liquide-liquide (CDU) à la plus haute densité au monde. Spécialement conçu pour les applications critiques, le CHx1000 est destiné à refroidir la plateforme NVIDIA Blackwell et d'autres charges de travail d'IA exigeantes nécessitant un refroidissement liquide.

Selon Patrick McGinn, directeur de l'exploitation de CoolIT, le CHx1000 s'appuie sur plus de 20 ans d'innovation DLC et de collaboration avec les principaux fabricants de processeurs et les entreprises hyperscale, offrant une capacité de refroidissement de 1000 1.5 kW à des débits allant jusqu'à 3 litre par minute par kilowatt (LPM/kW) avec une température d'approche de XNUMX °C.

Le CDU liquide-liquide CHx1000 refroidira dans un premier temps dix racks de plateforme NVIDIA GB200 NVL72 sans précédent, offrant des performances suffisantes pour les futures puces et serveurs d'IA avec des densités thermiques plus élevées. Le NVIDIA GB200 NVL72 offre des performances d'inférence 30 fois plus rapides et une efficacité énergétique 25 fois supérieure à celle de son prédécesseur, ce qui le rend adapté aux applications LLM à grande échelle.

Conçu pour la maintenance en ligne, le CHx1000 est doté d'un accès avant et arrière et de pompes, filtres et capteurs remplaçables sur le terrain sans interruption de fonctionnement. Sa conception hautement fiable comprend des tuyaux en acier inoxydable, des filtres intégrés de 25 microns et des matériaux mouillés de la plus haute qualité. Des commandes intelligentes ajustent de manière dynamique le débit du liquide de refroidissement à la température, au débit et à la pression précis de la puce. L'appareil peut être contrôlé à distance via un écran tactile de 10 pouces ou via des protocoles tels que Redfish, SNMP, TCP/IP et Modbus.

Refroidissement liquide direct Supermicro

Supermicro a lancé la solution SuperCluster, qui intègre les GPU NVIDIA Blackwell dans une configuration de rack refroidie par liquide. Cette configuration améliore la densité de calcul du GPU et comprend des fonctionnalités avancées telles que des collecteurs de distribution de liquide de refroidissement verticaux et des plaques froides améliorées pour une gestion thermique optimale. La conception augmente l'efficacité et réduit les coûts opérationnels, ce qui la rend adaptée aux déploiements d'IA à grande échelle.

Cette année, au Computex, SuperMicro a annoncé des systèmes optimisés pour les GPU Blackwell de Nvidia, notamment des appareils 10U refroidis par air et 4U refroidis par liquide pour les systèmes basés sur HGX B200. La société développe également un système HGX B100 refroidi par air et un rack GB200 NVL72 contenant 72 GPU interconnectés via des commutateurs Nvidia NVLink. De plus, SuperMicro s'est engagé à lancer des systèmes basés sur le Xeon 6 d'Intel.

La solution de rack refroidi par liquide de Super-micro se compose de plusieurs composants conçus en interne, notamment :

1. Unité de distribution de liquide de refroidissement (CDU) : cette unité comprend un système de pompage qui fait circuler le liquide de refroidissement vers les plaques froides qui refroidissent les processeurs et les GPU. La CDU de Supermicro intègre deux modules de pompage et d'alimentation remplaçables à chaud et redondants pour garantir une disponibilité de près de 100 %. Elle dispose d'une capacité de refroidissement allant jusqu'à 100 kW, ce qui permet une densité de rack très élevée. La CDU dispose également d'un écran tactile facile à utiliser, accessible via l'interface Web pour surveiller et contrôler les opérations de rack, et est intégrée au logiciel de gestion de centre de données Super Cloud Composer de Supermicro. Le système de contrôle optimise la consommation d'énergie tout en garantissant un refroidissement efficace de tous les processeurs et GPU, avec des stratégies anti-condensation efficaces pour éviter toute dégradation des performances matérielles.
2. Collecteur de distribution de liquide de refroidissement (CDM) : le CDM alimente chaque serveur en liquide de refroidissement et récupère le liquide de refroidissement chauffé vers le CDU. Il existe deux types de CDM :
3. Vertical : Placés à l'arrière du rack, ces collecteurs se connectent directement au CDU via des flexibles. Ils alimentent en liquide de refroidissement les plaques froides du système, avec des flexibles d'entrée et de sortie à l'arrière du rack.
4. Horizontal : Situés à l'avant du rack dans un espace rack 1U, ces collecteurs connectent les collecteurs verticaux à l'arrière aux plaques froides des systèmes à l'avant du rack (par exemple, les serveurs SuperBlades et GPU 8U).
5. Plaques froides : des plaques froides sont placées au-dessus des processeurs et des processeurs graphiques, le liquide de refroidissement circulant dans leurs microcanaux pour refroidir efficacement les puces. Les plaques froides de Supermicro sont conçues pour minimiser les points chauds sur les puces et obtenir une résistance thermique ultra-faible.

Système de refroidissement liquide Lenovo Neptune

Le Lenovo ThinkSystem N1380 Neptune est un système de refroidissement liquide vertical de sixième génération conçu pour refroidir efficacement les racks de serveurs haute densité, réalisant des configurations supérieures à 100 kW sans nécessiter de climatisation spécialisée. Ce système de refroidissement direct à eau chaude en boucle ouverte réduit considérablement la consommation d'énergie, soit 40 % de moins que les méthodes de refroidissement traditionnelles. L'expertise de Lenovo en matière de refroidissement liquide provient de l'acquisition de la technologie de serveur d'IBM, ce qui en fait un leader dans le domaine.

La solution de refroidissement direct par eau fait recirculer l'eau chaude pour refroidir les systèmes du centre de données, ce qui permet de refroidir tous les composants du serveur et de réduire le besoin de ventilateurs système gourmands en énergie. La conception brevetée de la plaque froide, optimisée pour les processeurs et les accélérateurs, maximise la capacité de refroidissement des accélérateurs, qui supportent actuellement une consommation d'énergie d'environ 700 W, et dont les conceptions futures devraient dépasser les 1000 XNUMX W. La nouvelle conception de refroidissement par eau chaude (Neptune™ Warm Water Cooling) permettra un fonctionnement sans climatisation spécialisée du centre de données.