Éliminer l’alimentation inexploitée.
Éliminer l’alimentation inexploitée en alignant les clusters IA aux blocs de puissances du data center.
L’alimentation d’un data center est segmentée en blocs de puissance, généralement 1-3 MW et déterminée par des normes de taille des disjoncteurs ou des groupes électrogènes standard du secteur.
L’IA est déployée en clusters, qui seront bientôt répandus à plus de 100 kW/rack, pour ensuite monter en puissance.
L’alignement des clusters sur les blocs de puissance peut permettre que chaque kW disponible peut être utilisé.
Équilibrer les coûts, la redondance et les risques.
L’alimentation d’un data center est segmentée en blocs de puissance, généralement 1-3 MW et déterminée par des normes de taille des disjoncteurs ou des groupes électrogènes standard du secteur.
Des conceptions qui limitent le rayon de projection ou l’impact de la perte d’un seul segment de puissance (serveur, rack, rangée) tendent à utiliser un plus grand nombre de composants plus petits, potentiellement au détriment du coût total de possession.
Les conceptions qui favorisent le coût total de possession ont tendance à utiliser des nombres inférieurs de composants plus larges, souvent avec une redondance pour réduire la possibilité d’une perte d’un segment de puissance.
Inclure le refroidissement liquide et par air.
L’alimentation du data center est égale à la chaleur rejetée.
Les températures et les débits de refroidissement par air et par liquides doivent rester dans l’enveloppe de fonctionnement des serveurs IA et de l’équipement de rejet de chaleur du data center.
Conception pour l’avenir.
Planifier aujourd’hui pour répondre à la croissance future et à la demande de haute densité.
La durée de vie classique d’un data center est de près de deux décennies. Le cycle de conception d’une puce IA est inférieur à deux ans.
Concevoir l’alimentation et le refroidissement ensemble.
Optimisez l’infrastructure IA en s'assurant que les technologies d'alimentation et de refroidissement sont développées et déployées pour travailler ensemble.
Le matériel d’alimentation, de refroidissement et d’IA est en concurrence pour un espace et une énergie limitée.
Une approche complète de la conception de l’alimentation et du refroidissement est requise pour optimiser la part d’espace et d’énergie dédiée au traitement de l’IA.
Vertiv Design
Principles
Explore how implementing
these principles can optimize
the strategic deployment of
AI workloads.
Gérer les pics de charge de travail de l’IA.
Planifier la variance que les charges de travail d’IA peuvent exiger grâce à des contrôles au niveau du système, y compris des tampons d’alimentation et de refroidissement.
L’« entrainement » de l’IA a tendance à pousser un grand nombre de processeurs à agir à l’unisson, créant des pics de consommation électrique massifs qui peuvent se répéter et dégrader à la fois les performances et la durée de vie de l’infrastructure d’alimentation et de refroidissement.
Les conceptions pour l’atténuation comprennent des contrôles au niveau du système avec une réponse rapide, ainsi que des tampons immédiatement accessibles en termes de puissance d’alimentation et de refroidissement.