Nieuwe generatie AI-chips van Nvidia gaan 1000 Watt verbruiken

nvidia-a100-hgx-3qtr-front-left-2c50-l@2x

Er komen - zeg maar - interessante tijden aan voor datacenters die veel AI-workloads draaien. Nvidia’s volgende generatie AI-GPU's, met de codenaam Blackwell, belooft een aanzienlijke sprong voorwaarts in rekenkracht, maar met een aanzienlijke toename van het energieverbruik. Volgens informatie onthuld door Dell, een van 's werelds grootste serverfabrikanten, en gerapporteerd door Tom’s Hardware, zullen deze nieuwe GPU's tot wel 1000 watt verbruiken. Dat is een stijging van 40% ten opzichte van de huidige generatie. Deze toename in energiebehoefte kan een flinke uitdaging vormen voor zowel de koeltechnologieën als de infrastructuur van datacenters.

De toename in energieverbruik van Nvidia's Blackwell GPU's heeft directe implicaties voor datacenters. Enerzijds biedt het een aanzienlijke verbetering in AI-verwerkingsmogelijkheden, wat cruciaal is voor high-performance computing (HPC) en AI-toepassingen. Anderzijds introduceert het de noodzaak voor geavanceerde koelsystemen om de warmte die door deze krachtige chips wordt gegenereerd, efficiënt af te voeren.

De potentiële introductie van een zogeheten ‘dual-die’ ontwerp, iets wat Nvidia voorheen niet heeft geïmplementeerd, wijst op een strategie om de warmteverdeling over een groter oppervlak te optimaliseren, vergelijkbaar met benaderingen van AMD en Intel. Dit zou kunnen betekenen dat datacenters hun koelstrategieën moeten herzien om oververhitting te voorkomen, wat de betrouwbaarheid en levensduur van de apparatuur kan beïnvloeden.

Voor datacenters kan de stijging in energieverbruik ook een toename in operationele kosten betekenen, met name op het gebied van energie en koeling. Dit kan niet alleen financiële implicaties hebben, maar ook milieu-overwegingen, gezien de grotere CO2-footprint die gepaard kan gaan met hoger energieverbruik.

 

Lees ook
Hoe datacenters met de juiste UPS op een duurzame manier kunnen groeien en efficiëntie kunnen verhogen

Hoe datacenters met de juiste UPS op een duurzame manier kunnen groeien en efficiëntie kunnen verhogen

Beheerders van enterprisedatacenters, cloud- en serviceproviders en colocatiefaciliteiten staan onder toenemende druk om aan de groeiende vraag te voldoen. Tegelijkertijd moeten de uptime en prestaties worden verbeterd, kosten beheerst en aan de duurzaamheidsdoelstellingen van de organisatie gewerkt. Een manier om met deze uitdagingen om te gaan,1

Upgrade stroomvoorzieningen datacentrum telecomprovider zonder uitval

Upgrade stroomvoorzieningen datacentrum telecomprovider zonder uitval

Door de groeiende vraag vanuit de markt kwam een grote Nederlandse telecomprovider voor een probleemstelling te staan waar veel beheerders van snel groeiende datacenters vroeg of laat mee te maken krijgen: hoe laat ik het vermogen van mijn energiedistributie groeien terwijl de IT-apparatuur in het live datacenter niet uitgeschakeld mag worden? Ing1

Verbeterde veiligheid en flexibiliteit en meer vermogen met SMISSLINE TP

Verbeterde veiligheid en flexibiliteit en meer vermogen met SMISSLINE TP

Flexibel en schaalbaar – dat wil je als datacenter zijn. Want alleen dan kan groei snel en eenvoudig worden opgevangen. En als het afgelopen jaar ons iets heeft geleerd, dan is het wel dat groei op de meest onverwachte momenten in een stroomversnelling kan raken. Groei en uitbreiding moeten echter ook veilig en beheersbaar zijn. Met SMISSLINE TP b1