PCIe-kaart vermindert energieverbruik in AI-servers aanzienlijk
Tijdens CES 2024 introduceerty het Koreaanse DEEPX de DX-H1. Dit is een PCIe-kaart die is ontworpen om de prestaties van AI-servers te versnellen en tegelijkertijd het energieverbruik te verlagen. De DX-H1, die in aanloop naar de beurs in Las Vegas de CES 2024 Innovatie Award heeft gewonnen in de categorie Computer Hardware en Componenten, legt de nadruk op prestaties, energie-efficiëntie en kosteneffectiviteit.
De PCIe-versnellerkaart biedt een uitzonderlijke energie/prestatie-efficiëntie die de huidige GPU-gebaseerde oplossingen met meer dan 10 keer overtreft. Hierdoor kan deze kaart wellicht een significante rol gaan spelen in het verminderen van koolstofemissies voor AI-servers en datacenters.
De markt voor AI-servers is afhankelijk van energie-intensieve GPU's, waarvan het hoge energieverbruik leidt tot aanzienlijke koolstofemissies. De noodzaak om de milieueffecten te minimaliseren en de efficiëntie te verhogen, met name in datacenters, stimuleert de vraag naar duurzamere, energiezuinige AI-accelerators. Analisten verwachten dan ook dat deze markt snel zal gaan groeien. Uit projecties van TrendForce blijkt bijvoorbeeld dat de markt voor AI-servers zal groeien met een samengestelde jaarlijkse groei (CAGR) van meer dan 36% tot 2027. Voor datacenters die tegelijkertijd koolstofemissies willen beperken en een competitief voordeel willen behalen door AI-prestaties van topniveau mogelijk te maken, vertegenwoordigen producten zoals de DX-H1 een mogelijke oplossing.
DEEPX heeft twee nieuwe technologieën ontwikkeld. Dat is allereerst IQ8. Dit is een manier om AI-modellen te comprimeren, waardoor dataverwerking als het trainen van modellen sneller kan gebeuren. Smart Memory Access minimaliseert het gebruik van D-RAM tot minder dan een tiende van de typische GPU-niveaus, wat met name gunstig is voor inferentie-workloads.
De DX-H1 integreert ook met bestaande GPU’sen biedt een interface om door GPU’s getrainde AI-modellen te ondersteunen. Dit maakt een overgang mogelijk voor bedrijven die de prestaties willen verbeteren zonder de noodzaak van systeemwijzigingen.
Meer over
Lees ook
‘Consolideren van gevirtualiseerde servers bespaart veel geld’
Het draaien van servers kosten geld. Zo gebruiken de servers energie en moeten deze onder een SLA vallen. Door gevirtualiseerde servers binnen een datacenter te consolideren op een minimaal aantal fysieke servers kunnen dan ook forse kostenbesparingen worden gerealiseerd. Een slim algoritme helpt hierbij. Eco4Cloud heeft het algoritme in een proof of concept gedemonstreerd. Eco4Cloud is een initiatief van het Institute for High-Performance Computing and Networking van de Italian Network Research Council. Het consolideren van gevirtualiseerde servers zou bedrijven een grote kostenbesparing kun1
'Markt voor datacenterracks groeit tot 40,25 miljard dollar in 2019'
De wereldwijde markt voor datacenter rackservers was afgelopen jaar 22,01 miljard dollar waard. De komende jaren groeit de markt hard en is naar verwachting in 2019 zelfs verdubbeld tot 40,25 miljard dollar. De markt maakt een jaar-op-jaar groei door van 7,17%. Dit voorspelt ResearchandMarkets. Met name de snel groeiende behoefte aan data-opslag e1
Nieuwe selector van Rittal voor IT-infrastructuur
Voor een goede planning van een datacenter is betrouwbare informatie van essentieel belang. Rittal schiet IT-verantwoordelijke te hulp met een nieuwe webbased selector voor IT-infrastructuur. Datacenterbeheerders en -eigenaren krijgen hierdoor een snel beeld van de componenten van een datacenter en uitgebreide productinformatie. Gebruikers kunnen1