Datacenters krijgen te maken met nieuw type processor: DPU’s

dpu-card

Met de opkomst van trends als AI krijgen datacenters plotsklaps te maken met een hele nieuwe categorie aan hardware. Systemen die ook andere energieprofielen kennen dan standaard servers en die bovendien gebruik maken van nieuwe componenten. Zoals DPU’s.

Die letters staan voor ‘data processing unit’. Ze gaan volgens specialisten op het gebied van IT-hardware samen met CPU’s (central processing units) en GPU’s (graphical processing units) de kern van de toekomstige IT-systemen vormen.

CPU's waren jarenlang het enige programmeerbare element in computers. Meer recentelijk heeft de GPU, of grafische verwerkingseenheid, een centrale rol ingenomen. Oorspronkelijk gebruikt om rijke, real-time graphics te leveren, maken hun parallelle verwerkingsmogelijkheden ze ideaal voor allerlei soorten ‘accelerated’ computertaken. Dankzij deze mogelijkheden zijn GPU's essentieel voor toepassingen op het gebied van kunstmatige intelligentie, deep learning en big data-analyse.

Dan is er nu ineens een nieuw type processor: de Data Processing Unit. Een DPU is een programmeerbare processor die drie belangrijke elementen combineert. Het is een system-on-a-chip, of SoC, dat het volgende combineert:

  • Een programmeerbare CPU die uit meerdere cores bestaat, meestal gebaseerd op de veelgebruikte ARM-architectuur.
  • Een krachtige netwerkinterface die in staat is om gegevens met hoe snelheid te verwerken en te versturen, en efficiënt over te dragen naar GPU's en CPU’
  • Een uitgebreide set flexibele en programmeerbare ‘accelerator engines’ die de prestaties van applicaties voor onder andere AI en machine learning, zero-trust beveiliging, telecommunicatie en opslag ontlasten en verbeteren.

Het doel van een DPU is om data zo snel mogelijk bij CPU’s en GPU’s te krijgen, zodat deze hun werk snel en efficiënt kunnen doen. Soms worden DPU’s als zelfstandige componenten in een server gebruikt. In veel andere gevallen worden ze echter geïntegreerd in netwerkkaarten - zogeheten SmartNIC’s - zodat zij volledig ingezet kunnen worden voor het razendsnel verzenden en ontvangen van data.

Een van de redenen waarom DPU’s plotsklaps populair zijn geworden is hun energieverbruik. Metingen bij eerste toepassingen geven namelijk aan dat een DPU tot 80% kan besparen op het stroomverbruik in vergelijking met een CPU en een GPU voor dezelfde workload.

Lees ook
De verbinding van Dirk Pol

De verbinding van Dirk Pol

In de wereld van netwerkdiensten staat Dirk Pol ruim 26 jaar lang als een baken, met zijn expertise die de vormgeving van connectiviteit beïnvloedt. Van zijn vroege dagen in softwareontwikkeling tot het sturen van i4 Networks richting innovaties,

Datacenters en duurzaamheid – it’s complicated ?

Datacenters en duurzaamheid – it’s complicated ?

Dat datacenters meer moeten doen aan duurzaamheid zal niet verbazen. Evenmin zal de lezer vreemd opkijken van de verhoogde activiteiten van adviseurs, zoals het Uptime Institute, die met onderzoeken zwaaien.

RePlanIT maakt circulaire opties voor laptops en servers inzichtelijk

RePlanIT maakt circulaire opties voor laptops en servers inzichtelijk

Meer nog dan refurbishing of recycling vormt levensduurverlenging van apparaten de basis van een circulaire economie. Om dat effectief te kunnen doen moet je om te beginnen data hebben, zodat het juiste aanschaf- en gebruiksbeleid kan worden gevormd. Het project RePlanIT ontwikkelt tools die juist dat mogelijk maken.