Onderzoek biedt nieuwe inzichten in energiegebruik van AI-toepassingen

hugging face ai

In een recente studie hebben onderzoekers van het AI-startup Hugging Face in samenwerking met de Carnegie Mellon University belangrijke gegevens verzameld over de ecologische voetafdruk van kunstmatige intelligentie (AI), met name gericht op het genereren van afbeeldingen en tekst. Dit onderzoek werpt een nieuw licht op de energievereisten van AI-toepassingen, die vaak onderwerp van discussie zijn geweest vanwege hun vermeende hoge elektriciteitsverbruik.

De studie geeft aan dat het creëren van een foto met behulp van AI vergelijkbaar is met het opladen van een smartphone. Dit biedt een verrassend perspectief, gezien de algemene perceptie dat AI-toepassingen buitensporige hoeveelheden elektriciteit verbruiken. Interessant is dat het genereren van tekst door AI, zoals het voeren van een gesprek met een chatbot of het verbeteren van een essay, aanzienlijk minder energie vereist dan het genereren van foto's. Het onderzoek toont aan dat AI-gegenereerde tekst ongeveer evenveel energie vereist als het opladen van een smartphone tot slechts 16 procent van een volledige lading.

Uitgebreide analyse van AI-taken

De onderzoekers hebben niet alleen gekeken naar beeld- en tekstgeneratie. In totaal werden 13 verschillende taken onderzocht, variërend van het maken van een samenvatting tot tekstclassificatie. Ze maten de hoeveelheid koolstofdioxide die per 1000 gram werd geproduceerd. Om de studie eerlijk en de datasets divers te houden, werden experimenten uitgevoerd op 88 verschillende modellen met gebruik van 30 datasets. Voor elke taak werden duizend prompts uitgevoerd, waarbij zowel het energieverbruik als de uitgestoten koolstof tijdens een uitwisseling werd gemeten.

De studie benadrukt dat de meest energie-intensieve taken die zijn waarbij een AI-model nieuw materiaal genereert, of het nu gaat om tekstgeneratie, een samenvatting, een beeldbijschrift of afbeeldingsgeneratie. Het genereren van afbeeldingen scoorde het hoogst in de hoeveelheid emissies die het produceerde, terwijl tekstclassificatie als de minst energie-intensieve taak werd geclassificeerd.

Oproep tot transparantie

De onderzoekers dringen er bij wetenschappers en ontwikkelaars van machine learning op aan om transparant te zijn over de aard en de impact van hun modellen. Dit zou een beter begrip van de milieu-impact van deze technologieën mogelijk maken. Hoewel het energieverbruik voor het opladen van een smartphone per door AI gegenereerde afbeelding misschien niet ernstig lijkt, kunnen de emissies snel oplopen gezien de populariteit en de publieke toegankelijkheid van AI-modellen. Als voorbeeld noemen de auteurs van de studie ChatGPT, dat op zijn hoogtepunt meer dan 10 miljoen gebruikers per dag had en vandaag de dag 100 miljoen maandelijks actieve gebruikers heeft.

Lees ook
Panduit gaat samen met Cisco datacenters duurzamer maken

Panduit gaat samen met Cisco datacenters duurzamer maken

Panduit heeft zijn intelligente PDU (iPDU) geïntegreerd met het Cisco Nexus Dashboard. Deze integratie geeft datacentermanagers een beter inzicht in het energieverbruik, de CO2-voetafdruk en de totale kosten (TCO)

Nieuwe generatie AI-chips van Nvidia gaan 1000 Watt verbruiken

Nieuwe generatie AI-chips van Nvidia gaan 1000 Watt verbruiken

Er komen - zeg maar - interessante tijden aan voor datacenters die veel AI-workloads draaien. Nvidia’s volgende generatie AI-GPU's, met de codenaam Blackwell, belooft een aanzienlijke sprong voorwaarts in rekenkracht, maar met een aanzienlijke toename van het energieverbruik.

Iceotope, Intel en HPE bundelen krachten voor immersion cooling voor telecom-toepassingen

Iceotope, Intel en HPE bundelen krachten voor immersion cooling voor telecom-toepassingen

Iceotope, Hewlett Packard Enterprise (HPE) en Intel hebben een nieuw immersion pooling-systeem ontwikkeld dat specifiek bedoeld is voor zogeheten Radio Access Network (RAN) telecomnetwerken. Het 2U KUL RAN rack is gepresenteerd tijdens het Mobile World Congress in Barcelona. Het belooft tot 20% energiebesparing op apparaatniveau te bieden.