Paljonko sähköä kuluu automaattisiin tekoälytiivistelmiin, joita hakukone Google antaa nyt automaattisesti kun sillä hakuja tekee. Jos mahdollista, voinko saada arkisen kuvaavan esimerkin, kuten se että yksi Googlehaku kuluttaa sähköä saman verran kuin keskimäärin kahvikupin keittäminen.
Vastaus
Tekoälyn kasvavaa sähkökulutusta on laskettu monissa artikkeleissa. Arviointia vaikeuttaa se, että monista malleista ei ole saatavilla tarkkaa tietoa. Eri tekoälymallien ja niiden versioiden kulutus voi vaihdella hyvinkin paljon. Myös kyselyn pituus ja vastauksen koko vaikuttavat kulutukseen. Epoch AI:n ja Kanoppin tuoreissa artikkeleissa arvioidaan ChatGPT:n kulutusta, kun kyseessä on yksittäinen, pääasiassa tekstipohjainen kysely. Molemmat antavat samansuuntaisen arvion kulutuksesta. Kanoppi vertaa tätä tavalliseen Google-hakuun, ja toteaa ChatGPT kulutuksen olevan lähes kymmenkertainen.
Epoch AI:n artikkelin mukaan ChatGPT:n vastaus kuluttaisi 0,3 wattitunnin verran sähköä. Artikkelin kaavio suhteuttaa tätä muuhun sähkönkulutukseen. Sen mukaan samalla sähköllä polttaisi 10 watin LED-lamppua pari minuuttia.
Tämä on laskettu ajatellen kyselyä, jossa on alle 100 sanaa. Kulutus kasvaa kyselyn pituuden mukana. Tutkimuksessa käytetyn mallin maksimipituus kyselyaineistolle vastaa noin 200 sivua tekstiä. Tämä kuluttaisi 40 wattituntia sähköä. Artikkelin mukaan se on hieman enemmän kuin keskimääräinen yhdysvaltalainen kotitalous käyttää kahdessa minuutissa.
EnergySagen artikkeli käsittelee Googlen Gemini-tekoälyä. Google on itse julkistanut, kuinka paljon sähköä sen keskimääräinen haku kuluttaa. Tulos on 0,24 wattituntia eli samansuuntainen kuin arviot ChatGPT:n kulutuksesta. Artikkeli vertaa sähkönkulutusta mikroaaltouunin yhden sekunnin käyttöön.
Viimeisenä oleva MIT Technology Review'n artikkeli arvioi kattavimmin sitä, miten tekoälymallin sähköntarve muodostuu. Se myös selittää parhaiten, kuinka vaikeaa on määrittää, paljonko energiaa todellisuudessa on kulunut, jotta tekoälymalli pystyy tuottamaan vastauksen. Testissä käytetään LlaMan eri kielimalleja. Testin suurimmassa mallissa on 50 kertaa niin paljon säädettäviä parametrejä kuin pienimmässä. Samaan kyselyyn vastatessaan suurempi käyttää noin 58 kertaa niin paljon sähköä kuin pienempi. Pienemmän kulutuksella käyttäisi artikkelin mukaan mikroaaltouunia sekunnin kymmenesosan, suuremman kahdeksan sekuntia.
Lähteet:
How much energy does ChatGPT use? | Epoch AI
Search Engines vs AI: energy consumption compared - Kanoppi
Google Reveals How Much Energy A Single Ai Prompt Uses | EnergySage
Kommentit
Yhden kyselyn tekemiseen tarvitaan myöskin tiedonkeruu, joka on täytynyt ennen kuin kysytyt asiat voidaan tarjoilla. Tekloälystäkin täytyisi laskea jalanjlki koko elinkaarelta, ja se on vieläkin vaikeampaa. Tekoälyfirmat eivät halua paljastaa asioita kilkapilijoilleen, joten tietoa ei ole saatavilla. Lisäksi tulee vielä se inhimillisen työn määrä, joka on tarvittu tekoälyn opettamiseen. Ei sekään ole ilmaista ollut, vaikkaikin huonosti palkattua.
Kommentoi vastausta