Hukkaako tekoäly vettä? Myytti vai ei, jos käytät EU-infraa

« Tekoäly tuhlaa kaiken vetemme ». Myytti vai ei? Kävimme asian läpi.

Kysymys osui suoraan meihin. Paul Plessing, yksi perustajistamme, sai kovaa palautetta Reddit-ketjussa tekoälyn ja sen datakeskusten « liiallisesta vedenkulutuksesta ». Sävy oli kova, mutta kysymys on reilu. Luimme siis tutkimuksen.

Mistä vesipullon luku tulee?

Tärkein lähde « tekoäly tuhlaa vettä » -väitteelle on vakaa: Li et al., « Making AI Less Thirsty » (UC Riverside), arvioivat GPT-3:n kuluttavan noin 500 ml:n vesipullon 20–50 vastauksen aikana.

Nuo luvut per vastaus ovat extrapolaatioita. Ne olettavat kuumien ilmastoalueiden datakeskukset haihdutusjäähdytyksellä.

Haihdutusjäähdytys on hikoilua teollisessa mittakaavassa. Lämmin ilma ohjataan veden ohi, vesi haihtuu, vie lämmön mukanaan ja katoaa sen sijaan, että palaisi vesikiertoon. Se säästää paljon sähköä, siksi kuumat alueet käyttävät sitä. Mutta se maksaa paljon vettä.

Mitä mitatut luvut näyttävät?

Google julkaisi myöhemmin mitatut luvut: Gemini Apps -tekstikehotteen mediaani kuluttaa 0,24 Wh ja 0,26 ml vettä, mukaan lukien jäähdytys ja tyhjäkäyntikuorma. Se on noin viisi pisaraa. Luku tulee toukokuun 2025 datan hetkikuvasta, siis mediaani siitä, mitkä mallit palvelivat liikennettä, ei yhdestä nimetyistä mallista. Ja 0,26 ml oli Googlen maailmanlaajuinen keskiarvo.

Pidempi metodologia on jo artikkelissa Tekoälyn vedenkulutus: miksi viraaliluvut johtavat harhaan. Tässä katsotaan, mitä muuttuu, kun EU-tekoälychattisi pyörii palvelimilla Euroopassa.

Käyttävätkö eurooppalaiset datakeskukset ollenkaan vettä jäähdytykseen?

Ruotsin datakeskuksia on siellä osittain siksi, että ne jäähdyttävät ilmalla veden sijaan. Microsoftin Ruotsin alue jäähdyttää ulkoilmalla 100 % vuodesta. Hetzner käyttää myös ilmaa veden sijaan jäähdytykseen.

Kyse ei ole satunnaisesta listasta. DentroChat hostataan Hetznerillä Saksassa, ja osa Cortecsin kautta reitittämästämme päättelystä pyörii Ruotsissa. « Tekoäly tuhlaa vettä » on kova yliampuminen, jos käytät EU-tekoälychattia kuten DentroChat. Moni näistä eurooppalaisista datakeskuksista käyttää käytännössä ei lainkaan vettä.

Entä vesi mallin koulutukseen?

Yllä olevista luvuista puuttuu tekoälykoulutuksen upotetut kustannukset. Kun malli on koulutettu, sitä voi hostata. Mutta useimmat EU:ssa hostatut mallit koulutetaan yhä Euroopan ulkopuolella, joten koulutuskustannuksetkin pitää katsoa.

Tuoreita lukuja on vaikea löytää, mutta Google arvioi 2022, että 40 % energiasta meni mallin koulutukseen ja 60 % päättelyyn.

Uudempi artikkeli « Power Hungry Processing » arvioi, että päättely voi olla ~90 % elinkaaren energiasta ja hiilestä.

Molemmat viittaavat samaan: EU-tekoälychatti eurooppalaisesti hostatuilla malleilla tuhlaa kokonaisuudessaan vähän vettä.

Miten tämä vertautuu Reddit-ketjuun?

Vertaa tätä Reddit-julkaisuun, jolla oli 6 000 katselua ja joka käynnisti tutkimuksemme.

Verkkosivujen hiililaskurit Sustainable Web Design -mallin mukaan asettavat tyypillisen sivunäytön ~0,36 g CO₂e, noin 0,7 Wh. 6 000 katselulla se on noin 4,4 kWh pelkästään sivun toimittamiseen. Se vastaa noin 18 000 tekoälytekstikehotteen energiaa!

Vedessä puhutaan myös litroista vastaan murto-osa millilitraa per kehote.

Eli tavallinen some näyttää olevan energiankulutuksessa pahempi kuin tekoäly…

Onko « tekoäly tuhlaa vettä » myytti?

Kuivien alueiden datakeskukset ovat oikea ongelma, ja avoimuus on heikkoa. Mutta per vuorovaikutus EU-infrastruktuurilla kehote on yksi kevyimmistä asioista, joita teemme verkossa.

« Tekoäly tuhlaa vettä » on enemmän myytti, jos käytät EU-ratkaisuja. Sellaisen eurooppalaisen tekoälyn tarjoamme DentroChatissa, parhaassa EU-tekoälychatissa.