Mennyi energiát használ egy AI-prompt?
A DentroChat felhasználói, az EU-s AI-asszisztensünk néha megkérdezik, mennyi áram megy el az üzeneteikre. Jogos kérdés. Szívesen mutatnánk számot a termékben, de a felhőben futtató cégek többsége még nem adja meg egy kérés energiáját. Ezért a nyilvános kutatás alapján közelítettük meg, amennyire tudtuk.
Ezek nem DentroChat-laboratóriumi mérések. Átnéztük a talált tanulmányokat, összevetettük egymással, és az alábbi számok ott landolnak. Ha van jobb forrásod, szólj.
Áram egy normál promptra
Tipikus prompt: kérdezel valamit, a modell pár száz tokennel válaszol. A token egy szórész, rövid szóknál néha egy egész szó.
Ezt mérte a Google. 2025 májusában a Gemini-appok medián szöveges promptja 0,24 wattóra volt. Benne volt a chip és a hűtés az egész adatközponti csarnokra. A medián promptra a Google 0,03 gramm CO2-t számolt (a Google áramával).
Az Epoch AI becslése 2025 februárjában egy tipikus ChatGPT-válaszra kb. 0,3 wattórát adott, nagyjából 500 tokenes válaszra. Szerintük a becslés kicsit magas.
Egy Joule-cikk 2026 áprilisában. Az adat 2025-ös üzembe helyezésekből jött. Nagy modellnél a medián 0,31 wattóra. Sam Altman posztolt 2025 júniusában, hogy egy átlagos ChatGPT-lekérdezés ~0,34 wattóra.
Tipikus promptra azt mondanánk: 0,3 wattóra. A mérés és a becslések ugyanoda jutnak.
Áram hosszabb promptra
Egy hosszú dokumentum több munka, mert sokat kell olvasni.
Az Epoch AI becslése szerint kb. 10 ezer token bemenet kb. 2,5 wattórát jelent ilyen lekérdezésnél. Hogy lássad, mit jelent ez szavakban, a saját oldalainkon számoltuk a tokeneket. Itt a GPT-4o tokenizert használjuk: kb. 7700 angol és kb. 5800 német szó, tehát egy hosszú cikk vagy sok üzenetes chat. Lent ugyanezeket az oldalakat öt másik tokenizert is lefuttattuk, a táblázat mutatja, mennyire térnek el a GPT-4o-tól.
Jegham et al. saját becslést adott 10k be, 1500 ki promptra: modelltől függően ~1,4–2,9 wattóra. Hasonló nagyságrend, mint az Epochnál.
Ha a modell sokat gondolkodik és ezer tokeneket ír, mire megjön a válasz, több áram fogy. A Joule-cikkben egy kb. 5 ezer tokenes válasz ~4 wattóra. Ez „reasoning” stílusú válasz, ahol a modell sokat számol.
Itt minden egy táblázatban. Nagy modellek, mint a GPT-4o és a Gemini:
| Prompt típusa | Tokenek, nagyjából | Áram | Forrás |
|---|---|---|---|
| Normál prompt | rövid kérdés, pár száz token válasz | ~0,3 Wh | Google, Epoch AI, Joule-cikk, Altman |
| Hosszú dokumentum | ~10k be, 500–1500 ki | ~2,5 Wh (1,4–2,9) | Epoch AI, Jegham et al. |
| Reasoning-válasz | ~5k ki | ~4 Wh | Joule-cikk |
Szavakban: normál prompt kb. 0,3 wattóra. Kb. 10 ezer tokenes hosszú dokumentum kb. 2,5 wattóra, modelltől függően 1,4–2,9 között. Hosszú reasoning-válasz kb. 5 ezer tokennel kb. 4 wattóra.
A CO2 a hálózattól függ
Ugyanannak a modellnek az áramfogyasztása nagyjából ugyanannyi, ahol a szerverek vannak. A CO2 a helyi hálózattól függ.
Az Ember 2025-ös számait vettük, látható az Our World in Data oldalon. Életciklus-értékek: az áramellátási lánc a erőmű kibocsátásán felül, gramm CO2-egyenérték kilowattóránként.
Ezzel szoroztuk a két számunkat: 0,3 Wh normál promptra és 2,5 Wh hosszú dokumentumra:
| Hálózat | g CO2e / kWh | Normál prompt | Hosszú dokumentum |
|---|---|---|---|
| Norvégia | 28 | 0,01 g | 0,07 g |
| Svédország | 35 | 0,01 g | 0,09 g |
| Franciaország | 41 | 0,01 g | 0,10 g |
| Finnország | 57 | 0,02 g | 0,14 g |
| Dánia | 114 | 0,03 g | 0,29 g |
| Ausztria | 117 | 0,04 g | 0,29 g |
| Spanyolország | 154 | 0,05 g | 0,38 g |
| EU-átlag | 210 | 0,06 g | 0,53 g |
| Hollandia | 254 | 0,08 g | 0,63 g |
| Olaszország | 285 | 0,09 g | 0,71 g |
| Észtország | 319 | 0,10 g | 0,80 g |
| Németország | 330 | 0,10 g | 0,82 g |
| Egyesült Államok | 384 | 0,12 g | 0,96 g |
| Lengyelország | 589 | 0,18 g | 1,47 g |
Szavakban: Svédországban (35 g/kWh) és Franciaországban (41 g) normál prompt kb. 0,01 gramm CO2, hosszú dokumentum kb. 0,1 gramm. EU-átlagon (210 g) normál prompt kb. 0,06 gramm, hosszú dokumentum kb. 0,5 gramm. Németországban (330 g) normál prompt kb. 0,1 gramm, hosszú dokumentum kb. 0,8 gramm. Lengyelország a legmagasabb a táblázatban 589 g-gel, normál prompt kb. 0,18 gramm, hosszú dokumentum kb. 1,5 gramm. Az USA benne van, mert sok ChatGPT-szám onnan jött. 384 g-nél normál prompt kb. 0,12 gramm, hosszú dokumentum kb. 1 gramm.
Németország környezetügynöksége hasonlót mond 2025-re: termelési CO2 344 g/kWh, ellátási lánc CO2-egyenérték 406 g. Az Electricity Maps szerint Németországban a tényleges fogyasztás 2025-ben 335 g volt, óránként ~100 g és ~600 g között ingadozhat.
Mi a helyzet a DentroChattel?
Eddig nagy modellekre vonatkoztak, mint a GPT-4o. Az Epoch kb. 100 milliárd paramétert feltételezett minden tokenre, a DentroChat viszont gyakran kisebb modelleket használ. „Mixture of experts” modellek: a modell nagy, de tokenenként csak egy kis része dolgozik. A DeepSeek V4 Flash kb. 13 milliárd paramétert használ tokenenként, a GLM 5.3 Flash kb. 18 milliárdot, a Qwen 3.8 Flash Next kb. 6 milliárdot.
Kevesebb aktív paraméter kevesebb áram tokenenként, tehát kevesebb CO2 tokenenként. Az ML.ENERGY leaderboard ezt mért saját GPU-kon. Egy 22 milliárd aktív paraméteres Qwen-modell kb. 0,12 Wh-t kért 1000 írott tokenre. A DeepSeek V3.1 37 milliárd paraméterrel kb. 0,37 Wh-t. Csak a grafikus kártyák, hozzáadtuk a hűtést és a szerver többi részét. Modelljeink mindkettőnél kisebbek, ez a becslésünk:
| 1000 tokenenként | Aktív paraméter / token | Írva | Olvasva, friss | Olvasva, cache | CO2 / 1000 írt, EU-átlag |
|---|---|---|---|---|---|
| GPT-4o (Epoch feltételezés) | ~100 mrd. | ~0,6 Wh | ~0,2 Wh | ~0,13 g | |
| DentroChat modellek (becslésünk) | 6–18 mrd. | 0,05–0,4 Wh | 0,01–0,07 Wh | 0,001–0,007 Wh | 0,01–0,08 g |
Szavakban: GPT-4o-nál az Epoch számai kb. 0,6 wattóra minden 1000 írott tokenre és kb. 0,2 minden 1000 olvasott tokenre. A DentroChat modelleire 0,05–0,4 wattórát becsülünk 1000 írott tokenre és 0,01–0,07-et 1000 olvasottra. Ha a szöveget pár perccel ezelőtt már olvasta, cache-ben van, akkor nagyjából a tizede. EU-átlagos hálózaton 1000 írott token kb. 0,13 gramm CO2 GPT-4o-nál és 0,01–0,08 gramm a mi modelljeinknél.
A promptjaink viszont nagyobbak, mint a tanulmányok „normál promptja”. Minden üzenet elküldi a modellnek az utasításokat és az eszközleírásokat, ami már kb. 3 ezer token. Rá jön a memóriád, az eddigi chat, fájlok vagy webes keresés eredménye. Ha a modell eszközt használ, mindent újraolvas. Először eldöntheti, hogy keres a neten, aztán újra végigolvassa a chatet plusz a találatokat, mielőtt válaszol. Egy üzeneted több modell-futtatást is jelenthet.
A lenti táblázat minden száma az általad küldött üzenetenként értendő. Ha egy üzenet többször futtatta a modellt, összeadtuk egy sorba.
Megnéztük a használati logokat és számoltuk a tokeneket (természetesen nem olvassuk, mit írsz). A táblázat 606 promptra épül egy napról 2026 októberében. Ellenőriztük az előző 30 nap 21 700 promptját is, a medián nagyon hasonló volt:
| DentroChat-prompt | Olvasva | ebből cache | Írva | Áram (becslésünk) | CO2, EU-átlag | CO2, Németország |
|---|---|---|---|---|---|---|
| Medián | ~41k | ~30k | ~900 | 0,2–1,3 Wh | 0,04–0,3 g | 0,06–0,4 g |
| Felső 10% | ~131k | ~66k | ~4 600 | 1–7 Wh | 0,2–1,4 g | 0,3–2,3 g |
Szavakban: a medián DentroChat-prompt kb. 41 ezer tokent olvas, ebből kb. 30 ezer cache, mert pár perccel korábban már elküldték. Kb. 900 tokent ír. Becslésünk: 0,2–1,3 wattóra, EU-átlagos hálózaton kb. 0,04–0,3 gramm CO2, Németországban 0,06–0,4 gramm. A felső 10% 131 ezer tokent vagy többet olvas és 4600-at vagy többet ír. Ez kb. 1–7 wattóra, CO2 EU-átlagon 0,2–1,4 gramm, Németországban 0,3–2,3 gramm.
A „Felső 10%” sorban oszloponként vettük a 90. percentilist. Egy valódi prompt ritkán talál el mindet egyszerre, szándékosan a nehéz oldalon van a sor.
Háttérben is fut munka: memóriafrissítés, hosszú chatek összefoglalása. Néha a modell túl lassú, és félbeszakítjuk backup modellre. Ezek nincsenek a táblázatban. Ha szétosztod az összes promptra, az átlagos prompt kb. 76 ezer tokent olvas (50 ezer cache) és kb. 2 ezeret ír. Ez kb. 0,4–3 wattóra.
Tehát egy DentroChat-prompt sokkal többet olvas, mint a tanulmányok normál promptja. Tokenenként olcsóbb. A medián DentroChat-prompt (0,2–1,3 Wh) alul közel a nagy modellek normál promptjához (0,3 Wh), felül kb. a hosszú dokumentumuk feléhez (2,5 Wh).
Összehasonlítás: vízforraló és rövid út
Nagyjából 100 wattóra hő kell egy liter víz felforralásához csapvizetől. Egy rész elveszik, a konnektoron inkább 110–125 wattóra.
Egy medián DentroChat-prompt ennek kis szelete. A becslésünk felső határát, 1,3 wattórát vesszük, hogy az összehasonlítás a nehéz oldalon maradjon. Így kb. 90 DentroChat-prompt kell egy literhez.
Autónál az Európai Környezetvédelmi Ügynökség 2025-ös új autó átlagát vesszük: 96,7 g CO2 kilométerenként laborban. Az átlagban elektromos autók is benne vannak, nulla kipufogóval, szóval benzinesen az úton kicsit több fogy.
Minden kilométeren ilyen átlagos új autóval Németországban kb. 240 medián DentroChat-promptot küldhetnél (megint felső határ: 0,4 gramm CO2 promptonként). EU-átlagos hálózaton ugyanaz a prompt 0,3 gramm, kb. 320 prompt kilométerenként.
A nyelv befolyásolja a tokenek számát
Különböző nyelvek más-más tokenekre bontják ugyanazt az oldalt. A cikkeinket végigfuttattuk tokenizereken mind a 17 nyelven, amit a DentroChat támogat.
22 blogposztot használtunk, minden nyelven megvan, tehát mindig ugyanaz a szöveg. A fő szám a GPT-4o tokenizertől jön. A tartomány a legalacsonyabb és legmagasabb határ hat tokenizernél (GPT-4o, GPT-4, Mistral, Llama 3, Qwen 2.5 és DeepSeek V3).
| Nyelv | Token / szó | Tartomány | Szó 10k tokenben |
|---|---|---|---|
| Angol | 1,3 | 1,3–1,4 | ~7 700 |
| Spanyol | 1,4 | 1,4–1,7 | ~7 200 |
| Portugál | 1,4 | 1,4–1,7 | ~7 000 |
| Francia | 1,4 | 1,4–1,7 | ~6 900 |
| Holland | 1,6 | 1,6–2,1 | ~6 300 |
| Olasz | 1,7 | 1,7–1,9 | ~6 000 |
| Német | 1,7 | 1,7–2,1 | ~5 800 |
| Norvég | 1,9 | 1,9–2,2 | ~5 400 |
| Svéd | 1,9 | 1,9–2,3 | ~5 300 |
| Dán | 1,9 | 1,9–2,3 | ~5 300 |
| Román | 1,9 | 1,9–2,2 | ~5 300 |
| Horvát | 2,1 | 2,1–2,6 | ~4 800 |
| Lengyel | 2,2 | 2,2–2,6 | ~4 500 |
| Görög | 2,4 | 2,4–5,9 | ~4 200 |
| Észt | 2,5 | 2,5–3,1 | ~4 000 |
| Magyar | 2,6 | 2,5–3,1 | ~3 900 |
| Finn | 2,8 | 2,8–3,5 | ~3 600 |
Szavakban: GPT-4o tokenizernél angolul kb. 1,3 token szónként, 10 ezer token kb. 7700 angol szó. Spanyol, portugál és francia kb. 1,4 körül. Holland kb. 1,6, német és olasz kb. 1,7, 10 ezer tokenben kb. 5800 német szó. Az északi nyelvek finnt kivéve kb. 1,9. Észt kb. 2,5, finn a legmagasabb kb. 2,8, 10 ezer tokenben csak kb. 3600 finn szó.
Gyakran azt mondják, egy német szó 3 token. Modern tokenizereken inkább 2-t mérünk. A görögnek nagy a tartománya, mert a régebbi tokenizerek rosszul kezelik a görög ábécét.
Ugyanolyan hosszú magyar szöveg tehát több tokent használ, több áramot. A g CO2/Wh a hálózattól fent ugyanaz marad.
Amit nem vettünk figyelembe
Itt egy üzenet egy válaszának áramfogyasztása van.
A modell képzése korábban egyszer történt, és mindenki megosztja, aki használja. A képzés költségét a promptodhoz rendelni találgatás lenne, kihagytuk.
Van a grafikus kártyák gyártási költsége is. Az Nvidia bontása egy H100 lapra: 1312 kg CO2-egyenérték 8 GPU-ra, néhány év üzemre elosztva. Egy promptra apró töredék jut, jóval 1 g alatt. Tiszta hálózaton, mint Svédország, ez a töredék közelítheti az áram CO2-jét. Német hálózaton az áram sokkal nagyobb.
Aztán a víz. A vírusos állítás, hogy az AI megisz egy üveg vizet, 2023-as GPT-3 becslésből jön: kb. 500 ml 20–50 válaszra forró amerikai adatközpontokban, párologtatós hűtéssel. A Google 0,26 ml-t mért medián Gemini szöveges promptra (~öt csepp). Sok európai adatközpont külső levegővel hűt, szinte nem használ vizet. Köztük a Hetzner Németországban, ahol a DentroChat fut, és a svéd adatközpontok, ahol egy rész modellünk megy. Többet írtunk: pazarol az AI vizet? és részletesen miért félrevezetők a vírusos vízszámok.
Gyakorlati pont: ugyanabban a chatben a hosszú dokumentum általában pár percig memóriában van, a következő üzenet főleg az új szöveget dolgozza fel. Az OpenAI és az Anthropic cache-ről ír, ami kb. 5–10 perc inaktivitás után lejár. Ez a „cache” oszlop a DentroChat táblázatunkban. Segít, ha a modell többször fut egy üzenethez, mert a második futás újrahasználhatja, amit az első már olvasott.
Szívesen mutatnánk valódi wattóra számot minden üzenethez a DentroChatban, a legjobb EU-s AI chatben. Ehhez a futtatóknak meg kellene adniuk a kérés energiáját, a legtöbben még nem teszik.
Addig ez a legjobb közelítésünk. Nagy modelleknél, mint a GPT-4o, normál prompt kb. 0,3 wattóra, hosszú dokumentum kb. 2,5. Medián DentroChat-prompt kisebb modelljeinken kb. 0,2–1,3 wattóra. EU-átlagos hálózaton legfeljebb kb. 0,3 gramm CO2.