Kiek vandens sunaudoja dirbtinis intelektas?

Lažinuosi, kad esate girdėję visko – nuo ​​„DI kas kelis klausimus išgeria butelį vandens“ iki „tai iš esmės keli lašai“. Tiesa yra subtilesnė. DI vandens pėdsakas labai svyruoja priklausomai nuo to, kur jis veikia, kiek laiko trunka jūsų raginimas ir kaip duomenų centras vėsina savo serverius. Taigi, taip, pagrindinis skaičius egzistuoja, tačiau jį slepia daugybė įspėjimų.

Žemiau pateikiu aiškius, sprendimams paruoštus skaičius, paaiškinu, kodėl vertinimai nesutampa, ir parodau, kaip statybininkai ir kasdieniai vartotojai gali sumažinti vandens sąskaitas netapdami tvarumo vienuoliais.

Straipsniai, kuriuos galbūt norėsite perskaityti po šio:

🔗 Kas yra dirbtinio intelekto duomenų rinkinys
Paaiškina, kaip duomenų rinkiniai įgalina mašininio mokymosi mokymą ir modelių kūrimą.

🔗 Kaip dirbtinis intelektas prognozuoja tendencijas
Rodo, kaip dirbtinis intelektas analizuoja modelius, kad prognozuotų pokyčius ir būsimus rezultatus.

🔗 Kaip išmatuoti dirbtinio intelekto našumą
Išskaidomi esminiai tikslumo, greičio ir patikimumo vertinimo rodikliai.

🔗 Kaip kalbėtis su dirbtiniu intelektu
Vadovauja veiksmingoms raginimo strategijoms, siekiant pagerinti aiškumą, rezultatus ir nuoseklumą.

Kiek vandens sunaudoja dirbtinis intelektas? Trumpi skaičiai, kuriuos iš tikrųjų galite sunaudoti 📏

• Šiandien tipiškas kiekvienos užklausos dydis: nuo submililitro medianiniam teksto užklausimui vienoje pagrindinėje sistemoje iki dešimčių mililitrų ilgesniam, didesnio skaičiavimo pajėgumo atsakymui kitoje. Pavyzdžiui, „Google“ gamybos apskaita nurodo, kad medianinis teksto užklausimas yra ~0,26 ml (įskaitant visas aptarnavimo išlaidas) [1]. „Mistral“ gyvavimo ciklo vertinimas numato, kad 400 žetonų asistento atsakymas yra ~45 ml (ribinė išvada) [2]. Kontekstas ir modelis yra labai svarbūs.

• Riboto masto modelio mokymas: galima sunaudoti milijonus litrų vandens , daugiausia iš aušinimo ir elektros energijos gamyboje naudojamo vandens. Plačiai cituojamame akademiniame tyrime apskaičiuota, kad GPT klasės modelio mokymui ~5,4 milijono litrų ~700 000 litrų, sunaudojamų vietoje aušinimui, ir teigiama, kad reikia išmaniai planuoti vandens intensyvumą [3].

• Duomenų centrai apskritai: dideliuose objektuose pagrindiniai operatoriai vidutiniškai šimtus tūkstančių galonų per dieną

Būkime atviri: iš pradžių šie skaičiai atrodo nenuoseklūs. Jie tokie ir yra. Ir tam yra svarių priežasčių.

DI vandens naudojimo metrika ✅

Geras atsakymas į klausimą „Kiek vandens sunaudoja dirbtinis intelektas?“ turėtų pažymėti kelis langelius:

1. Ribų aiškumas.
   Ar tai apima tik vietoje esantį aušinimo vandenį, ar ir už elektrinės ribų esantį vandenį, kurį elektra elektros energijai gaminti? Geriausia praktika skiria vandens paėmimą nuo vandens suvartojimo ir apima 1-2-3 taikymo sritis, panašiai kaip anglies dioksido apskaitoje [3].

2. Vietos jautrumas.
   Vandens kiekis kWh priklauso nuo regiono ir elektros tinklų sudėties, todėl tas pats tiekimas gali turėti skirtingą poveikį vandeniui, priklausomai nuo to, kur jis tiekiamas – tai pagrindinė priežastis, kodėl literatūroje rekomenduojamas laiko ir vietos požiūriu pagrįstas planavimas [3].

3. Darbo krūvio realizmas.
   Ar skaičius atspindi vidutinius gamybos uždavinius , įskaitant neveikos režimą ir duomenų centro pridėtines apkrovas, ar tik akseleratorių esant didžiausiam našumui? „Google“ pabrėžia visos sistemos apskaitą (nevikos režimą, procesorius / DRAM ir duomenų centro pridėtines apkrovas), o ne tik TPU matematinius skaičiavimus [1].

4. Aušinimo technologijos.
   Garinis aušinimas, uždaros kilpos skysčio aušinimas, oro aušinimas ir atsirandantys tiesioginio aušinimo į lustą metodai smarkiai pakeičia vandens intensyvumą. „Microsoft“ diegia projektus, skirtus panaikinti aušinimo vandens naudojimą tam tikrose naujos kartos vietose [4].

5. Paros laikas ir metų laikas.
   Šiluma, drėgmė ir tinklo sąlygos keičia vandens naudojimo efektyvumą realiame gyvenime; viename įtakingame tyrime siūloma planuoti pagrindinius darbus tada ir ten, kur vandens intensyvumas yra mažesnis [3].

Vandens suvartojimo ir paėmimo palyginimas 💡

• Išsiurbimas = vanduo, paimtas iš upių, ežerų ar vandeningųjų sluoksnių (dalis grąžintas).

• Suvartojimas negrąžintas vanduo, nes jis išgaruoja arba yra įtraukiamas į procesus / produktus.

Aušinimo bokštai daugiausia sunaudoja vandenį garuodamas. Elektros energijos gamyba gali sunaudoti didelius kiekius (kartais sunaudojant dalį vandens), priklausomai nuo jėgainės ir aušinimo metodo. Patikimas dirbtinis intelektas (DI) – vandens kiekio žymuo, apie kurį pranešama [3].

Kur vanduo patenka dirbtiniame intelekte: trys kibirai 🪣

1. 1 taikymo sritis – aušinimas vietoje.
   Matoma dalis: vanduo, išgaravęs pačiame duomenų centre. Pradinį lygį nustato garavimas, oras arba uždaros kilpos skystis

2. 2 sritis – elektros energijos gamyba.
   Kiekviena kWh gali turėti paslėptą vandens žymą; mišinys ir vieta lemia litrų kWh signalą, kurį paveldi jūsų darbo krūvis [3].

3. 3 taikymo sritis – tiekimo grandinė
   . Lustų gamybai naudojamas itin grynas vanduo. Jo nematysite „kiekvienos užklausos“ metrikoje, nebent ribose būtų aiškiai įtrauktas įkūnytas poveikis (pvz., išsamus gyvavimo ciklo vertinimas) [2][3].

Paslaugų teikėjai skaičiais, su niuansais 🧮

• „Google Gemini“ pateikia
  viso steko aptarnavimo metodą (įskaitant neveiklumo ir įrenginio pridėtines išlaidas). Vidutiniame tekste nurodoma ~0,26 ml vandens ir ~0,24 Wh energijos; skaičiai atspindi gamybos srautą ir bendras ribas [1].

• „Mistral Large 2“ gyvavimo ciklas.
  Retas nepriklausomas gyvavimo ciklo įvertinimas (su ADEME/Carbone 4) rodo ~281 000 m³ mokymo ir ankstyvojo naudojimo metu bei ~45 ml išvados ribą 400 žetonų atsakymui [2].

• „Microsoft“ ambicijos dėl nulinio vandens aušinimo
  Naujos kartos duomenų centrai yra sukurti taip, kad aušinimui nenaudotų vandens , remdamiesi tiesioginio aušinimo lustu metodais; administratoriaus reikmėms vis tiek reikia šiek tiek vandens [4].

• Bendras duomenų centro mastas.
  Didieji operatoriai viešai praneša apie šimtus tūkstančių galonų per dieną vidutiniškai atskirose vietose; klimatas ir projektavimas didina arba mažina skaičius [5].

• Ankstesnė akademinė bazinė linija.
  Novatoriškoje „ištroškusio dirbtinio intelekto“ analizėje buvo apskaičiuota, kad GPT klasės modeliams apmokyti reikia milijonų litrų 10–50 vidutinio dydžio atsakymų galėtų būti maždaug lygūs 500 ml buteliui – labai priklausomai nuo to, kada ir kur jie veikia [3].

Kodėl vertinimai taip nesutampa 🤷

• Skirtingos ribos
  Kai kurie skaičiai apima tik aušinimą vietoje ; kiti skaičiai prideda elektros energiją ir vandenį ; gyvavimo ciklo analizėse gali būti įtraukta ir lustų gamyba . Obuoliai, apelsinai ir vaisių salotos [2][3].

• Skirtingi darbo krūviai.
  Trumpas tekstinis raginimas nėra ilgas multimodalinis / kodo vykdymas; paketavimas, lygiagretumas ir delsos tikslai keičia panaudojimą [1][2].

• Skirtingas klimatas ir tinkleliai.
  Garinis aušinimas karštame, sausringame regione ≠ oro/skysčio aušinimas vėsiame, drėgname regione. Tinklelio vandens intensyvumas labai skiriasi [3].

• Tiekėjų metodologijos.
  „Google“ paskelbė visai sistemai skirtą pateikimo metodą; „Mistral“ paskelbė oficialų gyvavimo ciklo analizę (LCA). Kitos įmonės siūlo taškinius įverčius, taikydamos išretėjusius metodus. Garsus „penkioliktąją arbatinio šaukštelio dalį“ pateko į antraštes, tačiau be konkrečių ribų jis nėra palyginamas [1][3].

• Judantis taikinys
  . Aušinimas sparčiai tobulėja. „Microsoft“ tam tikrose vietose bando įdiegti vėsinimo be vandens sistemas ; jų diegimas sumažins vandens suvartojimą vietoje, net jei prieš srovę esanti elektros linija vis dar perduoda vandens signalą [4].

Ką galite padaryti šiandien, kad sumažintumėte dirbtinio intelekto vandens pėdsaką 🌱

1. Tinkamo dydžio modelis
   Mažesni, konkrečiai užduočiai pritaikyti modeliai dažnai pasiekia atitinkamą tikslumą, tačiau sunaudoja mažiau skaičiavimo išteklių. „Mistral“ vertinimas pabrėžia stiprias dydžio ir pėdsako koreliacijas ir skelbia ribinius išvadų skaičius, kad galėtumėte samprotauti apie kompromisus [2].

2. Rinkitės vandenį taupančius regionus.
   Pirmenybę teikite regionams, kuriuose vyrauja vėsesnis klimatas, efektyvus vėsinimas ir tinklai, kuriuose vandens intensyvumas vienam kWh yra mažesnis; „ištroškusio dirbtinio intelekto“ tyrimas rodo, kad laiko ir vietos požiūriu sąmoningas planavimas padeda [3].

3. Perkelkite darbo krūvį laike.
   Suplanuokite mokymus / didelio intensyvumo paketų analizę vandenį taupančiomis valandomis (vėsesnėmis naktimis, palankiomis tinklo sąlygomis) [3].

4. Paprašykite savo tiekėjo pateikti skaidrius rodiklius:
   paklausą pagal užsakymą , ribų apibrėžimus ir tai, ar skaičiai apima nenaudojamą pajėgumą ir įrenginių pridėtines išlaidas. Politikos grupės siekia privalomo atskleidimo, kad būtų galima palyginti realias išlaidas [3].

5. Aušinimo technologijos yra svarbios.
   Jei naudojate aparatinę įrangą, įvertinkite uždaros grandinės / tiesioginio aušinimo į lustą galimybę ; jei naudojate debesį, pirmenybę teikite regionams / tiekėjams, investuojantiems į minimaliai efektyvius dizainus [4][5].

6. Naudoti pilkąjį vandenį ir pakartotinio naudojimo galimybes.
   Daugelyje universitetų galima pakeisti negeriamuosius šaltinius arba perdirbti vandenį cikluose; dideli operatoriai aprašo vandens šaltinių ir aušinimo pasirinkimų balansavimą, kad sumažintų grynąjį poveikį [5].

Greitas pavyzdys (ne universali taisyklė): naktinio mokymo darbo perkėlimas iš karšto, sauso regiono vasaros viduryje į vėsesnį, drėgnesnį regioną pavasarį ir jo vykdymas ne piko valandomis, vėsesnėmis, gali pakeisti tiek vandens naudojimą vietoje už jos ribų (tinklo). Būtent tokį praktišką, mažai dramatišką ir pelningą planavimą galima pasiekti [3].

Palyginimo lentelė: greiti patarimai, kaip sumažinti AI vandens mokestį 🧰

(„Kaina“ yra menka dėl savo konstrukcijos – diegimai skiriasi.)

Išsami apžvalga: politikos būgnų dundesys tampa vis garsesnis 🥁

Inžinerijos įstaigos ragina privalomai atskleisti duomenų centrų energijos ir vandens sąnaudas, kad pirkėjai ir bendruomenės galėtų įvertinti sąnaudas ir naudą. Rekomendacijose pateikiami apimties apibrėžimai, ataskaitų teikimas objekto lygmeniu ir vietos parinkimo gairės, nes be palyginamų, vietą identifikuojančių rodiklių ginčijamės nežinioje [3].

Išsamus tyrimas: ne visi duomenų centrai naudoja vienodai 🚰

Vis dar gajus mitas, kad „oro aušinimas nenaudoja vandens“. Tačiau ne visai. Sistemoms, kuriose daug oro, dažnai reikia daugiau elektros energijos , kuri daugelyje regionų iš tinklo paslėptą vandenį vandens aušinimas gali sumažinti energijos suvartojimą ir išmetamųjų teršalų kiekį vietoje sunaudojamo vandens sąskaita. Dideli operatoriai aiškiai subalansuoja šiuos kompromisus kiekvienoje vietoje [1][5].

Gilus pasinėrimas: greita virusinių teiginių realybės patikra 🧪

Galbūt esate matę drąsių teiginių, kad viena užduotis prilygsta „vandens buteliukui“ arba, kita vertus, „vos keliems lašams“. Geresnė laikysena: nuolankumas su matematika . Šiandien patikimi apribojimai yra ~0,26 ml vidutinei gamybos užduočiai su visomis aptarnavimo išlaidomis [1] ir ~45 ml 400 žetonų asistento atsakymui (ribinė išvada) [2]. Dažnai pasigirstančiam „viena penkioliktoji arbatinio šaukštelio“ trūksta viešos ribos / metodo; traktuokite tai kaip orų prognozę be miesto [1][3].

Trumpi DUK: Kiek vandens sunaudoja dirbtinis intelektas? vėlgi, paprastai tariant 🗣️

• Taigi, ką turėčiau sakyti susitikime?
  „Pagal raginimą, tai svyruoja nuo lašų iki kelių gurkšnių , priklausomai nuo modelio, ilgio ir kur jis teka. Treniruotės vyksta balose , o ne balose.“ Tada pateikite vieną ar du pavyzdžius aukščiau.

• Ar dirbtinis intelektas yra išskirtinai blogas?
  Jis yra išskirtinai koncentruotas : kartu supakuoti didelio galingumo lustai sukuria dideles aušinimo apkrovas. Tačiau duomenų centruose taip pat dažniausiai pirmiausia atsiranda efektyviausios technologijos [1][4].

• O jeigu viską perkeltume į oro aušinimą?
  Galbūt sumažinsite vietoje , bet padidinsite jį už jos ribų , naudodami elektrą. Patyrę operatoriai pasveria abu aspektus [1][5].

• O kaip dėl ateities technologijų?
  Dizainas, kuris vengtų aušinimo vandeniu, pakeistų žaidimo taisykles 1 taikymo srityje. Kai kurie operatoriai juda šia linkme; srovių elektros energija vis dar perduoda vandens signalą, kol pasikeis tinklai [4].

Baigiamosios pastabos – per ilga, neskaičiau 🌊

• Pagal užduotį: priklausomai nuo modelio, užduoties ilgio ir jos eigos, galite rinktis iš kelių mililitrų – nuo ​​kelių dešimčių mililitrų viename pagrindiniame steke yra ~0,26 ml – ~45 ml, jei atsakymas sudarytas iš 400 žetonų [1][2].

• Mokymai: milijonai litrų, skirtų pažangiausiems modeliams, todėl planavimas, išdėstymas ir aušinimo technologijos yra labai svarbios [3].

• Ką daryti: tinkamo dydžio modelius, pasirinkti vandeniui palankius regionus, sunkius darbus perkelti į vėsesnes valandas, teikti pirmenybę tiekėjams, kurie siūlo vandeniui nelaidžius dizainus, ir reikalauti skaidrių ribų [1][3][4][5].

Truputį ydinga metafora pabaigai: DI yra ištroškęs orkestras – melodija skaičiuojama, bet būgnai vėsta ir verda kaip vanduo. Derinkite grupę, ir publika vis tiek girdės muziką, net neįjungus purkštuvų. 🎻💦

Nuorodos

1. „Google Cloud“ tinklaraštis – kiek energijos sunaudoja „Google“ dirbtinis intelektas? Atlikome skaičiavimus (metodologija + ~0,26 ml vidutinės užklausos, visos porcijos pridėtinės išlaidos). Nuoroda
   (Techninis dokumentas PDF formatu: Dirbtinio intelekto teikimo poveikio aplinkai matavimas „Google“ mastu .) Nuoroda

2. „Mistral AI“ – mūsų indėlis į pasaulinį dirbtinio intelekto aplinkosaugos standartą (LCA su ADEME/Carbone 4; ~281 000 m³ mokymai + ankstyvas naudojimas; ~45 ml vienam 400 žetonų atsakymui, ribinė išvada). Nuoroda

3. Li ir kt. - Kaip padaryti dirbtinį intelektą mažiau „ištroškusį“: atskleisti ir spręsti dirbtinio intelekto modelių slapto vandens pėdsako problemą milijonų litrų apmokymas , laiko ir vietos pažinimo planavimas, vandens išėmimas ir vartojimas). Nuoroda

4. „Microsoft“ – naujos kartos duomenų centrai aušinimui nenaudoja vandens (tiesiogiai į lustą montuojami modeliai, skirti aušinimui be vandens tam tikrose vietose). Nuoroda

5. „Google“ duomenų centrai – tvarus veikimas (atskirų objektų aušinimo kompromisai; ataskaitų teikimas ir pakartotinis naudojimas, įskaitant regeneruotas / pilkąsias nuotekas; tipiškas kasdienis objektų lygio sunaudojimo dydis). Nuoroda

Raskite naujausią dirbtinį intelektą oficialioje dirbtinio intelekto asistentų parduotuvėje

Apie mus