Trumpas atsakymas: DI algoritmas yra metodas, kurį kompiuteris naudoja modeliams iš duomenų išmokti, o tada, naudodamas apmokytą modelį, daryti prognozes ar priimti sprendimus. Tai nėra fiksuota „jei-tai“ logika: ji prisitaiko, kai susiduria su pavyzdžiais ir grįžtamuoju ryšiu. Net ir duomenims pasikeitus arba esant šališkiems, jie vis tiek gali daryti patikimas klaidas.
Svarbiausios išvados:
Apibrėžimai: atskirkite mokymosi receptą (algoritmą) nuo apmokyto prognozuotojo (modelio).
Gyvavimo ciklas: mokymą ir išvadas laikykite atskirais dalykais; gedimai dažnai iškyla po diegimo.
Atskaitomybė: nuspręskite, kas peržiūri klaidas ir kas nutinka, kai sistema suklysta.
Atsparumas netinkamam naudojimui: stebėkite, ar nėra nutekėjimo, automatizavimo šališkumo ir metrikos manipuliavimo, kuris gali išpūsti rezultatus.
Audituojamumas: sekite duomenų šaltinius, nustatymus ir vertinimus, kad vėliau sprendimus būtų galima ginčyti.
Straipsniai, kuriuos galbūt norėsite perskaityti po šio:
🔗 Kas yra dirbtinio intelekto etika?
Atsakingo dirbtinio intelekto principai: sąžiningumas, skaidrumas, atskaitomybė ir saugumas.
🔗 Kas yra dirbtinio intelekto šališkumas?
Kaip šališki duomenys iškreipia dirbtinio intelekto rezultatus ir kaip tai ištaisyti.
🔗 Kas yra dirbtinio intelekto mastelio keitimas?
Dirbtinio intelekto sistemų mastelio keitimo būdai: duomenys, skaičiavimas, diegimas ir operacijos.
🔗 Kas yra paaiškinamas dirbtinis intelektas
Kodėl interpretuojami modeliai yra svarbūs pasitikėjimui, derinimui ir atitikčiai.
Kas iš tikrųjų yra dirbtinio intelekto algoritmas? 🧠
Dirbtinio intelekto algoritmas yra procedūra, kurią kompiuteris naudoja:
-
Mokymasis iš duomenų (arba atsiliepimų)
-
Atpažinti modelius
-
Darykite prognozes ar sprendimus
-
Gerinkite našumą kaupdami patirtį [1]
Klasikiniai algoritmai yra maždaug tokie: „Surūšiuokite šiuos skaičius didėjančia tvarka.“ Aiškūs žingsniai, tas pats rezultatas kiekvieną kartą.
Dirbtinio intelekto algoritmai labiau panašūs į: „Štai milijonas pavyzdžių. Prašau, išsiaiškinkite, kas yra „katė“.“ Tada jis sukuria vidinį modelį, kuris paprastai veikia. Paprastai. Kartais jis pamato pūkuotą pagalvę ir visiškai užtikrintai sušunka „KATĖ!“. 🐈⬛
Dirbtinio intelekto algoritmas ir dirbtinio intelekto modelis: skirtumai, kuriuos žmonės užgožia 😬
Tai greitai išsklaido daug painiavos:
-
Dirbtinio intelekto algoritmas = mokymosi metodas / mokymo metodas
(„Štai kaip mes atnaujiname save remdamiesi duomenimis.“) -
DI modelis = apmokytas artefaktas, kurį paleidžiate su naujomis įvestimis
(„Tai yra dalykas, kuris dabar daro prognozes.“) [1]
Taigi, algoritmas yra kaip maisto gaminimo procesas, o modelis – gatavas patiekalas 🍝. Galbūt šiek tiek netvirta metafora, bet ji teisinga.
Be to, tas pats algoritmas gali sukurti labai skirtingus modelius, priklausomai nuo:
-
duomenys, kuriuos jam pateikiate
-
jūsų pasirinkti nustatymai
-
kiek laiko treniruojiesi
-
koks netvarkingas jūsų duomenų rinkinys (spoileris: jis beveik visada netvarkingas)
Kodėl svarbus dirbtinio intelekto algoritmas (net jei nesate „techninis“ specialistas) 📌
Net jei niekada nerašote nė vienos kodo eilutės, dirbtinio intelekto algoritmai vis tiek jus veikia. Labai.
Pagalvokite: šlamšto filtrai, sukčiavimo patikrinimai, rekomendacijos, vertimas, medicininės vaizdavimo pagalba, maršrutų optimizavimas ir rizikos vertinimas. (Ne todėl, kad dirbtinis intelektas yra „gyvas“, bet todėl, kad didelio masto šablonų atpažinimas yra vertingas milijone tyliai gyvybiškai svarbių vietų.)
O jei kuriate verslą, vadovaujate komandai ar bandote nesusipainioti su žargonu, supratimas, kas dirbtinio intelekto algoritmas, padės jums užduoti geresnius klausimus:
-
Nustatykite, iš kokių duomenų sistema mokėsi.
-
Patikrinkite, kaip matuojamas ir mažinamas šališkumas.
-
Apibrėžkite, kas nutinka, kai sistema neveikia tinkamai.
Nes kartais bus neteisinga. Tai ne pesimizmas. Tokia realybė.
Kaip dirbtinio intelekto algoritmas „mokosi“ (mokymas ir išvados) 🎓➡️🔮
Dauguma mašininio mokymosi sistemų turi du pagrindinius etapus:
1) Mokymai (mokymosi laikas)
Mokymo metu algoritmas:
-
mato pavyzdžius (duomenis)
-
daro prognozes
-
matuoja, kiek tai negerai
-
koreguoja vidinius parametrus, kad sumažintų paklaidą [1]
2) Išvada (naudojant laiką)
Išvada daroma, kai apmokytas modelis naudojamas naujiems įvesties šaltiniams:
-
klasifikuoti naują el. laišką kaip šlamštą ar ne
-
prognozuoti paklausą kitą savaitę
-
pažymėti paveikslėlį
-
sugeneruoti atsakymą [1]
Mokymasis yra „studijavimas“. Išvadų darymas yra „egzaminas“. Tik egzaminas niekada nesibaigia ir žmonės nuolat keičia taisykles. 😵
Didžiosios dirbtinio intelekto algoritmų stilių šeimos (su paprasta anglų kalba suprantama intuicija) 🧠🔧
Prižiūrimas mokymasis 🎯
Pateikiate tokius žymėtus pavyzdžius kaip:
-
„Tai šlamštas“ / „Tai ne šlamštas“
-
„Šis klientas atsisakė“ / „Šis klientas liko“
Algoritmas išmoksta atvaizdavimą iš įvesties → išvesties. Labai dažnas reiškinys. [1]
Neprižiūrimas mokymasis 🧊
Nėra etikečių. Sistema ieško struktūros:
-
panašių klientų grupių
-
neįprasti raštai
-
temos dokumentuose [1]
Pastiprinimo mokymasis 🕹️
Sistema mokosi bandymų ir klaidų būdu, vadovaujama atlygio. (Puiku, kai atlygis aiškus. Audringa, kai jis neaiškus.) [1]
Gilusis mokymasis (neuroniniai tinklai) 🧠⚡
Tai labiau technikos šeima nei vienas algoritmas. Jis naudoja sluoksniuotas reprezentacijas ir gali išmokti labai sudėtingus modelius, ypač regėjimo, kalbos ir kalbėjimo srityse. [1]
Palyginimo lentelė: populiarios dirbtinio intelekto algoritmų šeimos trumpai 🧩
Ne „geriausių sąrašas“ – greičiau žemėlapis, kad nebesijaustumėte, jog viskas yra viena didelė dirbtinio intelekto sriuba.
| Algoritmų šeima | Auditorija | „Kaina“ realiame gyvenime | Kodėl tai veikia |
|---|---|---|---|
| Tiesinė regresija | Pradedantieji, analitikai | Žemas | Paprastas, interpretuojamas bazinis taškas |
| Logistinė regresija | Pradedantiesiems, produktų komandoms | Žemas | Tvirtas klasifikavimui, kai signalai yra švarūs |
| Sprendimų medžiai | Pradedantiesiems → vidutinio lygio | Žemas | Lengva paaiškinti, galima per daug pritaikyti |
| Atsitiktinis miškas | Vidutinio lygio | Vidutinis | Stabilesnis nei pavieniai medžiai |
| Gradiento stiprinimas (XGBoost stiliaus) | Vidutinio lygio → pažengusio lygio | Vidutinio–aukšto | Dažnai puikiai veikia su lenteliniais duomenimis; derinimas gali būti sudėtingas 🕳️ |
| Palaikymo vektorių mašinos | Vidutinio lygio | Vidutinis | Gerai sprendžia kai kurias vidutinio dydžio problemas; išrankiai keičia mastelį |
| Neuroniniai tinklai / Gilusis mokymasis | Pažangios, daug duomenų naudojanti komandos | Aukštas | Galingas nestruktūrizuotiems duomenims; aparatinė įranga + iteracijos išlaidos |
| K-vidurkių klasterizavimas | Pradedantiesiems | Žemas | Greitas grupavimas, bet daro prielaidą apie „apvalias“ grupes |
| Sustiprinimo mokymasis | Pažangūs, tyrinėjantys žmonės | Aukštas | Mokosi bandymų ir klaidų metodu, kai atlygio signalai yra aiškūs |
Kas daro dirbtinio intelekto algoritmą gerą? ✅🤔
„Geras“ dirbtinio intelekto algoritmas nebūtinai yra pats įmantriausias. Praktiškai gera sistema paprastai yra:
-
Pakankamai tikslus tikrajam tikslui (ne tobulas – vertingas)
-
Tvirtas (nesuyra, kai duomenys šiek tiek pasislenka)
-
Pakankamai paaiškinama (nebūtinai skaidri, bet ne visiška juodoji skylė)
-
Sąžiningumas ir šališkumas (iškraipyti duomenys → iškreipti rezultatai)
-
Efektyvus (nėra superkompiuterio paprastai užduočiai atlikti)
-
Palaikomas (stebimas, atnaujinamas, tobulinamas)
Greitas ir praktiškas mini atvejis (nes būtent čia viskas tampa apčiuopiama)
Įsivaizduokite klientų praradimo modelį, kuris testavimo metu yra „nuostabus“... nes jis netyčia išmoko pakaitalą „su klientu jau susisiekė išlaikymo komanda“. Tai ne nuspėjamoji magija. Tai nutekėjimas. Jis atrodys herojiškai, kol jį įdiegsite, o tada nedelsdami jį pašalinsite. 😭
Kaip mes vertiname, ar dirbtinio intelekto algoritmas yra „geras“ 📏✅
Jūs ne tik stebite tai akimis (na, kai kurie žmonės tai daro, o tada seka chaosas).
Įprasti vertinimo metodai apima:
-
Tikslumas
-
Tikslumas / atkūrimas
-
F1 balas (apskaičiuoja tikslumą / atkūrimą) [2]
-
AUC-ROC (dvejetainės klasifikacijos reitingavimo kokybė) [3]
-
Kalibravimas (ar pasitikėjimas atitinka realybę)
Ir tada yra realaus pasaulio testas:
-
Ar tai padeda vartotojams?
-
Ar tai sumažina išlaidas ar riziką?
-
Ar tai sukelia naujų problemų (klaidingi pavojaus signalai, neteisingi atmetimai, painūs darbo eigos procesai)?
Kartais „šiek tiek prastesnis“ modelis ant popieriaus yra geresnis gamyboje, nes jis yra stabilus, paaiškinamas ir lengviau stebimas.
Dažni spąstai (t. y. kaip dirbtinio intelekto projektai tyliai neveikia) ⚠️😵💫
Net ir stiprios komandos pasiekia šiuos rezultatus:
-
Per didelis pritaikymas (puikus su mokymo duomenimis, blogesnis su naujais duomenimis) [1]
-
Duomenų nutekėjimas (apmokytas naudojant informaciją, kurios neturėsite prognozavimo metu)
-
Šališkumo ir sąžiningumo problemos (istoriniuose duomenyse yra istorinių nesąžiningumo atvejų)
-
Koncepcijos pokytis (pasaulis keičiasi, modelis – ne)
-
Neteisingai suderinti rodikliai (jūs optimizuojate tikslumą; vartotojams rūpi kažkas kita)
-
Juodosios dėžės panika (niekas negali paaiškinti sprendimo, kai jis staiga tampa svarbus)
Dar viena subtili problema: automatizavimo šališkumas – žmonės pernelyg pasitiki sistema, nes ji pateikia patikimas rekomendacijas, o tai gali sumažinti budrumą ir nepriklausomą tikrinimą. Tai buvo dokumentuota atliekant sprendimus palaikančius tyrimus, įskaitant sveikatos priežiūros kontekstus. [4]
„Patikimas dirbtinis intelektas“ nėra vibracija – tai kontrolinis sąrašas 🧾🔍
Jei dirbtinio intelekto sistema veikia tikrus žmones, norite daugiau nei „jos tikslumas pagal mūsų lyginamąjį standartą“
Tvirtas pagrindas yra gyvavimo ciklo rizikos valdymas: planavimas → kūrimas → testavimas → diegimas → stebėjimas → atnaujinimas. NIST dirbtinio intelekto rizikos valdymo sistema nustato „patikimo“ dirbtinio intelekto savybes, tokias kaip validus ir patikimas, saugus, patikimas ir atsparus, atskaitingas ir skaidrus, paaiškinamas ir interpretuojamas, sustiprintas privatumasir sąžiningas (žalingas šališkumas valdomas). [5]
Vertimas: jūs klausiate, ar tai veikia.
Taip pat klausiate, ar tai saugiai sugenda, ir ar galite tai įrodyti.
Svarbiausios išvados 🧾✅
Jei iš to nieko daugiau neišmoksite:
-
Dirbtinio intelekto algoritmas = mokymosi metodas, mokymo receptas
-
DI modelis = jūsų diegiamas apmokytas rezultatas
-
Geras dirbtinis intelektas yra ne tik „išmanus“ – jis patikimas, stebimas, patikrinamas pagal šališkumą ir tinkamas darbui.
-
Duomenų kokybė yra svarbesnė, nei dauguma žmonių nori pripažinti
-
Geriausias algoritmas paprastai yra tas, kuris išsprendžia problemą nesukurdamas trijų naujų problemų 😅
Realaus pasaulio pavyzdys: klientų praradimo prognozavimo algoritmo testavimas prieš paleidimą 📉🧪
Scenarijus
Įsivaizduokite nedidelę prenumeratos programinės įrangos įmonę, kuri nori numatyti, kurie klientai greičiausiai atšauks prenumeratą per ateinančias 30 dienų.
Komanda turi 18 mėnesių klientų duomenis: prisijungimo dažnumą, pagalbos užklausas, plano tipą, mokėjimo vėlavimus, produktų naudojimą, atnaujinimo datas ir tai, ar kiekvienas klientas galiausiai atšaukė prenumeratą. Duomenų analitikas sukuria dvi modelio versijas: paprastą logistinės regresijos bazinį modelį ir sudėtingesnį gradiento didinimo modelį.
Tikslas nėra „rasti protingiausią algoritmą“. Tikslas – rasti modelį, kuris padėtų klientų sėkmės komandai anksti susisiekti su tinkamais klientais, negaištant pusės savaitės vaikytis klaidingų aliarmų.
Ko reikia darbo eigai
Prieš pasirinkdama algoritmą, komanda pasiruošia:
-
Švarus mokymo duomenų rinkinys su viena eilute kiekvienam klientui
-
Aiški etiketė: „atšaukta per 30 dienų“ taip/ne
-
Prieš prognozavimo datą galimų stulpelių sąrašas
-
Trijų paskutinių mėnesių sustabdymo testų rinkinys
-
Paprastas klaidingai teigiamų ir klaidingai neigiamų rezultatų peržiūros procesas
-
Taisyklė, pagal kurią klientams nerodomas automatinis atšaukimo rizikos balas
Vienas svarbus patikrinimas: pašalinkite viską, kas leidžia nutekinti atsakymą. Pavyzdžiui, „klientų išlaikymo komandos siūloma nuolaida“ neturėtų būti naudojama, jei tai daroma tik po to, kai įtariama, kad kas nors atšaukė užsakymą.
Instrukcijos pavyzdys
Paprašydami dirbtinio intelekto asistento ar analitiko peržiūrėti sąranką, vadovaukitės šia instrukcija:
Peržiūrėkite šį klientų praradimo prognozavimo duomenų rinkinio dizainą. Nustatykite visus stulpelius, kurie gali sukelti duomenų nutekėjimą, visas funkcijas, kurios gali neteisingai iškreipti prognozes, ir visus rodiklius, kuriuos turėtume stebėti prieš diegdami. Modelį naudos klientų sėkmės komanda, kad nustatytų prioritetus informavimo paslaugoms teikti, o ne priimtų automatinius sprendimus dėl klientų.
Kaip tai išbandyti
Patikrinkite modelį tokiais klausimais:
-
Ar modelis vis dar veikia su paskutinių trijų mėnesių duomenimis?
-
Kurie 10 stulpelių daro didžiausią įtaką prognozėms?
-
Ar klientai, pasirinkę pigesnius planus, dažniau pažymimi dėl priežasčių, nesusijusių su faktine klientų praradimo rizika?
-
Kiek klientų, kuriems pažymėta, komanda turėtų laiko susisiekti kiekvieną savaitę?
-
Kas nutiks, jei per šventes sumažės visų produktų naudojimas?
Geras testas yra praktiškas, ne tik matematinis. Jei modelis per savaitę pažymi 600 klientų, o komanda gali susisiekti tik su 80, algoritmas gali būti tikslus, bet vis tiek prastai pritaikytas darbo eigai.
Rezultatas
Iliustracinis rezultatas: remiantis 1000 klientų sąskaitų testų rinkiniu, paprastas logistinės regresijos modelis pasiekė 71 % atkūrimo rodiklį ir 42 % tikslumą. Gradiento didinimo modelis pasiekė 78 % atkūrimo rodiklį ir 48 % tikslumą, tačiau jį reikėjo papildomai peržiūrėti, nes jo pagrindinės savybės apėmė dvi galimas nutekėjimo rizikas.
Pašalinus stulpelius, kuriuose buvo didesnė tikimybė nutekėti, gradiento didinimo modelis šiek tiek sumažėjo iki 74 % atkūrimo ir 46 % tikslumo. Tai vis tiek buvo vertinga: kas savaitę peržiūrėdama 100 pažymėtų paskyrų, komanda galėjo tikėtis apie 46 tikrai didelės rizikos klientų, užuot susisiekusi su paskyromis atsitiktinai.
Laiko įvertis: jei rankinė paskyros peržiūra trunka 6 minutes vienam klientui, 100 atsitiktinai pasirinktų paskyrų peržiūra užtruktų 10 valandų. Naudojant modelį, skirtą tikėtinų klientų praradimo rizikos sąrašui sudaryti, peržiūros laikas išlieka 10 valandų, tačiau padidėja vertingų bandymų susisiekti skaičius. Patikrinti reikia paprastą rodiklį: stebėti, kiek pažymėtų klientų buvo susisiekta, kiek iš jų iš tikrųjų buvo pavojuje ir kiek jų išlaikė prenumeratą po susisiekimo.
Kas gali nutikti ne taip
Modelis gali atrodyti geriau nei yra iš tikrųjų, jei duomenų rinkinyje yra informacijos apie ateitį, pavyzdžiui, klientų išlaikymo pasiūlymai, atšaukimo apklausos atsakymai arba palaikymo pastabos, parašytos po to, kai klientas jau nusprendė išeiti.
Komanda taip pat gali pasiduoti automatizavimo šališkumui. „Didelės rizikos“ įvertinimas turėtų paskatinti žmogaus atliekamą peržiūrą, o ne roboto siunčiamą el. laišką, kuris erzina lojalius klientus.
Kita klaida – vien tik tikslumo siekimas. Jei tik 5 % klientų atšaukia užsakymą, tingus modelis, kuris numato, kad „niekas neatšauks“, gali atrodyti tikslus, tačiau neturėti jokios praktinės vertės.
Praktiškas išsinešimui skirtas maistas
Geriausias dirbtinio intelekto algoritmas yra tas, kuris atlaiko sąlytį su realiu darbo srautu. Pradėkite nuo pradinio lygio, patikrinkite, ar nėra nuotėkio, išbandykite su naujausiais duomenimis, išmatuokite klaidingus aliarmus ir įsitikinkite, kad žmonės žino, kada suabejoti rezultatu.
DUK
Kas yra dirbtinio intelekto algoritmas paprastai tariant?
Dirbtinio intelekto algoritmas – tai metodas, kurį kompiuteris naudoja mokydamasis modelių iš duomenų ir priimdamas sprendimus. Užuot remdamasis fiksuotomis „jei-tai“ taisyklėmis, jis prisitaiko pamatęs daug pavyzdžių arba gavęs atsiliepimų. Tikslas – laikui bėgant tobulinti naujų įvesties duomenų prognozavimą ar klasifikavimą. Jis yra galingas, tačiau vis tiek gali daryti patikimas klaidas.
Kuo skiriasi dirbtinio intelekto algoritmas ir dirbtinio intelekto modelis?
Dirbtinio intelekto algoritmas yra mokymosi procesas arba mokymo receptas – kaip sistema atnaujina save iš duomenų. Dirbtinio intelekto modelis yra apmokytas rezultatas, kurį vykdote, kad sudarytumėte prognozes apie naujus įvestis. Tas pats dirbtinio intelekto algoritmas gali sukurti labai skirtingus modelius, priklausomai nuo duomenų, mokymo trukmės ir nustatymų. Pagalvokite apie „gaminimo procesą“ ir „gatavą patiekalą“
Kaip dirbtinio intelekto algoritmas mokosi mokymo, o ne išvadų darymo metu?
Mokymas yra tada, kai algoritmas studijuoja: jis mato pavyzdžius, daro prognozes, matuoja paklaidą ir koreguoja vidinius parametrus, kad ta paklaida būtų sumažinta. Išvada yra tada, kai apmokytas modelis naudojamas su naujais įvesties duomenimis, pvz., šlamšto klasifikavimu arba vaizdo ženklinimu. Mokymas yra mokymosi etapas; išvados yra naudojimo etapas. Daugelis problemų iškyla tik išvados darymo metu, nes nauji duomenys elgiasi kitaip nei tie, iš kurių sistema mokėsi.
Kokie yra pagrindiniai dirbtinio intelekto algoritmų tipai (prižiūrimi, neprižiūrimi, sustiprinami)?
Prižiūrimas mokymasis naudoja paženklintus pavyzdžius, kad išmoktų sąsają tarp įvesties ir išvesties, pvz., šlamštą ir ne šlamštą. Neprižiūrimas mokymasis neturi etikečių ir ieško struktūros, pvz., grupių ar neįprastų modelių. Pastiprinamasis mokymasis mokosi bandymų ir klaidų metodu, naudodamas atlygį. Gilusis mokymasis yra platesnė neuroninių tinklų metodų šeima, galinti užfiksuoti sudėtingus modelius, ypač regos ir kalbos užduotims.
Kaip žinoti, ar dirbtinio intelekto algoritmas realiame gyvenime yra „geras“?
Geras dirbtinio intelekto algoritmas nebūtinai yra sudėtingiausias – jis patikimai atitinka tikslą. Komandos vertina tokius rodiklius kaip tikslumas, preciziškumas/atkūrimas, F1, AUC-ROC ir kalibravimas, o tada testuoja našumą ir poveikį diegimo aplinkoje. Stabilumas, paaiškinamumas, efektyvumas ir prižiūrimumas yra labai svarbūs gamyboje. Kartais šiek tiek silpnesnis modelis popieriuje laimi, nes jį lengviau stebėti ir pasitikėti.
Kas yra duomenų nutekėjimas ir kodėl jis sutrikdo dirbtinio intelekto projektus?
Duomenų nutekėjimas įvyksta, kai modelis mokosi iš informacijos, kuri nebus prieinama prognozavimo metu. Dėl to testavimo rezultatai gali atrodyti nuostabiai, tačiau po diegimo jie gali būti labai nesėkmingi. Klasikinis pavyzdys – netyčinis signalų, atspindinčių veiksmus, atliktus po rezultato gavimo, pavyzdžiui, klientų išlaikymo komandos kontaktas klientų praradimo modelyje, naudojimas. Duomenų nutekėjimas sukuria „netikrą našumą“, kuris išnyksta realiame darbo eigoje.
Kodėl dirbtinio intelekto algoritmai laikui bėgant blogėja, net jei paleidimo metu jie buvo tikslūs?
Duomenys laikui bėgant keičiasi – klientai elgiasi skirtingai, keičiasi politika arba tobulėja produktai – tai sukelia koncepcijos nukrypimus. Modelis išlieka tas pats, nebent stebite našumą ir jį atnaujinate. Net ir nedideli pokyčiai gali sumažinti tikslumą arba padidinti klaidingų aliarmų skaičių, ypač jei modelis buvo nestabilus. Nuolatinis vertinimas, perkvalifikavimas ir kruopštus diegimo procesas yra dirbtinio intelekto sistemos sveikatos palaikymo dalis.
Kokios yra dažniausios klaidos diegiant dirbtinio intelekto algoritmą?
Per didelis pritaikymas yra didelė problema: modelis puikiai veikia su mokymo duomenimis, bet prastai su naujais duomenimis. Šališkumo ir teisingumo problemos gali kilti, nes istoriniuose duomenyse dažnai yra istorinio neteisingumo. Neteisingai suderinti rodikliai taip pat gali sužlugdyti projektus – optimizuojant tikslumą, kai vartotojams rūpi kažkas kita. Kita subtili rizika yra automatizavimo šališkumas, kai žmonės pernelyg pasitiki patikimais modelio rezultatais ir nustoja juos dukart tikrinti.
Ką praktiškai reiškia „patikimas dirbtinis intelektas“?
Patikimas dirbtinis intelektas nėra vien „didelis tikslumas“ – tai gyvavimo ciklo metodas: planavimas, kūrimas, testavimas, diegimas, stebėjimas ir atnaujinimas. Praktiškai ieškoma sistemų, kurios būtų validžios ir patikimos, saugios, patikimos, atskaitingos, paaiškinamos, atsižvelgiant į privatumą ir šališkumą. Taip pat norima, kad gedimų režimai būtų suprantami ir atkuriami. Pagrindinė idėja – gebėti parodyti, kad dirbtinis intelektas veikia ir sugenda saugiai, o ne tik tikėtis, kad taip ir bus.
Nuorodos
-
Goddard ir kt. - Automatizavimo šališkumo sisteminė apžvalga (PMC visas tekstas)
-
NIST – Dirbtinio intelekto rizikos valdymo sistema (DI RMF 1.0) PDF