Kodėl dirbtinis intelektas kartais viską išsigalvoja [vaizdo įrašas ir viktorina]

Trumpas atsakymas: DI kartais išgalvoja dalykus, nes numato tikėtinus tolesnius žodžius, o ne patikrintus faktus – sklandumas nėra įrodymas. Kai tema yra nišinė, svarbi arba reikalauja tikslių vardų ir skaičių, spragos užpildomos patikimais spėjimais, nebent pagrindžiate atsakymą ir patikrinate tvirtus teiginius.

Straipsniai, kuriuos galbūt norėsite perskaityti po šio:

🔗 Nustokite elgtis su dirbtiniu intelektu kaip su „Google“.
Sužinokite, kodėl geresniems dirbtinio intelekto rezultatams reikia kitokio požiūrio.

🔗 Jūsų pirmoji tinkama dirbtinio intelekto raginimas
Sukurkite aiškią, veiksmingą raginimą, naudodami paprastą struktūrą.

🔗 4 puikaus dirbtinio intelekto raginimo dalys
Atraskite keturis esminius elementus, kurie pagerina dirbtinio intelekto raginimo kokybę.

🔗 Kas iš tikrųjų yra DI?
Supraskite dirbtinį intelektą paprastais, praktiškais ir kasdieniais terminais.

Svarbiausios išvados:

Nežinojimas apie spėjimą: sklandžią prozą traktuokite kaip šablono užbaigimą, o ne kaip prisiektą įrodymą.

Pasitikėjimo spąstai: tvirtas tonas yra stiliaus dalis; tikslumą reikia atskirai patikrinti už pokalbio ribų.

Netikra pakuotė: prieš pasitikėdami tvarkingais nuorodų sąrašais, patys paieškokite citatų pavadinimų ir citatų.

Pagrįskite atsakymą: įklijuokite šaltinio pastabas ir uždrauskite išgalvotus URL, tyrimus ar statistiką.

Žmonių atliekamas auditas: pirmiausia patikrinkite rizikingiausią pretenziją, ypač sveikatos, teisės ar finansų srityse.

Prognozė nėra tas pats, kas žinojimas

Štai tiesioginė versija: dauguma pokalbių modelių yra šablonų mašinos. Jūs užduodate klausimą. Jos sugeneruoja atsakymą, kuris atitinka gero atsakymo formą. Toje formoje yra faktai, tonas, struktūra – visas kostiumas. Kartais kostiumas apima tikras žinias. Kartais jis įvynioja į užtikrintą spėjimą, kuris užpildė spragą.

Manau, padeda laisva metafora, o tada šiek tiek grįšiu atgal. Įsivaizduokite džiazo pianistą, kuris yra girdėjęs milijoną dainų. Paprašykite jo sugroti „tą apie mėlyną lagaminą“ ir jis galbūt sugalvos gražią melodiją, kurios niekada nebuvo – nes prašymas skambėjo taip, kaip turėtų. Palaukite – tai perdėtai meniška. Tai labiau panašu į automatinį užbaigimą ant steroidų. Modelis užbaigia įtikimą pastraipą, o ne atidaro dokumentų spintą su užrašu „Tiesa“.

Taigi, kai žmonės klausia, kodėl dirbtinis intelektas kartais viską išsigalvoja, trumpas atsakymas yra toks: spragos užpildomos tuo, kas skamba statistiškai teisingai. Praleidus citatą, modelis sukuria akademišką citatą. Nesuvokiamas skaičiaus, modelis pateikia tvarkingą skaičių. Nenurodant asmens vardo, jis sukuria tokį, kuris atitinka epochą ir kultūrą. Iš pradžių tai šiek tiek stebina. Kai pamatai dėsningumus, nebe taip. 

• Sklandus tekstas yra kartos tikslas, o ne patikrinta tiesa.
• Tuščios žinių spragos vis dar pildomos žodžiais.
• Modelio reitinge „skamba teisingai“ tikimybė gali pranokti „yra teisinga“.

Pasitikėjimas ir tikslumas – keistas skirtumas

Žmonės apsidraudžia, kai nėra tikri. Sakome „Manau“, „Galbūt“, „Reikėtų patikrinti“. Modeliai taip pat gali apsidrausti – jei jų paprašote, – tačiau numatytieji rezultatai dažnai skaitomi kaip užtikrintas instruktažas. Toks poliravimas yra naudingumo mokymo bruožas, o ne signalas, kad kiekvienas teiginys buvo pagrįstas.

Pasitikėjimas ir tikslumas – skirtingi rodikliai. Vieną galima įjungti iki maksimumo, o kitą – iki nulio. Tą patį patyrėte ir su kitais žmonėmis: kolega, kuris visiškai užtikrintai paaiškina neteisingą procesą. Dirbtinis intelektas gali kartoti tą patį, tik greičiau ir su geresniu formatavimu.

Praktinė išvada: tvirtą formuluotę laikykite stiliumi, o ne įrodymu. Jei atsakyme nėra šaltinių, kuriuos galėtumėte patikrinti, nepripažįstamas netikrumas ir pateikiama krūva konkrečių vardų ar skaičių – sulėtinkite tempą. Konkretumas be pagrindimo yra klasikinis požymis. 

• Asertyvus tonas ≠ patikrintas turinys.
• Paprašykite modelio pažymėti neapibrėžtumą tyčia.
• Verčiau rinkitės „štai dėl ko nesu tikras“ nei netikrą hermetišką santrauką.

Sukurtos citatos ir detalės, kurios atrodo tikros

Šis tekstas gelia, nes atrodo toks profesionalus. Padirbti straipsnių pavadinimai. Padirbti žurnalų pavadinimai. Padirbti URL adresai, kuriuos beveik galima spustelėti. Padirbtos citatos, priskiriamos garsiems žmonėms. Formatavimas dažnai tobulas – kursyvas, čia specialiai vengiama metų formos vietos žymeklių, autoriaus pavardės – ir toks įvaizdis apgauna skaitytojus.

Taip nutinka dėl aiškios priežasties. Citatos forma dažnai naudojama mokomuosiuose tekstuose. Kai klausiate „šaltinių“, modelis gali pateikti formą nerasdamas tikro įrašo. Tai tarsi prašyti ko nors iš atminties ištraukti kvitą. Gaunate kažką, kas atrodo kaip kvitas. Parduotuvės galbūt niekada nebuvo.

Kartą stebėjau, kaip juodraštyje buvo kuriamas tyrimas apie nuotolinio darbo produktyvumą su nepriekaištingai atrodančiu autorių sąrašu. Atrodė, kad jis buvo recenzuotas kolegų. Tai nebuvo niekas. Štai kur ir slypi pavojus: jūsų smegenys atsipalaiduoja, kai pakuotė atrodo brangi. Neatsipalaiduokite. 

• Reikalaukite pavadinimų, kurių galite ieškoti patys – tada ieškokite jų rimtai.
• Įtariai vertinkite tvarkingus citatų ir priskyrimo rinkinius, kurių niekada neprašėte.
• Jei „šaltinio“ greitai rasti nepavyksta, teiginį traktuokite kaip nepagrįstą.

Kai išradimo rizika yra didžiausia

Ne kiekvienas pokalbis yra vienodai pavojingas. Eilėraštis apie kavą gali laisvai kurti metaforas – štai kur esmė. Vaistų dozė, teisinis terminas, konkurentų kainodaros politika ar istorinis teiginys apie paskelbtą straipsnį gyvena kitoje planetoje.

Rizika padidėja, kai tema yra nišinė, nauja arba labai specifinė. Ji taip pat padidėja, kai reikalaujama tikslių skaičių, įvardytų dokumentų, privačių įmonių vidaus dokumentų arba „dešimties recenzuotų tyrimų sąrašo“. Kuo tikslesnis klausimas, tuo didesnė pagunda modeliui užpildyti spragas tikėtinais užpildais.

Ilgi, įspūdingi atsakymai gali būti rizikingesni nei trumpi, atsargūs. Ilgis atrodo kaip pastangos. Pastangos atrodo kaip rūpestis. Rūpestis atrodo kaip tiesa. Ta vingiuota įspūdžių grandinė – tai, kaip blogi faktai patenka į skaidrių demonstravimo lentą. 

• Didelė rizika: sveikata, teisė, finansai, atitiktis, saugumas, įvardyti asmenys, tiksli statistika.
• Vidutinė rizika: nišinės pramonės procesai, įrankių nustatymai, „geriausios praktikos“ sąrašai.
• Mažesnė rizika: idėjų generavimas, planų sudarymas, savo juodraščio perrašymas, tono redagavimas.

Patikimi ir nestabilūs rezultatai – greitas palyginimas

Stalas pranoksta kitą padrąsinimo kalbą. Įskaitant ir nedidelių keistenybių, nes paprasti pokalbiai yra keisti.

Laikykite tą minčių suvestinę po ranka. Pradėsite pastebėti drebančius rezultatus taip, kaip pastebite šiek tiek neryškią šypseną nuotraukoje – kažkas pozuoja.

Kaip atpažinti išgalvotus atsakymus netapant paranojišku

Jums nereikia tikrinti kiekvieno būdvardžio. Jums reikia pigaus įpročio tikrinti svarbius teiginius. Patikrinkite ryškiausią briauną: skaičių, vardą, politiką, citatą. Jei ši briauna neatitiks, likusi atsakymo dalis bus bandomoji.

Dar vienas požymis: vidinis prieštaravimas. Modelis teigia, kad įrankis „visada“ atlieka X, o vėliau aprašo išimtį taip, tarsi ji būtų standartinė. Arba jis išranda funkciją, o tada paaiškina, kaip ją išjungti – kaip sapnas, kuris nuolat išranda duris. Klauskite tolesnių klausimų, kurie baksnoja silpnąsias vietas. Išgalvoti pasauliai linkę svyruoti veikiant spaudimui.

Taip pat atkreipkite dėmesį į „pernelyg tobulą“ įterpimą. Kiekviena pastraipa vienodai išbaigta. Kiekviena rekomendacija vienodai užtikrinta. Tikras profesionalumas paprastai turi tekstūrą – įspėjimus, kompromisus, „priklauso nuo to“. Plokščias tobulumas nusipelno papildomo dėmesio. 

• Pirmiausia patikrinkite rizikingiausią teiginį, o ne visą esė.
• Paklauskite „kuo mažiausiai tikras?“ ir pažiūrėkite, ar kaukė nuslysta.
• Patikrinkite vardus, pareigas ir numerius už pokalbio ribų.
• Pirmenybę teikite atsakymams, susietiems su įklijuotu tekstu, o ne laisvai prieinamiems faktams.

Skatina įpročius, kurie mažina išradingumą

Haliucinacijų magišku sakiniu pašalinti nepavyks – atsiprašau – bet sprogimo spindulį galima sumažinti. Geros užuominos varžo žaidimą. Blogos užuominos skatina improvizuoti

Išbandykite tokius įpročius. Jie skamba sausai. Jie veikia dažniau nei gudrūs triukai.

• Apibrėžkite žinias: „Naudokite tik tas pastabas, kurias įklijuoju. Jei trūksta, pasakykite, kad nežinote.“
• Uždrauskite netikrus šaltinius: „Neišgalvokite citatų, citatų ar URL adresų.“
• Priverstinai žymėkite neapibrėžtumo žymas: „Pažymėkite kiekvieną ženklelį: žinomas / numanomas / spėjimas.“
• Paprašykite alternatyvų: „Pateikite du variantus ir paaiškinkite, kodėl kiekvienas iš jų gali būti neteisingas.“
• Prašymas atmesti abejones: „Išvardykite savo prielaidas.“
• Pirmenybę teikite struktūrai, o ne atmosferai: lentelėms, kontroliniams sąrašams ir teiginių / įrodymų stulpeliams.

Keista, bet pasakius modeliui, kad galima sakyti „nežinau“, sumažėja socialinis spaudimas atlikti tikrumą. Modeliai atspindi užduotį. Jei užduotis bet kokia kaina apdovanoja už išsamumą, gaunama fikcija su formatavimu. Jei užduotis apdovanoja aiškiu kalbėjimu apie spragas, gaunama mažiau akivaizdaus melo. 

Taip, tolesni pranešimai yra svarbūs. Pirmieji atsakymai yra juodraščiai. „Ši citata atrodo netikra – pašalinkite viską, ko negalite patikrinti“ yra visiškai normalus antras pranešimas. Į pokalbį žiūrėkite kaip į redagavimą, o ne kaip į prekybos automatą, kuris jums skolingas tiesą nuo pirmos monetos.

Įžeminimas, tolesni veiksmai ir gyvenimas su netikrumu

Įžeminimas reiškia atsakymo susiejimą su kažkuo, kas yra už modelio improvizacijos ribų: jūsų įklijuotu politikos dokumentu, skaičiuokle, susitikimo užrašais, žinomu viešu puslapiu, kurį pats patikrinsite. Kai atsakymas turi likti už tos ribos, išradimui lieka mažiau erdvės.

Tolesni klausimai yra antras barjeras. „Iš kur atsirado šis skaičius?“, „Kuri dalis yra išvada?“, „Perrašykite be jokių įvardytų tyrimų.“ Kiekvienas klausimas yra nedidelė audito užduotis. Manau, kad tai yra suaugusiųjų būdas naudoti šiuos įrankius – ne garbinimas, ne panika, tiesiog auditai.

Neapibrėžtumas nėra jūsų darbo eigos klaida. Tai oras. Kai kuriomis dienomis modelis sugalvoja jūsų paties teksto santrauką. Kai kuriomis dienomis jis išgalvoja pakomitetį, kuris niekada nesusirinko. Jūsų užduotis – nuspręsti, kuriems rezultatams reikalingas lietpaltis. 

• Įklijuokite šaltinio medžiagą, kai svarbu tikslumas.
• Paprašykite teiginio lygio patikimumo žymų.
• Informuokite žmogų apie svarbius sprendimus.
• „Kūrybinę laisvę“ pasilikite kūrybinėms užduotims, o ne paklusnumui.

Ką daryti, kai haliucinacijos pasireiškia srovių viduryje?

Nesuk galvos. Neatsižadėk įrankio visam laikui, tarsi jis tave asmeniškai išdavė – nors potraukis gali būti aštrus. Pataisyk temą ir tęsk.

Paprastas atkūrimo ciklas:

• Pasakykite tiesiai šviesiai: „Šis šaltinis atrodo išgalvotas. Pašalinkite nepagrįstus teiginius.“
• Pakartotinis prijungimas: įklijuokite tikrąjį dokumentą, citatą arba duomenis.
• Siaurai perkonstruoti: prašykite pataisytos dalies, o ne visiškai naujo tuščiažodžiavimo rašinio.
• Dar kartą patikrinkite aštrius kraštus: pavadinimus, skaičius, proceso veiksmus.
• Nuspręskite pasitikėjimo lygį: idėjų generavimo partneris, juodraščio rengimo asistentas ar „ne šiai temai“.

Vienos haliucinacijos užfiksavimas gali pagerinti likusį pokalbį – jei sugriežtinsite apribojimus. Modelis „nesijaučia kaltas“, bet jūsų aiškesni nurodymai pakeičia tai, kam jis optimizuojamas. Jūs vairuojate. Vairuokite griežčiau, kai pasirodo išradingumas. 

Kasdieniai scenarijai, kur tai tyliai svarbu

Darbo el. laiškai: išgalvotas „pramonės standartų laiko grafikas“ gali sukelti lūkesčius, kurių negalite įvykdyti. Mokykla ir mokymasis: netikras paaiškinimas gali įstrigti jūsų galvoje, kol to nepastebėsite. Klientų aptarnavimo juodraščiai: sugalvota pinigų grąžinimo taisyklė tampa pažadu. Kūrybinis rašymas: išgalvokite – tai žaidimų aikštelė.

Visa esmė – pasekmė. Jei neteisingi žodžiai kainuoja pinigus, pasitikėjimą, pažymius ar saugumą, patikrinimas nėra neprivalomas užsiėmimas. Jei neteisingi žodžiai kainuoja tik pečių gūžtelėjimą, atsipalaiduokite. Gebėjimas suderinti atsargumą su pasekmėmis čia yra suaugusiojo įgūdis – daugiau nei žodžio „haliucinacija“ įsiminimas

Taip pat: komandos turėtų normalizuoti „Aš patikrinau šį teiginį“ taip pat, kaip normalizuoja „rašybos patikra sėkminga“. Priešingu atveju viena nušlifuota pastraipa per naktį tampa genčių žiniomis. Oi, štai!.

Svarbiausios išvados

Taigi, kodėl dirbtinis intelektas kartais išgalvoja dalykus, tai štai kas: šios sistemos numato įtikimą kalbą, užpildo spragas atitikimo šablonais ir dažnai tai darydamos skamba užtikrintai. Šis derinys sukuria užtikrintus neteisingus atsakymus, išgalvotas citatas ir tvarkingas detales, kurios niekada nebuvo.

Nereikia bijoti įrankio. Reikia įpročių. Patikrinkite tvirtus teiginius. Uždrauskite išgalvotus šaltinius. Įklijuokite konkretų kontekstą. Prašykite neapibrėžtumo. Tolesnius veiksmus naudokite kaip auditus. Laisvą generavimą pasilikite mažai rizikingam kūrybiniam darbui.

Sklandus kalbėjimas nėra charakterio bruožas. Elkitės su juo kaip su talentingu praktikantu, kuris rašo neįtikėtinai greitai, kartais sugalvoja susitikimus, kurie niekada neįvyko, ir vis tiek gali puikiai pasirodyti, kai yra prižiūrimas. Išlaikykite priežiūrą. Išlaikykite sąmojį. Skepticizmą laikykite lengvą, bet pagrįstą. Štai kaip gausite naudos, nepateikdami prasimanymų, kurie yra pridengti faktais.

Praktinis pavyzdys: išgalvotų citatų aptikimas konkurentų tyrimo santraukoje

Haliucinacijos atrodo abstraktios, kol nušlifuota pastraipa vos nenukrenta į klientų sąrašą. Štai kaip JK rinkodaros analitikas pasinaudojo šiame vadove aprašytais įpročiais, kad nustotų siųsti grožinę literatūrą, pridengtą tyrimais, neatsisakydamas pokalbių roboto.

Scenarijus

Semas turi dvi valandas parengti vieno puslapio apimties konkurento santrauką pardavimų pradžiai. Užduotis pažįstama: stipriosios pusės, kainodaros signalai ir „keli patikimi šaltiniai“. Pagal seną įprotį Semas įvedė „apibendrinti konkurentą X su šaltiniais“ ir gavo tvarkingą santrauką su trimis akademinės išvaizdos citatomis ir tiksliu rinkos dalies procentu. Tai skambėjo glaustai. Ji buvo beveik išgalvota. Vieno pavadinimo nerasta. Dalies rodiklis konkurento svetainėje niekur nebuvo rodomas.

Samui nereikia geriau skambančio modelio. Samui reikia pagrįsto darbo eigos: įklijuoti šaltinių pastabas, uždrausti netikrus šaltinius, priverstinai naudoti neapibrėžtumo žymas, pirmiausia patikrinti aštriausią teiginį, o tada atkurti tik neveikiančią dalį.

Tikslas – parengti komandos parengtą santrauką, kuria ji galėtų pasitikėti aptardama temą, o ne iš atminties ištrauktą kvitą, kuris tik atrodo kaip kvitas.

Ko reikia asistentui

• Šaltinio medžiaga, kurią Semas jau turi: pagrindinio puslapio tekstas, kainodaros puslapio tekstas, dvi neseniai gautos pagalbos užklausos, užrašai apie prarastą sandorį
• Griežta taisyklė: faktiniams teiginiams naudokite tik įklijuotą tekstą; kai pastabose nėra informacijos, sakykite „nežinau“
• Draudimas naudoti išgalvotas citatas, citatas, URL adresus ir statistiką
• Išvesties forma, kuri atskiria žinomą / numanomą / spėlionę
• Laikas vienam žmogui patikrinti vardus, skaičius ir bet kokius „šaltinių“ pavadinimus prieš dalijantis kortų kalade
• Leidimas užduoti iki trijų patikslinamųjų klausimų, o ne užpildyti spragas

Instrukcijos pavyzdys

1 žinutė – pagrįsta užduotis: Naudodamiesi tik toliau įklijuotomis pastabomis, parengkite vieno puslapio apimties konkurentų pardavimo užduočių aprašymą. Skyriai: Ką jie teigia / Kuo skundžiasi klientai / Kainodaros signalai / Atviri klausimai. Neišgalvokite citatų, citatų, URL adresų ar statistikos. Jei fakto nėra pastabose, parašykite „nežinoma“ ir nurodykite jį atvirų klausimų skiltyje. Kiekvieną punktą pažymėkite: žinomas / numanomas / spėjimas. JK anglų kalba. Be įžangos.

2 žinutė – abejonių sprendimas: Išvardykite visas savo prielaidas. Pašalinkite viską, kas pažymėta žodžiu „spėjimas“, nebent galite nurodyti įklijuotą sakinį, kuris tai patvirtina. Jei anksčiau išgalvojote šaltinį, ištrinkite jį ir tai pasakykite.

3 žinutė – siaurai perkonstruoti: ši rinkos dalies eilutė nepalaikoma. Perrašykite tik Kainodaros signalų skyrių be skaičių, nebent jie būtų mano užrašuose. Kitus skyrius pasilikite.

Kaip tai išbandyti

• Pateikite laisvai prieinamą užklausą („apibendrinkite konkurentą X remdamiesi trimis recenzuotais šaltiniais“) ir aukščiau pateiktą pagrįstą užduotį. Palyginkite išgalvotus pavadinimus ir suklastotą statistiką.
• Pirmiausia patikrinkite rizikingiausią teiginį (skaičių arba įvardintą tyrimą), o ne visą puslapį.
• Paklauskite: „Dėl ko mažiausiai esate tikras?“ Tvirtas atsakymas įvardija spragas; netvirtas – padvigubina.
• Kraštutinis atvejis: pašalinkite kainas iš įklijuotų pastabų ir patvirtinkite, kad juodraštyje nurodyta „nežinoma“, užuot sugalvoję plano kainą.
• Priėmimo patikrinimai prieš bendrinimą: (1) kiekvienas „žinomas“ punktas atitinka įklijuotą eilutę, (2) nėra suklastotų citatų, (3) atviruose klausimuose išvardyti tikri trūkumai, (4) likusių pavadinimų ieškojote patys, (5) nėra tikslios statistikos be pastabos.

Rezultatas

Iliustracinis rezultatas (pavyzdinis vieno analitiko konkurento ir santraukos darbo eigos įvertinimas, ne publikuotas tyrimas): Atliekant 8 santraukų užduotis, laikas, praleistas nuo „atviros pastabos“ iki „juodraščio, paruošto žmogaus faktų patikrinimui“, šiek tiek padidėjo nuo vidutiniškai maždaug 12 minučių (vienkartinė nugludinta grožinė literatūra) iki maždaug 15 minučių su pagrįsta raginimu, tačiau sumažėjo patikrinimo ir gėdos jausmo rizika. Žmonių atliekamas tvirtų teiginių patikrinimas sumažėjo nuo vidutiniškai maždaug 18 minučių (netikrų pavadinimų paieška ir perrašymas) iki maždaug 6 minučių, kai teiginiai buvo iš anksto pažymėti ir išgalvoti šaltiniai uždrausti, todėl bendras laikas sumažėjo maždaug 9 minutėmis kiekvienai santraukai arba maždaug 72 minutėmis visam rinkiniui. Priėmimo kontroliniame sąraše (nėra išgalvotų citatų, nėra nepagrįstos statistikos, žinomų / numanomų / spėlionių žymų, atvirų klausimų, kuriuose įvardijamos spragos) 7 iš 8 pagrįstų juodraščių buvo priimti per pirmąją peržiūrą, palyginti su 2 iš 8 vienkartinių juodraščių. Apribojimai: maža imtis, vienas analitikas, vienas santraukos tipas; lengvi konkurentai su aiškia vieša kainodara sumažina skirtumą; „Patvirtinimo laikas“ apėmė įtartinų pavadinimų paieškas internete.

Norėdami įvertinti savo versiją: atlikite 5 užduotis su savo dabartiniu įpročiu ir 5 su įklijuotais šaltiniais + uždraustomis išgalvotomis citatomis + teiginių žymomis; užrašykite vidutinį juodraščio parengimo laiką, vidutinį patikrinimo laiką ir kontrolinio sąrašo išlaikymo rodiklį su nurodytu vardikliu.

Kas gali nutikti ne taip

• Sklandumo šališkumas: nepriekaištinga gramatika ir tvarkingi sąrašai verčia praleisti patikrinimą.
• Citavimo kostiumas: prašymas pateikti „šaltinius“ be įklijuotos medžiagos kviečia teikti stipendiją be atitinkamo įrašo.
• Per daug užpildyti sąrašai: „Duokite man dešimt studijų“ – tai apdovanojimų užpildas, kai jūsų užrašuose yra tik trys.
• Viso rašinio perrašymas: po vienos netikros eilutės paprašykite siaurai perrašyti tą skyrių, o ne naują lako sieną.
• Svarbios temos: sveikatos apsaugai, teisei, finansams ir atitikties reikalavimams reikia stipresnių žmogiškųjų vartų nei pardavimo pokalbių santrauka.
• Nėra žmogiškojo ciklo: žymėtas juodraštis vis tiek gali neteisingai perskaityti įklijuotą sakinį. Bendrinimo mygtukas vis tiek priklauso Semui.

Praktiškas išsinešimui skirtas maistas

Dirbtinis intelektas išgalvoja dalykus, nes numato įmanomą kalbą tarpuose – ne todėl, kad nori jus apgauti. Sklandų tekstą traktuokite kaip stilių, o ne kaip įrodymą. Užklijuokite tvorą, uždrauskite netikrus šaltinius, pažymėkite neapibrėžtumą, patikrinkite aštriausią teiginį ir ištaisykite teiginį, kai kas nors abejoja. Štai kaip išlaikote greito tekstų rengimo partnerio privalumus, nepateikdami užtikrintos istorijos, kuri niekada nebuvo.

DUK

Kodėl dirbtinis intelektas kartais išgalvoja dalykus?

Dauguma pokalbių modelių yra šablonų mašinos: jos generuoja atsakymą, kuris atitinka gero atsakymo formą, o ne patikrintą dokumentų spintą su užrašu „Tiesa“. Tarpai užpildomi tuo, kas skamba statistiškai teisingai – citata, kuri atrodo akademiška, tvarkingu skaičiumi ar detale, atitinkančia epochą. Sklandus tekstas yra kartos tikslas, todėl „skamba teisingai“ gali pranokti „yra teisinga“. Štai kodėl išgalvoti atsakymai dažnai pateikiami su nepriekaištinga gramatika ir tvarkingais sąrašais.

Ar dirbtinio intelekto patikimumas yra tas pats, kas tikslumas?

Ne. Pasitikėjimas ir tikslumas yra skirtingi rodikliai – vienas gali būti aukštas, o kitas – artimas nuliui. Numatytieji rezultatai dažnai skaitomi kaip užtikrintas instruktažas, nes mokymai apdovanoja už naudingą šlifavimą, o ne todėl, kad kiekvienas teiginys buvo pagrįstas. Tvirtą formuluotę traktuokite kaip stilių, o ne įrodymą. Jei atsakyme nėra patikrinamų šaltinių, nėra netikrumo ir daug konkrečių vardų ar skaičių, sulėtinkite tempą.

Kodėl pokalbių robotai išgalvoja citatas ir netikrus šaltinius?

Mokomuosiuose tekstuose citavimo forma yra įprasta, todėl prašymas nurodyti „šaltinius“ gali atrodyti kaip mokslinis darbas neatkuriant tikro įrašo – tarsi ištraukus kvitą iš atminties. Padirbti straipsnių pavadinimai, žurnalų pavadinimai, URL adresai ir pateiktos citatos dažnai atrodo pakankamai profesionaliai, kad apgautų skaitytojus. Reikalaukite pavadinimų, kurių galite ieškoti patys; jei šaltinio greitai nerandate, teiginį laikykite nepagrįstu.

Kada dirbtinio intelekto išradimo rizika yra didžiausia?

Rizika padidėja nišinių, neseniai aktualių ar labai specifinių temų atveju, taip pat kai reikalaujama tikslių skaičių, įvardytų dokumentų, privačių vidinių tyrimų ar ilgų recenzuojamų tyrimų sąrašų. Didelės rizikos sritys apima sveikatą, teisę, finansus, atitiktį reikalavimams, saugą, įvardytus asmenis ir tikslią statistiką. Idėjų generavimas, metmenų rašymas, savo juodraščio perrašymas ir tono redagavimas paprastai yra mažiau rizikingi. Ilgi, įspūdingi atsakymai taip pat gali atrodyti saugesni, nei yra iš tikrųjų.

Kaip atpažinti išgalvotus dirbtinio intelekto atsakymus netikrindamas kiekvieno žodžio?

Pirmiausia patikrinkite ryškiausią aspektą – skaičių, vardą, politiką ar citatą. Jei tai nepavyksta, likusius laikykite bandomuoju laikotarpiu. Stebėkite vidinius prieštaravimus ir „pernelyg tobulą“ sudėtį be jokių išlygų ar kompromisų. Paklauskite modelio, dėl ko jis mažiausiai tikras, patikrinkite vardus ir pareigas už pokalbio ribų ir pirmenybę teikite atsakymams, susietiems su įklijuotu tekstu, o ne laisvai prieinamiems faktams.

Kokie įpročiai sumažina dirbtinio intelekto haliucinacijas?

Vienu magišku sakiniu haliucinacijų pašalinti nepavyks, bet galima sumažinti sprogimo spindulį. Žinias sutelkite į įklijuotus užrašus ir, kai kažko trūksta, sakykite „nežinau“. Uždrauskite išgalvotas citatas, citatas ir URL. Priverstinai naudokite žymas, tokias kaip „žinoma“ / „numanoma“ / „spėjimas“, prašykite prielaidų ir pirmenybę teiginių / įrodymų struktūrai. Paaiškinimas modeliui, kad galima sakyti „nežinau“, sumažina spaudimą daryti klaidingą tikrumą.

Ką reiškia įžeminimas naudojant dirbtinį intelektą faktiniam darbui?

Įžeminimas susieja atsakymą su kažkuo, kas yra už modelio improvizacijos ribų – jūsų politikos dokumentu, skaičiuokle, susitikimo užrašais ar viešu puslapiu, kurį patikrinsite patys. Kai atsakymai turi likti šios ribos ribose, išradimams lieka mažiau vietos. Tolesni veiksmai veikia kaip antroji riba: paklauskite, iš kur atsirado skaičius, kuri dalis yra išvada, arba perrašykite be įvardytų tyrimų. Nuolat informuokite žmogų apie svarbius sprendimus.

Ką daryti, jei pokalbio metu mane užklupo haliucinacija?

Iškvieskite, iš naujo susiekite su tikru dokumentu ar duomenimis ir atkurkite tik sugadintą dalį, užuot prašę visiškai naujo, nušlifuoto rašinio. Dar kartą patikrinkite esminius aspektus – pavadinimus, skaičius, proceso veiksmus – tada nuspręskite, ar įrankis skirtas idėjų generavimui, ar juodraščio asistentui, ar „ne šiai temai“. Aiškesni apribojimai pakeičia tai, kam modelis optimizuojamas; griežčiau valdykite, kai atsiranda išradingumas.

Kaip sustabdyti išgalvotas citatas konkurentų tyrimo santraukoje?

Įklijuokite jau turimus šaltinio užrašus, uždrauskite netikrus šaltinius ir nepatvirtintą statistiką, reikalaukite žinomų / numanomų / spėlionių žymų bei atvirų klausimų sąrašo. Pirmiausia patikrinkite rizikingiausią teiginį, atlikite abejonių patikrinimą, kuris pašalina spėjimus be pagrindo, ir perrašykite tik neveikiančią dalį, jei skaičius nėra pagrįstas. Priėmimas reiškia, kad kiekvienas „žinomas“ punktas susiejamas su įklijuota eilute, o likusį pavadinimą ieško žmogus.

Kada vis dar galima leisti dirbtiniam intelektui laisvai kurti?

Kūrybinio rašymo ir kitose mažai rizikuojančiose užduotyse galima laisvai kurti metaforas – tai yra žaidimų aikštelė. Derinkite atsargumą su pasekmėmis: jei neteisingi žodžiai kainuoja pinigus, pasitikėjimą, pažymius ar saugumą, patikrinimas nėra neprivalomas. Jei jie kainuoja tik gūžtelėjimą pečiais, atsipalaiduokite. Sklandus kalbėjimas nėra charakterio rodiklis; elkitės su modeliu kaip su greitu praktikantu, kuriam vis tiek reikia priežiūros atliekant faktinį darbą.

Nuorodos

1. „OpenAI“ – openai.com
2. Antropo – anthropic.com
3. NIST – nist.gov
4. IBM – ibm.com
5. „Google“ dirbtinis intelektas – ai.google.dev
6. „Google Cloud“ – Įžeminimas – docs.cloud.google.com