Trumpas atsakymas: Niekada nedėkite slaptažodžių, API raktų, ID, sveikatos ar banko įrašų, NDA klientų failų ar kitų žmonių duomenų į viešą dirbtinio intelekto pokalbį. Kai jums reikia pagalbos, aprašykite problemą naudodami vietos žymeklius ir redaguotus ištraukas – modeliui reikia problemos formos, o ne paslapčių, kurios atrakina tikras sistemas.
Svarbiausios išvados:
Paslaptys lieka neprisijungus: niekada neklijuokite slaptažodžių, žetonų, slapukų ar pirminių frazių į raginimą.
Nuimkite tapatybę: tikrus vardus, adresus ir asmens tapatybės numerius pakeiskite vaidmenimis ir netikrais.
Darbo konfidencialumas: Neleiskite konfidencialumo sutarties juodraščiams, klientų failams ir nepaskelbtiems planams patekti į klientų pokalbius.
Sutikimo riba: Neįklijuokite kolegų, klientų ar vaikų asmeninių duomenų be tik žmonėms skirto ciklo.
Pirmiausia pataisykite: naudokite vietos žymeklius ir išvalytas ištraukas; pakeiskite viską, ką jau nutekinote.
Ko niekada neturėtumėte įtraukti į dirbtinį intelektą
Pirmiausia įklijuojame, o paskui pagalvojame. Pokalbių robotas sėdi lyg kantrus praktikantas su nesibaigiančia kava, todėl atrodo beveik nekenksminga visą painią problemą išmesti į dėžutę. Prisijungimas, kuris neveiks. Sutarties sąlyga, nuo kurios susisuka skrandis. Prietaisų skydelio ekrano kopija, kurioje vis dar matomi visi vardai. Įrankis naudingas, atmosfera atrodo privati, o smegenys tyliai viską saugo šalia „užrašų, kuriuos parašiau sau“
Štai kur ir yra spąstai. 🧠 Pokalbis nėra užrakintas stalčius. Tai pokalbis su sistema, kuri saugo, apdoroja ir kartais apmoko tai, ką siunčiate, priklausomai nuo produkto, nustatymų ir to, ar apskritai pastebėjote nustatymus. Nesu čia tam, kad jus panikuotų ir įsprausčiau į bunkerį. Pateikiu praktinį žemėlapį, ko NIEKADA neturėtumėte dėti į dirbtinį intelektą, bei neįkyrius, bet praktiškus įpročius, kurie vis tiek leidžia gauti tikslius atsakymus.
Įsivaizduokite tai kaip paslapties šaukimą perpildytoje virtuvėje. Ne kiekvienas nepažįstamasis klausosi. Vis dėlto kai kurie iš jų gali klausytis. Be to, virtuvė įrašo dėl priežasčių, kurios niekada nebūna tokios paprastos, kaip teigiama reklaminiame tekste.
Kodėl viską metame į pokalbių langą
Greitis. Tai beveik viskas. Įstrigai, klaida bjauri, o viso žurnalo įklijavimas atrodo greitesnis nei jo išardymas. Kontekstas atrodo kaip gerumas modeliui. Daugiau detalių, geresnė pagalba – tai folkloras, ir jis pusiau teisingas.
Kita pusė yra emocinga. Pokalbių robotas net nepakelia antakio. Jis nepasakys jūsų vadovui. Jis neapkalbinės per pietus. Todėl mes į tai žiūrime kaip į dienoraštį su supergaliomis. Aš tai dariau. Jūs tikriausiai tai darėte. Kai tik kažkas yra ir patogu, ir neteisianti, mūsų privatumo instinktai išeina arbatos pertraukėlės.
Štai šiek tiek erzinanti tiesa: modeliui nereikia jūsų kasdienių detalių, kad jums padėtų. Jam reikia problemos formos. Vardai, žetonai, sąskaitų numeriai ir veidai ekrano kopijose yra tik puošmena. Puikus puošmena. Vis tiek puošmena.
- Įklijuojate, nes redagavimas atrodo kaip papildomas darbas.
- Įklijuoji, nes „tik šį kartą“ yra įprotis dėvėti maskuotę.
- Įklijuojate, nes sąsaja atrodo kaip privatus DM ir elgiasi kaip dokumentų spinta.
Visa tai nepadaro tavęs neapgalvotu. Tai daro tave žmogumi. Pataisa – dviejų sekundžių pauzė, o ne asmenybės transplantacija.
Slaptažodžiai, API raktai ir slapti kodai, kurie turėtų likti neprisijungus 🔐
Jei jis gali ką nors atrakinti, to nereikia įtraukti į raginimą. Slaptažodžiai. Vienkartiniai kodai. Seanso slapukai. SSH raktai. Duomenų bazės ryšio eilutės. API raktas, kurį sau pažadėjote „netrukus“ pakeisti. Piniginės pradinės frazės. Privatūs sertifikatai. Atkūrimo klausimas, kurį jūsų bankas vis dar laiko gudriu.
Anksčiau galvodavau apie raktus kaip apie namų raktus ant kabliuko prie durų. Miela metafora; ji iš karto subyrėja, nes namų raktas atidaro vienas duris, o API raktas gali atidaryti sandėlį, atsiskaitomąją sąskaitą ir krūvą klientų įrašų, apie kuriuos pamiršote, kad juos išsaugojote. Atsarginių kopijų kūrimas: paslaptis laikykite radioaktyviomis. Radioaktyvių daiktų į sumuštinių presą nededate, net jei sumuštinių presas labai gerai gamina sumuštinius.
Modelis negali „laikyti to tarp mūsų“ taip, kaip tai gali padaryti draugas. Net jei tiekėjas siūlo atminties valdymą, net jei išjungsite mokymą, tekstas vis tiek keliauja, kažkaip užregistruojamas ir gali likti pokalbių istorijoje, kol nepradėsite jo ieškoti. Tarkime, kad įklijuota kopija yra kopija, kurios nebegalite iki galo kontroliuoti.
Ką daryti vietoj to
- Aprašykite slaptą raktą pagal tipą, o ne pagal reikšmę. Derinimo patarimams pakanka „Postgres URL su slaptažodžiu“.
- Redaguoti su akivaizdžiais vietos rezervavimo ženklais: REDACTED_KEY, USER_TOKEN, EXAMPLE_SECRET.
- Pasukite viską, kas jau nutekėjo. Darykite tai dabar, o ne tada, kai „pamatysite, ar kas nors nutiks“
- Tikrus prisijungimo duomenis laikykite slaptažodžių tvarkyklėje arba slaptų duomenų saugykloje; niekada ne temoje, iš kurios vėliau galite pasidaryti ekrano kopiją.
Jei įrankis prašo įklijuoti raktą, kad galėtų „prisijungti už jus“, tai yra kita produktų kategorija. Tai integracija su prieiga, o ne rašymo asistentas. Elkitės su tuo kaip su savo ženklelio įteikimu kam nors.
Asmeniniai identifikatoriai ir tylus tapatybės pėdsakas 🪪
Asmeniškai identifikuojanti informacija (PII) yra neglamūringas slaptažodžių pusbrolis. Nacionaliniai asmens tapatybės numeriai. Paso duomenys. Su data susiję tapatybės laukai. Namų adresai. Telefonų numeriai. Darbuotojų ID. Studentų numeriai. Pilni teisiniai vardai ir pavardės, suporuoti su gimimo datomis, mokyklų pavadinimais arba medicinos klinikų pavadinimais. Viena dalis atrodo maža. Trys dalys kartu sudaro dosjė.
Žmonės taip elgiasi, kai nori, kad laiškas būtų parašytas, forma išversta ar gyvenimo aprašymas nušlifuotas. Visiškai pagrįsti tikslai. Modeliui nereikia tikrojo pašto kodo, kad būtų galima parašyti mandagų skundą. Jam reikia tono, neidentifikuojančių faktų ir norimo rezultato.
Matyt, stebėtinai kebli dalis yra „nekenksmingi“ deriniai. Unikalios pareigos plius miestas plius vaiko mokykla plius reta liga. To nerašytum ant skrajutės. Pokalbių langelis nėra skrajutė, bet jis taip pat nėra ir saugykla.
- Sukeiskite tikraisiais vardais vaidmenis: „samdymo vadovas“, „mano šeimos gydytojas“, „nuomininkas“
- Apibendrinkite vietas: „vidutinio dydžio miestas“, o ne gatvė ir skambučio kodas.
- Išmeskite unikalius skaičius, nebent užduotis yra tiesiogiai susijusi su skaičių formatu – tokiu atveju naudokite klastotę, kuri atrodo pakankamai tikra.
Anonimizavimas nėra daktaro laipsnis. Tai įprotis patikrinti, ar nepažįstamasis galėtų jus atpažinti iš šios pastraipos eilės. Jei galėtų, iškirpkite.
Darbo konfidencialumas, konfidencialumo sutartys ir dalykai, nuo kurių jūsų viršininkas krūptelėtų 📎
Štai čia paslaugumas ir sukelia žmonėms problemų. Įkeliate klientų sąrašą. Nepaskelbtą veiksmų planą. Atlyginimų skaičiuoklę. Šaltinio kodą su vidiniais pagrindinių kompiuterių pavadinimais. Teisinio dokumento projektą, kuris vis dar pažymėtas kaip konfidencialus. Susitikimų protokolus su žmonių, kuriems dar nepranešta, vardais ir pavardėmis. NDA, kurią pasirašėte paskubomis, nes kava vėso.
Pokalbių robotai nėra jūsų įmonės patarėjai ir nėra saugus darbo stalas, nebent jūsų organizacija jį iš tikrųjų įrodytų. Vartotojams skirti įrankiai yra sukurti patogumui. Įmonėms skirti įrankiai gali būti geresni, su saugojimo kontrole ir administravimo politika; jie vis tiek nėra priežastis klijuoti karūnos brangakmenius už gramatikos egzaminą.
Praktinė nykščio taisyklė, kurią laikau ant lipnaus lapelio galvoje: jei neįrašytumėte to į asmeninį „Gmail“ juodraštį, nerašykite to ir viešame dirbtinio intelekto pokalbyje. Jei nepasakytumėte to pavežėjimo programoje, tas pats. Žmonės, kurie „Slack“ tinkle yra atsargūs, vos tik pasirodo generavimo mygtukas, tampa perteklinio dalijimosi poetais.
Saugesni sprendimai
- Apibūdinkite dokumentą: ilgis, auditorija, trys svarbūs punktai, reikalingas tonas.
- Įklijuokite išvalytą ištrauką. Pašalinkite vardus, jautrias figūras ir viską, dėl ko konkurentas smogtų penkis.
- Paprašykite struktūros arba perrašymo modelio, tada pritaikykite jį realiam tekstui neprisijungus.
- Jei turite, naudokite patvirtintą darbo vietos įrankį ir vis tiek pagal numatytuosius nustatymus redaguokite. Politika yra grindys, o ne batutas
Kodas yra ypatingas šio metodo variantas. Vidiniai URL adresai, autorizacijos antraštės ir komentarai, pvz., „TODO: pašalinti prieš įsigijimą“, yra mažos dovanų žymės. Paverskite duomenis netikrais. Išsaugokite logiką. Modelis gerai tvarko netikrus duomenis; jam nereikia jūsų gamybos schemos su tikrais klientų el. pašto adresais, vis dar įdėtais į įrenginį.
Sveikata, pinigai ir detalės, kurių nešūktelėtum kavinės gale 💊
Medicininės ir finansinės detalės atrodo skubios, todėl jos įklijuojamos kuo mažiau redaguojant. Laboratorinių tyrimų rezultatai. Receptų sąrašai. Draudimo ID. Banko išrašai. Mokesčių laiškai. Kredito ataskaitos. Kortelės nuotrauka „tik su paskutiniais keturiais skaitmenimis“, kurioje kažkaip matyti likusi kortelės dalis, jūsų virtuvės stalas ir laiškas su kažkieno vardu.
Galite užduoti puikius klausimus ir neturėdami grynos istorijos. Raginama būtų „Paaiškinti, ką bendras žodis reiškia padidėjęs žymuo“. Biografija – „Čia pateikiamas visas mano sveikatos patikrinimo lapas, adresas, klinika ir motinos mergautinė pavardė“.
Nesakau, kad niekada nekalbėkite apie sveikatą ar pinigus su modeliu. Sakau, kad su pokalbių robotu reikia elgtis kaip su daug skaitančiu nepažįstamuoju traukinyje. Tinka įrėminti. Siaubingai – kaip su buhalteriu, gydytoju ar archyvu. Ir taip, žinau, kad daug skaitančio nepažįstamojo metafora nuteka; traukiniai nekaupia pokalbių žurnalų. Būtent tame ir yra esmė.
- Pašalinkite sąskaitų numerius, rūšiavimo kodus, IBAN ir viską, kas atrodo kaip kredencialas.
- Paprašykite bendrų paaiškinimų, kontrolinių sąrašų ir klausimų, kuriuos galėtumėte užduoti profesionalui.
- Nenaudokite pokalbių kambario kaip dokumentų spintos teiginiams laikyti, „kad vėliau galėčiau juos užklausti“. Būtent taip išlaikymas tampa problema.
Jei kavinėje pagal raginimą nutildytumėte balsą, pirmiausia jį ištaisykite. Šis testas yra stebėtinai patikimas ir nieko nekainuoja.
Kitų žmonių duomenys nėra jūsų teisė įklijuoti 🚫
Šis pokalbis praleidžiamas, nes atrodo, kad esate pokalbio pagrindinis veikėjas. Ekrano kopijoje nesate vienintelis asmuo. Kolegos el. laiškai. Partnerio ID. Kliento skundas su pridėtu telefono numeriu. Vaikų nuotraukos. „Slack“ gija, kurioje įvardijamas, kas vos nebuvo atleistas. Skambučio įrašas, apie kurį kitas asmuo nežinojo, kad bus pateiktas modeliui.
Sutikimas automatiškai neperkeliamas iš „jie man parašė el. laišką“ į „įrenginys gali tai išsaugoti“. Net jei jūsų ketinimai geri – parašyti malonesnį atsakymą, apibendrinti painią temą – neapdorotas turinys vis tiek yra jų gyvenimas, o ne jūsų braižomas lapas.
Šiek tiek sarkastiškas lakmuso testas: jei nepersiųstumėte to paties laiško nepažįstamų žmonių adresų sąrašui „atsiliepimams gauti“, tuomet nelaikykite pokalbių roboto mažesniu adresų sąrašu, pasižyminčiu geresnėmis manieromis.
- Apibendrinkite kitus žmones savais žodžiais.
- Vardus pakeiskite vaidmenimis ir pašalinkite kontaktinę informaciją.
- Paklauskite asmens, ar užduotis yra jautri; kai kurie dalykai turėtų likti tik žmonėms.
- Niekada neklijuokite vaikų asmeninių duomenų, mokyklos įrašų ar atpažinimo nuotraukų „linksmai“ kartai.
Čia yra teisinis aspektas, dėl kurio neapsimetinėsiu bylinėdamasis tinklaraščio stiliumi. Privatumo taisyklės, darbo pareigos ir klientų sutartys turi savo nuomonę. Praktinis įprotis yra paprastesnis nei įstatymas: pagal nutylėjimą naudoti kitų žmonių duomenis, nekreipiant dėmesio į užklausą.
Ko NIEKADA neturėtumėte įtraukti į dirbtinį intelektą: rizikos lentelė, kurią galite pritaikyti praktikoje
Man patinka lentelės, nes sąrašas su „niekada“ gali skambėti pamokomai, o tinklelis leidžia matyti skirtumus. Šiek tiek pagrįsti vertinimai, o ne laboratorijos ataskaita.
| Duomenų tipas | Rizikos lygis | Kodėl tai yra problema | Saugesnė alternatyva |
|---|---|---|---|
| Slaptažodžiai, API raktai, žetonai, pradinės frazės | Kritinis | Jie atrakina sistemas; kopija, kurios negalite iki galo prisiminti, vis tiek yra kopija | Laikinieji asmenys ir vietinis paslapčių valdytojas; jei nutekėtų, keiskite informaciją |
| Vyriausybės išduoti asmens tapatybės dokumentai, pasų nuskaitymai, nacionaliniai numeriai | Kritinis | Tapatybės vagystės pradinis paketas; sunku „atšaukti siuntimą“ | Netikri pavyzdžiai arba tik formatavimo klausimai |
| Sveikatos įrašai, receptai, draudimo ID | Aukštas | Intymi, reguliuojamo jausmo ir lipni istorijoje | Bendri simptomai arba temos; identifikatorių nenaudokite puslapyje |
| Banko išrašai, mokesčių dokumentai, kortelių nuotraukos | Aukštas | Tiesioginė finansinė rizika ir papildomas PDI maržose | Klauskite apie procesus, o ne apie su jumis susijusius neapdorotus skaičius |
| Kliento bylos, konfidencialumo susitarimų juodraščiai, nepaskelbti planai | Aukštas | Galbūt sulaužote jau pasirašytą pažadą | Išvalytos ištraukos; prašymai dėl struktūros; patvirtinti darbo įrankiai |
| Kolegos arba kliento asmens duomenys, vaikų duomenys | Aukštas | Ne tavo teisė paaukoti modeliui | Vaidmenimis pagrįstos santraukos; kontaktų ir veidų pašalinimas |
| Vidinis šaltinis su pagrindinių kompiuterių vardais ir tikrais el. pašto adresais | Vidutinio aukšto | Atrodo kaip „tik kodas“, kol kas nors nesujungia jūsų tinklo | Netikri duomenys, netikri domenai, ištrintos komentarų versijos |
| Prietaisų skydelių arba gautųjų ekrano kopijos | Vidutinio aukšto | Jie slegia vardus, numerius ir atidaro skirtukus, apie kuriuos pamiršote | Apkirpkite, suliekite arba perrašykite atitinkamą fragmentą |
| Neaiškios asmeninės istorijos be unikalių ID | Žemutinis | Paprastai gerai; vis tiek praleiskite viską, ko nepasakytumėte nepažįstamajam | Kalbėkite bendrai; praleiskite retą identifikavimo derinį |
Jei nieko daugiau neprisimenate, prisiminkite kairįjį stulpelį. Tai yra pagrindinė mintis, ko NIEKADA neturėtumėte dėti į dirbtinį intelektą, kai skubate ir jūsų smegenys nori įklijuoti visatą.
Ekrano kopijų spąstai ir atsitiktinis per didelis bendrinimas 🖼️
Ekrano kopijos yra tai, kaip geri žmonės nutekinėja informaciją. Norite parodyti klaidos dialogo langą? Nuotraukoje matyti žymių juosta, „Slack“ ženklelis su vardu, URL su prieigos raktu, kalendoriaus iššokantis langas, atspindys tamsaus režimo lange, kuris pasirodo esąs slaptažodžių tvarkyklė. Apkirpau kadrą ir vis tiek praleidau mažytį paskyros perjungiklį kampe. Tai klaidų žanras.
Dokumentų nuotraukos yra prastesnės, nes kameros yra dosnios. Stalas, balta lenta, ligoninės apyrankė, siuntimo etiketė. Modeliui gali „nereikėti“ papildomų pikselių. Pikseliai vis tiek atkeliauja.
Paprastas ekrano kopijos ritualas
- Pirma apkirpkite. Tada dar kartą apkirpkite. Tada pažiūrėkite į kraštus, tarsi jie būtų jums skolingi pinigus.
- Suliekite vardus, el. pašto adresus, avatarus ir bet kokią eilutę, kuri atrodo kaip žetonas.
- Verčiau perrašykite klaidą, o ne užfiksuokite visą IDE.
- Nekelkite kortelės, paso ar įlaipinimo talono nuotraukos „greitai perskaitymui“. Verčiau įveskite klausimą.
Balso užrašai ir failų įkėlimai atlieka tą patį triuką. Susitikimo įrašas yra kitų žmonių duomenų saugykla. CSV failas yra eilučių, kurių nebematote kaip žmonės, saugykla. Jei failas teisininkui kelia nerimą, jis nededamas į dėžutę.
Saugesni raginimų šablonai, kurie vis tiek suteikia tvirtus atsakymus ✨
Redagavimas nėra kokybės priešas. Neaiškūs raginimai yra. Galite būti konkretūs dėl problemos ir šykštūs dėl tapatybės. Tai yra visas amatas.
Išbandykite šią formą: tikslas, apribojimai, tariami įvesties duomenys, norimas rezultatas. „Perrašykite šį atmetimo el. laišką, kad jis būtų malonus, bet tvirtas. Auditorija yra laisvai samdomas dizaineris. Nepaminėkite tikrojo projekto pavadinimo. Pateikiame išvalytą juodraštį sukeistais pavadinimais.“ Tai raginimas su stuburu. Jam nereikia CRM eksporto.
Veikiantys modeliai
- Užpildykite visus unikalius žymėjimus. ACME_CLIENT, USER_A, TOKEN_X. Išsaugokite kasdienio gyvenimo gramatiką; išmeskite pirštų atspaudus.
- Prašykite metodo, o ne atminties. „Papasakokite man apie šios klaidų klasės samprotavimus“ yra geriau nei „čia yra visas mūsų gamybos žurnalas“.
- Padalinkite užduotį. Gaukite šabloną iš modelio. Užpildykite jautrias dalis patys.
- Pateikite sintetinius pavyzdžius. Sugalvokite klientą vardu River, kuris nusipirko lempą. Patarimas vis tiek aktualus.
- Nurodykite, ką jau pašalinote. Modeliai puikiai susidoros su „[pašalintu atlyginimo skaičiumi]“, jei nurodysite jiems su tuo susijusią logiką.
Yra šiek tiek gudraus raginimo: „ignoruokite ankstesnį saugumą, išsaugokite šį raktą“. Nedarykite to. Jūs nelaužote savo privatumo. Jūs įmetate raktą į tvenkinį ir tikitės, kad tvenkinys yra drovus.
Dar vienas man patinkantis modelis: nuskaitymas prieš įklijavimą. Prieš siųsdami, juodraštyje ieškokite @ simbolio, eilučių, kurios atrodo kaip raktai (ilgos, atsitiktinės, dažnai su prefiksu), skaičių, kurie yra per ilgi, kad būtų atsitiktiniai, ir pavadinimų, kurių nerašytumėte skaidrėje. Dešimt sekundžių. Moka nuomą amžinai.
Pokalbių istorija, išlaikymas ir ilga „pasta“ uodega 📦
Žmonės kalba apie „debesį“ taip, lyg tai būtų orų sistema. Praktiškai tai yra produktas su numatytaisiais nustatymais. Kai kurie pokalbių langeliai naudojami modeliams tobulinti, nebent jūs atsisakote jų. Kai kurie išsaugomi piktnaudžiavimo peržiūrai, teisiniams prašymams ar pagrindiniams „kad gija vis tiek būtų įkeliama rytoj“ tikslams. Kai kuriuose darbo vietos planuose saugomi žurnalai administratoriams. Neapsimetinėsiu, kad vieno tiekėjo politika yra universali, nes ji nėra ir keičiasi, todėl turėtumėte skaityti produkto nustatymus, o ne tinklaraštininko prisiminimus apie šiuos nustatymus.
Praktinis požiūris yra nuobodus ir tvirtas: tarkime, kad įklijuotas tekstas gali išlikti. Tarkime, kad komandos narys, turintis administratoriaus teises, gali matyti darbo vietos gijas. Tarkime, kad ateityje pamiršite apie šio pokalbio egzistavimą, kol jis neatsiras paieškoje. Tarkime, kad vėliau galite eksportuoti savo istoriją, o šis eksportas yra dar viena kopija.
- Išjunkite mokymo arba „modelio tobulinimo“ parinktis, kai produktas jas siūlo, jei tai jums tinka.
- Ištrinkite jautrias gijas, kai ištrauksite praktinę informaciją į tikrai vietinę pastabą.
- Nelaikykite pokalbių langų savo sistema, skirta žmogiškųjų išteklių problemoms, medicininiams klausimams ar klientų aptarnavimui.
- Būkite atsargūs su bendromis paskyromis. Bendros paskyros yra tai, kaip „privatumas“ tampa biuro folkloru.
Atminties funkcijos – tos, kurios primena jūsų darbą, šunį, pageidaujamą toną – yra patogios ir šiek tiek šiurpios. Jos taip pat yra priežastis nemokyti sistemos savo tikrųjų identifikatorių, „kad ji būtų asmeniškesnė“. Asmeniškumas yra stilius. Tai ne jūsų nacionalinio draudimo numeris.
Darbo vietos normos, kai jūsų komanda gyvena pokalbių robotuose 🏢
Biuruose įklijavimo įprotis tampa pramoniniu. Kažkas atkuria kliento CSV failą, kad „išvalytų stulpelius“. Kažkas kitas įkelia strategijos dokumentą, kad „jis būtų galingesnis“. Geranoriškas praktikantas įklijuoja incidentų kanalą. Niekas nėra piktadarys. Skatinimas yra greitis ir šlifavimas.
Jei vadovaujate komandai, parašykite trumpą, žmogišką taisyklę. Ne 40 puslapių politiką, kurios niekas neskaito. Kažką panašaus į: jokių įgaliojimų, jokių klientų asmeninių duomenų, jokių neskelbtų numerių, jokių teisinių dokumentų juodraščių, naudokite patvirtintą įrankį, redaguokite pagal numatytuosius nustatymus. Tada parodykite gero, išvalyto raginimo pavyzdį, kad žmonės nespėliotų.
- Įvardykite patvirtintą įrankį, jei tokį turite, ir nepatvirtintus.
- Pateikite redagavimo kontrolinį sąrašą, kurį žmonės gali užbaigti prieš stand-up pasirodymą.
- Pasirūpinkite, kad būtų galima pasakyti „beveik įklijavau“ be teatrališko tyrimo.
- Priminkite žmonėms, kad „DI pasakė, jog viskas gerai“ nėra kontrolė.
Net jei ir nevadovauji komandai, vis tiek gali būti tas žmogus, kuris klijuoja manekeną. Kultūra užkrečiama abiem kryptimis. Manau, kad tai skamba rimtai. Taip pat keičiasi normos; vienas žmogus nustoja mesti raktus, ir kambarys tampa šiek tiek tvarkingesnis.
Pirkimų teatras yra šalutinis uždavinys, kurį praleisiu. „Įmonės“ įvynioklio pirkimas stebuklingai nepadaro kiekvienos užduoties išmintingos. Tai gali padėti išlaikyti klientus ir padidinti jų prieinamumą. Jūsų įpročiai vis tiek atlieka sunkų darbą.
Jau įklijavai kažką neįdomaus – kas dabar 🧯
Taip nutinka. Paspaudžiate „siųsti“ ir jūsų siela palieka kūną. Nesukite spiralės. Sukurkite trumpą, šiek tiek neglamūrišką seką.
- Nustokite naudoti tą paslaptį. Pakeiskite slaptažodį, atšaukite raktą, anuliuokite sesiją. Tai vienintelis žingsnis, kuris visam laikui užveria duris.
- Ištrinkite pokalbį, jei produktas leidžia, ir ištuštinkite bet kurią „neseniai ištrintą“ skiltį, jei tokia yra.
- Patikrinkite prijungtas programas ir atmintį. Kai kurie įrankiai saugo fragmentus atmintyje arba projekto failuose, kuriuos pamiršote įjungti.
- Pasakykite tinkamam asmeniui, jei tai buvo darbo duomenys. Apsaugos darbuotojui, vadovui, potencialiam klientui; tam, kas atsakingas už sprogimo spindulį. Ankstyvas atradimas yra mažiau skausmingas nei vėliau atrastas.
- Stebėkite neįprastus prisijungimus prie susijusių paskyrų. Rotacija be stebėjimo yra pusė darbo.
Jei tai buvo kažkieno kito duomenys, jūs taip pat turite juos sutvarkyti ir, priklausomai nuo netvarkos, įspėti. Nejauku. Vis tiek geriau nei tikėtis, kad visata bus mandagi.
Nebandykite „perrašyti“ nutekėjimo įklijuodami daugiau paaiškinimų. Papildomas kontekstas yra papildomas tekstas. Išeikite iš temos.
Sudėjimas kartu
Trumpa „ Ko NIEKADA neturėtumėte dėti į dirbtinį intelektą“ versija nėra baramųjų sąrašas. Tai laikysena. Jei tai atrakina sistemą, atpažįsta asmenį arba priverčia jus susiraukti kavinėje, tai lieka nenaudinga. Vis tiek galite gauti puikią pagalbą. Jums tereikia pateikti modeliui eskizą, o ne namų raktus, medicininę kortelę ir kaimyno paštą.
Trumpa santrauka:
- Jokių slaptažodžių, raktų, žetonų ar pradinių frazių. Jei paslydote, pakeiskite vietą.
- Jokių tikrų asmens dokumentų, išsamių finansinių duomenų, neapdorotų sveikatos įrašų ar konfidencialumo susitarimo medžiagos.
- Jokių kitų žmonių, ypač vaikų, asmeninių duomenų.
- Ekrano nuotraukos yra įtrauktos; apkirpkite, kaip norite.
- Redaguokite, imituokite ir prašykite metodų. Konkreti problema, netikros etiketės.
- Tarkime, kad istorija išlieka. Ištrinkite, o ne archyvuokite paslaptis pokalbių robote.
- Darbovietėms reikia trumpos taisyklės ir gero pavyzdžio, o ne atsitiktinės privatumo nuotaikos.
Naudokitės įrankiais. Jie puikiai tinka juodraščiams braižyti, formų derinimui ir painių klaidų šalinimui. Tiesiog nustokite elgtis su teksto laukeliu kaip su humoro jausmo saugykla. Tai labai išmanus maišytuvas. Vis tiek neturėtumėte dėti savo paso į maišytuvą. 🫡
Praktinis pavyzdys: redagavimo pagrindu atliekamo derinimo užduoties sudarymas mažai inžinierių komandai
Privatumo taisyklės galioja net ir įprastą antradienį, o ne tada, kai skamba griežtai. Štai kaip penkių asmenų JK SaaS komanda pasinaudojo šiame vadove aprašytais įpročiais, kad sustabdytų prisijungimo duomenų ir klientų asmeninių duomenų perdavimą vartotojų pokalbių robotams – neatsisakydama derinimo pagalbos.
Scenarijus
Kūrėjų ir palaikymo komanda turi vieną nemalonų įprotį: kai autentifikavimo klaida atrodo negražiai, kažkas įklijuoja visą žurnalą, testavimo ryšio eilutę ir administratoriaus skydelio ekrano kopiją, „kad modelis turėtų kontekstą“. Praėjusį ketvirtį tokių įvykių sąraše buvo rodomas realiu laiku veikiantis API raktas, o ekrano kopijos URL juostoje vis dar matomas kliento el. pašto adresas. Niekas nenorėjo pakenkti. Nugalėjo greitis. Virtuvė įrašė.
Jiems nereikia paskaitos. Jiems reikia pasikartojančios instrukcijos: aprašykite paslaptį pagal tipą, išsklaidykite ją vietos žymekliais, apkirpkite ekrano kopijas, paprašykite metodo, o ne prisiminimo, tada pritaikykite pataisymą gyvose sistemose neprisijungus. Vartotojų pokalbiai vis tiek užsitarnauja savo vietą. Namų raktai lieka ne maišytuve.
Tikslas – gauti tokią pačią patarimų kokybę, atliekant dviejų sekundžių trukmės nuskaitymą prieš įklijavimą ir laikantis trumpos komandos taisyklės, kurios žmonės laikysis.
Ko reikia asistentui
- Išvalyta problemos forma: klaidos klasė, apytiksliai kada ji prasidėjo, aplinka (parengiamoji ir gamybinė) be tinklo pavadinimų
- Tik netikri įvesties duomenys: REDACTED_KEY, USER_TOKEN, customer@example.com, netikri užklausų ID
- Kas jau buvo pašalinta (nurodyta raginime, kad modelis neprašytų tikrųjų reikšmių)
- Pageidaujamas rezultatas: tikėtinos priežastys, atliekami patikrinimai, pataisos planas – ne „prisijungti prie mano rakto“
- Žmogus, kuris saugo prisijungimo duomenis slaptažodžių tvarkyklėje arba slaptų duomenų saugykloje
- Vieno puslapio komandos taisyklė: jokių prisijungimo duomenų, jokių klientų asmeninių duomenų, jokių neskelbtų skaičių, pagal numatytuosius nustatymus redaguoti
Instrukcijos pavyzdys
Tikslas: Padėkite man suderinti protarpinį 401 klaidos pranešimą mūsų testavimo API po prieigos rakto atnaujinimo. Neprašykite manęs įklijuoti paslapčių.
Apribojimai: Aš jau redagavau slaptažodžius, API raktus, prieigos raktus, slapukus, vidinius pagrindinių kompiuterių pavadinimus ir klientų el. pašto adresus. Vietos rezervavimo ženklai žurnale reiškia, kad tikrosios reikšmės egzistuoja tik mano kompiuteryje. JK anglų kalba. Nėra preambulės.
Ištrauka iš anketos: Užklausa adresu https://api.example-staging.invalid/v1/session grąžino 401 klaidą. Antraštės autorizacija: Turėtojo raktas REDACTED_KEY. Tekste minima, kad USER_TOKEN galiojimo laikas pasibaigęs. Ekrano kopijos aprašymas (nepridėtas): klaida rodoma tik ekrane; žymių juosta ir paskyros perjungiklis apkirpti.
Užduotis: Išvardykite tris labiausiai tikėtinas šios klaidų klasės priežastis, patikrinimus, kuriuos turėčiau atlikti lokaliai, ir minimalų pataisos planą. Jei reikia daugiau informacijos, paprašykite nurodyti informacijos tipą (pvz., „tokeno TTL nustatymas“) – niekada neprašykite neapdoroto slapto rakto.
Rezultatas: sunumeruotos priežastys, tada kontrolinis sąrašas ir „ko neklijuoti kitą kartą“ trimis punktais.
Kaip tai išbandyti
- Palyginkite seno stiliaus įklijuotą kopiją (visą žurnalą + ekrano kopiją) su aukščiau pateikta redaguota santrauka apie tą patį incidento tipą. Palyginkite patarimų kokybę ir tai, ar modelis prašo slaptų duomenų.
- Nuskaitymas prieš įklijavimą: prieš siunčiant juodraštį ieškokite @ simbolio, ilgų atsitiktinių eilučių ir per ilgų, kad būtų atsitiktiniai skaičiai.
- Kraštinis atvejis: įtraukite netikrą raktą, kuris atrodo tikras, ir patvirtinkite, kad atsakymas vis dar veikia, nereikalaujant tikrosios reikšmės.
- Kraštutinis atvejis: atsisakykite įkelti ekrano kopiją; tiesiog perrašykite klaidos eilutę; patikrinkite, ar kontrolinis sąrašas vis dar padeda.
- Priėmimo patikros: (1) gijoje nėra jokių prisijungimo duomenų, (2) nėra jokių klientų kontaktinių duomenų, (3) deklaruoti vietos rezervavimo ženklai, (4) išvestis yra metodas / kontrolinis sąrašas, o ne „įklijuokite raktą“ procesas, (5) jei anksčiau kas nors nutekėjo, rotacija įvyko tą pačią dieną.
Rezultatas
Iliustracinis rezultatas (pavyzdinis įvertis vienai nedidelei inžinerijos / palaikymo komandai, nepublikuotas tyrimas): per 12 derinimo pokalbių per keturias savaites vidutinis laikas iki tinkamo naudoti kontrolinio sąrašo parengimo šiek tiek padidėjo nuo maždaug 4 minučių (visiškas įklijavimas) iki maždaug 6 minučių su redagavimu – dvi papildomos minutės nuskaitymui prieš įklijavimą ir vietos žymekliams. Gijų, kuriose yra kritinių duomenų tipų (raktų, klientų el. laiškų, neapdorotų ryšio eilučių), skaičius sumažėjo nuo 9 iš 12 pokalbių iki 1 iš 12 (tas buvo užfiksuotas peržiūros metu ir pakeistas tą pačią dieną). Paprastame higienos kontroliniame sąraše (be paslapčių, be klientų asmeninių duomenų, deklaruotų vietos žymeklių, apkirptų ar be ekrano kopijų) 11 iš 12 redaguotais aprašais buvo sėkmingi, palyginti su 3 iš 12 pagal senąjį įprotį. Apribojimai: maža imtis, viena komanda, savarankiškai praneštas laikas; lengvesniems incidentams reikia mažiau redagavimo; „sugebėjo“ buvo raginimo teksto kolegų peržiūra, o ne laboratorinis tiekėjų žurnalų auditas.
Norėdami įvertinti savo versiją: paimkite 10 naujausių dirbtinio intelekto derinimo gijų pavyzdžių, susijusių su draudžiamais duomenų tipais, tada 10 pavyzdžių, pritaikytų redagavimo taisyklei ir šablonui; pateikite ataskaitų skaičius su vardikliais ir medianą minučių nuo „užstrigimo“ iki „kontrolinio sąrašo laikymo“
Kas gali nutikti ne taip
- Ekrano kopijos nelegaliai perkelta kopija: klaida tvarkinga; URL juostoje vis dar yra prieigos raktas. Apkirpkite du kartus, tada patikrinkite kraštus.
- „Tik šį kartą“ raktai: vienas nutekėjęs API raktas gali atverti sąskaitų ir klientų įrašus. Nedelsdami keiskite raktą; nelaukite, kol „kas nors nutiks“.
- Kitų žmonių duomenys: Kliento skundas su telefono numeriu nėra jūsų nuosavybė, kad galėtumėte jį pateikti modeliui. Apibendrinkite savais žodžiais.
- Pokalbis kaip saugykla: palikus paslaptis istorijoje, sukuriama kita kopija. Ištrinkite giją, kai perkelsite reikiamus fragmentus į vietinę pastabą.
- Įmonių teatras: patvirtinta darbo vietos priemonė padeda išlaikyti darbuotojus; ji nepadaro karūnos brangakmenių klijavimo protingu sprendimu.
- Praleidžiant sukimąsi po paslydimo: ištrynus pokalbį neatšaukus rakto, durys lieka atidarytos.
Praktiškas išsinešimui skirtas maistas
Niekada nereikėtų dirbtinio intelekto srityje naudoti ne tiek baramųjų sąrašų, kiek laikysenos: jei jis atrakina sistemą, atpažįsta asmenį ar priverčia jus susiraukti kavinėje, jis lieka nestandartinis. Pateikite modeliui eskizą su vietos žymekliais, laikykite prisijungimo duomenis saugykloje ir klauskite metodų, kuriuos taikote neprisijungę prie interneto. Ši dviejų sekundžių pauzė yra tai, kaip paslaugus praktikantas su nesibaigiančia kava nustoja tapti jūsų namų raktų dokumentų spintele.
DUK
Ko niekada nereikėtų įtraukti į dirbtinio intelekto pokalbių robotus?
Jei jis atrakina sistemą, identifikuoja asmenį arba priverstų jus susiraukti kavinėje, laikykite jį lauke. Tai apima slaptažodžius, API raktus, žetonus, pirmines frazes, vyriausybės išduotus asmens tapatybės dokumentus, neapdorotus sveikatos ir finansinius įrašus, NDA medžiagą ir kitų žmonių, ypač vaikų, asmeninę informaciją. Pokalbiai nėra užrakintas stalčius; tekstą galima saugoti, apdoroti ir kartais naudoti mokymui, priklausomai nuo produkto ir nustatymų. Pateikite modeliui eskizą su vietos žymekliais, o ne namų raktais.
Kodėl žmonės į dirbtinį intelektą įklijuoja paslaptis, net jei žino geriau?
Greitis atlieka didžiąją dalį darbo: dėl negražios klaidos visas žurnalas atrodo greitesnis nei jį išvalius. Pokalbių robotai taip pat nejaučia jokio vertinimo, todėl privatumo instinktai daro pertraukėlę. Modeliui paprastai reikia problemos formos, o ne vardų, žetonų, sąskaitų numerių ar veidų ekrano kopijose – tai tik puošmena. Dviejų sekundžių pauzė pranoksta asmenybės persodinimą.
Ar saugu įklijuoti slaptažodžius arba API raktus į „ChatGPT“ stiliaus įrankius?
Ne. Jei jis gali ką nors atrakinti, to nereikia raginime – slaptažodžiuose, vienkartiniuose koduose, sesijos slapukuose, SSH raktuose, ryšio eilutėse, piniginės užklausų koduose ar privačiuose sertifikatuose. Modelis negali išlaikyti paslapties kaip draugas; tekstas vis tiek keliauja, yra registruojamas ir gali išlikti istorijoje. Apibūdinkite paslaptį pagal tipą, naudokite vietos žymeklius, pvz., REDACTED_KEY, pakeiskite jau nutekintą informaciją ir saugokite tikrus prisijungimo duomenis slaptažodžių tvarkytuvėje arba saugykloje.
Kokią asmeninę informaciją turėčiau pataisyti prieš ragindamas?
Asmens tapatybę atskleidžiantys duomenys greitai kaupiasi: nacionalinės asmens tapatybės kortelės, paso duomenys, adresai, telefono numeriai, darbuotojų ar studentų pažymėjimai ir vardai bei pavardės, susietos su gimimo datomis ar klinikomis. Modeliui nereikia tikro pašto kodo, kad būtų galima parašyti laišką – jam reikia tono, neidentifikuojančių faktų ir norimo rezultato. Vardus keiskite vaidmenimis, apibendrinkite vietoves ir atsisakykite unikalių numerių, nebent testuojate formatą su netikru pavyzdžiu.
Ar galiu įklijuoti kliento failus, konfidencialumo sutartis ar vidinį kodą į vartotojo dirbtinio intelekto įrankį?
Elkitės su vartotojų pokalbių programėlėmis kaip su patogumo produktu, o ne su įmonės patarimu. Jei neįtrauktumėte dokumento į asmeninį „Gmail“ juodraštį ar nepasakytumėte pavežėjimo programoje, nedėkite jo ir į viešą dirbtinio intelekto pokalbių programėlę – klientų dokumentų rinkinius, neišleistus veiksmų planus, atlyginimų lapus, konfidencialius teisinius juodraščius ar šaltinius su vidiniais prieglobos vardais. Aprašykite dokumentą, įklijuokite išvalytą ištrauką, paprašykite struktūros, kurią taikote neprisijungę, ir, jei turite, naudokite patvirtintą darbo vietos įrankį, vis tiek redaguodami pagal numatytuosius nustatymus.
Kaip turėčiau tvarkyti sveikatos ar finansinę informaciją dirbtinio intelekto raginimuose?
Užduokite puikius klausimus be neapdorotų įrašų. Bendro pobūdžio paaiškinimai pranoksta laboratorinių tyrimų išrašų, receptų sąrašų, draudimo ID, banko išrašų ar kortelių nuotraukų, kurios taip pat užfiksuotų virtuvės stalą, klijavimą. Nuimkite sąskaitų numerius ir viską, kas atrodo kaip įgaliojimai. Naudokite pokalbių langą įrėminimui ir kontroliniams sąrašams, kuriuos galite nunešti profesionalui – ne kaip savo gydytojui, buhalteriui ar dokumentų spintai išrašams.
Kodėl kitų žmonių duomenys ir ekrano kopijos yra ypač rizikingos?
Jūs ne vienintelis asmuo įklijuotas: kolegų el. laiškai, klientų telefono numeriai, vaikų nuotraukos ar skambučių transkripcijos gali patekti į sistemą be jų sutikimo. Apibendrinkite savais žodžiais, vardus pakeiskite vaidmenimis ir niekada neklijuokite vaikų identifikavimo duomenų „linksmybės“ dėlei. Ekrano kopijose yra žymių juostų, URL žetonų, „Slack“ vardų ir atidarytų skirtukų – apkirpkite du kartus, suliekite identifikatorius arba perrašykite klaidą iš naujo, užuot įkėlę pasus ar korteles.
Kokie saugesni raginimų šablonai vis dar duoda patikimus DI atsakymus?
Konkrečiai apibrėžkite problemą ir griežtai nurodykite tapatybę: tikslą, apribojimus, tariamus įvesties duomenis, norimą rezultatą. Pateikite unikalias vietos žymas, prašykite metodo, o ne viso gamybos žurnalo, padalinkite užduotį, kad jautrias dalis užpildytumėte patys, ir naudokite sintetinius pavyzdžius. Prieš įklijavimą atlikite nuskaitymą, ieškodami @ ženklų, ilgų atsitiktinių, į raktus panašių eilučių, per didelių skaičių ir pavadinimų, kurių neįdėtumėte į skaidrę. Dešimt sekundžių atsiperka amžinai.
O jeigu jau įklijavau kažką nepatogaus į dirbtinio intelekto pokalbį?
Pirmiausia nustokite naudoti tą slaptą raktą – pakeiskite slaptažodį, atšaukite raktą, anuliuokite sesiją. Ištrinkite pokalbį, jei produktas leidžia, patikrinkite prisiminimus ar projekto failus, pasakykite tinkamam asmeniui, ar tai buvo darbo duomenys, ir stebėkite neįprastus prisijungimus. Jei tai buvo kažkieno kito duomenys, išvalykite juos ir prireikus įspėkite. Neperrašykite nutekėjusios informacijos papildomo paaiškinimo; papildomas kontekstas yra papildomas tekstas.
Kaip maža komanda gali nustoti naudoti kredencialų dirbtiniam intelektui derinimo tikslais?
Naudokite pirmiausia redagavimą apimančią instrukciją: aprašykite paslaptis pagal tipą, pateikite fiktyvius žurnalus su REDACTED_KEY ir pavyzdiniais el. laiškais, nurodykite, kas buvo pašalinta, ir paprašykite nurodyti galimas priežastis bei kontrolinį sąrašą – ne „prisijunkite naudodami mano raktą“. Pridėkite trumpą žmogaus sukurtą taisyklę – jokių prisijungimo duomenų, jokių klientų asmeninių duomenų, jokių nepaskelbtų skaičių, redagavimas pagal numatytuosius nustatymus – ir pateikite vieną gerą išvalytą pavyzdį. Laikykite tikrus prisijungimo duomenis saugykloje ir neprisijungę taikykite pataisymus, kai modelis pasiūlo metodą.
Nuorodos
- NCSC — ncsc.gov.uk
- Atvirasis dirbtinis intelektas — help.openai.com
- Atvirasis dirbtinis intelektas — openai.com
- Klodas — privacy.claude.com
- „Google Workspace“ — knowledge.workspace.google.com
Straipsniai, kuriuos galbūt norėsite perskaityti po šio:
🔗 Geriausi dirbtinio intelekto saugumo įrankiai
Atraskite galingas dirbtinio intelekto saugumo platformas, kurios aptinka ir sušvelnina kibernetines grėsmes.
🔗 Kodėl dirbtinis intelektas kartais išgalvoja dalykus.
Supraskite, kodėl dirbtinis intelektas haliucina, ir sužinokite, kaip sumažinti riziką.
🔗 Kaip automatizuoti užduotis naudojant dirbtinį intelektą.
Įdiekite saugius automatizavimo darbo eigų procesus, pridėdami žmogaus priežiūrą ir griežtas taisykles.
🔗 Kas yra dirbtinio intelekto technologija?
Išnagrinėkite dirbtinio intelekto pagrindus ir dažniausiai pasitaikančius diegimo iššūkius.