🛡️ „FT“ praneša, kad JK reguliavimo institucijos skuba įvertinti naujausio antropogeninio dirbtinio intelekto modelio riziką ↗
Pranešama, kad Didžiosios Britanijos finansų priežiūros institucijos sparčiai imasi veiksmų dėl naujojo „Anthropic“ „Mythos“ modelio, kilus susirūpinimui, kad jis gali atskleisti rimtus kritinių sistemų trūkumus. Derybose dalyvauja Anglijos bankas, FCA, Iždas ir Nacionalinis kibernetinio saugumo centras – tai įspūdinga sudėtis vienai modelio peržiūrai.
Nerimą kelia tai, kad „Mythos“ neįprastai gerai aptinka programinės įrangos pažeidžiamumus, nors „Anthropic“ teigia, kad diegimas yra griežtai ribotas ir skirtas gynybinio saugumo užtikrinimui. Tikimasi, kad bankai, draudikai ir biržos bus informuoti, todėl dabar tai labiau panašu į laboratorinius gandus, o į infrastruktūros politiką.
🤖 „HumanX“ konferencijoje visi kalbėjo apie Claude'ą ↗
Atrodė, kad „Anthropic“ uždavė toną „HumanX“ – tokia buvo istorija. Diskusijose, tiekėjų pokalbiuose ir koridoriaus šnekučiuje Claude'as nuolat iškildavo kaip pavyzdys, kurio žmonės labiausiai ieškojo verslo ir programavimo darbo eigoje.
Į akis krito santykinė tyla dėl „ChatGPT“. Straipsnyje teigiama, kad „OpenAI“ vis dar turi mastą ir pinigų, tačiau konferencijos nuotaika svyravo link Claude'o kaip įrankio, šiuo metu turinčio ryškesnį verslo potencialą – arba taip atrodo.
📄 „Anthropic“ sukurta „Claude for Word“ yra dar vienas iššūkis „Microsoft“ programinės įrangos imperijai ↗
„Anthropic“ išleido „Claude for Word“ beta versiją, kuri labiau perkeliama į kasdienę biuro programinę įrangą, užuot buvusi tik kūrėjo įrankis. Ji gali atsakyti į klausimus apie dokumentą paspaudžiamomis skyrių citatomis, redaguoti pažymėtą tekstą nepažeisdama formatavimo ir tvarkyti stebimus pakeitimus.
Tikslinė auditorija gana aiški: komandos, dirbančios su daug dokumentų, ypač teisės ir finansų srityse. Todėl tai daugiau nei tik nauja funkcija – tai tiesioginis stumtelėjimas į „Microsoft“ namų teritoriją ir gana įžūlus žingsnis.
🌐 Dirbtinio intelekto robotai išardo žiniatinklį, o antropologiniai robotai pirmauja ↗
Naujas „Cloudflare“ duomenų tyrimas rodo, kad dirbtinio intelekto bendrovės iš interneto išgauna daug daugiau informacijos, nei grąžina. Svarbiausia statistika yra nuskaitymų ir nukreipimų santykis – kaip dažnai robotai peržiūri puslapius, palyginti su tuo, kaip dažnai jie siunčia vartotojus atgal, – ir „Anthropic“ yra ypač prastas rodiklis.
Pranešama, kad „Anthropic“ santykis yra 8 800:1, o „OpenAI“ taip pat yra aukštas, bet daug mažesnis. Platesnė mintis yra akivaizdi: senas interneto sandoris buvo mus nuskaityti, tada siųsti mums srautą. Dirbtinio intelekto atsakymų sistemos pasilieka pirmąją dalį, o antroji verčiama virsti rūku.
⚔️ Žvilgsnis į didėjančias pasaulines dirbtinio intelekto ginklavimosi varžybas, kai JAV, Kinija, Rusija ir kitos šalys skuba kurti dirbtiniu intelektu paremtus autonominius ginklus ir gynybos sistemas ↗
Naujausiose karinėse DI apžvalgose mažiau dėmesio skiriama demonstracijoms, o daugiau – strateginiam spartinimui. Didžiosios valstybės vienu metu diegia autonomines ir DI remiamas gynybos sistemas, todėl visa tai primena estafetę, kurioje visi griebia estafetės estafetę ir pamiršta stabdžius.
Tai kelia įprastus klausimus – kontrolę, eskalavimą, atskaitomybę – tačiau dabar su didesniu skubumu. Kai dirbtinis intelektas bus giliau integruotas į taikinių nustatymą, stebėjimą ir sprendimų priėmimą mūšio lauke, „eksperimentinis“ pradės skambėti kaip popierinė etiketė ant jau veikiančio dalyko.
🏭 Japonijos „SoftBank“ atidaro padalinį, skirtą dirbtinio intelekto kūrimui šalyje ↗
„SoftBank“ suvienijo jėgas su „Sony“, „Honda“ ir kitomis Japonijos įmonėmis, kad sukurtų naują dirbtinio intelekto įmonę, orientuotą į „fizinį dirbtinį intelektą“ – modelius, skirtus valdyti mašinas ir robotus, o ne tik atsakyti tekstinėmis žinutėmis. Tai kitokia nei įprastos pokalbių robotų varžybos ir galbūt įdomesnė.
Ambicijos milžiniškos – pranešama, kad pastangos skirtos labai didelio masto pamatiniam modeliui ir ilgam keliui į pramoninio panaudojimo kelią. Tai iš dalies nacionalinė technologijų strategija, iš dalies – spontaniškas projektas, iš dalies – mechaninis anime su valdybos posėdžiais.
DUK
Kodėl JK reguliavimo institucijos atidžiai stebi „Anthropic“ „Mythos“ modelį?
Ataskaitose teigiama, kad JK valdžios institucijos „Mythos“ laiko potencialia grėsme, nes ši įmonė gali būti neįprastai sumaniai aptikdama programinės įrangos pažeidžiamumus. Pranešama, kad diskusijose dalyvauja Anglijos bankas, FCA, Iždas ir Nacionalinis kibernetinio saugumo centras. Šis institucijų derinys rodo susirūpinimą dėl galimo poveikio kritinėms sistemoms, ypač finansų ir infrastruktūros srityse.
Kuo „Anthropic Mythos“ modelis skiriasi nuo įprastos dirbtinio intelekto versijos?
Nerimą kelia ne tik tai, kad tai naujas modelis, bet ir tai, kad jis atrodo ypač pajėgus gynybinio saugumo darbuose, susijusiuose su programinės įrangos trūkumų aptikimu. „Anthropic“ praneša, kad prieiga yra griežtai ribojama, o tai rodo, kad diegimas vyksta atsargiau nei platus vartotojų pristatymas. Praktiškai tai sukuria įspūdį, kad saugumo galimybės yra labiau kontroliuojamos nei standartinis pokalbių roboto atnaujinimas.
Kodėl Claude'as sulaukė tiek daug dėmesio „HumanX“ konferencijoje?
Straipsnyje teigiama, kad Claude'as ne kartą buvo minimas diskusijose, tiekėjų pokalbiuose ir neoficialiuose susitikimuose kaip stiprus pasirinkimas verslo ir programavimo darbo eigoms. Straipsnyje „Anthropic“ pristatomas kaip sulaukęs didelio susidomėjimo tarp verslo vartotojų šiame renginyje. Taip pat teigiama, kad „ChatGPT“ platformoje nuotaikos dėl „HumanX“ buvo santūresnės, nors „OpenAI“ vis dar turi didelį mastą ir išteklių.
Ką „Claude for Word“ iš tikrųjų daro komandoms, dirbančioms su daug dokumentų?
Čia aprašyta beta versija skirta darbui dokumentų viduje, o ne tiesiog atskiro teksto generavimui. Ji gali atsakyti į klausimus apie dokumentą naudodama skyrių citatas, redaguoti pasirinktas ištraukas nepažeisdama formatavimo ir tvarkyti stebimus pakeitimus. Dėl to ji ypač aktuali teisės, finansų ir kitoms komandoms, kurioms reikia kruopštaus peržiūrėjimo, o ne grubaus rengimo.
Ką apie dirbtinio intelekto robotus ir internetą sako nuskaitymų ir nukreipimų santykis?
Straipsnyje šis santykis pateikiamas kaip būdas palyginti, kiek kartų dirbtinio intelekto įmonės nuskaito svetaines, palyginti su tuo, kaip dažnai jos siunčia vartotojus atgal. Šiame kontekste labai didelis santykis rodo išgavimą su mažu grįžtamuoju srautu. „Anthropic“ apibūdinama kaip ypač prastai veikianti pagal šį rodiklį, o tai sustiprina platesnę kritiką, kad dirbtinio intelekto atsakymų sistemos gali susilpninti senesnę internetinę indeksavimo mainų sistemą mainais už nukreipimus.
Kodėl žmonės sieja dirbtinio intelekto pažangą ir su autonominiais ginklais, ir su fiziniu dirbtiniu intelektu?
Straipsnyje atkreipiamas dėmesys į dvi susijusias tendencijas: vyriausybės spartina dirbtinio intelekto pagrindu veikiančių gynybos sistemų kūrimą, o tokios įmonės kaip „SoftBank“ remia modelius, skirtus mašinoms ir robotams valdyti. Kartu jos rodo, kad dirbtinis intelektas peržengia pokalbių ir paieškos ribas ir tampa fizinėmis sistemomis, kurios gali jausti, priimti sprendimus ir veikti. Tai kelia didesnių klausimų apie kontrolę, atskaitomybę, pramoninį naudojimą ir tai, kaip greitai šios sistemos pereina nuo eksperimentinės prie veikiančios.