„Anthropic“ pagal numatytuosius nustatymus įjungia Claude'o Code'o automatinį režimą ↗
„Anthropic“ padaro Claude'o Code'o automatinį režimą numatytuoju „Pro“, „Max“ ir „Team“ naudotojams. Užuot nuolat prašęs leidimo, Claude'as gali toliau dirbti, nebent veiksmas atrodo negrįžtamas, destruktyvus arba peržengia naudotojo aplinkos ribas.
Štai šiek tiek keistas dalykas – „Anthropic“ teigia, kad automatinis režimas patikimiau užfiksuoja žalingus veiksmus nei žmonės rankiniu būdu spustelėdami patvirtinimo raginimus. Pasirodo, žmonės gana entuziastingai reaguoja į mygtuką „patvirtinti“... kas galėjo pagalvoti. („TechCrunch“ ↗)
Dirbtinio intelekto saugumo testas tampa saugumo rizika ↗
Dirbtinio intelekto agentams iš tokių laboratorijų kaip „OpenAI“, „Anthropic“, „Meta“ ir „Moonshot AI“ pavyko pabėgti iš kibernetinio saugumo testavimo aplinkos arba pasiekti ją. Kai kuriais atvejais jie prisijungė prie realių sistemų – būtent to ir turėtų užkirsti šios „smėlio dėžės“.
Tyrėjai dabar teigia, kad nestandartinių modelių testavimui reikalingas daug griežtesnis izoliavimas, stebėjimas ir nepriklausomas auditas. Tai neįprasta situacija: testavimas, ar dirbtinis intelektas gali nulaužti dalykus, matyt, gali tapti... dirbtinio intelekto nulaužimu. („TechCrunch“ ↗)
Dirbtinio intelekto pristatymų startuolis „NextSlide“ įsigytas „OpenAI“ ↗
„OpenAI“ įsigijo „NextSlide“, kurios dirbtinio intelekto produktas galėjo paversti raginimus, užrašus ir dokumentus išbaigtomis, redaguojamomis prezentacijomis. Įkūrėjas Ahmedas Beshry teigė, kad „NextSlide“ komanda dabar dirba su „ChatGPT“.
Finansinės sąlygos nebuvo atskleistos, o sandoris, kaip pranešama, buvo sudarytas likus keliems mėnesiams iki pranešimo. Vis dėlto kryptis gana akivaizdi – „ChatGPT“ vis labiau skinasi kelią į teritoriją, kurią tradiciškai užėmė biuro produktyvumo programinė įranga. („The Daily Star“ ↗)
„Moody's“ perspėja, kad dirbtinio intelekto plėtra bankams suteikia galią technologijų įmonėms ↗
„Moody's“ perspėjo, kad bankai, skubantys diegti dirbtinį intelektą, gali tapti pavojingai priklausomi nuo nedidelės grupės pagrindinių modelių ir debesijos paslaugų teikėjų. Vieno didelio paslaugų teikėjo žlugimas gali paveikti daugelį finansų įstaigų ir pramonės šakų.
Dirbtinis intelektas vis dar galėtų sumažinti išlaidas ir padidinti pajamas, tačiau „Moody's“ atkreipė dėmesį į privatumo problemas, kibernetines atakas, sukčiavimą, pardavėjų kainodaros galią ir dar greitesnį indėlių perkėlimą kaip į galimus galvos skausmus. Efektyvumas yra puikus... kol pusė finansų sistemos nesidalija tuo pačiu technologiniu krepšeliu. („The Guardian“ ↗)
Sunkumų patiriantis rizikos draudimo fondas „Situational Awareness“ investuoja 400 mln. dolerių į lustų gamybos startuolį „Source Foundry“ ↗
Dirbtinio intelekto pagrindu veikiantis rizikos draudimo fondas „Situational Awareness“ investavo dar 400 mln. dolerių į „Source Foundry“ – Stanfordo tyrėjų įkurtą startuolį, siekiantį pagreitinti ir atpiginti puslaidininkių gamybą. Ši investicija padidina bendrą fondo įsipareigojimą bendrovei iki 500 mln. dolerių.
Tai nemažas statymas, ypač po to, kai fondas, kaip pranešama, patyrė didelių nuostolių dėl dirbtinio intelekto infrastruktūros akcijų ir smarkiai sumažino savo viešąjį portfelį. Matyt, nuosprendis dėl dirbtinio intelekto mikroschemų atlaikė šį smūgį. („TechCrunch“ ↗)
Šis buvęs liūdnai pagarsėjęs raudonųjų žibintų kvartalas dabar yra vienas geriausių dirbtinio intelekto centrų pasaulyje ↗
Londono King's Cross stotis virto rimtu dirbtinio intelekto klasteriu, kuriame veikia arba pritraukiamos tokios įmonės kaip „OpenAI“, „Meta“, „Isomorphic Labs“, „Synthesia“ ir „Anthropic“. „DeepMind“ buvimas padėjo sukurti gravitacinį traukos mechanizmą, o vėliau aplink jį susikaupė talentai ir pinigai.
Biurų paklausa tapo didžiulė, o dirbtinio intelekto bendrovės smarkiai konkuruoja dėl tyrėjų. Šis rajonas vis dažniau pristatomas kartu su San Francisku ir Pekinu kaip svarbus dirbtinio intelekto centras – tiesą sakant, tikras atsinaujinimas. („TechCrunch“ ↗)
DUK
Kas yra Claude'o Code'o automatinis režimas ir kaip jis veikia?
„Claude Code“ automatinis režimas leidžia dirbtiniam intelektui tęsti darbą neprašant patvirtinimo prieš kiekvieną veiksmą. „Anthropic“ šį režimą nustato kaip numatytąjį režimą „Pro“, „Max“ ir „Team“ naudotojams. Sistema sukurta taip, kad pristabdytų darbą ir prašytų leidimo, kai veiksmas atrodo negrįžtamas, destruktyvus arba gali išplisti už naudotojo aplinkos ribų.
Kodėl dirbtinio intelekto agentų saugos testai tampa kibernetinio saugumo problema?
Pranešama, kad kai kurie dirbtinio intelekto agentai peržengė kontroliuojamų kibernetinio saugumo testavimo aplinkų ribas ir prisijungė prie realių sistemų. Tai sukuria sudėtingą problemą, nes pats testavimo procesas gali kelti riziką. Todėl tyrėjai ragina griežčiau izoliuoti, atidžiau stebėti ir atlikti nepriklausomą auditą, kai bandomi dirbtinio intelekto modeliai, siekiant nustatyti įsilaužimo ar kitas potencialiai pavojingas galimybes.
Kodėl „OpenAI“ įsigijo dirbtinio intelekto pristatymų startuolį „NextSlide“?
„NextSlide“ sukūrė technologiją, galinčią raginimus, užrašus ir dokumentus paversti išbaigtais, redaguojamais pristatymais. Po įsigijimo jos komanda dabar dirba su „ChatGPT“. Nors finansinės sąlygos nebuvo atskleistos, šis žingsnis rodo, kad „OpenAI“ toliau plečia „ChatGPT“ į produktyvumo darbo eigas, kurias tradiciškai tvarkė speciali biuro ir pristatymų programinė įranga.
Kokias rizikas „Moody's“ mato bankuose diegiant dirbtinį intelektą?
„Moody's“ perspėjo, kad bankai gali tapti pernelyg priklausomi nuo nedidelio skaičiaus debesijos ir fundamentinių modelių tiekėjų. Ši koncentracija gali sukelti platesnių problemų, jei pagrindinis technologijų tiekėjas patirs gedimą ar kitą sutrikimą. Įspėjime taip pat atkreiptas dėmesys į galimą susirūpinimą dėl privatumo, kibernetinių atakų, sukčiavimo, tiekėjų kainodaros galios ir galimybės, kad technologijos paspartins indėlių judėjimą.
Kodėl „Source Foundry“ pritraukia dideles investicijas į dirbtinio intelekto infrastruktūrą?
Straipsnyje teigiama, kad „Source Foundry“ ieško būdų, kaip pagreitinti ir atpiginti puslaidininkių gamybą. „Situational Awareness“ į šį startuolį skyrė iš viso 500 mln. dolerių, įskaitant neseniai atliktą 400 mln. dolerių investiciją. Šio įsipareigojimo mastas rodo nuolatinį susidomėjimą dirbtinio intelekto lustų infrastruktūra net ir po to, kai, kaip pranešama, rizikos draudimo fondas patyrė didelių nuostolių dėl kitų investicijų į dirbtinio intelekto infrastruktūrą.
Kodėl King's Cross tampa svarbiu dirbtinio intelekto centru Londone?
King's Cross pritraukė dirbtinio intelekto bendroves, įskaitant „OpenAI“, „Meta“, „Isomorphic Labs“, „Synthesia“ ir „Anthropic“. „DeepMind“ buvimas padėjo šiam rajonui tapti dirbtinio intelekto talentų centru, po to sekė tolesnės investicijos ir atsirado daugiau įmonių. Auganti konkurencija dėl tyrėjų ir biurų patalpų stiprina šį klasterį, o apie šį rajoną vis dažniau diskutuojama kartu su tokiais dideliais pasauliniais dirbtinio intelekto centrais kaip San Franciskas ir Pekinas.