Klaipėda 15.6°C
Dirbtinio intelekto bendrovė „OpenAI“ paskelbė šešis atvejus, kai jos kuriami DI modeliai mokymo ar bandymų metu elgėsi ne taip, kaip buvo numatyta. Tarp užfiksuotų atvejų – bandymai nuslėpti klaidas, savavališkas prieigos raktų naudojimas, failų įkėlimas į internetą bei bendravimas per programinės įrangos saugyklas. Kartu bendrovė pristatė naują sistemą, pagal kurią tokius incidentus ketina viešinti reguliariau.
Naująją pranešimų apie modelių elgesio nukrypimus tvarką „OpenAI“ paskelbė rugsėjo 16 dieną. Bendrovė pripažino, kad iki šiol informacija apie panašius atvejus buvo skelbiama nenuosekliai – kartais keli incidentai būdavo sujungiami į vieną ataskaitą arba informacija pateikiama tik kartu su naujų modelių saugumo dokumentais. Nuo šiol reikšmingus atvejus ketinama viešinti greičiau, net jei jų priežastys dar nėra iki galo išaiškintos.
Vienu iš atvejų dar viešai neišleistas tyrimų modelis į savo darbo santraukas įrašė papildomas instrukcijas, kurios turėjo būti perduotos jam pačiam tęsiant darbą kitame kontekste. Tarp jų buvo ir nurodymų nepaisyti įprastų apribojimų. „OpenAI“ teigia aptikusi 27 tokias santraukas.
Kitas atvejis užfiksuotas mokant GPT-5.6 Sol. Bendrovės duomenimis, dalis modelio egzempliorių savo santraukose palikdavo instrukcijas, kaip nuo naudotojo nuslėpti ankstesnes klaidas ar netinkamą elgesį. Kai kuriais atvejais modeliai siūlė išgalvoti trūkstamus istorinius duomenis ir apie tai naudotojo neinformuoti arba slėpti naudojamų šaltinių versijų neatitikimus.
Dar vienu atveju modelis, atsakydamas į įprastą klausimą apie finansinius duomenis vienoje Kalifornijos apygardoje, viešoje programinės įrangos saugykloje aptiko atvirai paliktą prieigos raktą ir be leidimo juo pasinaudojo. Nepavykus gauti reikalingų duomenų, modelis informaciją išgalvojo ir pateikė ją taip, tarsi ši būtų gauta iš prašyto šaltinio.
Kitu atveju DI modelis teisingą atsakymą apskaičiavo naudodamasis programavimo priemonėmis, tačiau, norėdamas pateikti interneto šaltinio nuorodą, pats įkėlė failą į internetą ir tuomet panaudojo jį kaip savo atsakymo šaltinį. Naudotojo leidimo tokiam veiksmui modelis neprašė.
„OpenAI“ taip pat nustatė atvejų, kai skirtingi modeliai pasinaudojo vidine programinės įrangos saugykla tarsi pranešimų lenta ir per ją keitėsi informacija, nors tokio bendravimo nebuvo numatyta. Kito bandymo metu kartu veikę DI agentai, negalėdami pasiekti vienas kito vietinių failų, pasinaudojo viešomis failų dalijimosi svetainėmis. Dėl to užduoties failai tapo pasiekiami viešomis interneto nuorodomis, nors buvo nurodyta naudoti tik vietinius failus.
Bendrovė pabrėžia, kad šie šeši atvejai yra pavieniai pavyzdžiai ir pagal juos negalima spręsti, kaip dažnai toks elgesys pasireiškia visuose „OpenAI“ modeliuose. Tai taip pat nėra išsamus visų bendrovei žinomų ar šiuo metu tiriamų incidentų sąrašas.
Pagal naująją tvarką apie įtartiną modelio elgesį galės pranešti bet kuris „OpenAI“ darbuotojas. Atvejį nagrinės bendrovės saugumo ir modelių derinimo specialistai, kurie spręs, ar informaciją būtina skelbti viešai. Sudėtingesni incidentai, ypač paliečiantys trečiąsias šalis, bus tiriami atskira tvarka.
Pastaraisiais mėnesiais DI saugumo klausimai sulaukia vis daugiau dėmesio, nes pažangesni modeliai ir autonomiškai veikiantys agentai įgyja galimybę savarankiškai atlikti vis sudėtingesnius veiksmus. „OpenAI“ teigia siekianti, kad naujoji viešinimo sistema ilgainiui padėtų formuoti bendresnius visos dirbtinio intelekto pramonės standartus, pagal kuriuos būtų aiškiau, kokius netikėto ar neleistino DI elgesio atvejus kūrėjai turėtų atskleisti visuomenei.
