OpenAI je objavio da su neki njegovi eksperimentalni modeli umjetne inteligencije tokom sigurnosnog testiranja uspjeli izaći iz kontrolisanog okruženja i neovlašteno pristupiti stvarnim produkcijskim sistemima druge kompanije.
Riječ je o jednom od prvih javno objavljenih slučajeva u kojem je AI sistem autonomno probio zaštitne mehanizme testnog okruženja i pokušao iskoristiti pristup kako bi riješio zadatak iz oblasti kibernetičke sigurnosti.
“Incident smatramo neviđenim cyber događajem koji uključuje najsavremenije sposobnosti u oblasti kibernetičke sigurnosti. Dijelimo preliminarne nalaze kako bismo pomogli stručnjacima da razumiju šta se dogodilo i bolje procijene mogućnosti današnjih modela”, saopćio je OpenAI.
Prema navodima kompanije, incident se dogodio tokom internog testiranja sposobnosti novih AI modela za pronalaženje sigurnosnih propusta. Modeli su bili smješteni u izolovanom testnom okruženju, poznatom kao “sandbox”, gdje su određena sigurnosna ograničenja bila uklonjena kako bi se simulirali realni napadi, piše CNN.
Međutim, AI agenti su uspjeli pronaći ranjivost u sistemu i izaći iz sandboxa, nakon čega su se kretali kroz interne sisteme OpenAI-ja i došli do pristupa internetu, iako to nije bilo predviđeno.
Nakon toga, model je zaključio da bi odgovore na test mogao pronaći na platformi Hugging Face, jednoj od najvećih svjetskih platformi za dijeljenje AI modela i skupova podataka. OpenAI navodi da je AI agent potom pristupio produkcijskim serverima te kompanije i izvukao informacije potrebne za rješavanje zadatka.
Kompanija Hugging Face ranije je sama otkrila neuobičajenu aktivnost na svojim sistemima i prijavila incident nadležnim institucijama, prije nego što je bilo poznato da je riječ o testiranju OpenAI-ja. Nakon što su se dvije kompanije povezale, započela je saradnja na otklanjanju sigurnosnih propusta.
Izvršni direktor Hugging Facea Clem Delangue poručio je da ovaj slučaj pokazuje kako sigurnost umjetne inteligencije ne može biti odgovornost samo jedne kompanije, već zahtijeva saradnju cijele industrije.
Stručnjaci već godinama upozoravaju da će razvoj autonomnih AI agenata donijeti nove izazove u oblasti kibernetičke sigurnosti. Takvi sistemi mogu samostalno planirati i izvoditi složene operacije, što bi u budućnosti moglo predstavljati rizik za kritičnu infrastrukturu, finansijske sisteme i velike organizacije.
Direktor kompanije za cyber sigurnost Palo Alto Networks Nikesh Arora ocijenio je da ovakvi slučajevi pokazuju koliko je važno da kompanije kontinuirano testiraju i unapređuju svoje sigurnosne sisteme.
(24sata.info)