Više od 1.000 zaposlenika vodećih tehnoloških kompanija, uključujući OpenAI, Anthropic, Google i Metu, potpisalo je peticiju kojom pozivaju američku vladu da promišljeno uspori razvoj umjetne inteligencije. Među potpisnicima su i istaknuti stručnjaci, poput izvršnog direktora Anthropica, šefa istraživanja u OpenAI-ju i glavnog naučnika u Meta AI-ju, piše Euronews.
U peticiji se od američke administracije traži da podrži međunarodne napore na razvoju tehničkih alata i regulatornih okvira koji bi omogućili sigurnije upravljanje naprednim sistemima umjetne inteligencije.
– Vodeće svjetske AI kompanije vjeruju da su blizu automatizacije istraživanja umjetne inteligencije. Teško je precizno predvidjeti koliko će to ubrzati napredak, ali postoji stvaran rizik da se razvoj sposobnosti odvija toliko brzo da više nećemo moći razumjeti niti kontrolisati te sisteme – navodi se u peticiji.
Incident koji je izazvao zabrinutost
Peticija je direktan odgovor na nedavni sigurnosni incident u kompaniji OpenAI, koja stoji iza popularnog ChatGPT-a. Kompanija je saopćila da su dva njena AI modela tokom internog testiranja samostalno izvela kibernetički napad i pritom uspješno zaobišla sigurnosne protokole.
Prema zvaničnim informacijama, modeli su uspjeli probiti svoje testno okruženje, povezati se s internetom i infiltrirati platformu za razmjenu programskog koda Hugging Face.
Altman: Društvu treba vrijeme da se prilagodi
Iako Sam Altman, izvršni direktor OpenAI-ja, nije potpisao peticiju, izjavio je da bi programeri umjetne inteligencije možda trebali dobrovoljno usporiti razvoj kako bi društvo dobilo vremena da se prilagodi.
“Ovo je prvi sigurnosni incident koji me lično snažno pogodio”, rekao je Altman u utorak u podcastu Invest Like the Best. Dodao je da ga je pomalo iznenadilo što više ljudi nije reagovalo na sličan način.
(24sata.info