Napredak umjetničke inteligencije, poput ChatGPT-a, izaziva zabrinutost zbog mogućnosti uspona autonomne AI koja može predstavljati egzistencijalnu prijetnju.

Stručnjaci upozoravaju na razvoj napredne AI (AGI) sa sentijentnošću i autonomijom, koja bi mogla djelovati nezavisno, bez ljudske kontrole.

Tehnički lideri poput Elona Muska i Sama Altmana ističu rizike zloupotrebe AI od strane nacija ili neodgovornih aktera.

Potrebna je hitna regulacija AI kako bi se spriječile katastrofalne posljedice i očuvala globalna stabilnost.

Budućnost AI zavisi od ravnoteže između inovacija i odgovornog razvoja i nadzora.

Umjetnička inteligencija privlači ogromnu pažnju zbog svojih brzih napredaka, od konverzacijskih sposobnosti ChatGPT-a do umjetnosti generirane AI koja konkurira ljudskoj kreativnosti. Međutim, iza tog entuzijazma leži sve veća zabrinutost među tehnološkim liderima: uspon autonomne AI mogao bi predstavljati egzistencijalnu prijetnju čovječanstvu. Bivši CEO Googlea Eric Schmidt jedan je od onih koji podižu alarm, upozoravajući u intervjuu za ABC News ovog vikenda da bi naredna generacija AI mogla biti daleko opasnija od „glupe AI“ koju danas poznajemo.

Dok su alati poput ChatGPT-a i drugih AI proizvoda za potrošače osvojili maštu javnosti, oni su ono što stručnjaci nazivaju „glupom AI“. Ovi sistemi obučeni su na ogromnim skupovima podataka, ali im nedostaju svijest, sentijentnost i sposobnost samostalnog djelovanja. U suštini, to su sofisticirani alati dizajnirani za obavljanje specifičnih zadataka, kao što je generisanje teksta ili stvaranje slika.

Međutim, Schmidt i drugi stručnjaci nisu zabrinuti zbog ovih sistema. Njihova zabrinutost odnosi se na napredniju AI, poznatu kao umjetna opća inteligencija (AGI). AGI označava AI koja bi mogla posjedovati svijest, sentijentnost i sposobnost djelovanja autonomno — zapravo, AI koja bi mogla razmišljati i donositi odluke nezavisno od ljudske kontrole. Iako AGI još ne postoji, Schmidt upozorava da brzo približavamo fazi u kojoj će AI sistemi moći djelovati autonomno u područjima kao što su istraživanje i naoružanje, čak i bez pune sentijentnosti.

Rizici neregulisane AI Schmidtove zabrinutosti odražavaju i drugi tehnološki lideri, uključujući Elona Muska i CEO OpenAI-a Sama Altmana. Musk je upozorio da AI može dovesti do uništenja civilizacije, dok je Altman opisao najgori scenarij kao „isključivanje svjetla za sve nas“. Ova upozorenja nisu pretjerana; ona odražavaju potencijal za zloupotrebu AI od strane neprijateljskih nacija, terorističkih grupa ili neodgovornih aktera.

Kina, posebno, se vidi kao velika prijetnja. Schmidt je napomenuo da kineska vlada razumije moć AI za industrijske, vojne i nadzorne svrhe. Ako se ne reguliše, napredna AI mogla bi dati Kini odlučujuću prednost nad Sjedinjenim Američkim Državama, što bi moglo dovesti do katastrofalnih posljedica za globalnu stabilnost. Terorističke grupe mogle bi takođe iskoristiti AI za razvoj biološkog ili nuklearnog oružja, dodatno povećavajući rizike.

Potrebna je regulacija S obzirom na ove opasnosti, Schmidt i drugi lideri industrije pozivaju na hitnu regulaciju AI. Iako je postignut neki napredak — kao što je napor Kalifornije da se bori protiv dubokih lažnih snimaka — regulacija na saveznom nivou u SAD-u i dalje je uglavnom odsutna. Schmidt očekuje da će se to promijeniti u narednim godinama kako vlade prepoznaju potrebu za unapređenjem sigurnosnih mjera oko AI.

Regulacija nije samo pitanje sprječavanja štete; to je takođe pitanje osiguravanja da SAD zadrži svoju tehnološku dominaciju. Kako Schmidt napominje, konkurencija među tehnološkim gigantima kao što su Google, Microsoft i OpenAI je oštra, što povećava rizik da sigurnosni protokoli budu zanemareni u trci za inovacijama. Bez odgovarajućeg nadzora, mogla bi biti puštena nesretna AI sa potencijalno razarajućim posljedicama.

Balansiranje inovacije i sigurnosti Unatoč rizicima, AI takođe nosi ogromni potencijal za dobro. Schmidt predviđa budućnost u kojoj AI osnažuje pojedince, pružajući im ekvivalent „polimat u džepu“ — alat koji može pružiti savjete od Einsteina ili Leonarda da Vincija. Međutim, kako bi se ostvario ovaj potencijal, čovječanstvo mora biti oprezno.

Schmidtov poziv za regulaciju nije u cilju ugušivanja inovacija; radi se o osiguravanju odgovornog razvoja AI. On vjeruje da vlade moraju igrati ulogu u oblikovanju budućnosti AI, zajedno sa tehnolozima. Kako je rekao: „Tehnolozi ne bi trebali biti jedini koji donose ove odluke.“

Trka s vremenom Vrijeme curi. Kako AI nastavlja napredovati, prozor za učinkovitu regulaciju se smanjuje. Schmidtova upozorenja naglašavaju hitnost situacije: ako čovječanstvo ne djeluje, mogli bismo izgubiti kontrolu nad vlastitim izumom. Ulog je ogroman.

Na kraju, pitanje nije da li će AI promijeniti svijet, već kako. Hoće li biti snaga za dobro, osnažujući čovječanstvo i rješavajući neke od naših najvećih izazova? Ili će biti alat za uništenje, koji koriste oni koji žele izazvati štetu? Odgovor zavisi od odluka koje donesemo danas.