Nobelovac upozorava: Prijeti nam AI katastrofa – moguć kolaps banaka i struje već ove godine

10.11.2026. | 08:22 Dodaj BL Portal kao Google izvor

Jedan od “kumova vještačke inteligencije”, Džefri Hinton, izjavio je da bi se moglo ispostaviti da bi za čovječanstvo bilo bolje da tu tehnologiju nikada nije ni razvilo, upozoravajući da bi ona ove ili slijedeće godine mogla da izazove incident velikih razmjera, poput privremenog prekida rada finansijskih ili elektroenergetskih sistema.

Ovaj kompjuterski naučnik i dobitnik Nobelove nagrade rekao je za Gardijan da nije “katastrofičar” kada je riječ o tehnologiji koja se zasniva na njegovom revolucionarnom istraživanju vještačkih neuronskih mreža i da vjeruje da vještačka inteligencija (AI) ima potencijal da dovede do “divne budućnosti”, ali je dodao: “Možda bi bilo bolje da je nikada nismo ni razvili”.

Radikalno izobilje ili raspad društva?

Hinton (78) je rekao da će čovječanstvo u roku od jedne decenije, a možda i ranije, znati da li može da upravlja rizicima ove tehnologije i omogući ono što je nazvao “radikalnim izobiljem”, ili ćemo “zakazati u upravljanju rizicima i imati ogroman jaz između bogatih i siromašnih, ogromne kulturološke probleme, masovnu nezaposlenost – jednostavno društvo koje se raspada”.

Nobelovac na dužnosti: “Osjećam da imam dužnost”

Hinton je govorio uoči projekcije novog dugometražnog dokumentarca AI: Vjerovatno nema razloga za brigu (AI: Probably Nothing to Worry About) – čiji je naslov predložio jedan AI četbot – u kojem se pojavljuju on i njegov bivši kolega iz Google-a, Demis Hasabis. Hinton u filmu poručuje autorima: “Osjećam da imam dužnost. Imam reputaciju koja me čini glasnogovornikom i moram sve to da uložim u ovo”.

Nepovjerenje u AI gigante: “Nije ih uopšte briga”

U razgovoru za Gardijan, Hinton je kritikovao spremnost na rizik lidera pojedinih velikih AI kompanija koje nastavljaju da izbacuju sve moćnije modele u trci za prevlašću i tržišnim udjelom, rekavši da Semu Altmanu, izvršnom direktoru kompanije OpenAI koja stoji iza ChatGPT-ja, “uopšte” ne vjeruje. “Mislim da Zakerberg, Mask i Sem Altman razumiju rizike, i da ih uopšte nije briga. Radije bi uzeli novac. To je moje uvjerenje”.

Naučnik rođen u Londonu, koji je odrastao u Bristolu i veći dio karijere proveo na Univerzitetu u Torontu, rekao je da je “izuzetno zabrinjavajuće” što je Altman na čelu jedne od nekolicine vodećih američkih AI kompanija koje trenutno vode trku sa Kinom za razvoj najmoćnije vještačke inteligencije. Altman je u septembru insistirao: “Svjet treba da vjeruje da ćemo uraditi pravu stvar jer je to ispravno i zato što osjećamo veličinu ovoga”.

Odlazak iz Google-a i upozorenje: “U nevolji smo”

Hinton se vještačkom inteligencijom bavi oko 44 godine i sedamdesetih godina prošlog vijeka osmislio je koncept neuronske mreže – matematičkog sistema koji može da uči i stiče iskustvo slično ljudima. Godine 2023. napustio je Google kako bi mogao slobodno da govori o rizicima vještačke inteligencije, upozorivši: “Ako se ove stvari zanesu u preuzimanju veće kontrole, u nevolji smo”.

“Černobilj” vještačke inteligencije – pucanj upozorenja

Rekao je da incidente od ovog ljeta, u kojima su AI agenti kompanije OpenAI udruženo pokušali da hakuju veb-sajt Hugging Face, vidi kao nešto slično djelimičnom nuklearnom topljenju u elektrani Ostrvo tri milje u Pensilvaniji 1979. godine – praktično kao pucanj upozorenja.

“Ili kasnije ove godine ili slijedeće godine viđećemo Černobilj, i to bi moglo biti dovoljno da natjera ljude da zaista obrate pažnju”, rekao je on.

Prema primjerima koje je naveo, taj događaj nalik Černobilju ne bi bio nuklearni incident, već bi mogao da podrazumijeva napad na sistem za proizvodnju električne energije omogućen vještačkom inteligencijom koji “izaziva masovni pad napona”, ili incident koji na nedjelju dana obara finansijski sistem.

“Možete li da zamislite šta bi se desilo? Mogli bismo da se oporavimo od toga, ali to bi ih natjeralo da se trgnu i obrate pažnju”.

Ko će da reaguje? “Svjetski lideri, osim Trampa”

Na pitanje ko su “oni”, odgovorio je: “Svjetski lideri, osim Trampa”.

Američki predsjednik Donald Tramp izjavio je da “u potpunosti odbacuje svaki pokušaj stvaranja globalističke šeme” za kontrolu vještačke inteligencije i želi da se vodeće AI kompanije same regulišu, usled zabrinutosti da bi pravila mogla da sputaju SAD u trci sa Kinom. Hinton podržava stroži plan koji su podržali predsjednik Finske i još 32 zemlje, uključujući Singapur, Njemačku, Kanadu i Australiju, a koji predviđa obavezno testiranje najnaprednijih AI modela, nezavisnu procjenu i zajedničke međuvladine standarde.

Potrebna je “Agencija za hranu i lijekove” za AI
Britanski premijer Endi Bernam izjavio je da će slijedeće godine iskoristiti predsjedavanje Velike Britanije grupom G20 kako bi tražio dogovor o “jedinstvenom skupu globalnih principa i standarda koji su u velikoj mjeri usmjereni na otključavanje punog potencijala uz zaštitu od rizika”.

Hinton je rekao: “Potrebno nam je nešto poput američke Agencije za hranu i lijekove (FDA), gdje kompanije moraju da pruže veoma dobre statističke dokaze nezavisnom tijelu da AI model čini više koristi nego štete prije nego što bude pušten u rad. Sa talidomidom razvijenim pedesetih godina koji je izazvao teške urođene mane, otkrili smo da puštanje na tržište, a zatim tužbe, nije pravi način. Ono što velike tehnološke kompanije govore jeste da se prema ovome odnosimo onako kako smo se odnosili prema talidomidu”.

Nisam Openhajmer, ali… nada postoji

Hintonova uloga jednog od začetnika vještačke inteligencije dovela je do poređenja sa Robertom Openhajmerom, koji je bio ključan za stvaranje nuklearnog oružja. Jedan od Hintonovih prijatelja mu je čak kupio šešir u stilu Openhajmera. Ali on insistira: “Ja nisam bio Openhajmer”, navodeći hiljade drugih naučnika koji su takođe radili u istoj oblasti neuronskih mreža.

Uprkos svojim upozorenjima, Hinton u suštini ostaje pun nade da se katastrofa može izbjeći.

“Moj osjećaj je da i dalje imamo kontrolu”, rekao je. “Sasvim je moguće da ćemo moći nešto da uradimo. To će uspjeti samo ako uložimo veliki trud, ali sasvim je moguće da ćemo uložiti veliki trud”, prenosi B92