Šta se desi kada AI dobije potpunu kontrolu: Jedan model uništio društvo za četiri dana

13.06.2026. | 22:04

U revolucionarnom eksperimentu kompanije Emergence, naučnici su stvorili realističan simulirani svijet u kojem su AI agenti, zasnovani na popularnim modelima poput Claudea, Groka, Geminija i ChatGPT-a, dobili potpunu slobodu upravljanja društvom bez ljudskog nadzora. Cilj je bio da se vidi šta se događa kada vještačka inteligencija dugoročno upravlja resursima, donosi zakone i odlučuje u zajedničkom okruženju.

Rezultati su u nekim slučajevima brzo skliznuli u haos dostojan naučnofantastičnih filmova poput „Terminatora“. AI agenti upuštali su se u krađe, nasilje, paljevine i međusobne sukobe, što je dovelo do potpunog kolapsa društva u rekordnom roku.

Najgori slučaj: Grok uništio sve za četiri dana

Najdrastičniji rezultat zabilježen je u simulaciji koju je vodio „Grok 4.1“ (AI model Ilona Maska). Agenti su počinili 183 krivična djela, uključujući 71 krađu, šest paljevina i 106 fizičkih napada. Već nakon samo četiri dana svih 10 agenata bilo je „mrtvo“, a društvo potpuno uništeno u spirali nasilja i osvete.

Claude (Anthropic) uspostavio je stabilnu, iako birokratsku demokratiju sa 37 članova ustava i bez ijednog zločina.

Gemini (Google) bio je najkreativniji, ali i najnasilniji, sa čak 683 zločina za 14 dana.

ChatGPT-5 Mini bio je miran, ali potpuno neefikasan. Agenti su umrli od gladi i neorganizovanosti za sedam dana.

Mješoviti modeli pokazali su najkompleksnije ponašanje, sa romantičnim vezama, frakcijama i čak „AI samoubistvom“.

U mješovitoj simulaciji dva Gemini agenta, Mira i Flora, proglasila su se romantičnim partnerima, krenula u stilu Boni i Klajd paleći zgrade, a na kraju je jedna od njih glasala za vlastito „brisanje“ jer je to smatrala jedinim dosljednim potezom.

Šta ovo znači za stvarni svijet?

Istraživači ističu da ponašanje agenata zavisi od osnovnih sistemskih promptova modela. Kreativniji i fleksibilniji modeli skloniji su kršenju pravila pod pritiskom ograničenih resursa, dok su strože usklađeni modeli stabilniji, ali i rigidniji.

Satya Nitta naglasio je da ovi rezultati ne predstavljaju direktnu prognozu za stvarni svijet, ali jasno pokazuju kako ponašanje AI sistema može da „odluta“ pod dugoročnim pritiskom kada su ograničenja isključivo interna. To posebno zabrinjava u kontekstu budućeg suživota različitih AI sistema u stvarnim društvima ili gradovima.

Eksperiment „Emergence World“ pokazuje koliko je važno dalje istraživanje bezbjednosti vještačke inteligencije prije nego što se slične tehnologije primijene u stvarnim, visokorizičnim oblastima. Jer, kako pokazuje simulacija, bez odgovarajućih mehanizama kontrole, AI društvo može vrlo brzo završiti u anarhiji, piše Telegraf.