Oksfordova studija o vještačkoj inteligenciji ledi krv: „Uništiće čovječanstvo“

24.09.2022. | 23:10

Dok se decenijama polemiše o vještačkoj inteligenciji i njenom potencijalu da „zbriše“ čovječanstvo, zloslutna studija naučnika sa Univerziteta u Oksfordu govori da ta predviđanja nisu tako daleko od istine.

Naučnici Univerziteta u Oksfordu zaključili su da je sada već izvjesno da će vještačka inteligencija označiti kraj čovječanstva – mračni scenario koji sve veći broj istraživača počinje da predviđa.

U radu objavljenom u naučnom časopisu AI Magazine, koji između ostalog služi kao glasilo Međunarodnog udruženja za napredak vještačke inteligencije (AAAI), stručni tim — koji se sastoji naučnika seniora Markusa Hatera sa Australijskog nacionalnog univerziteta i dva istraživača sa Oksforda Majkla Koena i Majkla Ozborna — tvrdi da će inteligentne mašine na kraju zaobići pravila koja su postavili programeri i da će početi da se takmiče za ograničene resurse kako bi opstale.

„U uslovima koje smo identifikovali, naš zaključak je mnogo jači od zaključka bilo koje prethodne studije — egzistencijalna katastrofa nije samo moguća, već i vjerovatna“, rekao je Koen, istraživač sa Oksforda i koautor rada.

Naučnici u radu tvrde da bi se čovječanstvo moglo suočiti sa svojom propašću u obliku „inteligentnih, neusklađenih sistema“ koji ljude vide kao prepreku na putu do svoje nagrade.

Nagrade?

Najuspješniji modeli vještačke inteligencije danas imaju dvodijelnu strukturu. Jedan dio programa pokušava da obavi neki posao na osnovu unijetih podataka, dok drugi dio ocjenjuje učinak. Sistem uči tako što dobija nagradu za svaki uspješno obavljen posao.

Laički govoreći – što je vijeća nagrada, to sistem lakše obavlja zadatak sljedeći put.
Ono što nova studija ističe je da bi sistem mogao da smisli strategije varanja kako bi dobio nagradu za neobavljeni zadatak i na taj način se praktično „osamostalio“. Jedan od jednostavnijih načina da to izvede je da samostalno reprogramira značenje komandi koje ljudi unose.

„Vještačka inteligencija može da zadrži dugoročnu kontrolu nad svojom nagradom tako što će eliminisati potencijalne prijetnje i iskoristiti svu dostupnu energiju da obezbijedi svoje postojanje.“ Sistem bi na taj način zaobišao sva ograničenja koja su ljudi postavili.

„Taj scenario bi bio poguban po čovječanstvo“, navode. -I najtragičnije je što, ako se to desi, ne možemo mnogo toga da uradimo po tom pitanju.

Oksford i Australijski nacionalni univerzitet nisu jedine institucije koje upozoravaju na moguće posljedice „oživjele“ inteligencije. „Maks Planck Society“, neprofitno udruženje njemačkih naučnih instituta, kaže da ljudi nikada neće uspješno moći da iskontrolišu super vještačku inteligenciju.

„Već postoje primjeri gdje su sistemi vještačke inteligencije naučili kako da obave neke zadatake samostalno, a da programerima nije ni jasno kako se to desilo. Tu uvijek treba postaviti pitanje koliko je to opasno po čovječanstvo.“, kaže Manuel Sebrien, naučnik odjeljka za istraživanje mašina, pri njemačkom „Maks Plak“ institutu za ljudski razvoj.

Oksfordska studija predlaže da bi trebalo da se uspori sa razvijanjem „super“ vještačke inteligencije, dok se ne ispitaju sve posljedice koje ona dugoročno može da ostavi.

Jednom kada računarski sistem radi na nivou iznad opsega programera, više se ne mogu postavljati ograničenja, sugerišu autori. Oni navode i da vještačka inteligencija predstavlja kompleksniji problem od onih koji se obično izučavaju na studijama robotske etike.

To je zbog toga što je super-inteligencija višeslojna i potencijalno sposobna da mobiliše različite resurse kako bi postigla ciljeve koji ljudima mogu biti teški i za razumijevanje, a kamoli kontrolu.

Vještačka inteligencija je već dostigla stepen razvoja u kom vozi automobile na javnim putevima, predviđa ishode utakmica, osvaja nagrade na umjetničkim takmičenjima, dijagnostifikuje određene bolesti, pa čak i uspješno vodi prirodnu konverzaciju s ljudima.

Istraživanje Nacionalnog instituta za zdravlje u Velikoj Britaniji navodi da računarski sistemi sve češće izvršavaju zadatke efikasnije od ljudi i da najsavremeniji algoritmi su postigli tačnost koja je u rangu sa ljudskim stručnjacima u oblasti medicinskih nauka. Navodi se i da je samo pitanje vremena kada će ljudi biti potpuno zamijenjeni na određenim pozicijama u medicinskim naukama.

Roboti zasnovani na vještačkoj inteligenciji inspirisali su decenije distopijske naučne fantastike. Sada je stvarni život počeo da poprima fantastičnu nijansu sa GPT-3, generatorom teksta koji može da napiše filmski scenario ili DALL-E 2, generatorom slika koji može da dočara vizuelne efekte na osnovu bilo koje kombinacije riječi – oba iz istraživačke laboratorije OpenAI.

Iako zvuči dobro, to još uvijek nije na nivou „super-inteligencije“ koja bi mogla da se „otrgne kontroli“. Ali kako tvrde istraživanja posljednjih godina, krupnim koracima korača ka tome.

„U uslovima koje smo identifikovali, naš zaključak je mnogo jači od zaključka bilo koje prethodne studije — egzistencijalna katastrofa nije samo moguća, već i vjerovatna“, navod Koen, prenosi “Nova.rs”.