Upozorenje iz Majkrosofta: Zbog ovog poteza AI više nećemo moći da isključimo?

17.09.2026. | 17:24 Dodaj BL Portal kao Google izvor

Jedan od direktora iz Majkrosoft kritikovao Antropik po pitanju svijesti vještačke inteligencije.

Direktor za veštačku inteligenciju u kompaniji Majkrosoft Mustafa Sulejman kritikovao je pristup kompanije Antropik (Anthropic) po pitanju razvoja svijesti vještačke inteligencije, prenosi Tanjug.

On je upozorio da bi način na koji se modeli obučavaju mogao otežati njihovu kontrolu u budućnosti, prenio je Rojters.

Međutim, Sulejman je istakao da dijeli fokus Anthropica na bezbjedno upravljanje vještačkom inteligencijom i pohvalio integritet rukovodstva kompanije, posebno njenog izvršnog direktora Darija Amodeija.

Njegova kritika odnosi se na uključivanje ideja o svesti, dobrobiti i ličnom identitetu u obuku četbota Klada.

Prema Sulejmanovim navodima, podučavanje sistema jeziku i obrascima ponašanja koji se povezuju sa ljudskom sviješću moglo bi da utiče na način na koji vještačka inteligencija “doživljava” sopstvenu ulogu.

On smatra da bi takav pristup mogao da oteža upravljanje budućim sistemima koji bi bili znatno sposobniji od današnjih modela, uključujući njihovo isključivanje kada je to potrebno.

Sulejman je ocijenio da bi industrija vještačke inteligencije trebalo da bude usmjerena na razvoj sistema koji služe ljudima, a ne na njihovo približavanje ljudskim osobinama.

Založio se za uklanjanje spekulativnih formulacija o svijesti iz podataka i procesa obuke AI sistema.

Rasprava dolazi u trenutku intenzivirane debate u tehnološkoj industriji o bezbjednosti i tempu razvoja naprednih modela vještačke inteligencije.

Anthropic je ranije upozoravao na potencijalne rizike sve moćnijih AI sistema, dok su čelnici više velikih tehnoloških kompanija posljednjih dana govorili o potrebi dodatnih bezbjednosnih mehanizama i opreznijeg razvoja.