Dramatično upozorenje: Šef za bezbjednost AI tvrdi da je svijet u opasnosti
10.02.2026. | 15:01Šef za bezbjednost vještačke inteligencije u kompaniji Anthropic podnio ostavku uz dramatično upozorenje.
Mrinank Šarma, vođa tima za istraživanje zaštitnih mehanizama (Safeguards Research) u kompaniji Anthropic, podnio je ostavku na svoju funkciju, uz objavu otvorenog pisma koje je izazvalo veliku pažnju u tehnološkoj zajednici.
Šarma je kompaniju napustio 9. februara 2026. godine, uz poruku da svijet klizi ka “interkonektovanoj krizi” u kojoj tehnološka moć nadmašuje ljudsku mudrost.
Šarma, koji posjeduje doktorat sa Oksforda, pridružio se Anthropic-u prije dvije godine sa ciljem da doprinese bezbjednosti AI sistema. U svom oproštajnom pismu, naveo je da je ponosan na rezultate koje je postigao, uključujući rad na smanjenju rizika od bioterorizma potpomognutog vještačkom inteligencijom, razvoj odbrana od “AI laskavosti” (sycophancy) i uvođenje tih zaštita u produkcione sisteme.
“Postigao sam ono što sam želio”: Kraj jedne misije u AI gigantu
“Odlučio sam da napustim Anthropic… postigao sam ono što sam ovdje želio”, napisao je Šarma, dodajući da je došlo vrijeme da se posveti pitanjima koja su za njega “istinski suštinska”.
Iako je Anthropic osnovan sa idejom da bezbjednost bude prioritet (kao protivteža OpenAI-u), Šarma u svom pismu ukazuje na duboke tenzije unutar industrije. On je upozorio da se čovječanstvo približava pragu gdje “naša mudrost mora rasti istom mjerom kao i naša sposobnost da utičemo na svijet, inače ćemo se suočiti sa posljedicama”.
Više od AI prijetnje: “Svijet je u opasnosti zbog kompletnog niza kriza”
“Svijet je u opasnosti. I ne samo zbog vještačke inteligencije ili biološkog oružja, već zbog cjelokupnog niza međusobno povezanih kriza koje se odvijaju upravo u ovom trenutku”, istakao je Šarma u svom pismu.
Posebno je naglasio poteškoću u očuvanju integriteta unutar velikih organizacija: “Tokom svog vremena ovdje, više puta sam vidio koliko je teško zaista dozvoliti našim vrijednostima da upravljaju našim akcijama. Vidio sam to u sebi, unutar organizacije, gdje se stalno suočavamo sa pritiscima da po strani ostavimo ono što je najvažnije, ali i u širem društvu.”
Neočekivan zaokret: Iz AI u poeziju i “praksu hrabrog govora”
Umjesto nastavka karijere u drugom tehnološkom gigantu, Šarma je najavio neočekivan zaokret. Planira da se vrati u Veliku Britaniju i posveti se studijama poezije, facilitaciji i “praksi hrabrog govora”. On vjeruje da su “poetska istina” i naučna istina podjednako važni načini spoznaje, naročito u trenutku kada tehnologija prijeti da “iskrivi našu ljudskost”.
Svoje pismo završio je citatom pjesme Vilijama Staforda “The Way It Is”, sugerišući da želi da prati “nit” koja se ne mijenja, uprkos tragedijama i svijetu koji se ubrzano transformiše.
Zaokret u Anthropic-u? Kritike zbog saradnje sa vojnim sektorom
Odlazak Šarme dolazi u trenutku kada Anthropic bilježi ogroman komercijalni uspjeh sa novim modelima poput Claude 4.6, ali i trpi kritike zbog sve veće saradnje sa vojnim sektorom i investitorima, što mnogi vide kao odstupanje od prvobitne misije o isključivo “bezbjednoj i altruističnoj” vještačkoj inteligenciji, prenosi B92.
