Pekingu važna bezbjednost: Regulacija vještačke inteligencije ulazi u novu fazu
28.12.2025. | 07:31Kinesko regulatorno tijelo za kibernetičku bezbjednost uputilo je u javnu raspravu nacrt propisa kojim se pooštrava nadzor nad uslugama vještačke inteligencije koje oponašaju ljudsku ličnost i ulaze u emocionalnu interakciju sa korisnicima.
Ovaj potez ukazuje na nastojanja Pekinga da reguliše ubrzani razvoj vještačke inteligencije usmjerene ka korisnicima, uz jačanje bezbjednosnih mehanizama i strožije etičke zahtjeve.
Obuhvat novih propisa
Predloženi propisi odnosili bi se na proizvode i usluge vještačke inteligencije koji simuliraju osobine ljudske ličnosti, obrasce razmišljanja i način komunikacije, te ostvaruju emocionalnu interakciju sa korisnicima putem teksta, slika, zvuka, video-snimaka ili drugih oblika komunikacije.
Nacrt predviđa pristup prema kojem će pružaoci usluga imati obavezu da upozoravaju korisnike na prekomjernu upotrebu ovakvih sistema i da intervenišu ukoliko se pojave znaci zavisnosti.
Bezbjednosne mjere i zaštita korisnika
Prema nacrtu, pružaoci usluga moraće da sprovode bezbjednosne mjere tokom cijelog perioda korišćenja proizvoda, kao i da uspostave sisteme za reviziju algoritama, zaštitu podataka i očuvanje ličnih informacija korisnika.
Poseban akcenat stavljen je na moguće psihološke rizike. Od pružalaca usluga očekuje se da prepoznaju stanje korisnika, procijene njegove emocije i nivo zavisnosti od usluge. Ukoliko se utvrdi da korisnik ispoljava ekstremne emocionalne reakcije ili zavisničko ponašanje, pružalac usluge biće obavezan da reaguje i preduzme odgovarajuće mjere.
Propisi takođe jasno definišu granice dozvoljenog sadržaja i ponašanja, naglašavajući da usluge vještačke inteligencije ne smiju generisati sadržaje koji ugrožavaju nacionalnu bezbjednost, šire dezinformacije ili podstiču nasilje i nemoral.
