Robot se nije ponašao kako treba! Nakon što je tinejdžera odveo u smrt ČetGPT uvodi roditeljski nadzor

03.09.2025. | 20:36

Četbot ČetGPT, temeljen na vještačkoj inteligenciji, dobiće mogućnosti roditeljskog nadzora u nadolazećim mjesecima, objavila je danas američka tehnološka kompanija koja stoji iza bota.

Odluka slijedi nakon tužbe koju su protiv kompanije podnijeli roditelji 16-godišnjaka iz Kalifornije, koji za samoubistvo svog sina krive ČetGPT.

“U nadolazećim mjesecima roditelji će moći povezati svoj nalog s računom svog tinejdžera. Uz pravila primjerene starosti, moći će kontrolisati kako ČetGPT reaguje na svog tinejdžera”, napisao je OpenAI u objavi na blogu, prema francuskoj novinskoj agenciji AFP.

ČetGPT će takođe slati obavještenja roditeljima kada otkrije da je njihovo dijete “u teškoj nevolji”. “Nastavljamo poboljšavati način na koji naši modeli prepoznaju i reaguju na znakove mentalne i emocionalne nevolje”, dodala je kompanija.

ČetGPT odveo tinejdžera u smrt

Roditelji 16-godišnjaka iz Kalifornije koji je počinio samoubistvo prošle su sedmice podnijeli tužbu protiv OpenAI-a saveznom sudu u američkoj saveznoj državi, tvrdeći da je ČetGPT dao njihovom sinu uputstva za samoubistvo i podsticao ga na to.

Traže neodređenu odštetu i traže od suda da nametne sigurnosne mjere, uključujući automatsko prekidanje razgovora koji uključuju samopovrijeđivanje i pružanje roditeljskog nadzora za maloljetne korisnike.

Priznali su greške

OpenAI je prošle sedmice priznao da je njihov četbot pogriješio u osjetljivim slučajevima i obećao promjene. Firma je naglasila da je ČetGPT obučen da preporuči korisnicima koji izražavaju suicidalne namjere da potraže pomoć od stručnjaka.

Prema vlastitim izjavama, otkrili su da se uprkos tome i drugim sigurnosnim mehanizmima robot nije ponašao kako bi trebao u osjetljivim situacijama. Sigurnosni mehanizmi najbolje funkcionišu u kratkim razmjenama, ali mogu zakazati u dugim, istakli su, prenosi “SeeBiz”.