Matična kompanija ChatGPT-a, OpenAI, kaže da planira pokrenuti roditeljski nadzor za svog popularnog AI asistenta “unutar sljedećeg mjeseca” nakon optužbi da su ova kompanija i drugi chatbotovi doprinijeli samoranjavanju ili samoubistvu među tinejdžerima.
Kontrole će uključivati mogućnost da roditelji povežu svoj račun s računom svog tinejdžera, upravljaju načinom na koji ChatGPT odgovara tinejdžerskim korisnicima, onemoguće funkcije poput memorije i historije chata te primaju obavijesti kada sistem otkrije “trenutak akutne nevolje” tokom korištenja. OpenAI je prethodno rekao da radi na roditeljskom nadzoru za ChatGPT, ali je u utorak precizirao vremenski okvir za objavljivanje, prenosi N1.
“Ovi koraci su samo početak”, napisao je OpenAI u utorak u objavi na blogu . “Nastavit ćemo učiti i jačati naš pristup, vođeni stručnjacima, s ciljem da ChatGPT učinimo što korisnijim”.
Objava dolazi nakon što su roditelji 16-godišnjeg Adama Rainea podnijeli tužbu protiv OpenAI-a tvrdeći da je ChatGPT savjetovao tinejdžera o samoubistvu. Prošle godine, majka iz Floride tužila je platformu za chatbotove Character.AI zbog navodne uloge u samoubistvu njezina 14-godišnjeg sina. Također postoji sve veća zabrinutost zbog korisnika koji stvaraju emocionalne veze s ChatGPT-om, što u nekim slučajevima rezultira deluzijama i otuđenjem od porodica, kako su naznačili The New York Times i CNN.
OpenAI nije izravno povezao svoje nove roditeljske kontrole s ovim navodima, ali je prošle sedmice u objavi na blogu rekao da su ga “nedavni srceparajući slučajevi ljudi koji koriste ChatGPT usred akutnih kriza” potaknuli da podijeli više detalja o svom pristupu sigurnosti.
ChatGPT je već uključivao mjere, poput upućivanja ljudi na krizne linije za pomoć i druge resurse, ranije je rekao glasnogovornik OpenAI-ja u izjavi za CNN.
(24sata.info)
