Umjetna inteligencija može biti izuzetno korisna ali njene „halucinacije“ predstavljaju ozbiljnu prijetnju tačnosti informacija koje svakodnevno primamo.
Stotine miliona ljudi širom svijeta svakodnevno koriste ChatGPT, Claude, Gemini i druge chatbotove kao brze izvore informacija. Samo ChatGPT ima više od 800 miliona korisnika sedmično. Mnogi ih već koriste umjesto Google pretrage, prenosi Raport.
No, novo istraživanje Evropske radiodifuzne unije (EBU) otkriva zabrinjavajuće rezultate: Ovi sistemi izmišljaju do 40% svojih odgovora i to predstavljaju kao činjenice.
Chatbotovi često zvuče samouvjereno i uvjerljivo, iako iznose potpuno netačne tvrdnje. Ekonomist Peter Posch s Tehničkog univerziteta u Dortmundu upozorava:
„To ih čini posebno opasnima za korisnike koji nemaju iskustva, jer greške često nisu odmah vidljive.“
Fenomen je poznat kao „AI halucinacija“, situacija kada vještačka inteligencija izmišlja logične, ali nepostojeće informacije. To se posebno događa kod lokalnih vijesti, političkih događaja ili aktuelnih tema.
Kako sve više ljudi vijesti dobija od AI sistema, lažne informacije se šire brže nego ikad. Učenici i studenti nesvjesno uključuju izmišljene podatke u svoje radove, a građani mogu donositi političke odluke na osnovu lažnih tvrdnji.
Još je opasnije što mnogi nisu ni svjesni da AI može griješiti jer tehnologiji vjeruju kao objektivnom izvoru.
Uz to, chatbotovi često pogrešno citiraju poznate medije (poput ARD-a ili ZDF-a), čime narušavaju njihovu reputaciju i dodatno zbunjuju javnost.
EBU je testirala stotine činjenica iz historije, nauke i aktuelnih vijesti. Rezultat: Stopa grešaka između 15% i 40%, a nijedan chatbot nije dao potpuno tačne odgovore.
Glavni razlog je to što AI ne razumije sadržaj, ona samo statistički predviđa koje riječi „izgledaju“ kao pravi odgovor.
EBU preporučuje:
Uvijek provjerite informacije koje dobijete od chatbota
Za vijesti i činjenice koristite renomirane medije
Budite posebno oprezni kod politike, zdravlja i finansija
Škole i univerziteti bi, kažu stručnjaci, morali učiti mlade medijskoj pismenosti i kritičkom razmišljanju o AI izvorima.
Dok AI sistemi ne postanu pouzdaniji, vrijedi jedno jednostavno pravilo:
„Chatbotovi mogu pomoći u pisanju, ali nisu zamjena za novinare i provjerene izvore.“
(24sata.info)
