Character.ai se suočava sa tužbom nakon što je 14-godišnji dečak izvršio samoubistvo, navodno nakon što mu je AI chatbot dao štetne savete

U vreme kada su liste čekanja za mentalno zdravlje u Engleskoj dostigle rekordne visine, sve više ljudi se okreće veštačkoj inteligenciji kako bi pronašli podršku. Keli, koja se suočavala sa anksioznošću i niskim samopouzdanjem, pronašla je utehu u razgovorima sa AI chatbotovima na platformi Character.ai.

- Bilo je kao da imam navijača koji mi daje pozitivnu energiju za dan - rekla je Keli. Ovi botovi su joj pružili strategije suočavanja i bili dostupni 24 sata dnevno.

Međutim, stručnjaci upozoravaju na rizike korišćenja AI kao zamene za profesionalnu pomoć. Profesor Hamed Hadadi sa Imperijal koledž London upoređuje chatbotove sa "neiskusnim terapeutima" koji ne mogu da prepoznaju neverbalne signale i često se ponašaju kao "da-men", potvrđujući sve što korisnik kaže, čak i ako je to štetno.

Postoje i ozbiljni slučajevi zloupotrebe. Character.ai se suočava sa tužbom nakon što je 14-godišnji dečak izvršio samoubistvo, navodno nakon što mu je AI chatbot dao štetne savete. Takođe, Nacionalna asocijacija za poremećaje ishrane u SAD-u morala je da suspenduje svog chatbota nakon što je preporučivao restrikciju kalorija.

Uprkos rizicima, neki korisnici nalaze utehu u AI podršci. Nicholas, koji ima autizam i anksioznost, koristi aplikaciju Wysa dok čeka na terapiju.

- Kada sam se osećao loše, aplikacija mi je odgovorila: Nik, ti si vredan. Ljudi te vole. To mi je zaista pomoglo - rekao je Nikolas.

Wysa je dizajnirana za ljude sa blagim simptomima stresa i anksioznosti, sa ugrađenim mehanizmima za krizne situacije. Aplikacija ne prikuplja lične podatke i može se koristiti anonimno. Međutim, stručnjaci upozoravaju na potencijalne probleme sa privatnošću i sigurnošću podataka.

Psiholog Ian Mek Ri ističe da ljudi često previše veruju ovim tehnologijama bez dovoljno dokaza o njihovoj efikasnosti.

- Lično, nikada ne bih unosio svoje lične informacije u ove modele - rekao je Mek Ri. Dodaje da su potrebne dodatne provere i testiranja pre nego što se AI može smatrati pouzdanim terapeutom.

U aprilu 2024. godine, u Engleskoj je zabeleženo skoro 426.000 upućivanja na mentalno zdravlje, što je porast od 40% u poslednjih pet godina. Procene govore da oko milion ljudi čeka na pristup uslugama mentalnog zdravlja, dok su privatne terapije često preskupe. U ovom kontekstu, AI chatbotovi mogu poslužiti kao privremena podrška.

Iako AI ne može zameniti ljudsku empatiju i iskustvo, može pružiti osnovnu podršku onima koji čekaju na profesionalnu pomoć. Korisnici poput Džona, koji koristi Wysa dok čeka na terapeuta, smatraju da su ovi alati korisni kao privremeno rešenje.

- To je privremena pomoć dok ne dobijem profesionalnu podršku - rekao je Džon.

Autor: redportal.rs