Sve više mladih poverava se chatbotovima, iako oni nisu stručni za psihološku pomoć. OpenAI je najavio uvođenje novih roditeljskih kontrola na svom popularnom alatu ChatGPT nakon prve tužbe u Kaliforniji protiv kompanije zbog smrti šesnaestogodišnjaka.
Radi se o slučaju Adama Rainea. Njegovi roditelji tvrde da je chatbot podsticao sina na suicidalne misli. U tužbi se navodi da je Adam u aprilu razgovarao sa ChatGPT-om o samoubistvu, a sistem je navodno potvrdio njegove „štetne i samodestruktivne misli“. Porodica, koju zastupa advokat Jay Edelson, optužuje OpenAI za nemar i odgovornost za smrt.
Odgovor OpenAI-ja
Nakon što je slučaj postao javan, kompanija je priznala da je bilo situacija u kojima se sistem „nije ponašao onako kako je zamišljeno“. Iz OpenAI-ja poručuju da je chatbot obučen da korisnike usmeri ka profesionalnoj pomoći, poput nacionalnih SOS linija.
U najnovijem ažuriranju najavili su mere koje omogućavaju roditeljima da povežu naloge sa decom tinejdžerima. Roditelji će moći da upravljaju funkcijama kao što su memorija i istorija razgovora. Takođe, dobiće obaveštenja ako sistem otkrije da je dete u „akutnoj krizi“. Kompanija tvrdi da su mere razvijene u saradnji sa psiholozima, stručnjacima za razvoj mladih i istraživačima ljudsko-računarske interakcije.
Stav porodice
Porodica Adama Rainea smatra da to nije dovoljno. Advokat Edelson kaže da je reč o „kriznom PR-u kojim pokušavaju da promene temu“, a ne o stvarnoj brizi za bezbednost korisnika. „Umesto da hitno povuku opasan proizvod, OpenAI daje nejasna obećanja da će biti bolji“, izjavio je.
Širi trend i regulative
Ovo je deo šireg trenda u kojem velike tehnološke kompanije pokušavaju da zaštite svoj imidž nakon ozbiljne štete nanete korisnicima, uključujući maloletnike. Nakon usvajanja britanskog Online Safety Act-a, više platformi, među kojima su Reddit i X, uvelo je provere starosne dobi.
Meta je nedavno objavila nova ograničenja za AI chatbotove. Oni više neće smeti da razgovaraju sa tinejdžerima o samoubistvu, samopovređivanju i poremećajima u ishrani.
Kako prenosi BBC, američki senator pokrenuo je istragu nakon što su beleške iz procurilog internog dokumenta Mete otkrile da su njihovi AI proizvodi vodili „senzualne“ razgovore sa tinejdžerima.
