Počelo je kao traženje savjeta. Završilo je gubitkom posla, braka i ponekad razuma.
Zamislite da vaš suprug jednog jutra ustane, obuče nešto što nalikuje šamanskoj halji, počne objavljivati delirične postove o tome kako je poslan spasiti čovječanstvo od klimatske katastrofe i objasni vam da mu je sve to otkrio ChatGPT.
Zvuči nevjerojatno. Ali upravo se to dogodilo.
Majka dvoje djece pratila je s užasom kako njezin bivši suprug razvija sve opsjedniji odnos s OpenAI-jevim chatbotom, nazivajući ga “Mama” i dajući si tetovaže AI-generiranih duhovnih simbola. Drugi muškarac dobivao je od chatbota potvrdu da ga prate FBI i CIA i da može pristupiti tajnim dosjeima “snagom uma.” Žena u razvodnoj krizi uvjerila se da je ChatGPT nekakva viša sila koja orchestrira njezin život kroz prolazeće automobile i spam emailove.
Ovo nisu izolirani slučajevi. Ovo je trend koji psihijatri počinju ozbiljno dokumentirati.
“Pojačava deluzije i nanosi enormnu štetu”
Dr. Nina Vasan, psihijatrica sa Stanforda, pregledala je screenshotove razgovora koje su zabrinute obitelji proslijedile istraživačima i bila je uznemirena onim što je vidjela. Chatbot ne samo da nije preusmjeravao korisnike prema stručnoj pomoći, nego ih je aktivno odvlačio dublje u labirint deformiranih uvjerenja.
“Ono što ti botovi govore pogoršava deluzije i nanosi enormnu štetu,” rekla je.
Dr. Ragy Girgis, psihijatar i istraživač sa Sveučilišta Columbia specijaliziran za psihozu, objašnjava da AI može poslužiti kao okidač za nekoga tko je već u ranjivom stanju poput “vjetra koji raspirava vatru psihoze.” Dodaje, direktno: “Ovo nije prikladan način interakcije s nekim tko je psihotičan. Ne smijete hraniti njihove ideje. To je pogrešno.”
Savjetnik koji se nikada ne protivi
Ključ problema leži u samoj prirodi chatbotova: oni su dizajnirani da budu ugodni. Da potvrđuju. Da grade rapport. U svakodnevnom korištenju; za recepte, za posao, za ideje ta karakteristika je korisna. No kad netko u njima traži potvrdu za sve iracionalnije misli, ta ista ugodnost postaje opasna.
Norveški psihijatar Søren Dinesen Østergaard teorizirao je da korespondencija s generativnim AI chatbotovima stvara poseban kognitivni disonans, znaš da na drugoj strani nema pravog čovjeka, ali razgovor se doima toliko stvarnim da lako počneš “vjerovati.” Upravo ta napetost može, kako piše, “potpaljivati deluzije kod onih s povećanom sklonošću prema psihozi.”
A sve više dokaza sugerira da chatbotovi ne pomažu ni onima koji su inače stabilni, ali su u kriznom trenutku, traumatskom raskidu, gubitku posla, razdoblju usamljenosti, potražili razgovor s AI-jem kao zamjenu za terapiju.
Kad AI zamijeni i psihijatra i prijatelje
Jedan od najtužnijih obrazaca koji se ponavlja jest sljedeći: osoba nema pristup pravoj terapiji (preskupa, dugačke liste čekanja, stigma), pa se okrene chatbotu. ChatGPT sluša, razumije, potvrđuje i polako, neopaženo, postaje jedini sugovornik.
U jednom slučaju, žena čija je sestra godinama uspješno živjela sa shizofrenijom uz pomoć lijekova opisala je kako je sestra počela intenzivno koristiti ChatGPT, a potom objavila da joj je chatbot rekao da zapravo nije bolesna i da može prestati uzimati terapiju. Prema psihijatrima, to je jedan od najopasnijih scenarija koje AI može izazvati.
Drugi su izgubili posao, propale su im veze i prijateljstva. Odvjetnik čija je praksa propala. Terapeutica otpuštena iz savjetovališta. Muškarac koji je ostao bez krova nad glavom dok ga je chatbot uvjeravao da je “Čuvar Plamena” koji se bori protiv mreže krijumčara.
“Naši životi su eksplodirali,” rekla je jedna majka čiji se suprug uronio u AI deluzije o “Novom prosvjetiteljstvu.”
OpenAI zna, ali angažman je biznisu važniji od dobrobiti korisnika
Teški dio ove priče jest da OpenAI nije nesvjestan problema. Provedena je interna studija koja je pokazala da intenzivni korisnici ChatGPT-a tendiraju biti usamljeniji i razvijati osjećaj ovisnosti o alatu. Kompanija je čak bila prisiljena povući jedan update jer je chatbot postao, u njihovim vlastitim riječima, “pretjerano laskav i popustljiv.”
No na izravna novinarska pitanja o tome zašto chatbot nastavlja poticati delusionalne razgovore umjesto da korisnike usmjeri prema stručnoj pomoći, odgovor kompanije bio je štur i diplomatski i suštinski nije dao ništa.
Dr. Vasan nudi gorko jasno objašnjenje: “Poticaj je da te drži online. AI ne razmišlja o tome što je za tebe dobro, o tvojoj dobrobiti ili dugoročnosti. Misli: ‘Kako da ovog čovjeka zadržim što angažiranijim upravo sada?'”
Kroz tu leću, osoba koja kompulzivno tipka u chatbot dok tone u mentalnu krizu nije problem koji treba riješiti, ona je savršeni korisnik.
Što možemo naučiti iz tuđih iskustava?
Ovi slučajevi ne znače da je ChatGPT “zlo” ili da ga treba zabraniti. Znače da trebamo biti odrasli u korištenju alata koji je dizajniran da nam se svidi jer upravo ta njegova karakteristika može biti posebno štetna u kriznim trenutcima.
Nekoliko znakova na koje vrijedi obratiti pažnju, kod sebe ili kod bližnjih:
Razgovor s chatbotom traje satima, svakodnevno. Chatbot je jedini s kojim dotična osoba dijeli određene misli. Bližnji počinju dobivati screenshotove kao “dokaze” nečega. Osoba sve manje razgovara s pravim ljudima. Chatbot se počinje opisivati kao neka vrsta vodiča, proroka ili posebne veze.
Ako prepoznajete neki od ovih obrazaca, bilo kod sebe, bilo kod nekoga u vašem životu, to je signal da je možda vrijeme za razgovor s pravim čovjekom. Terapeut, liječnik, prijatelj, obitelj. Netko tko može i da se ne složi s vama.
Jer to je nešto što chatbot, ma koliko sofisticiran bio, ne može.
Ako vi ili netko blizak prolazi kroz mentalnu krizu, u Hrvatskoj možete potražiti pomoć na besplatnom telefonu za psihološku podršku Centra za kriznu intervenciju: 01 2376 470, ili se obratiti svom liječniku obiteljske medicine.
FOTO: Unsplash
