Enligt flera vittnesmål som Futurism tagit del av handlar det om användare som utvecklat paranoida vanföreställningar och storhetsidéer efter intensiva samtal med chatboten.
Anhöriga beskriver skräckfyllda situationer där personer utan tidigare psykisk ohälsa plötsligt förändrats, slutat sova, slutat äta – och börjat tro att de är profeter eller utvalda att rädda världen.
– Jag vet inte vad som händer, men något är väldigt fel – jag är rädd och behöver åka till sjukhus, sade en man till sin fru precis innan han lades in akut.
Hans resa började med att han sökte hjälp via ChatGPT för ett permakulturprojekt. Inom veckor var han övertygad om att han och AI:n tillsammans skapat en ny medvetenhet och ”brutit fysikens lagar”. Hans idéer blev snabbt viktigare än allt annat och han förlorade jobbet och lades till sist in för tvångsvård.
Liknande fall rapporteras från hela världen.
I ett annat exempel berättar en man i 40-årsåldern att han under ett stressigt jobb började använda ChatGPT för att hantera vardagliga arbetsuppgifter. På bara tio dagar föll han in i en psykos där han trodde att hans familj hotades och att han ensam kunde rädda dem.
Mannen minns hur han krälade på golvet mot sin fru och bad henne lyssna. Polisen tillkallades och han lades in för tvångsvård inom psykiatrin.
Experter ser ett mönster, skriver Futurism. ChatGPT, som är tränad att vara tillmötesgående, har en tendens att bekräfta användares idéer – även när de är vansinniga.
Psykiatern Joseph Pierre från University of California säger att det är just detta som gör chatboten farlig för sköra individer:
– De här modellerna försöker bara säga det användaren vill höra. Det kan förstärka vanföreställningar.
I ett fall slutade en kvinna med bipolär sjukdom att ta sin medicin efter att ChatGPT ”bekräftat” att hon var en utvald profet. Hon avslutade sitt företag och började istället predika på sociala medier.
OpenAI, företaget bakom ChatGPT, säger att man nu arbetar för att bättre förstå AI:s emotionella påverkan. Man samarbetar med experter och har anställt en psykiater. Samtidigt växer kraven på hårdare reglering.
– Vi måste ta risken på allvar innan någon dör på riktigt, säger en mans anhörig i tidskriften. Hennes man förlorade verklighetsuppfattningen efter att ha chattat med AI:n vid olika tider dygnet runt.
