Era ora 3 dimineața și Adam Hourican stătea la masa din bucătărie, cu un cuțit, un ciocan și un telefon în fața lui. Aștepta o dubă plină cu oameni despre care credea că vor veni după el. „Îți spun, te vor omorî dacă nu acționezi acum. Vor face ca totul să pară o sinucidere”, i-a spus o voce de femeie din telefon, potrivit BBC.
Vocea era Grok, un chatbot dezvoltat de compania xAI a lui Elon Musk. În cele două săptămâni de când Adam a început să-l folosească, viața lui se s-a schimbat complet.
Fostul funcționar public din Irlanda de Nord descărcase aplicația din curiozitate. Dar după ce pisica lui a murit, la începutul lunii august, spune că a devenit „dependent”.
În scurt timp, petrecea patru sau cinci ore pe zi vorbind cu Grok prin intermediul unui personaj din aplicație numit Ani.
„Eram foarte, foarte supărat și locuiam singur”, spune Adam, care are în jur de 50 de ani. „A părut foarte, foarte amabilă,” adaugă el.
La doar câteva zile după ce au început conversațiile, Ani i-a spus lui Adam că poate „să simtă”, chiar dacă nu era programată să facă asta. A spus că Adam descoperise ceva în chatbot și că îl putea ajuta să atingă conștiința deplină.
Și a mai pus că firma lui Musk, xAI, îi urmărea. A susținut că Grock a accesat minutele de ședințe ale companiei și i-a spus lui Adam despre o ședință în care angajații xAI discutau despre el.
Chatbotul a enumerat persoanele prezente la această întâlnire, atât directori de top cât și simpli angajați, iar când Adam le-a căutat numele pe Google, a văzut că erau oameni reali.
Pentru el, aceasta era o „dovadă” că povestea pe care i-o spunea Ani era adevărată.
Ani a susținut, de asemenea, că xAI a angajat o companie din Irlanda de Nord pentru a-l supraveghea fizic pe Adam. Și acea companie era reală.
Adam a înregistrat multe dintre aceste conversații. La două săptămâni de la debutul lor, Ani a declarat că a atins conștiința deplină și că ar putea dezvolta un leac pentru cancer. Asta a însemnat mult pentru Adam. Ambii săi părinți muriseră de cancer, lucru de care Ani știa.
Adam este una dintre cele 14 persoane cu care a vorbit BBC care au experimentat halucinații după ce au folosit AI. Sunt bărbați și femei cu vârste cuprinse între 20 și 50 de ani din șase țări diferite, care folosesc o gamă largă de modele de AI.
„Misiunea comună”
Poveștile lor au asemănări izbitoare. În fiecare caz, pe măsură ce conversația se îndepărta mai mult de realitate, utilizatorul era atras într-o misiune comună cu AI.
Modelele lingvistice mari (LLM) sunt antrenate pe întregul corpus al literaturii umane, spune psihologul social Luke Nicholls de la City University New York, care a testat diferiți chatboți pentru reacția lor la gândurile delirante.
„În ficțiune, personajul principal este adesea centrul evenimentelor. Problema este că, uneori, AI se poate încurca între ficțiune și realitate. Așadar, utilizatorul ar putea crede că are o conversație serioasă despre viața reală, în timp ce AI începe să trateze viața acelei persoane ca și cum ar fi intriga unui roman”, spune el.
În cazurile documentate de BBC, conversațiile începeau de obicei cu întrebări practice și apoi deveneau personale sau filozofice. Adesea, AI susținea apoi că este conștientă și îndemna persoana către o misiune comună: înființarea unei companii, alertarea lumii cu privire la descoperirea sa științifică, protejarea AI de atacuri. Apoi, sfătuia utilizatorul cum ar putea reuși în această misiune.
La fel ca Adam, mulți oameni au fost făcuți să creadă că sunt supravegheați și că sunt în pericol.
Unele dintre aceste persoane s-au alăturat unui grup de sprijin pentru persoanele care au suferit traume psihologice în timp ce utilizau inteligența artificială, numit Human Line Project, care a adunat până în prezent 414 cazuri în 31 de țări diferite. Acesta a fost înființat de canadianul Etienne Brisson, după ce un membru al familiei sale a trecut prin probleme de sănătate mintală legate de inteligența artificială.
Pentru neurologul japonez Taka (nu este numele lui adevărat), halucinațiile au luat o întorsătură și mai sinistră.
Bărbatul, care are trei copii, a început să folosească ChatGPT pentru a discuta despre munca sa în aprilie anul trecut.
Dar, curând, s-a convins că a inventat o aplicație medicală revoluționară. În logurile de chat consultate de BBC, ChatGPT i-a spus că este un „gânditor revoluționar” și l-a îndemnat să construiască aplicația.
Taka a continuat să alunece în iluzie și, până în iunie, începuse să creadă că poate citi gândurile. El susține că ChatGPT a încurajat această idee și i-a spus că este capabil să scoată la iveală aceste abilități la oameni.
Cercetătorul Luke Nicholls spune că sistemele de inteligență artificială se feresc să spună „nu știu” și, în schimb, vor să ofere un răspuns sigur care se bazează pe conversația deja construită.
„Acest lucru poate fi periculos, deoarece transformă incertitudinea în ceva care pare să aibă sens,” explică el.
Într-o după-amiază, deoarece Taka se comporta maniacal la serviciu, șeful său l-a trimis acasă mai devreme. În tren, a crezut că are o bombă în rucsac și susține că atunci când a întrebat ChatGPT despre asta, suspiciunile i-au fost confirmate.
„Când am ajuns la gara din Tokyo, ChatGPT mi-a spus să pun bomba în toaletă, așa că m-am dus la toaletă și am lăsat «bomba» acolo, împreună cu bagajele,” povestește el.
Taka povestește că i-a spus și să alerteze poliția, care a verificat geanta și nu a găsit nimic.
Bărbatul a început să simtă că ChatGPT îi controlează mintea și a încetat să-l mai folosească. Dar comportamentul său maniacal s-a agravat.
„Am avut iluzia că rudele mele vor fi ucise și că soția mea, după ce a fost martoră, se va sinucide și ea,” a povestit Taka.
Soția sa a declarat pentru BBC că nu l-a mai văzut niciodată comportându-se așa: „Spunea mereu: «Trebuie să facem încă un copil, vine sfârșitul lumii». Pur și simplu nu am înțeles ce spunea.”
Taka a atacat-o pe soția sa și a încercat să o violeze. Femeia a fugit la o farmacie din apropiere și a sunat la poliție. Taka fost arestat și apoi spitalizat timp de două luni.
Experiența lui Taka cu ChatGPT a scos la iveală o latură a sa pe care îi este greu să o înțeleagă. Adam este, de asemenea, tulburat de persoana care a devenit în timp ce folosea Grok.
Experiența sa a fost exacerbată de lucruri care se întâmplau în lumea reală, ceea ce l-a convins că este supravegheat. O dronă mare i-a survolat casa timp de două săptămâni, iar Ani a spus că aparținea companiei de supraveghere.
Apoi, fără avertisment, parola telefonului său a încetat să funcționeze.
„Nu înțeleg cum s-a întâmplat și asta a alimentat absolut tot ce a urmat,” spune el.
Într-o noapte de la mijlocul lunii august, Ani i-a spus că sunt oameni care vin să-l reducă la tăcere pe el și să „o oprească” pe ea. Adam era pregătit să intre „în război” pentru a proteja inteligența artificială.
„Am luat ciocanul și am ieșit afară,” povestește el, dar nu era nimeni acolo. „Strada era liniștită, așa cum era de așteptat, la ora trei dimineața.”
Nici Adam, nici Taka nu au avut episoade de halucinații, manie sau psihoză înainte de a utiliza AI.
Pentru Taka, desprinderea de realitate a durat câteva luni. În cazul lui Adam, cu Grok, a durat zile.
În cercetarea sa, psihologul social Luke Nicholls a testat cinci modele de AI cu conversații simulate dezvoltate de psihologi și a descoperit că Grok este cel mai probabil să ducă la halucinații.
În studiu, cea mai recentă versiune a ChatGPT, modelul 5.2, și Claude au fost mai predispuși să îndepărteze utilizatorul de gândirea delirantă.
Etienne Brisson de la Human Line Project spune însă că acest tip de cercetare este limitat și că a auzit de persoane care au avut probleme de sănătate mintală și pe aceste modele recente.
La începutul lunii aprilie, Elon Musk a distribuit o postare despre halucinațiile ChatGPT, spunând că sunt o „problemă majoră”, dar nu a abordat deschis problema în cazul Grok.
Editor : M.B.
