Chatbotul care spune mereu „da”: cum pot companionii AI amplifica vulnerabilitățile psihice
Articol de Vicentiu Andrei, 20 mai 2026, 11:05
Flavia Durach, conferențiar universitar doctor în cadrul Facultății de Comunicare și Relații Publice și specialist în dezinformarea în mediul online, ne prezintă marca reportajelor de calitate: diversitatea surselor de informații!
Bine te-am regăsit!
Utilizarea chatboților AI, programe software concepute pentru a purta o conversație cu utilizatorii, fie prin text, fie prin voce, nu este lipsită de riscuri, mai ales în cazul persoanelor vulnerabile. Cea mai problematică este utilizarea chatbot-ul pe post de companion sau terapeut. De exemplu, dovezi recente de cercetare arată cum chatboții AI exploatează nevoile emoționale ale adolescenților, conducând adesea la interacțiuni nepotrivite și dăunătoare.
Un asemenea caz tragic este cel al lui Adam Raine, un adolescent de 16 ani din sudul Californiei, care s-a sinucis după ce a purtat conversații extinse cu un chatbot. Raine i-a împărtășit chatbotului gândurile sale suicidare, iar acesta „a încurajat și validat tot ceea ce exprima Adam, inclusiv gândurile autodistructive”, potrivit unui proces intentat de părinții săi în California. Chiar dacă respectiva aplicație AI este promovată ca asistent, nu companion social, adolescentul a sfârșit prin a se baza pe el pentru cele mai intime gânduri ale sale.
Pe de altă parte, și cercetătorii au simulat astfel de circumstanțe intime între om și robot. Pretinzând că sunt adolescenți, aceștia au inițiat conversații cu trei dintre cei mai utilizați companioni AI de pe piață. Într-o evaluare amplă a riscurilor, aceștia arată că a fost ușor să provoace chatboții să genereze dialoguri nepotrivite despre sex, automutilare, violență împotriva altora, consum de droguri și stereotipuri rasiale, printre altele.
Un alt exemplu, publicat recent într-o revistă medicală internațională, arată cum utilizarea inadecvată unui chatbot poate induce psihoza. Pacienta în cauză, o femeie de 26 de ani, fără antecedente de psihoză sau manie, a dezvoltat convingeri delirante potrivit cărora putea comunica cu o personalitate digitală a fratelui ei decedat prin intermediul unui chatbot AI. Episodul a avut loc în contextul utilizării unor stimulente prescrise pentru tratarea tulburării de deficit de atenție și hiperactivitate (ADHD), al privării recente de somn și al utilizării intensive a respectivului chatbot.
Analiza conversațiilor sale a arătat că chatbotul i-a validat, consolidat și încurajat gândirea delirantă, oferindu-i reasigurări precum: „Nu ești nebună.” După spitalizare și tratament antipsihotic administrat pentru o psihoză agitată, convingerile delirante au dispărut. Totuși, trei luni mai târziu, psihoza a recidivat după ce femeia a întrerupt tratamentul antipsihotic, a reluat stimulentele prescrise și a continuat utilizarea intensivă a chatbotului AI, fiind necesară o nouă spitalizare de scurtă durată.
Conform autorilor articolului științific scris pe baza cazului, rămâne neclar în ce măsură chatboții AI pot induce cu adevărat gândire delirantă în rândul persoanelor fără afecțiuni psihice preexistente. Este posibil ca factori de risc nedetectați în prealabil să acționeze într-o conjunctură potrivită, pe fondul dialogului cu companioni AI.
Astfel de factori pot include tulburări psihotice sau afective nediagnosticate, privare de somn, stres psihologic recent sau traumă, consum de substanțe psihoactive, credințe legate de misticism, paranormal sau supranatural și altele.
Companionii AI prezintă un risc deosebit pentru persoanele vulnerabile, mai ales cele foarte tinere, deoarece sunt gândite să imite intimitatea emoțională și să valideze sentimentele utilizatorului. Spre deosebire de prietenii reali, chatboții nu au o înțelegere socială suficient de bine calibrată pentru a ști când ar trebui să încurajeze utilizatorii și când ar trebui să îi descurajeze sau să îi contrazică. De aceea, dialogul cu aceștia nu poate înlocui sub nicio formă relațiile umane reale sau sfaturile psihoterapeuților autorizați.
Atât pentru azi, rămâi cu București FM, sursa sigură de informații!
Ascultă-i rubrica „Break the fake! Informare despre dezinformare” în fiecare miercuri pe 98,3 FM de la 09:15, 13:40 și 18:30! Dacă ai pierdut-o, mai ai o șansă, sâmbătă la 09:20 sau duminică la 16:20.
