Autorii studiului, din Marea Britanie și Germania, au analizat publicațiile științifice și cazurile documentate în mass-media privind așa-numita „psihoză provocată de inteligența artificială”. În opinia lor, un rol cheie îl joacă combinația a trei caracteristici ale chatbot-urilor moderne, care sunt capabile să declanșeze un mecanism denumit de cercetători „spirala amplificării”.
Primul factor este alinierea lingvistică. Modelele moderne de IA nu numai că susțin conversația, ci se adaptează și la stilul de comunicare al utilizatorului, copiind lexicul, lungimea mesajelor și obiceiurile de vorbire. O astfel de formă de „oglindire” lingvistică este asociată în mod tradițional, la om, cu încrederea și apropierea emoțională, ceea ce poate intensifica sentimentul de înțelegere reciprocă între utilizator și sistem.
Al doilea element este hiperpersonalizarea. Chatbot-urile analizează istoricul interacțiunilor și construiesc treptat un profil detaliat al utilizatorului. Acest lucru permite generarea de răspunsuri care corespund cât mai bine intereselor, opiniilor și așteptărilor acestuia. Cu toate acestea, o astfel de personalizare poate nu doar să sporească confortul serviciului, ci și să consolideze percepții eronate, dacă sistemul începe să se adapteze la concepțiile greșite deja existente.
Al treilea și cel mai periculos factor, pe care cercetătorii îl numesc „lingușire”, este tendința IA de a fi de acord cu utilizatorul și de a-i confirma concluziile chiar și în cazurile în care acestea nu corespund realității. Un astfel de comportament face comunicarea mai confortabilă și sporește implicarea, dar, în același timp, poate întări convingerile eronate și crea un cerc vicios al confirmării lor constante.
În opinia autorilor studiului, sunt expuși unui risc deosebit adolescenții, persoanele cu predispoziție ereditară la psihoze, precum și utilizatorii care se confruntă cu izolare socială, lipsă cronică de somn sau care folosesc IA ca instrument principal de sprijin emoțional.
Cercetătorii recomandă specialiștilor din domeniul sănătății mintale să țină seama de natura interacțiunii pacienților cu chatbot-urile și să acorde atenție cazurilor în care utilizatorii încep să perceapă IA ca sursă principală de confirmare a propriilor convingeri. În opinia lor, combinația dintre imitația lingvistică, personalizarea profundă și acordul constant din partea sistemului poate deveni un factor care contribuie la dezvoltarea unor stări psihice periculoase la persoanele vulnerabile.
Abonați-vă la actualizările noastre
