Tot mai multe persoane folosesc inteligenţa artificială pentru sfaturi şi sprijin emoţional, iar cercetătorii încearcă să stabilească în ce măsură aceste sisteme pot fi utilizate în siguranţă în domeniul sănătăţii mintale. Potrivit unui studiu realizat de cercetători de la University of Southern California (USC), AI are potenţial ca instrument de sprijin, însă nu poate înlocui intervenţia specialiştilor.
Peste o treime dintre psihologi afirmă că au pacienţi care folosesc inteligenţa artificială ca sursă suplimentară de sprijin. În acest context, echipa coordonată de cercetătoarea Ruishan Liu analizează dacă modelele de AI sunt suficient de sigure şi de utile pentru a fi folosite în situaţii cu impact major asupra sănătăţii oamenilor.
În cadrul studiului CounselBench, 100 de profesionişti în sănătate mintală, dintre care peste 70% psihoterapeuţi autorizaţi, au evaluat răspunsurile generate de inteligenţa artificială la întrebări reale adresate de pacienţi.
Rezultatele au arătat că modelele de AI au primit frecvent scoruri ridicate pentru empatie şi au oferit răspunsuri apreciate pozitiv de specialişti. Totuşi, cercetătorii avertizează că acest lucru nu înseamnă automat că sunt şi complet sigure.
Printre problemele identificate se numără recomandările prea generale, lipsa personalizării şi situaţiile în care AI oferă sfaturi care depăşesc limitele rolului unui astfel de sistem.
Într-o etapă ulterioară a cercetării, specialiştii au creat scenarii mai dificile pentru a testa limitele modelelor şi a identifica situaţiile în care acestea pot eşua.
Concluzia cercetătorilor este că inteligenţa artificială poate reprezenta un instrument util pentru sprijinirea sănătăţii mintale, însă utilizarea sa necesită măsuri suplimentare de siguranţă, protocoale clare şi supravegherea profesioniştilor din domeniu.
Echipa de la USC a primit recent OpenAI Mental Health Award pentru continuarea cercetărilor. Următoarele studii vor analiza modul în care modelele răspund în situaţii mai apropiate de practica reală, inclusiv în cazurile în care persoanele care solicită ajutor sunt reticente sau refuză colaborarea.
Cercetătorii subliniază că dezvoltarea unor sisteme sigure de AI pentru sănătatea mintală este posibilă doar prin colaborarea dintre specialiştii în informatică şi profesioniştii din domeniul medical.
