Specialistul în ştiinţa calculatoarelor Yoshua Bengio, unul dintre cei trei aşa-zişi „naşi ai inteligenţei artificiale (A.I.)”, a lansat un avertisment sumbru despre posibilele efecte ale acestei tehnologii tot mai puternice, dar şi despre faptul că oamenii care o controlează pot fi la fel de periculoşi, relatează futuris.com, citat de Hotnews.ro.
Bengio, profesor la Universitatea Montreal şi şeful Institutului pentru Algoritmi de Învăţare din Montreal, a dezvăluit că are îngrijorări serioase cu privire la tehnologia pentru care a adus contribuţii importante, mergând până într-acolo în a spune că persoane „cu multă putere” ar putea chiar să dorească să vadă umanitatea înlocuită de maşinării.
„Este cu adevărat important să ne proiectăm într-un viitor în care avem maşinării care sunt la fel de deştepte ca noi din multe puncte de vedere, şi ce ar putea însemna asta pentru societate”, a declarat el într-un interviu acordat CNBC la summitul One Young World din Montreal, o conferinţă la care sunt invitaţi lideri tineri preocupaţi de abordarea problemelor cu care lumea se confruntă în prezent.
El a estimat, de asemenea, că maşinăriile ar putea avea în curând aceleaşi abilităţi cognitive ca şi oamenii, referindu-se la Inteligenţa Artificială Generală (A.G.I.), acea etapă preconizată din dezvoltarea A.I. în care ea ajunge la acelaşi nivel sau depăşeşte chiar cogniţia umană într-o serie largă de sarcini.
„Inteligenţa oferă putere. Deci cine va controla acea putere?”, a întrebat Bengio. „Să ai sisteme care cunosc mai multe decât majoritatea oamenilor poate fi periculos în mâinile greşite şi crea mai multă instabilitate la nivel geopolitic, de exemplu, sau cu terorismul”, a prognozat cercetătorul canadian.
Bengio avertizează că oamenii de ştiinţă nu ştiu cum să împiedice sistemele A.I. să facă rău oamenilor
Bengio a afirmat, de asemenea, că doar un număr limitat de organizaţii şi guverne îşi vor putea permite să construiască maşinării A.I. puternice şi că sistemele vor deveni tot mai inteligente, pe măsură ce cresc în dimensiune.
„Ştiţi, aceste maşinării costă miliarde să fie construite şi antrenate şi foarte puţine organizaţii şi foarte puţine ţări vor putea face asta. Deja vedem asta”, a subliniat Bengio.
„Va exista o concentrare de putere: putere economică, care ar putea fi rea pentru pieţe; putere politică, care ar putea fi rea pentru democraţie; şi putere militară, care ar putea fi rea pentru stabilitatea geopolitică a planetei noastre. Deci, avem multe întrebări deschise pe care trebuie să le studiem cu grijă şi pentru care trebuie să începem să luăm măsuri cât mai repede putem”, a mai avertizat cercetătorul în ştiinţa calculatoarelor.
Bengi a spus că astfel de rezultate sunt posibile în câteva decenii, „dar dacă vor fi în 5 ani, nu suntem pregătiţi (…) fiindcă nu avem metodele de a ne asigura că aceste sisteme nu vor face rău oamenilor sau nu se vor întoarce împotriva oamenilor”.
„Nu ştim cum să facem asta”, a subliniat el. Cercetătorul a spus de asemenea că există argumente care să sugereze că modul în care sunt instruite în prezent sistemele A.I. „ar duce la sisteme care se întorc împotriva oamenilor”.
Cercetătorul vorbeşte de persoane care ar putea avea de câştigat de pe urma înlocuirii majorităţii oamenilor cu maşinării
„În plus, există persoane care ar putea dori să abuzeze de această putere, şi există persoane care ar putea fi fericite să vadă umanitatea înlocuită de maşinării. Adică, este o posibilitate extremă, dar aceste persoane pot avea multă putere, iar ele o pot face dacă nu punem gardurile de protecţie potrivite chiar acum”, a mai spus acesta.
Comentariile sale vin după ce în luna iunie el şi-a exprimat sprijinul pentru o scrisoare numită „Un drept de a avertiza despre inteligenţa artificială avansată”. Scrisoarea deschisă a fost semnată de foşti şi actuali angajaţi ai OpenAI, compania tech care a creat popularul chatbot ChatGPT.
Scrisoarea a avertizat cu privire la „riscuri serioase” în ceea ce priveşte avansul înregistrat de tehnologia A.I. şi a cerut ca oamenii de ştiinţă, decidenţii guvernamentali, dar şi publicul, să contribuie la redactarea unor norme care să amelioreze pericolul.
Deşi ChatGPT s-a bucurat de o popularitate uriaşă în jurul lumii, compania din spatele său a provocat în ultimul timp îngrijorări tot mai mari legate de practicile sale de dezvoltare în condiţii de siguranţă a inteligenţei artificiale. Aceste îngrijorări doar s-au intensificat după ce OpenAI şi-a desfiinţat în luna octombrie echipa care să facă pregătiri pentru momentul în care Inteligenţa Artificială Generală va deveni o realitate.
Cine sunt cei 3 „Naşi ai A.I.”
„Primul lucru pe care guvernele trebuie să îl facă este să aibă reglementări care forţează [companiile] să se înregistreze când construiesc aceste sisteme de avangardă, care sunt cele mai mari, care costă sute de milioane de dolari să fie instruite. Guvernele trebuie să ştie unde se află ele şi specificaţiile acestor sisteme”, a mai declarat Yoshua Bengio pentru CNBC.
Yoshua Bengio a primit în 2018, alături de cercetătorii Yann LeCun şi Geoffrey Hinton, Premiul Turing pentru munca lor la tehnologia de învăţare profundă structurată („deep learning”), care face parte din familia metodelor de învăţare automatizată bazată pe reţele neuronale artificiale.
Cei 3 cercetători sunt numiţi colocvial „Naşii A.I.” sau „Naşii Deep learning”. Considerat „Premiul Nobel pentru informatică”, Premiul A. M. Turing este decernat anual „unei persoane alese pentru contribuţiile de natură tehnică aduse comunităţii informatice”, care „trebuie să aibă importanţă majoră de durată în domeniul informaticii”.
Premiul este numit după Alan Mathison Turing, matematicianul britanic care este considerat de mulţi oameni de ştiinţă a fi părintele informaticii teoretice şi inteligenţei artificiale.
LeCun, în prezent director ştiinţific la compania Meta, este un cunoscut critic al OpenAI. Hinton, unul din cei doi laureaţi ai Premiului Nobel pentru Fizică din 2024, şi-a dat demisia de la Google în 2023 pentru a trage un semnal de alarmă faţă de dezvoltarea necontrolată a sistemelor A.I.
