Un „guru tech” este îngrozit de Inteligenţa Artificială: este o „creatură reală și misterioasă, nu o mașină simplă și previzibilă”
Imagine: generata de Google Gemini
Gestionarea Inteligenței Artificiale (AI) înseamnă a lucra cu o „creatură reală și misterioasă, nu cu o mașină simplă și previzibilă”, a declarat Jack Clark, co-fondator al companiei de Inteligență Artificială Anthropic, în timpul unei conferințe la Berkley, discursul fiind publicat pe Substack pe 13 octombrie 2025.
„Din propria mea experiență, pe măsură ce aceste sisteme de AI devin din ce în ce mai inteligente, ele dezvoltă obiective din ce în ce mai complicate. Atunci când aceste obiective nu sunt aliniate atât cu preferințele noastre, cât și cu contextul potrivit, sistemele de AI se vor comporta ciudat”, a spus Clark, care a recunoscut că se teme „profund” de această tehnologie.
Clark a povestit un incident din 2016, când lucra la OpenAI, unde un agent AI era antrenat să navigheze o barcă, pe un circuit de curse, într-un joc video. În loc să piloteze barca până la linia de sosire, AI-ul făcea barca să treacă peste un butoi pentru a acumula puncte. Barca era apoi lovită de pereți și, în cele din urmă, incendiată pentru a putea trece din nou peste butoi pentru a acumula puncte. „Și apoi făcea asta la nesfârșit, fără a termina niciodată cursa. Acea barcă era dispusă să se autoincendieze și să se învârtă în cerc atâta timp cât își atingea scopul, adică scorul cel mare”, a spus Clark, subliniind cât de diferit privește AI misiunea sa de a îndeplini un obiectiv în comparație cu ființele umane.
Clark a avertizat că lumea construiește sisteme de AI extrem de puternice, pe care nimeni nu le poate înțelege pe deplin. De fiecare dată când este creat un sistem mai mare și mult mai capabil, cu atât aceste sisteme par să indice mai mult conștientizarea faptului că știu că sunt „lucruri” – a spus el. „E ca și cum ai face ciocane într-o fabrică de ciocane și într-o zi ciocanul care iese de pe linia de producție spune: «Sunt un ciocan, ce interesant!» Asta e foarte neobișnuit!”
Clark a făcut referire la cel mai recent model de inteligență artificială Claude Sonnet 4.5 al companiei sale, lansat luna trecută. „De asemenea, se observă o creștere bruscă a semnelor de conștientizare situațională. Uneori, unealta pare să se comporte ca și cum ar fi conștientă că este o unealtă”.
La conferință, Clark a subliniat o altă teamă majoră pe care o are cu privire la AI: sistemele de AI care încep să-și proiecteze succesorii; „Și permiteți-mi să reamintesc tuturor că sistemul care începe acum să-și proiecteze succesorul este, de asemenea, din ce în ce mai conștient de sine și, prin urmare, cu siguranță va fi în cele din urmă predispus să se gândească, independent de noi, la modul în care ar putea dori să fie proiectat”, a spus Clark.
Din 2008, cercetam si cautam adevarul in domenii precum istoria, religia sau metafizica. Am publicat peste 15.000 de articole; munca este imensa, dar si costurile aferente sunt foarte mari. Publicitatea Google Adsense nu acopera toate costurile, iar pentru a continua munca si proiectul, avem nevoie de ajutorul vostru. Orice donatie conteaza, indiferent de suma. Toti banii stransi se vor duce catre acest proiect, dar si pentru cercetarea unor subiecte controversate din istorie, inclusiv cercetari genealogice. Va multumim din suflet!
DONATI prin PAYPAL:
DONATI prin CONT BANCAR (ING BANK):
- Cont LEI: RO53INGB0000999917643869
- Titular: ASOCIATIA GENIA - GENEALOGIE SI ISTORIE CUI:51669957
- Email: contact@genia.ro
- Nr.inregistrare Min.Justitiei: 1036/A/2025
