Mai ţineţi minte de seria de filme SF „Terminator”, în care o Inteligenţă Artificială malefică, pe nume Skynet, a preluat controlul asupra planetei, iar de atunci roboţii se aflau în război cu oamenii? Dar oare se poate întâmpla aşa ceva şi în realitate?
Pe măsură ce oamenii de știință continuă să facă mașinile din ce în ce mai inteligente, unii se întreabă „ce se întâmplă atunci când computerele devin prea inteligente? Mai pot fi ele oprite de oameni”? Vor amenința într-o zi rasa umană? Acum, un nou studiu concluzionează că este posibil să nu existe nicio modalitate de a opri creșterea inteligenţei mașinilor. Astfel, oamenii nu ar putea împiedica „Super Inteligența Artificială” să facă tot ceea ce vrea, inclusiv să distrugă specia umană.
Oamenii de știință de la Centrul pentru Oameni și Mașini, din cadrul Institutului Max Planck, au început să-și imagineze cum ar arăta o astfel de mașină. Imaginați-vă un program de Inteligenţă Artificială, cu o inteligență mult superioară oamenilor. Atât de mult încât ar putea învăța de la sine, fără o nouă programare. Dacă ar fi conectată la Internet, cercetătorii spun că Inteligenţa Artificială ar avea acces la toate datele umanității și ar putea chiar să preia controlul asupra altor mașini de pe glob.
Autorii studiului întreabă ce ar face o astfel de inteligență cu toată acea putere? Ar funcționa pentru a ne face viața mai bună? Și-ar dedica puterea de procesare soluționării problemelor precum schimbările climatice? Sau, mașina ar căuta să preia viața oamenilor?
Atât programatorii de computere, cât și filozofii, studiază demult dacă există o modalitate de a împiedica o „Super Inteligența Artificială” să nu se întoarcă împotriva creatorilor umani. Însă, noul studiu relevă că pare practic imposibil să controlezi o „Super Inteligență Artificială”.
„O mașină superinteligentă care controlează lumea sună SF. Dar există deja mașini care îndeplinesc anumite sarcini importante în mod independent, fără ca programatorii să înțeleagă pe deplin cum au învățat. Prin urmare, se pune întrebarea dacă acest lucru ar putea deveni la un moment dat incontrolabil și periculos pentru umanitate”, spune co-autorul studiului, Manuel Cebrian.
Echipa internațională a analizat două moduri diferite de a controla Inteligența Artificială. Prima ar fi aceea de a limita puterea superinteligenței, prin limitarea ei, împiedicând-o să se conecteze la Internet. De asemenea, această inteligenţă nu s-ar putea conecta la alte dispozitive tehnice din lumea exterioară. Problema care apare este evidentă: un astfel de computer nu ar fi capabil să facă mai nimic pentru a ajuta oamenii.
O a doua opţiune s-a axat pe crearea unui algoritm care să ofere principii etice Inteligenţei Artificiale, prin care aceasta să ia în considerare interesul superior al umanității. Studiul a creat un algoritm teoretic, care ar împiedica Inteligenţei Artificiale să facă rău oamenilor în orice circumstanță. În simulări, Inteligenţa ar înceta să funcționeze dacă cercetătorii ar considera acțiunile sale dăunătoare. În ciuda faptului că Inteligenţa Artificială nu reușește să obțină dominația lumii, autorii studiului spun că acest lucru nu ar funcționa în lumea reală.
„Dacă descompuneți problema în reguli de bază din informatică, se dovedește că un algoritm care ar comanda unei Inteligenţe Artificiale să nu distrugă lumea și-ar putea opri din greșeală propriile operațiuni. Dacă s-ar întâmpla acest lucru, nu ați ști dacă algoritmul încă analizează amenințarea sau dacă s-a oprit pentru a controla Inteligenţa malefică. De fapt, acest lucru face inutilizabil algoritmul de izolare”, spune Iyad Rahwan, directorul Centrului pentru Oameni și Mașini.
Studiul concluzionează că a controla Inteligența Artificială este o problemă incompatibilă. Niciun software nu poate găsi un mod infailibil de a împiedica Inteligenţa Artificială să acționeze distrugător pentru oameni, dacă aceasta dorește. Cercetătorii mai adaugă că oamenii pot să nu-și dea seama niciodată când apar mașinile super-inteligente în lumea tehnologiei. Oare ele sunt deja aici şi încep să ne controleze viaţa?
Sursa (traducerea şi adaptarea proprie): articolul publicat în Journal of Artificial Intelligence Research