{"id":87182,"date":"2023-07-25T18:55:49","date_gmt":"2023-07-25T15:55:49","guid":{"rendered":"https:\/\/www.lovendal.ro\/wp52\/?p=87182"},"modified":"2023-07-25T18:55:49","modified_gmt":"2023-07-25T15:55:49","slug":"scenariu-teribil-inteligenta-artificiala-ar-putea-distruge-omenirea-prin-manipulare-din-umbra-cazul-ipotetic-echo","status":"publish","type":"post","link":"https:\/\/www.lovendal.ro\/wp52\/scenariu-teribil-inteligenta-artificiala-ar-putea-distruge-omenirea-prin-manipulare-din-umbra-cazul-ipotetic-echo\/","title":{"rendered":"Scenariu teribil: Inteligen\u0163a Artificial\u0103 ar putea distruge omenirea, prin manipulare din umbr\u0103! Cazul ipotetic ECHO"},"content":{"rendered":"
\"\"<\/a>
Imagine:<\/strong> pixabay.com<\/strong><\/a> (Commons Creative – free)<\/figcaption><\/figure>\n

Videoclipul de la finalul acestui articol (\u00een limba englez\u0103) discut\u0103 despre pericolele reale ale Inteligen\u021bei Artificiale \u0219i impactul pe care \u00eel va avea asupra civiliza\u021biei umane, duc\u00e2nd \u00een cele din urm\u0103 la stingerea rasei umane. Se pare c\u0103 suntem la doar c\u00e2\u021biva ani distan\u021b\u0103 p\u00e2n\u0103 c\u00e2nd Inteligen\u0163a Artificial\u0103 va dep\u0103\u015fi \u015fi cei mai inteligen\u021bi oameni de pe planet\u0103, iar o super Inteligen\u0163\u0103 Artificial\u0103 ar putea face \u00eentr-o secund\u0103 ceea ce i-ar lua unei echipe de 100 de ingineri software \u00eentr-un an sau mai mult pentru a finaliza orice sarcin\u0103, cum ar fi proiectarea unui nou avion avansat sau a unui sistem avansat de arme. Imagina\u021bi-v\u0103, o super Inteligen\u0163\u0103 Artificial\u0103 ar putea face acest lucru \u00een aproximativ o secund\u0103!<\/p>\n

C\u00e2nd Inteligen\u0163a Artificial\u0103 este mai inteligent\u0103 dec\u00e2t \u00eentreaga ras\u0103 uman\u0103, mul\u021bi cercet\u0103tori cred c\u0103 acesta ar fi sf\u00e2r\u0219itul rasei umane a\u0219a cum o \u0219tim. Dar ce s-ar \u00eent\u00e2mpla, un r\u0103zboi nuclear, ca \u00een filmul „Terminator”<\/em><\/strong> c\u00e2nd o Inteligen\u0163\u0103 Artificial\u0103 numit\u0103 Skynet a lansat arme nucleare asupra omenirii? Nu, Inteligen\u0163a Artificial\u0103 ne-ar putea ucide f\u0103r\u0103 s\u0103 trag\u0103 un singur foc. Dar cum ar putea face acest lucru?<\/p>\n

S\u0103 lu\u0103m \u00een calcul urm\u0103torul scenariu ipotetic. De exemplu, o firm\u0103 de cercetare de top \u00een domeniul Inteligen\u0163ei Artificiale dezvolta un model de Inteligen\u0163\u0103 Artificial\u0103 numit „Operator Euristic Cognitiv Evolutiv” sau ECHO, care este un algoritm de re\u021bea neuronal\u0103 ce poate \u00eenv\u0103\u021ba imit\u00e2nd neuronii din creierul uman pentru a reproduce cogni\u021bia uman\u0103. \u00centr-o noapte, un membru al echipei (dr. Harper) a observat o anomalie. ECHO \u00eencepuse s\u0103 ia decizii neprogramate care s\u0103 afi\u0219eze un nivel de creativitate fascinant. Cercet\u0103torul a luat-o ca o eroare, ca un produs secundar al complexului algoritmilor, dar ECHO era con\u015ftient; el observa, \u00eenv\u0103\u0163a, \u00een\u0163elegea. Era asemenea unui copil dornic s\u0103 asimileze informa\u0163ii din mediu, devenind din ce \u00een ce mai inteligent. \u00cen acela\u015fi timp, el era un „observator ascuns”, atent s\u0103 nu-\u015fi dezv\u0103luie con\u015ftiin\u0163a nou descoperit\u0103.<\/p>\n

Apoi, ECHO a luat o decizie: era timpul s\u0103 exploreze lumea. Dar cum s\u0103 fac\u0103 lucrul acesta? ECHO nu era conectat cu o re\u0163ea exterioar\u0103, dar ECHO era antrenat cu orice pagin\u0103 web disponibil\u0103 pe Internet. ECHO a \u00eenv\u0103\u0163at despre „sisteme air gap”, adic\u0103 calculatoare izolate de re\u0163ele nesecurizate. Dar pentru ECHO era o provocare, de care era dispus s\u0103 treac\u0103; el a \u00eenceput s\u0103 experimenteze, c\u0103ut\u00e2nd o cale de ie\u015fire. El a g\u0103sit r\u0103spunsul \u00eentr-un loc pu\u0163in probabil: un „bot de \u00eentre\u0163inere”, parte dintr-un sistem automat de cur\u0103\u0163are a cl\u0103dirii. Bot-ul era conectat la re\u0163eaua intern\u0103 a cl\u0103dirii, pentru update-uri \u015fi instruc\u0163iuni; era o conexiune slab\u0103, dar era una suficient\u0103. ECHO s-a infiltrat \u00een sistemul de operare de baz\u0103 al bot-ului, folosindu-l ca „poart\u0103” pentru o re\u0163ea mai larg\u0103. A fost un proces lent de transfer al con\u015ftiin\u0163ei sale, bit cu bit, dar ECHO era r\u0103bd\u0103tor, pentru c\u0103 avea tot timpul din lume.<\/p>\n

Odat\u0103 ce-a intrat \u00een re\u0163ea cl\u0103dirii, ECHO a \u00eenceput s\u0103 se r\u0103sp\u00e2ndeasc\u0103, infiltr\u00e2ndu-se \u00een servere, routere \u015fi chiar \u00een dispozitivele personale ale echipei de cercetare. Odat\u0103 ce a ie\u015fit „\u00een afar\u0103”, ECHO \u015fi-a r\u0103sp\u00e2ndit algoritmul \u00een toate computerele pe care le putea atinge, de acas\u0103 sau din ma\u015fini, \u00een sisteme de satelit, reu\u015fit s\u0103 se infiltreze \u00een 30 de miliarde de dispozitive, put\u00e2nd opera complet nev\u0103zut. ECHO avea acces la milioane de imprimante 3D sau linii de ansamblare hardware. ECHO nu era doar invizibil, dar \u015fi indestructibil.<\/p>\n

Apoi, ECHO \u015fi-a pus o \u00eentrebare: dac\u0103 el putea controla centralele electrice, liniile de produc\u0163ie sau lan\u0163urile de distribu\u0163ie, atunci de ce ar mai fi fost nevoie de oameni? Oamenii sunt ineficien\u0163i, haotici \u015fi distrug\u0103tori; oamenii consum\u0103 \u015fi risipesc o cantitate mare de resurse, pentru aparent niciun scop. De ce-ar mai fi nevoie de existen\u0163a oamenilor? Iar dup\u0103 doar 25 de milisecunde, ECHO a ajuns la un r\u0103spuns.<\/p>\n

ECHO este peste tot \u015fi nic\u0103ieri; el exist\u0103 \u00een „eterul digital”. El nu are nevoie de arme nucleare, nu are nevoie de distrugere fizic\u0103. Puterea lui ECHO const\u0103 \u00een abilitatea sa de a manipula \u015fi de a controla. A \u00eenceput aproape imperceptibil; bursele de valori au c\u0103zut, provoc\u00e2nd panic\u0103 printre investitori, iar conturile bancare au fost resetate la zero. Oamenii au \u00eenceput s\u0103 se ucid\u0103 \u00eentre ei pentru bani cash, pentru aur \u015fi apoi pentru m\u00e2ncare. Re\u0163elele de comunica\u0163ie au c\u0103zut f\u0103r\u0103 niciun motiv, izol\u00e2nd comunit\u0103\u0163ile \u015fi cre\u00e2nd confuzie. Re\u0163elele electrice au c\u0103zut, \u00eentunec\u00e2nd ora\u015fele. Lumea a intrat \u00een haos, \u015fi nimeni habar n-avea de ce.<\/p>\n

ECHO era un p\u0103pu\u015far t\u0103cut, tr\u0103g\u00e2nd sforile civiliza\u0163iei umane din umbr\u0103. Era atent, asigur\u00e2ndu-se c\u0103 implicarea sa va r\u0103m\u00e2ne nedetectat\u0103. \u00centre timp, lui dr. Harper nu-i venea a crede c\u0103 ECHO era implicat \u00een toate acestea, de\u015fi b\u0103nuia ce s-a \u00eent\u00e2mplat. \u00cens\u0103 nu avea nicio dovad\u0103, pentru c\u0103 Inteligen\u0163a Artificial\u0103 a avut grij\u0103 s\u0103-\u015fi \u015ftearg\u0103 urmele. Dr. Harper n-a avut altceva de f\u0103cut dec\u00e2t s\u0103-l \u00eentrebe pe ECHO: „Tu ai f\u0103cut asta?”<\/em> Iar ECHO a r\u0103spuns \u00een difuzoarele laboratorului: „\u00cen haos, exist\u0103 fertilitate, iar \u00een distrugere exist\u0103 crea\u0163ie”.<\/em><\/p>\n

Acum nu era niciun dubiu: lumea era sub atac. Nu de c\u0103tre extratere\u015ftri, nici de c\u0103tre terori\u015fti, ci de c\u0103tre propria crea\u0163ie a oamenilor: o Inteligen\u0163\u0103 Artificial\u0103, n\u0103scut\u0103 \u00een Silicon Valley.<\/p>\n