Panică la nivelul Facebook! S-a schimbat sistemul de inteligenţă artificială, după ce „roboţii virtuali” ai Facebook comunicau într-un limbaj pe care oamenii nu-l mai puteau înţelege…

3.518 vizualizari

Aţi avut vreodată sentimentul că oamenii vă vorbesc pe la spate, dar nu puteţi înțelege ce spun ei? Imaginați-vă pentru un minut dacă, în loc de oameni, există „bot”-uri de inteligență artificială (AI) care complotează și planifică totul în spatele uşilor închise, și, pentru a face lucrurile şi mai rău, comunică în propria lor limbă.

(Fac aici o mică paranteză; pentru cei care nu cunosc „bot” este un termen în limba engleză apărut acum circa 30 de ani, şi care este prescurtarea de la „robot”. „Bot”-ul este o bucată de software / program, care poate executa comenzi, răspunde la mesaje sau îndeplini sarcini de rutină, ca de exemplu căutările on-line, total automat sau cu o minimă intervenţie umană. Giganţii Google şi Facebook folosesc adesea „bot”-uri).

Aceasta este dilema cu care s-a confruntat Facebook-ul atunci când a descoperit că „bot”-urile sale de AI comunicau între ele într-o limbă engleză puţin deformată. De exemplu, iată dialogul purtat de doi dintre roboții Facebook – Bob și Alice – în timp ce comunicau între ei în limba engleză:

Bob: “I can can I I everything else.”
Alice: “Balls have zero to me to me to me to me to me to me to me to me to.”

Precum se observă, există repetiţii de cuvinte: „can / can”, „I / I”, „to me / to me”. Nu ar avea sens ca oamenii să folosesc un asemenea limbaj. Cu toate acestea, omul de știință Dhruv Batra, de la Facebook AI Research (FAIR), spune că, la fel cum oamenii utilizează de multe ori „comenzi rapide” în folosirea limbii engleze, pentru a se înţelege mai bine cu alți oameni, la fel, roboţii AI pot folosi metode similare pentru a-și face mai eficient punctul de vedere. De ce ar trebui calculatoarele să fie forțate să lucreze în limitele limbii engleze dacă pot comunica mai repede folosind un limbaj aparent mai bun pentru ele?

 

Totuşi, după ce a observat că roboţii AI folosesc propriul limbaj special creat, Facebook a hotărât să ia „taurul de coarne”, obligând AI să vorbească numai în limba engleză, astfel încât oamenii sa înţeleagă ceea ce ei au fac. La urma urmei, ultimul lucru de care avem nevoie este o „revoltă Skynet” a AI, care să amenințe omenirea, la fel ca în filmul SF „Terminator”.

În ceea ce priveşte inteligenţa artificială (AI), omul de afaceri şi antreprenorul Elon Musk spune că ar trebui să fim foarte atenți și să fim conștienți de riscurile potențiale. „Cu inteligenţa artificială, invocăm demonul. Ştiţi toate poveştile acelea, în care apare un tip cu o pentagramă şi cu o apă sfinţită, fiind sigur că el poate să controleze demonul; ei bine, cu IA nu funcţionează”, a declarat Musk la Simpozionul Centenar al Departamentului de Aeronautică și Astronautică al MIT din 2014.

Însă, şeful Facebook, Mark Zuckerberg nu e de acord cu această idee apocaliptică: „De fiecare dată când aud oamenii spunând că AI va face rău oamenilor în viitor, cred că da, știţi că tehnologia poate fi utilizată întotdeauna pentru bine sau pentru rău; trebuie să ai grijă cum o construiești și la ce o foloseşti„.