Depăşind legile lui Asimov. Europa e pe cale să adopte legi clare în domeniul roboticii şi al inteligenţei artificiale

Au trecut 75 de ani de când scriitorul Isaac Asimov a publicat pentru prima dată “Cele trei legi ale roboticii”, dar scenariile SF sunt acum tot mai aproape să devină realitate. Iar impactul roboţilor şi inteligenţei artificiale (AI) asupra oamenilor îi îngrijorează pe cei care fac politicile în Europa. De la maşini autonome la roboţi cu AI, parlamentarii europeni susţin că e nevoie de reguli care să garanteze un nivel standard de siguranţă.

“Cele trei legi ale roboticii” au fost inventate de scriitorul Isaac Asimov în 1942, când a publicat povestea “Runaround”. Autorul spune că toată lumea le cunoaşte, la nivel subconştient, şi că, în mod ideal, şi oamenii ar trebuie să le respecte.

Legile sunt următoarele:

1. Un robot nu are voie să pricinuiască vreun rău unei ființe umane, sau, prin neintervenție, să permită ca unei ființe omenești să i se facă un rău.

Netanyahu şi consilierul lui Trump îndeamnă europenii la o intensificare a presiunilor asupra Iranului

Trei morţi în Spania; Europa continuă să fie afectată de caniculă

2. Un robot trebuie să se supună ordinelor date de către o ființă umană, atât timp cât ele nu intră în contradicție cu Legea 1.

3. Un robot trebuie să-și protejeze propria existență, atât timp cât acest lucru nu intră în contradicție cu Legea 1 sau Legea 2.

Asimov a introdus, ulterior, o a patra lege, una care să le preceadă pe celelalte trei: “Un robot nu are voie să pricinuiască vreun rău umanității sau să permită prin neintervenție ca umanitatea să fie pusă în pericol”. Chiar şi aşa, legile iniţiale sunt cele care au dăinuit şi au inspirat alte creaţii SF.

Legile trebuie implementate în programarea unui robot de către cel care îl construieşte pentru ca maşinăria să le poată respecta. Chiar dacă până acum nu au fost realizaţi roboţi care să înţeleagă şi să aplice aceste reguli, se pare că, în viitor, este necesar să existe legi clare cu privire la felul în care roboţii funcţionează şi chiar în ce fel pot fi traşi la răspundere pentru acţiunile lor. Iar Europa e pe cale să înceapă lucrul la astfel de legi.

Parlamentarii europeni cer legi în toată Uniunea

Reguli clare sunt necesare pentru domeniul roboticii, care se dezvoltă foarte rapid, cred parlamentarii europeni care au votat o rezoluţie ce include standarde etice şi stabilirea unei răspunderi în cazul accidentelor în care sunt implicate maşinile autonome. Măsurile vin în contextul în care vânzările de roboţi au crescut, în medie, cu 17% în fiecare an între 2010 şi 2014, şi cu 29% în toată lumea doar în anul 2014.

Parlamentarii au cerut Comisie Europene să propună reguli ale roboticii şi inteligenţei artificiale, astfel încât potenţialul economic al acestora să fie exploatat la maximum şi să se garanteze un nivel standard de securitate şi siguranţă. Parlamentarii spun că astfel de standarde sunt planificate în mai multe ţări, dar UE ar trebui să treacă la conducerea acestor  demersuri, astfel încât să nu fie forţată ulterior să respecte reguli impuse de alte state.

Parlamentarii subliniază că e nevoie de o legislaţie care să clarifice responsabilitatea, în special în cazul maşinilor autonome. Ei cer o schemă de asigurare obligatorie în cazul acestor autovehicule şi un fond suplimentar care să asigure despăgubirea victimelor accidentelor în care maşinile sunt implicate. De asemenea, parlamentarii cer o legislaţie specială pentru roboţi, astfel încât să se stabilească exact cine e responsabil dacă aceştia cauzează stricăciuni.

Comisia Europeană e somată să urmărească trendurile actuale, având în vedere că dezvoltarea industriei roboticii poate duce la schimbări pe piaţa forțelor de muncă prin crearea, modificarea sau pierderea unor slujbe.

De asemenea, creşterea utilizării roboţilor ridică probleme etice, în principal legate de confidenţialitate şi de siguranţă. Parlamentarii propun un cod etic pentru cercetători şi constructori, care să-i oblige să lucreze în concordanţă cu standardele legale şi etice, iar construcţia roboţilor să respecte demnitatea umană.

Parlamentarii mai cer ca la nivelul Europei să se creeze o agenţie a roboticii şi inteligenţei artificiale, care să le ofere autorităţilor publice expertize tehnice, etice şi legale.

Problemele de etică sunt deja în atenţia cercetătorilor

Proiectele finanţate din fonduri europene care lucrează cu roboţi au deja o componentă ce ţine de etică. Un astfel de exemplu este proiectul DREAM, unde cercetătorii lucrează la un robot cât mai autonom care să facă parte din terapia copiilor cu autism.

De altfel, Dr. Kathleen Richardson, care face parte din echipa de etică a proiectului, a declarat pentru Vocea.biz că utilizarea roboţilor schimbă totul şi că folosirea lor ridică anumite întrebări de etică.

“Ar putea fi cazul, în viitor, să se dorească înlocuirea psihoterapeutului cu un robot. Trăim într-un sistem unde economia e pe primul loc, aşa că dacă un robot poate fi mai ieftin decât o persoană, chiar dacă e mai bun sau nu, folosirea lui e la algerea unui stat sau a unui guvern. Mai sunt şi alte probleme ce ţin de folosirea roboţilor, pentru că aceştia devin instrumente de înregistrare, deci trebuie să ne gândim la protecţia datelor confidenţiale. Poate fi un robot compromis de hackeri? Acum, în laborator, e protejat, dar dacă va ajunge într-o sală de clasă sau într-o locuinţă? Acestea sunt probleme reale pe care toţi cei care lucrează cu tehnologia trebuie să le aibă în vedere”, a declarat Dr. Kathleen Richardson.

Avertismente legate de inteligenţa artificială şi viitorul roboţilor

Lumea e împărţită în două atunci când vine vorba despre viitorul roboticii şi al inteligenţei artificiale. Unii văd această dezvoltare ca fiind cea mai mare realizare a omenirii, în timp ce alții cred că efectele ar putea fi catastrofale.

Unul dintre aceştia din urmă este Elon Musk, fondatorul Tesla şi SpaceX.

“Cred că vom vedea autonomia şi inteligenţa artificială avansând foarte mult. Cred că în următorii zece ani va fi foarte neobişnuit să se construiască maşini ce nu sunt complet autonome. Să te urci într-o maşină va fi ca şi când intri într-un lift. Una dintre cele mai îngrijorătoare întrebări e legată de inteligenţa artificială, acel tip de AI care e mai inteligent decât cel mai inteligent om de pe planetă. Cred că e o situaţie periculoasă. Super inteligenţa digitală va fi ca un extraterestru”, a explicat Elon Musk într-o conferinţă recentă organizată în Dubai.

Acesta a spus că este necesară o atenţie sporită în adaptarea inteligenţei artificiale, iar cercetătorii trebuie urmăriţi cu atenţie pentru că tind să se lase purtaţi de val şi să nu se gândească la consecinţe. De asemenea, în discursul său, Elon Musk a explicat că se va ajunge, probabil, la un venit global asigurat pentru toţi oamenii, în contextul în care vor exista tot mai puţine locuri de muncă unde roboţii să nu fie mai productivi decât aceștia din urmă.

O altă personalitate îngrijorată de potenţialul inteligenţei artificiale este fondatorul Microsoft, Bill Gates.

“Eu sunt de partea celor îngrijorați de super inteligenţă. Întâi, roboţii vor face multe dintre munci pentru noi, ceea ce va fi un lucru bun, dacă vom putea să administrăm situaţia bine. Câteva decenii mai târziu, dacă inteligenţa artificială va fi destul de puternică, va fi un motiv de îngrijorare. Nu înţeleg de ce unii oameni nu își pun probleme cu privire la acest lucru”, a spus Gates.

Stephen Hawking, celebrul fizician profesor la Cambridge, laudă cercetarea în domeniul inteligenţei artificiale, dar recunoaşte că va fi “fie cel mai bun, fie cel mai groaznic lucru ce se va întâmpla umanităţii”.

Cum se termină povestea

Întorcându-ne la povestea lui Isaac Asimov în care sunt scrise pentru prima dată cele trei legi ale roboticii, e important de subliniat cum se încheie aceasta. Robotul SPD-13, cunoscut ca “Speedy”, ajunge într-o situaţie în care e blocat între Legea 2 şi Legea 3. Cei doi ingineri din poveştile lui Asimov trebuie să găsească o soluţie pentru a-l scoate din acest ciclu infinit. Unul dintre ei îşi riscă viaţa, în speranţa că, urmând Legea 1, robotul îl va salva şi, astfel, va reuşi să treacă peste blocaj.