Inteligența Artificială și drepturile omului

Comitetul de experți în inteligență artificială (CAHAI) al Consiliului Europei a adoptat un studiu de fezabilitate în vederea creării unui instrument juridic internațional privind inteligența artificială (AI) și elementele sale potențiale.

„Inteligența Artificială este parte din viața noastră de zi cu zi, iar acest fenomen va crește în anii care vin. Se pune problema, cine răspunde când un sistem bazat pe AI - comunicare, un dispozitiv automat etc. - face erori. AI nu este o persoană, deci nu o poți da în judecată, „spune într-un interviu cu Europa Liberă Patrick Penninckx, şeful Departamentului pentru Societate Informațională din cadrul Consiliului Europei.

Inteligența Artificială și drepturile omului

În baza studiului de fezabilitate, Comitetul de Miniștri al COE a solicitat CAHAI să își concentreze activitatea pe elaborarea unui cadru juridic adecvat pentru AI (parţial obligatoriu la nivel internațional).

Comitetul ad-hoc pentru inteligența artificială (CAHAI) a fost creat la 11 septembrie 2019 de Comitetul de miniștri al Consiliului Europei pentru a examina fezabilitatea și elementele potențiale ale unui cadru legal pentru dezvoltarea, proiectarea și aplicarea inteligenței artificiale, pe baza standardelor Consiliului Europei privind drepturile omului, democrația și statul de drept.

Patrick Penninckx (CoE) despre Inteligența Artificială și drepturile omului

Europa Liberă: Domnule Penninckx, acest interviu se realizează la distanță și cu ajutorul inteligenței artificiale. Consiliul Europei a înființat la finalul anului 2019 comitetul pentru Inteligență Artificială. Scopul declarat: un cadru legislativ pentru Inteligența Artificială (AI), care să respecte democrația, statul de drept și drepturile omului. Democrația a fost pusă la grea încercare anul trecut, dacă e să vorbim doar de alegeri, de pildă. Este AI un aliat sau un dușman al oamenilor?

Patrick Penninckx: „Aș spune mai întâi că AI este parte din viața noastră de zi cu zi. Tot ce utilizăm în materie de tehnologie de comunicare, de pildă, folosește algoritmi. Când folosim telefoanele mobile, când folosim dispozitivele de navigare prin satelit, folosim AI. Ca atare AI are un potențial imens de a îmbunătăți viața noastră de zi cu zi. Trebuie mereu să ne gândim la efectele pozitive și la cele negative. Prima evaluare pe care trebuie să o facem vizează următorul aspect: este AI o amenințare la adresa creierului uman?

Tehnologia are limitele sale, deci nu ar trebui să considerăm că AI este un potențial concurent pentru noi sau un pericol pentru creierul uman. AI are o capacitate de apreciere a mediului înconjurător din punct de vedere statistic, si, este adevărat, o capacitate de calcul remarcabilă. Totuși, îi lipsește bunul simț, pe care doar oamenii îl au, și care este esențial. Algoritmii sunt capabili să execute sarcini foarte precise, calcule foarte rapide și foarte precise, mai bine decât poate omul - gândiți-vă spre exemplu la calculator, care face mai repede decât omul orice operație. Dar ar fi greșit să credem că AI poate face orice face creierul uman. Pe de altă parte, trebuie spus clar: AI nu este o tehnologie neutră. Sistemele AI transformă în mod substanțial viețile oamenilor, au un impact profund asupra funcționării democrației și asupra instituțiilor sale. Sistemele AI ar trebui văzute ca sisteme socio-tehnologice, în sensul că acestea depind de felul în care au fost concepute și de cum s-a gândit utilizarea lor în cadrul unei comunități: datele folosite, cu ce scop, acuratețea lor și contextul societal și legal în care sunt folosite.”

Europa Liberă: Deci este nevoie de oameni pentru ca AI să fie folosită în interesul oamenilor.

Patrick Penninckx

Patrick Penninckx: „Absolut, iar acesta este punctul de plecare pentru cele mai multe dintre aplicațiile AI. Dacă vrem să ne asigurăm că AI lucrează în sens pozitiv pentru noi, atunci trebuie să luăm decizii conștiente despre cum vom dezvolta și aplica AI. În multe aplicații ale AI există o anumită opacitate, obscuritate, pe care trebuie să o diminuăm. Este vorba de instrumente de învățare profundă, de autoeducare, care depășesc capacitatea umană. Scala, conectivitatea și răspândirea AI, felul în care ajunge la oameni, trebuie reglementate legislativ, pentru că pot amplifica o serie de riscuri care au venit la pachet cu dezvoltarea altor tehnologii dar și cu felul în care a evoluat comportamentul uman. Sistemele AI pot produce erori statistice. Iată de ce, mii de oameni pot fi afectați de aceste erori.”

Europa Liberă: Deci care ar fi cele mai importante aspecte ale AI care ar trebui reglementate prin lege?

Patrick Penninckx: „Responsabilitatea și încrederea. Dacă vom lăsa anumite decizii să fie luate de AI, atunci avem nevoie de un anumit nivel de supraveghere umană. Iar asta duce la ideea de responsabilitate. De multe ori uităm că AI nu este o persoană pe care să o tragi la răspundere. De aceea, trebuie să stabilim cine este responsabil pentru activitățile desfăşurate de AI în actualul sistem legislativ. De exemplu, dacă avem un automobil autonom, care este implicat într-un accident, trebuie stabilit în ce măsură vina o are sistemul AI al autovehiculului, și în ce măsura persoana care îl deține. În cazul în care sistemul AI este responsabil, trebuie stabilit cine răspunde în fata legii pentru aceasta.

De asemenea, trebuie să justificăm cum se ia o anumită decizie. Un alt exemplu: serviciile sociale. Dorim să lăsăm aceste servicii doar în administrarea AI? Câtă transparență este în luarea unei anumite decizii pe care automat o iau sistemele de AI. Datele AI nu sunt independente. Aprecierile lor nu sunt independente și echilibrate. Au erori. De aceea, trebuie să ne asigurăm că deciziile care se iau cu ajutorul AI sunt independente și echilibrate. Dacă ne gândim la deciziile luate în justiție: ne dorim ca aceste decizii să fie luate de un sistem dezechilibrat si părtinitor? Nu. De aceea trebuie să analizăm în ce măsură putem să folosim, sau vrem să folosim AI pentru deciziile din justiție.”

Europa Liberă: Organismele de supervizare si control a sistemelor AI ar trebui să fie naționale sau europene?

Camere sunt peste tot. Cine ești? FSB știe!

Patrick Penninckx: „Tehnologia digitală nu este legată de o țară sau alta, Datele și sistemele sunt globale. Folosirea unor aplicații trebuie sa fie certificată de un mecanism, nu într-o țară anume, ci la nivel global. Aşa cum datele europene sunt protejate la nivel global, chiar dacă Convenţia de protecţie a datelor este un instrument al COE. La fel se întâmplă si cu Convenţia pentru drepturile omului sau cea împotriva criminalității cibernetice. Trebuie să vedem ce elemente nu sunt acoperite de actuala legislație în materie de AI și unde este nevoie de completări. Chestiuni ca recunoașterea facială sau identificarea locației unei persoane, trebuie și ele reglementate legal in acord cu drepturile omului.”