VIDEO: Regim de drepturi și obligații pentru Inteligența Artificială

Articol de Monica Liche, 19 decembrie 2023, 18:11

Au fost stabilite primele reglementări la nivel global pentru inteligența artificială (#IA) și pentru lumea digitală, care se va afla sub incidența acestei tehnologii. Aceste reglementări vin în sprijinul ideii că dezvoltarea și evoluția Inteligenței Artificiale trebuie să fie centrate pe om. Am vorbit despre legea care privește IA cu Dragoș Tudorache, europarlamentar și Președinte Comisia Specială pentru Inteligență Artificială, invitatul Ioanei Brușten #InComunitate.

„Nu avem nimic cu tehnologia în sine, tehnologia fie ea sofisticată, așa cum este inteligența artificială, este în esență neutră. E modul în care AI e folosită, aplicațiile ei practice care contează și atunci când ea ridică riscuri la adresa drepturilor noastre ca indivizi sau intereselor mai largi din societate. Asta înseamnă de fapt tehnologia centrată pe om și, bineînțeles, ideea de control al omului întotdeauna atunci când se întâmplă această interacțiune cu tehnologia. Nu putem vreodată concepe ca tehnologia, în sine, să ia decizii sau să facă recomandări esențiale pentru drepturile noastre ca cetățeni.”

Inteligența artificială între abuz și ajutor real

În absența unor reglementări foarte clare există riscul ca potențialul inteligenței artificiale să fie folosit într-o direcție care să ne pună în pericol independența sau libertatea. Din fericire, actul normativ care va fi supus votului în Parlamentul European în prima parte a anului 2024, reglementează aceste probleme și le aduce într-un punct de echilibru.

„Pe de o parte, se pune problema unui echilibru între  interesul societății și  interesul nostru ca indivizi de a nu fi supuși unor posibile abuzuri în acest context de supraveghere publică, folosind inteligența artificială și recunoașterea facială, în spațiul public, în timp real, și pe de altă parte, interesul de a ne asigura securitatea, pentru că da, o astfel de tehnologie poate fi folosită pentru a combate criminalitatea, pentru a combate infracțiuni grave, serioase, în spațiul public. Cred că am reușit să găsim acest echilibru. În esență, utilizarea în spațiile publice astfel a acestor algoritmi de inteligență artificială, care permit recunoașterea biometrică, recunoașterea facială sunt interziși, cu excepția unor cazuri strict delimitate de lege.”- Dragoș Tudorache, europarlamentar și Președinte Comisia Specială pentru Inteligență Artificială

Lista  domeniilor pentru care erau necesare aceste reglementări  este destul de mare și atinge cam toate domeniile de interes ale vieții  noastre.

„De la educație, la sistemul bancar, asigurări, migrație, gestiunea frontierelor,  practic situații în care noi ca cetățeni, ca indivizi sau societate în ansamblul său, pentru că sunt acolo și aplicații care țin de funcționarea democrației, de sistemele electorale, situații practice în care tehnologia poate să ne afecteze drepturile.”

Inteligența artificială și drepturile de autor

 O altă zonă care avea nevoie urgent de reglementare este cea a  folosirii creațiilor supuse drepturilor de autor, ca date de input pentru generarea unor noi texte sau imagini.

„Se pune problema, cum anume creăm transparență în astfel de situații, pentru că trebuie să știm, trebuie să avem întotdeauna această informație că interacționăm cu un produs rezultat in urma unui algoritm de inteligență artificială sau este un produs uman? Asta este pe de o parte, transparența etichetarea acestor produse ca fiind generate de un algoritm și, pe de altă parte, cum facem, într-adevăr, să protejăm autorii a căror artă sau a căror  operă științifică a fost folosită în antrenarea acestor modele de inteligență artificială, pentru că realitatea este că în spatele acestor modele stau enorm de multe date, de foarte multe ori date care sunt protejate de drepturile de autor, fie în zona artistică, fie în zona științifică și în acest moment nu există o transparență cu privire la aceste date.

Prin această reglementare forțăm practic această transparență din partea celor care dezvoltă aceste modele și le cerem, din momentul în care legea va deveni operabilă,  să publice un rezumat al datelor protejate de drepturile de autor care au fost folosite în antrenarea algoritmului, în așa fel încât apoi autorii să poată să folosească legile care țin de protejarea dreptului de autor și să-și valorifice drepturile.”- Dragoș Tudorache, europarlamentar

Viitorul, interacțiune permanentă cu AI

 Inteligența artificială va pătrunde în toate zonele vieții noastre, iar noi vom fi puși în situația în care să interacționăm cu ea. Ca să putem face acest lucru, în siguranță, avem nevoie de de o lege care să ne protejeze și pe care să o putem înțelege. Folosirea AI la locul de muncă trebuie făcută cu garanția respectării drepturilor noastre.

 „Într-un viitor nu foarte îndepărtat, în care fiecare dintre noi, începând de acasă, trecând prin locul de muncă și accesând servicii private sau publice, vom interacționa din ce în ce mai des cu această tehnologie și avem nevoie să înțelegem ce ni se întâmplă. Avem nevoie să știm că există un control uman întotdeauna, pe deciziile sau recomandările care se fac.”

(…)Dacă suntem la locul de muncă, trebuie să avem garanția că utilizarea unor astfel de aplicații de inteligență artificială nu ne impietează asupra drepturilor noastre la locul de muncă, fie că suntem supravegheați, fie că ni se optimizează sarcinile de lucru prin intermediul acestor algoritmi, trebuie să știm cum anume sunt puși pe piață, cum sunt antrenați, cu ce fel de date și în esență să știm că drepturile noastre sunt protejate, în urma acestei interacțiuni.” – Dragoș Tudorache, europarlamentar și Președinte Comisia Specială pentru Inteligență Artificială