Un sistem gripat: algoritmi, inteligență artificială și derapajele lor!
Articol de Vicentiu Andrei, 9 noiembrie 2022, 17:10
Flavia Durach, conferențiar universitar doctor în cadrul Facultății de Comunicare și Relații Publice și specialist în dezinformarea în mediul online, ne prezintă marca reportajelor de calitate: diversitatea surselor de informații!
Când te conectezi pe Facebook, Twitter sau YouTube, crezi că ceea ce vezi este o reflectare neutră a comunității tale online, dar, de fapt, ești expus la deciziile automate ale algoritmilor, explică jurnalistul Max Fisher, într-o discuție pe marginea noii sale cărți, The Chaos Machine. Nu este primul care trage un semnal de alarmă.
În 2021, un fost cercetător în cadrul diviziei de inteligență artificială a Facebook, citat de MIT Technology Review, a declarat că el și echipa sa au efectuat „studiu după studiu”, confirmând aceeași idee de bază: algoritmul Facebook este gândit să maximizeze implicarea utilizatorilor pe platformă, dar crește în același timp polarizarea.
Algoritmii rețelelor sociale au o modalitate de a sorta postările din feed-ul utilizatorilor în funcție de relevanța relativă a acestora, în loc de timpul de publicare. Rețelele sociale prioritizează conținutul pe care un utilizator îl vede mai întâi în feedul său, în funcție de probabilitatea ca acesta să își dorească să-l vadă. Această probabilitate este definită de mai multe criterii – o parte au legătură cu comportamentul digital anterior al acelui utilizator, iar o altă parte au legătură cu modul cum performează anumite tipuri de conținut la nivelul rețelei.
În cazul pe care tocmai l-am menționat, cercetările echipei de la Facebook au urmărit în ce măsură sunt utilizatorii de acord sau nu cu diferite teme sau subiecte, cu ce conținut le plăcea să interacționeze și cum s-au schimbat punctele lor de vedere ca urmare a acestei expuneri. Indiferent de subiect, modelele algoritmice testate nu au fost neutre; au „învățat” să ofere utilizatorilor puncte de vedere din ce în ce mai extreme, devenind „în mod măsurabil mai polarizante”.
Este doar un exemplu, din multe altele. În domeniul publicității politice, algoritmul Facebook face ca o campanie plătită să ajungă mai greu, cu o cheltuială financiară mai mare, la utilizatorii care nu sunt sprijină deja respectiva formațiune – ceea ce, de multe ori, contravine obiectivelor unei campanii de comunicare și poate să izoleze utilizatorii în comunități online puternic partizane. Formarea de echo chambers (comunitățile închise, dominate de credințe puternice, unilaterale) sunt asociate și cu modul în care filtrează YouTube conținutul.
Acestea sunt doar exemple legate de activitatea noastră în social media, dar sistemele de inteligență artificială care funcționează părtinitor pot determina arestarea unor oameni nevinovați sau le pot refuza oamenilor accesul la servicii de bază. De aceea, a crescut miza dezvoltării unor sisteme de inteligență artificială care să nu aibă înclinații partizane. De exemplu, un grup de experți în inteligență artificială lansează o nouă competiție cu recompense, pentru a accelera crearea de noi instrumente pentru a identifica și a atenua prejudecățile algoritmice în modelele de inteligență artificială. Twitter, Universitatea Stanford și Mozilla lucrează și ele în sprijinul acestei cauze.
Până data viitoare, rămâi cu București FM, sursa echilibrată de informații!
Pentru că suntem bombardați de informații contradictorii, senzaționale, uneori plauzibile, pentru că fiecare dintre noi s-a întâlnit cu fenomenul fake news în social media, pentru că nu știm pe cine să credem, ne-am gândit să o credem pe Flavia Durach, sursa noastră de încredere în ceea ce privește fenomenul dezinformării.
Ascultă-i rubrica „Break the fake! Informare despre dezinformare” în fiecare miercuri pe 98,3 FM de la 09:15, 13:40 și 18:30! Dacă ai pierdut-o, mai ai o șansă, sâmbătă la 09:20 sau duminică la 16:20.
