De același autor
Inspirate de personalități fondatoare puternice cioplite în profiluri arhetipale de lideri revoluționari, deschizătoare de drumuri, alimentate de o încredere electrizantă în cunoaștere și inovație, revizuind în cultura modernă ideile de schimbare și progres, răsfățate atât de piețele de capital, cât și de public și media, companiile din industria tehnologiilor informaționale își construiesc de câteva decenii propria lor lume. O lume a libertății economice absolute, neîngrădite nici de distanță, nici de timp, neintimidate nici măcar de angoasa economică a resurselor limitate. O lume ce transcende granițele și diferențele culturale, barierele politice și distanțele geografice, democratizând tot ce a produs mai de preț omenirea: cultura, știința, educația. O lume a emancipării și libertăților cetățenești, care a creat pentru indivizi și comunități oportunități nemaiîntâlnite. Lumea digitală. În variile ei forme de existență, de la rețelele locale la Internet, de la Web 1.0 la Web 2.0, cu ale sale instrumente de blogging și platforme de socializare, de la realitatea virtuală la realitatea augmentată, de la Internetul obiectelor la infrastructura digitală, de la algoritmi de decizie la algoritmi care învață și inteligență artificială, de la megadate la baze de date stocate în cloud.
O lume inepuizabilă pentru mediul de afaceri, hrănindu-se din sine însăși, producându-și propria materie primă. O lume veșnic virgină, căci, lipsită de limite, rămâne mereu de descoperit. O lume încă prea puțin îngrădită de constrângeri. O lume care, însă, tocmai de dragul libertăților promise, va trebui să-și definească propriile specificații etice de utilizare. Care, pentru a fi operațională, va fi nevoită să accepte că orice plus de libertate câștigat în mediul digital va trebui echilibrat cu o responsabilitate simetrică în spațiul real. Altfel, va risca să-și abstractizeze ceea ce are mai de preț, persoana umană, dizolvându-și în virtual promisiunea întemeietoare, libertatea individuală. Pentru că, prelungind gândul lui Miéville, nimic nu poate justifica o comunitate, fie ea fizică ori digitală, în afara oportunității „pentru toți indivizii de a alege“.
Etică IT
Efectele Internetului și ale rețelelor de socializare asupra tinerilor, spamming-ul, virușii informaționali, înșelăciunea electronică, atacurile cibernetice, cenzura mediului online, producerea, difuzarea și impactul știrilor false: sunt doar câteva dintre subiectele asociate noilor tehnologii informaționale tot mai frecvente în presă. Treptat, utilizatorii și beneficiarii soluțiilor IT descoperă că în spatele fiecărei noi oportunități există riscuri pe care trebuie să le înțeleagă, în vreme ce dezvoltatorii sistemelor digitale acceptă că noile domenii de activitate trebuie să își asume problemele etice și de responsabilitate socială pe care le generează. Astăzi, controversele etice evadează din sfera dezbaterilor academice și pătrund în laboratoarele de cercetare și în agenda instituțiilor publice, provocând studii, investigații și rapoarte ale unor specialiști din varii domenii, de la inginerie hardware și software până la etică aplicată, politici publice, sociologie, psihologie socială, criminalistică.
Are o agenție de relații publice dreptul de a produce, tranzacționa ori utiliza în scop comercial baze de date cu informații despre persoane fizice? Are o persoană dreptul de a publica mesaje ori fotografii defăimătoare sau discriminatorii în blogul personal sau în contul de Facebook? Au managerii unei organizații dreptul de a accesa corespondența electronică a unui angajat? Are un producător IT obligația de a-și echipa produsele cu sisteme de protecție online pentru clienți? Au companiile dreptul de a dezvolta algoritmi care să monitorizeze comportamentul online al utilizatorilor, generând conținuturi publicitare personalizate, conform tiparelor comportamentale și nevoilor acestora? Dacă da, în ce condiții?
Pentru a aborda aceste întrebări, spun specialiștii în etică IT, trebuie să distingem între problemele etice legate de utilizarea sistemelor computaționale și cele ridicate de proiectarea acestora.
Utilizator IT: oportunități și riscuri
În articolul Filosofia tehnologiilor computaționale și informaționale, din 2009, P. Brey, profesor de filosofie a tehnologiei la Universitatea din Twente, Olanda, și J. Søraker, profesor de filosofie la Universitatea Norvegiană de Știință și Tehnologie, alcătuiau o listă a problemelor etice ce țin de utilizarea sistemelor IT: folosirea abuzivă a datelor cu caracter privat; insecuritatea informațională și delictele în rețea; încălcarea dreptului la liberă exprimare și controlul sau cenzura conținutului online; asimetria informațională și lipsa de transparență; inegalitatea sau diviziunea digitală; discriminarea; violarea proprietății intelectuale, pirateria software; impactul social al web-site-urilor și aplicațiilor specifice Web 2.0, de tipul blogurilor și rețelelor sociale, precum Facebook, Myspace, Twitter, YouTube, LinkedIn, în care utilizatorul devine creator de conținut.
Problemelor enumerate de cei doi eticieni li se adaugă continuu noi și noi teme sensibile legate de munca în rețea, utilizarea echipamentelor mobile, infuzia sistemelor de calcul inteligente în dispozitive, precum automobilele autonome și în spațiul ambiental, precum clădirile și spațiile publice inteligente. Astfel, nu puține guverne și organisme internaționale se arată preocupate de impactul social generat de modul în care sunt proiectate și utilizate soluțiile IT.
Costurile tot mai scăzute ale tehnologiilor computaționale, ale colectării, stocării și procesării datelor în mediul online, împreună cu dezvoltarea de noi sisteme de culegere de date, de la senzori și camere de luat vederi la tehnologii geospațiale, duc la crearea unei lumi în care obținerea și deținerea de informații sunt posibile oriunde, iar analiza de date se realizează aproape în timp real. Aplicațiile acestor sisteme sunt practic nelimitate, contribuind la creșterea eficienței, la scăderea anumitor costuri, la reducerea poluării, la sporirea siguranței și prevenirea riscurilor, arată un raport al Casei Albe din 2015, Megadate: Să beneficiem de oportunități păstrându-ne valorile. Dar tocmai caracterul invaziv al acestor tehnologii, puterea de calcul și complexitatea lor ridică semne de întrebare legate de limitele utilizării lor. „Este necesar“, recomandă raportul, „să reflectăm asupra celui mai bun mod de a echilibra oportunitățile oferite de sistemele de megadate și provocările sociale și etice aduse de acestea“. „Tehnologiile vor transforma fiecare aspect al vieții noastre.“ Însă accesul la informații facilitat de acestea ridică „întrebări serioase“ privitoare la respectarea vieții private și protejarea drepturilor civile în contexte precum utilizarea de informații private pe piața locuințelor sau a creditelor, la angajare, în serviciile de sănătate și de educație ori în marketing.
Drepturile omului: din lumea fizică în cea digitală
O bună parte din viața noastră privată și publică se împarte astăzi între lumea fizică și cea digitală. Este, deci, necesar să transferăm în digital și preocupările legate de siguranța noastră, de drepturile și libertățile individuale, susține raportul Supraveghere și cenzură: Impactul tehnologiilor asupra drepturilor omului, din 2015, realizat de Directoratul General pentru Politici Externe al Parlamentului European. „Pe măsură ce viețile oamenilor urmează o tranziție către mediul online, drepturile lor trebuie să îi însoțească... Cuvântul-cheie este «tranziție»: obiectivul protejării drepturilor omului trebuie transferat și în sfera digitală...“ Din acest punct de vedere, „principala provocare a Uniunii Europene este de a aduce drepturile omului în sfera digitală“.
Conform raportului, cele mai serioase amenințări din mediul digital la adresa drepturilor omului sunt: încălcarea libertății de expresie, în cazul cenzurii impuse de unele regimuri mediilor de informare și comunicare online; încălcarea dreptului la viață privată, prin programe software de supraveghere în mediul online; încălcarea libertății de asociere, a libertății religioase, precum și diferitele forme de discriminare.
Conform Rezoluției privind promovarea, protecția și folosirea drepturilor omului pe Internet, adoptată în 2016 de către Consiliul Drepturilor Omului al ONU, „drepturile de care dispun indivizii în lumea fizică trebuie în egală măsură protejate online, în particular libertatea de expresie... Rețeaua online globală trebuie să-și îndeplinească rolul de facilitator al dezvoltării și inovației“, Internetul fiind „un instrument important ce promovează dreptul la educație“. Pentru a servi acestui scop, arată documentul, este important să asigurăm credibilitatea Internetului și încrederea publicului în acesta.
Pentru o etică a algoritmilor computaționali
„Tehnologia nu e nici bună, nici rea; nu este, însă, nici neutră“, stabilea prima dintre cele șase faimoase legi ale tehnologiei, formulate de Melvin Kranzberg în anii ’80. La peste trei decenii, postulatul specialistului american în istoria tehnologiei pare mai bine confirmat ca oricând. Tehnologia și, în particular, tehnologiile informaționale nu sunt neutre. Ele sunt implicate etic.
Tradițional, algoritmul a fost considerat un produs al gândirii prin excelență amoral. Supus numai rigorilor eficienței și cerințelor coerenței, simplității și eleganței logice. Guvernând lumea digitală, infuzând spațiul virtual în care comunicăm, ne informăm și lucrăm, tehnologiile informaționale și, îndeosebi, algoritmul computațional devin implicate etic. Mediind relațiile dintre oameni, comunicarea, colaborarea, conducerea, munca și tranzacțiile dintre indivizi și organizații, colectarea, prelucrarea și analiza de date personale, precum și procesele de decizie, mediul software este profund implicat moral în viața noastră. Este important să conștientizăm acest lucru, să identificăm problemele etice generate de limitele sistemelor informatice și să încercăm să înțelegem cum le putem aborda, nu doar la nivelul utilizării ori la cel al reglementărilor industriei IT, ci și la nivelul conceperii soluțiilor hardware și software.
Oriunde are implicații sociale, mediul software trebuie echipat cu etică. Altfel spus, algoritmii ce guvernează spațiul digital trebuie să conțină instrumentele etice necesare bunei administrări a datelor și producerii de decizii corecte, drepte, echitabile, nediscriminatorii. Dezvoltatorii IT trebuie să găsească soluții pentru a încorpora etică în etapa de design și programare.
Filosofii Brey și Søraker susțin că, deși majoritatea analizelor de etică IT „se concentrează asupra utilizării computerelor de către indivizi și organizații, trebuie să acordăm atenție inclusiv sistemelor și aplicațiilor software. S-a recunoscut faptul că sistemele însele nu sunt neutre moral, ci conțin valori și premise subiective ce trebuie, la rându-le, analizate“. În etica sistemelor computaționale, observă cei doi, își fac loc așa-numitele analize ale valorilor încorporate la nivelul designului soluțiilor hardware și software. „Mediul software și sistemele hardware pot fi evaluate moral, parțial sau total independent de utilizările lor. Se poate spune că software-ul și hardware-ul încorporează valori, în sensul că tind să promoveze prin utilizare anumite valori“, constată eticienii. Proiectarea aplicațiilor software și a sistemelor hardware trebuie „să se conformeze unui set de valori (morale) dezirabile“.
În alte studii de-ale sale, Brey pledează pentru nevoia unei etici a transparentizării sistemelor computaționale. Este necesară o abordare etică interdisciplinară, susține el, pentru identificarea acelor specificații sau caracteristici ale sistemelor IT sensibile din punct de vedere moral, mai ales în ceea ce privește viața privată, dreptatea și democrația.
Algoritmi responsabili moral
Pentru a înțelege modul în care algoritmii pot lua decizii discutabile moral, trebuie să înțelegem modul în care operează aceștia.
Algoritmii ajung să controleze porțiuni din ce în ce mai mari din lumea noastră, să culeagă și să prelucreze informații din zone din ce în ce mai intime din viața indivizilor, să ia decizii în sfere din ce în ce mai importante în societate. În spațiul digital, arată M. Ananny, profesor la Universitatea din California de Sud, „algoritmii «guvernează», deoarece au capacitatea de a structura posibilități. Ei stabilesc ce informații sunt incluse într-o analiză; ei previzionează, planifică și prelucrează datele; ei oferă rezultate cu un anumit grad de obiectivitate și certitudine; ei acționează ca niște filtre și oglinzi, selectând și confirmând informațiile ce au sens în cadrul logicii unui sistem computațional și în contextul cultural în care au fost creați... Algoritmii nu doar accelerează comerțul, jurnalismul, finanțele ori alte domenii; ei impun un discurs și o cultură a cunoașterii în egală măsură sociale și tehnologice, structurând toate etapele parcurse de informație, de la producerea și difuzarea ei până la interpretarea acesteia, aprecierea legitimității ei și dobândirea recunoașterii publice“, arată profesorul american în articolul Către o etică a algoritmilor, din 2015.
O categorie aparte de algoritmi responsabili moral sunt algoritmii de decizie aplicați în domenii ce țin de binele public, precum sănătatea, siguranța, accesul la servicii financiare sau accesul pe piața muncii. Grație capacității lor de a procesa și corela mari cantități de date anonime, acești algoritmi ne permit să înțelegem tipare și fenomene la scară largă, ajutându-i pe decidenți să abordeze subiecte sensibile, precum evoluția excluziunii socio-economice, fenomenul criminalității, propagarea unor boli, urmările sociale ale dezastrelor naturale. Conform studiului Tirania datelor? Partea luminoasă și cea întunecată a procesului de decizie informațional în scop social, publicat în 2017 de către B. Lepri ș.a., „disponibilitatea într-un grad fără precedent a datelor despre comportamentul indivizilor modifică în mod profund lumea în care trăim. Cercetători, companii, guverne, instituții financiare, organizații neguvernamentale și grupuri informale experimentează, inovează și adaptează instrumente de decizie bazate pe algoritmi pentru a studia tipare comportamentale umane și a oferi soluții problemelor importante ale societății“. Însă, atrag atenția autorii, algoritmii de decizie ce operează cu date despre comportamentul indivizilor creează, totodată, „o serie de probleme de natură socială, etică și legală, în sfera vieții private, confidențialității și siguranței, a transparenței și răspunderii, a tratamentului corect și discriminării“. Se dovedește, de pildă, că în unele cazuri utilizarea algoritmilor de decizie „generează soluții nefavorabile pentru categoriile dezavantajate“. Sau că „algoritmii de decizie pot reproduce tipare discriminatorii, provocate de prejudecățile decidenților ori ale societății“.
Infrastructură decizională algoritmică
„Algoritmii de decizie și celelalte sisteme computaționale complexe operează într-un mod comparabil cu instituțiile sau persoanele“, de la care avem așteptări asemănătoare în ceea ce privește corectitudinea deciziilor, nediscriminarea și asumarea responsabilității, constată un grup de cercetători de la Centrul pentru Internet și Drepturile Omului, al Universității Europene Viadrina, din Germania. Iată de ce este o nevoie urgentă pentru dezbateri etice privitoare la această „nouă infrastructură decizională“.
„Algoritmii sunt tot mai mult folosiți pentru a lua decizii pentru noi, împreună cu noi și care ne privesc. Ei devin tot mai puternici și mai prezenți în viața noastră. Ei operează acum fie ca instrumente principale sau auxiliare, fie chiar ca unici decidenți în sfere ale vieții în care nici măcar nu existau până acum un deceniu, precum și în domenii tradiționale în care deciziile erau luate prin judecata agenților umani, cum este cazul sectorului sănătății publice ori cel al resurselor umane. Algoritmii invadează activități ce implică procese «subiective» de luare a deciziilor, în care nu există răspunsuri corecte sau greșite, nici măcar definiții acceptabile despre cum ar putea să arate un răspuns «corect», în afara unor criterii precum transparența, responsabilitatea și identificarea problemelor“, se arată în raportul Etica algoritmilor, publicat în 2015 de specialiștii germani.
Instrumente etice
„Nu folosi computerul pentru a face rău semenilor. Reflectează asupra impactului social al aplicației software sau al sistemului pe care îl concepi. Folosește computerul cu considerație și respect pentru semeni.“ Acestea sunt trei dintre cele Zece Principii ale Eticii Computaționale, recomandate de Computer Ethics Institute în 1992. Naivă astăzi, aceasta a fost una dintre primele forme de cultură etică în zona profesională și corporatistă a tehnologiilor computaționale. Acum, tot mai multe asociații profesionale, organizații nonprofit, centre universitare și companii inițiază demersuri pentru elaborarea de standarde și ghiduri de etică IT.
Inițiativa nonprofit AlgorithmWatch, din Germania, propune, spre pildă, un Manifest privind Algoritmii de Decizie. Acesta se bazează pe cinci principii:
1. Algoritmii de decizie (AD) nu sunt neutri.
2. Creatorul unui AD este responsabil pentru rezultatele generate de acesta.
3. AD trebuie să fie ușor de înțeles, astfel încât să poată fi supus unui control democratic.
4. Societățile democratice au obligația de a asigura inteligibilitatea AD, apelând la diversele tehnologii disponibile, la reglementări și instituții de supraveghere.
5. Trebuie să decidem cât de mult permitem AD să ne limiteze libertatea.
Conform Principiilor Algoritmilor Responsabili, formulate în 2016 la Leibniz-Zentrum für Informatik, din Germania, în etapele de concepție, dezvoltare și testare a algoritmilor producătorii IT trebuie să respecte câteva cerințe:
- Principiul responsabilității: proceduri transparente pentru remedierea efectelor adverse ale sistemelor de decizie algoritmice;
- Principiul facilitării înțelegerii tehnologiilor: deciziile algoritmice și datele ce stau la baza lor trebuie explicate grupurilor cointeresate;
- Principiul acurateței: identificarea surselor de eroare și incertitudine din algoritmi, în scopul înțelegerii și stabilirii procedurilor de atenuare a impactului negativ;
- Principiul auditării independente: punerea la dispoziție a informațiilor necesare pentru monitorizarea sau evaluarea algoritmilor;
- Principiul corectitudinii: analiza algoritmilor pentru evitarea deciziilor discriminatorii sau nedrepte.
În sfârșit, principiile Designului Tehnologic Bazat pe Valori, formulate de către Friedman, Kahn și Borning, pretind ca în proiectarea sistemelor IT să fie avute în vedere următoarele cerințe: evaluarea impactului social pe termen lung asupra principalelor grupuri cointeresate, de la clienți și utilizatori la beneficiari; evaluarea etică, vizându-se respectarea unor valori precum viața privată, bunăstarea fizică și psihică, egalitatea de șanse; evaluarea impactului adoptării pe scară largă.
Tehnologia intră pe piață și, astfel, în viața noastră cu o promisiune ce rămâne adesea tacită: progresul, bunăstarea colectivă și emanciparea indivizilor. În ciuda multor deziluzii, tehnologia rămâne legată, în mentalul colectiv, de o misiune, de o mare așteptare: aceea de a genera schimbare în bine. Ea aduce prestigiu creatorului, oferă putere deținătorului și potențează abilitățile utilizatorului. Această așteptare, aceste drepturi, această putere economică și socială nasc responsabilități. Pentru creator, deținător și utilizator. Ține de fiecare dintre noi să ne înțelegem și să ne asumăm rolul în această experiență unică a cunoașterii și inovației. Ține de fiecare dintre noi, pe măsura rolului fiecăruia, ca balanța tehnologiei să încline către menirea ei.
