Progrese în reglementarea recunoașterii faciale

În ciuda pandemiei COVID-19, viața merge înainte și există și alte probleme care necesită atenție. Una dintre ele este reglementarea recunoașterii faciale. În SUA observăm primii pași în această direcție. Guvernatorul Washingtonului, Jay Inslee, a semnat o reglementare de referință pentru recunoașterea facială,  pe care legislatura de stat a adoptat-o pe 12 martie. Această reglementare este o reușită semnificativă – fiind pentru prima dată când un stat sau o națiune a adoptat o lege nouă dedicată exclusiv utilizării tehnologiei de recunoaștere facială. La acest progres a contribuit și senatorul Joe Nguyen, care este și angajat Microsoft.

Noua lege a statului Washington reușește să depășească astfel dezbaterile uneori polarizante din trecut. Când noua lege va intra în vigoare anul viitor, cetățenii din Washington vor beneficia de garanții care asigură testarea în prealabil, transparența și responsabilitatea față de recunoașterea facială, precum și de măsuri specifice pentru a proteja libertățile civile fundamentale. În același timp, agențiile guvernamentale de stat și locale pot folosi servicii de recunoaștere facială pentru a localiza sau identifica persoanele dispărute, inclusiv subiecții alertelor Amber și Silver, și pentru a menține siguranța publicului. Această abordare echilibrată garantează faptul că recunoașterea facială poate fi utilizată ca instrument de protecție, dar numai în moduri care respectă drepturile fundamentale și deservesc interesul public.

Reglementarea în acest domeniu va evolua în mod clar, iar noua lege a Washingtonului oferă un model timpuriu și important. Unele dintre caracteristicile noii legi sunt extrem de importante.

Cerințe de testare

În primul rând, legea va încuraja forțele pieței să abordeze riscul prejudecăților în tehnologia recunoașterii faciale. Începând cu anul viitor, la Washington, o agenție guvernamentală de stat sau locală poate implementa recunoașterea facială numai dacă furnizorul de tehnologie pune la dispoziție o interfață de programare a aplicației (API) sau o altă capabilitate tehnică, pentru a permite „teste legitime, independente și rezonabile” pentru „acuratețe și diferențe părtinitoare de performanță la subpopulații distincte." În plus, furnizorii trebuie să dezvăluie „orice reclamații sau rapoarte care semnalează un aspect părtinitor al serviciului.”

Transparență și responsabilitate

Noua lege avansează și alte două principii etice și pentru drepturile omului, fundamentale pentru toate aspectele inteligenței artificiale (AI): transparența și responsabilitatea. Înainte ca o agenție de stat sau locală să poată începe să folosească recunoașterea facială, aceasta trebuie să depună mai întâi o notificare publică de intenție și să „specifice un scop pentru care urmează să fie utilizată tehnologia”. Astfel, publicul este informat la începutul procesului de adoptare a tehnologiei.

Poate și mai important, noua lege stabilește un model amănunțit de responsabilitate privind adoptarea publică a tehnologiei de recunoaștere facială. Agențiile care utilizează recunoașterea facială trebuie să stabilească „o politică clară de utilizare și gestionare a datelor” (inclusiv protocoale detaliate care controlează modul în care va fi implementată tehnologia), integritatea și politicile de reținere a datelor și măsuri puternice de securitate cibernetică. De asemenea, acestea trebuie să ofere publicului informații despre „impactul potențial asupra confidențialității” al serviciului de recunoaștere facială și despre „rata de potriviri false, impacturi potențiale asupra subpopulațiilor protejate și modul în care agenția va aborda ratele de eroare, determinate independent, mai mari de 1% .“ Acest lucru este supus cerințelor de consultare publică, inclusiv proceselor de notificare și comentarii și reuniunilor de consultare din comunitate.

Legea impune ca oamenii, și nu mașinile, să fie responsabili pentru deciziile care folosesc tehnologia de recunoaștere facială, aceasta fiind o verificare importantă a modului în care aceste sisteme pot fi utilizate. De exemplu, dacă utilizarea recunoașterii faciale ar duce la o negare potențială a serviciului, un om trebuie să verifice identitatea individului pentru a evita deciziile bazate pe rezultate false. Această obligație de a asigura o „revizuire umană semnificativă” necesită un personal bine pregătit. Prin urmare, noua lege prevede că agențiile trebuie să efectueze instruiri periodice pentru toți cei care operează un serviciu de recunoaștere facială sau care prelucrează datele cu caracter personal obținute din acesta. Această pregătire trebuie să acopere atât capabilitățile și limitările serviciului, cât și modul de interpretare a rezultatului recunoașterii faciale.

Protecția libertăților civile

Datorită unora dintre cele mai importante prevederi ale noii legi, statul Washington a devenit prima jurisdicție care a adoptat reguli specifice privind recunoașterea facială pentru a proteja libertățile civile și drepturile fundamentale ale omului. Deși publicul va evalua în mod corect modalitățile de îmbunătățire a acestei abordări de-a lungul timpului, merită să recunoaștem la început abordarea minuțioasă adoptată de ​​legiuitorul statului Washington.

În primul rând, există protecție împotriva supravegherii în masă. Conform noii legi, o autoritate publică nu poate folosi recunoașterea facială pentru a se angaja în „supraveghere continuă, identificare în timp real sau aproape în timp real sau urmărire persistentă” a unei persoane, cu excepția a ​​trei circumstanțe specifice. Acestea necesită fie (1) un mandat; (2) o hotărâre judecătorească „în scopul exclusiv de a localiza sau identifica o persoană dispărută sau de a identifica o persoană decedată;” sau (3) „circumstanțe exigente”, un prag bine dezvoltat și ridicat, în conformitate cu legislația statului.

În al doilea rând, există protecție adăugată pentru drepturi specifice ale omului. De exemplu, autoritățile pot să nu folosească recunoașterea facială pentru a înregistra exercitarea de către orice persoană a drepturilor Primului Amendament. În plus, o agenție nu poate utiliza recunoașterea facială bazată pe „viziunile sau activitățile religioase, politice sau sociale ale unei persoane” sau „participarea la o anumită organizație non-criminală sau la un eveniment legal”. În mod similar, nu poate utiliza tehnologia bazată pe „rasa reală sau percepută a unei persoane, etnia, cetățenia, locul de origine, statutul de imigrare, vârsta, dizabilitatea, sexul, identitatea de gen, orientarea sexuală sau alte caracteristici protejate de lege”.

În al treilea rând, există garanții procedurale pentru procesele penale. De exemplu, autoritățile trebuie să dezvăluie folosirea tehnologiei de recunoaștere facială inculpaților în timp util înainte de proces. Acest lucru va oferi inculpaților dreptul de a contesta utilizarea tehnologiei dacă aceasta a fost defectuoasă sau ilegală.

În al patrulea rând, există cerințe detaliate de transparență referitoare la libertățile civile. Noua lege detaliază rapoartele publice privind mandatele solicitate și acordate pentru utilizarea recunoașterii faciale. Aceste rapoarte includ informații despre numărul și durata oricăror prelungiri ale mandatului, agențiile care au solicitat mandatele și natura spațiilor publice în care a fost efectuată supravegherea.

“Pe măsură ce analizăm evoluția continuă a reglementării recunoașterii faciale, ar trebui să recunoaștem că legea Washingtonului nu reflectă „începutul sfârșitului, ci sfârșitul începutului”. În cele din urmă, există un exemplu din lumea reală pentru reglementarea specifică a recunoașterii faciale. Unii vor susține că rezolvă prea puține. Alții că merge prea departe.”, notează Brad Smith, Președintele Microsoft în cadrul unui articol publicat pe blogul companiei.