Autor: Av. Beatrice Marian, Associate LegalSteps
I. Aspecte introductive
Menit să asigure utilizarea și dezvoltarea sistemelor de inteligență artificială într-un mod responsabil, Regulamentul Uniunii Europene 2024/1689 („Regulamentul”) reprezintă un pas important în ceea ce privește gestionarea riscurilor pe care utilizarea inteligenței artificiale le are asupra drepturilor și libertăților fundamentale.
Este fără îndoială faptul că inteligența artificială se află într-o evoluție constantă, dovedindu-și utilitatea în numeroase domenii și sectoare de activitate, contribuind în mod semnificativ la sporirea eficienței operaționale, identificarea unor soluții rapide și inovative, îmbunătățirea productivității ș.a.m.d.
În acest context, tot mai mulți angajatori iau în calcul investițiile constând în implementarea unor sisteme de inteligență artificială care să le eficientizeze activitatea. Cu toate acestea, aceștia trebuie să aibă în vedere normele legale în vigoare (inclusiv Regulamentul), precum și consecințele pe care utilizarea neconformă a unor astfel de sisteme le-ar putea produce asupra salariaților/potențialilor salariați.
Abordând riscurile specifice utilizării inteligenței artificiale prin clasificarea acestora în diferite niveluri (i.e. riscuri minime sau inexistente, riscuri limitate, riscuri ridicate și riscuri inacceptabile), Regulamentul reglementează o serie de obligații și de interdicții stricte inclusiv pentru angajatorii care doresc să utilizeze sisteme de inteligență artificială.
Prezentul articol se concentrează exclusiv asupra sistemelor de inteligență artificială cu riscuri ridicate și riscuri inacceptabile, urmărind trasarea principalelor aspecte privind implicațiile și provocările pe care angajatorii le-ar putea întâmpina în legătură cu utilizarea unor astfel de sisteme.
II. Domeniu de aplicare
În ceea ce privește domeniul de aplicare al Regulamentului, acesta vizează nu doar angajatorii din cadrul Uniunii Europene. Având ca finalitate inclusiv asigurarea unui grad sporit de protecție persoanelor din cadrul Uniunii Europene, Regulamentul produce efecte inclusiv față de angajatorii din state terțe, în cazul în care rezultatele sistemelor de inteligență artificială sunt utilizate în cadrul Uniunii Europene.
Prin urmare, au obligația de a se conforma normelor prevăzute de Regulament inclusiv angajatorii care, deși nu au o prezență fizică în Uniunea Europeană, utilizează sisteme de inteligență artificială care au impact în cadrul Uniunii Europene. Acesta ar putea fi cazul unei societăți dintr-un stat terț care desfășoară activități de recrutare utilizând sisteme de inteligență artificială menite să filtreze candidaturile (fără ca decizia finală să aparțină respectivei societăți) și care vizează inclusiv persoane dintr-unul sau mai multe state membre. Astfel de sisteme de inteligență artificială au fost încadrate de legiuitorul european în categoria sistemelor de inteligență artificială având un grad ridicat de risc, categorie descrisă în capitolul următor.
III. Limitele utilizării sistemelor de inteligență artificială de către angajatori
Categoria sistemelor de inteligență artificială cu risc ridicat are în vedere acele sisteme care prezintă amenințări considerabile pentru siguranța, sănătatea sau drepturile fundamentale ale persoanelor, fiind astfel supuse unor restricții stricte.
Cu privire la astfel de sisteme, Regulamentul stabilește condiții stricte de îndeplinit în sarcina celor care doresc să le utilizeze. O astfel de abordare este lesne de înțeles având în vedere impactul pe care asemenea sisteme l-ar putea produce asupra drepturilor protejate la nivel european și național, cum ar fi dreptul la demnitatea umană, protecția datelor cu caracter personal, drepturile lucrătorilor, dreptul la nediscriminare ș.a.m.d.
Unul dintre principalele domenii vizate de Regulament în acest sens are în vedere ocuparea forței de muncă, gestionarea lucrătorilor și accesul la activități independente. Această categorie prezintă în mod direct importanță pentru angajatori deoarece vizează sistemele de inteligență artificială destinate a fi utilizate: (i) fie în procesul de recrutare și filtrare a candidaturilor pentru locuri de muncă, (ii) fie în procesul de luare a deciziilor în cadrul relațiilor contractuale de muncă. Astfel de sisteme includ, spre exemplu, tehnologii de recrutare automatizate, sisteme de evaluare a performanței lucrătorilor, instrumente de monitorizare a activității lucrătorilor.
Cu titlu de exemplu, ne putem imagina cazul unui angajator care, dorind să își extindă activitatea, urmărește să desfășoare activități de recrutare într-un mod cât mai rapid și eficient, context în care apelează la implementarea unui sistem de inteligență artificială (spre exemplu, un chatbot) care să filtreze candidaturile transmise. Pentru îndeplinirea acestei finalități, respectivul chatbot urmează să fie antrenat prin expunerea la date de training, cum ar fi seturi de informații relevante (spre exemplu, anumite categorii de studii, domenii relevante de experiență etc.) sau CV-urile candidaților deja selectați de angajator.
Fără îndoială, există riscul ca respectivul chatbot să genereze soluții discriminatorii. Ar putea fi cazul în care CV-urile cu care acesta este antrenat aparțin unor persoane cu vârsta cuprinsă, spre exemplu, între 25 și 30 de ani. Astfel, chatbotul ar putea favoriza în mod nejustificat candidaturile persoanelor a căror vârstă se încadrează în intervalul menționat doar prin prisma faptului că istoricul candidaturilor deja selectate sugerează o preferință a angajatorului în acest sens, respingând restul candidaturilor din acest motiv.
Este important de precizat faptul că, în exemplul de mai sus, pentru a se încadra în categoria sistemelor de inteligență artificială cu risc ridicat, este necesar ca rezultatele respectivului chatbot să influențeze în mod semnificativ rezultatul procesului decizional al angajatorului.
Prin urmare, legiuitorul european a avut în vedere acele sisteme de inteligență artificială care reprezintă o amenințare efectivă asupra drepturilor care protejează persoanele fizice.
În acest sens, dacă un angajator implementează un sistem de inteligență artificială cu scopul de a îndeplini o serie de sarcini pregătitoare pentru o evaluare relevantă, cum ar fi selectarea exclusivă a candidaturilor care conțin studii superioare economice, necesare departamentelor în cadrul cărora dorește să facă angajări, considerăm că respectivul sistem nu se încadrează în categoria celor cu risc ridicat deoarece rezultatele sale nu conduc la încălcarea drepturilor recunoscute persoanelor fizice în cauză. Și în lipsa unui astfel de sistem de inteligență artificială, angajatorul ar fi avut în vedere exclusiv acei candidați cu studii economice din moment ce acestea constituie o cerință esențială pentru postul ce urmează să fie ocupat.
Menționăm că sistemele de inteligență artificială cu grad ridicat de risc nu sunt complet interzise de Regulament, însă angajatorii care doresc să le utilizeze sunt ținuți de îndeplinirea anumitor obligații. Dintre aceste obligații menționăm, cu titlu de exemplu: (i) obligația de a informa lucrătorii și/sau potențialii lucrători cu privire la faptul că sunt utilizate sisteme de inteligență artificială cu grad ridicat de risc în ceea ce-i privește; (ii) luarea măsurilor corespunzătoare de natură tehnică și organizatorică astfel încât să asigure utilizarea unor astfel de sisteme conform instrucțiunilor de utilizare care le însoțesc; (iii) asigurarea supravegherii umane prin intermediul unor persoane fizice calificate, care să dețină competența, formarea și autoritatea necesare; (iv) asigurarea cu privire la faptul că datele de intrare (datele de intrare fiind definite în Regulament ca fiind datele furnizate unui sistem de inteligență artificială sau dobândite direct de acesta, pe baza cărora sistemul produce un rezultat) sunt relevante și suficient de reprezentative în raport cu scopul preconizat (în măsura în care se exercită un control asupra acestor date).
Pe de altă parte, Regulamentul interzice complet anumite sisteme de inteligență artificială considerate a prezenta riscuri inacceptabile.
În acest sens, legiuitorul european a avut în vedere acele sisteme de inteligență artificială care au ca scop deducerea emoțiilor persoanelor fizice în sfera locului de muncă, cu excepția situațiilor în care astfel de sisteme sunt justificate de motive medicale sau de siguranță.
Utilizarea unor astfel de sisteme de inteligență artificială poate avea consecințe grave, conducând în mod evident la rezultate cu caracter discriminatoriu, la tratamente prejudiciabile pentru persoanele fizice și la încălcarea drepturilor fundamentale ale acestora.
Ne putem imagina cazul unui angajator care, dorind să evalueze nivelul de performanță al lucrătorilor săi, utilizează un sistem de inteligență artificială care analizează tonul vocii acestora pe parcursul îndeplinirii sarcinilor de serviciu (spre exemplu, în cadrul apelurilor salariaților din departamentul de vânzări cu diferiți clienți). Astfel, angajatorul urmărește să deducă starea emoțională a salariaților (spre exemplu, încredere, entuziasm, nesiguranță, nervozitate, calm), considerând un astfel de factor ca fiind definitoriu în ceea ce privește reușita interacțiunilor cu clienții.
Într-un asemenea caz, utilizarea respectivului sistem este interzisă, prezentând un caracter intruziv pentru drepturile lucrătorilor evaluați în această modalitate și constituind o amenințare directă asupra promovării acestora în cadrul angajatorului, într-un mod nediscriminatoriu.
Concluzionând, este esențial ca angajatorii să se asigure că sistemele de inteligență artificială pe care le utilizează în desfășurarea activității acestora sunt legale, transparente și echitabile. Aceștia trebuie să fie conștienți de restricțiile impuse inclusiv la nivel european, prin Regulament, pentru a asigura un mediu de lucru etic și responsabil, dar și pentru a evita aplicarea unor eventuale sancțiuni.
Material susținut de LegalSteps
Un material Legal Marketing
