Mircea Duțu: Juristul IA, practician al guvernanței tehnologice. Spre o nouă ocupație în România?

Pentru a valorifica o atare extraordinară oportunitate e nevoie însă de o pregătire, complementară celei în drept, complexă, dinamică și, mai ales, deschisă spre particularizarea exigențelor noilor realități social-tehnologice. Preocupările în acest sens se exprimă deja prin cercetări, formări și publicații în domeniul guvernanței generale, a celei etice ale inteligenței artificiale, propunându-se chiar un nou model al acestuia – dreptul eticratic. Pregătirea universitară pertinentă presupune analiza rolului experților juridici și operaționali în structura proceselor care mențin controlul uman asupra sistemelor bazate pe IA.

Practicianul de guvernanță tehnologică nu preia puterea colectivului implicat, ci sprijină deciziile comune, în sensul unei deveniri durabile, de coexistență a umanului cu aplicațiile tehnico-științifice de vârf. Într-adevăr, AI Act [Regulamentul (UE) 2024/1689 de stabilire a unor norme armonizate privind inteligența artificială, din 13 iunie 2024, modificat, în ceea ce privește simplificarea punerii în aplicare, prin Regulamentul (UE) 2026/1744 din 8 iulie 2026], precum și preconizatul (pentru finele lui 2027) Quantum Act, ca de altfel ansamblul reglementărilor dreptului inteligenței artificiale (DIA) și cel al celor ale dreptului cuanticului (Quantum Law) nu ridică numai o problemă de conformitate tehnico-juridică (și, deci, studiul materiilor juridice respective, ca atare) ci, tot atât de important, dacă nu prioritar, și cea a păstrării controlului uman asupra deciziei adoptate, în noul cadru de coacțiune om-mașină (așadar, formarea necesară practicianului în guvernanța noilor tehnologii).

Deschisă problematicii avansului tehnologic din perspectivă juridică și receptivă la progresul instructiv-educativ aferent, Universitatea Ecologică din București (UEB) se pregătește pentru inițierea unor cadre de formare universitară de profil, pe calea studierii unor aspecte interdisciplinare ce combină dreptul, etica, conformitatea și înțelegerea tehnică. Astfel, în desăvârșirea filierei universitare de excelență de DIA și Quantum Law (dezvoltată la nivel de licență, prin masterul specializat și pe calea specializării doctorale), Facultatea de Drept a UEB pregătește cursuri de scurtă durată și formule de expresie curriculară dedicate formării dimensiunii de guvernanță tehnologică a juristului IA. Se profilează, astfel, ocupația de practician în guvernanța tehnologică (Technology Governance Practitioner), IA/Quantum ca profesionist însărcinat să vegheze așa încât utilizarea tehnologiilor de IA și cuantice în cadrul unei organizații să susțină în mod eficient obiectivele strategice ale acesteia, controlând și gestionând riscurile și cu respectarea reglementărilor pertinente. Pentru prezentarea deopotrivă a noii perspective profesionale a juristului arhitect al supervizării umane a inteligenței artificiale și a demersului educativ aferent, ne-am adresat prof. univ. dr. Mircea Duțu, Președintele UEB și coordonatorul noului proiect de formare universitară de pionierat în România.

  – Domnule profesor, după această introducere, credem noi lămuritoare, cel puțin pentru moment, să începem cu a preciza de ce, pe fond, dezvoltarea reglementării juridice a IA și respectarea sa, iar în plan formativ studiul dreptului IA, nu mai sunt suficiente și se impun astfel noi dezvoltări conceptual-formative, cu rezonanțe inedite pe piața muncii.

– M.D.: Ca întotdeauna, și în această privință faptele o iau înaintea dreptului și forțează norma și mediul instituțional la o reacție corespunzătoare. Într-adevăr, dispozitivul european privind inteligența artificială și tehnologiile cuantice nu ridică numai problema, desigur importantă, a conformării tehnice. Deosebit de relevantă devine și modalitatea de a conserva controlul uman atunci când un sistem de inteligență artificială intervine în luarea unei decizii. Pentru cele cu grad ridicat de risc, art. 14 din AI Act cere un control uman efectiv, prin persoane fizice. În plus, Comisia Europeană a precizat că implementatorul trebuie să atribuie această supervizare uneia sau mai multor persoane, suficient de echipate și abilitate pentru a o exercita. Elementul decisiv se referă la faptul că supervizarea umană nu poate să se reducă la o rubrică dintr-o procedură, la un buton de stop sau la o semnătură adăugată la sfârșitul unui workflow automatizat. Pentru a fi reală și efectivă, ea presupune ca organizația să știe că poate contesta sistemul, în anumite circumstanțe, cu ce informații, potrivit cărei proceduri și cu ce autoritate. Cunoaștem deja circumstanțele de acest gen relative la Regulamentul general privind protecția datelor (RGPD) din 27 aprilie 2016: o organizație poate să producă politici, registre și analize de impact foarte corecte pe hârtie, fără însă ca practicile cotidiene să se schimbe în mod real. Dar odată cu IA, trebuie să o spunem răspicat, distanța între conformitatea formală și controlul efectiv poate fi și mai importantă. O supervizare umană efectivă și credibilă presupune un minimum de cartografiere a deciziilor la care e prezentă contribuția IA, identificarea persoanelor impactate, definirea pragurilor de escaladă, organizarea dreptului de a contesta o recomandare algoritmică, documentarea arbitrajelor umane și evaluarea periodică a efectelor reale ale sistemului. Ea implică, de asemenea, combaterea unui risc bine-cunoscut: bias-urile automatizării, adică tendința de a urma recomandarea mașinii în mod precis, pentru că ea apare ca obiectivă ori sofisticată tehnic.

– Dacă conformitatea reglementară nu e suficientă și, implicit, nici simpla cunoaștere și interpretare a legii, de ce tocmai juristul ar fi cel mai bine plasat spre a prelua și rolul de practician în noul tip de guvernanță?

– M.D.: Un răspuns, și mai ales dacă e afirmativ, are nevoie de o explicație corespunzătoare. Așadar, o atare transformare deschide un câmp nou de afirmare în fața juristului IA. Pentru acesta, valoarea astfel adăugată nu constă numai în capacitatea sa de a citi norme și a verifica formal îndeplinirea exigențelor lor; ci, mai ales în aceea că, în cele din urmă, el poate deveni arhitectul dispozitivului care face eficiente prevederile în organizație. Specialistul jurist trebuie să știe să identifice un risc, să califice un drept, a organiza o probă, repartiza o responsabilitate, formaliza un proces și documenta o decizie. Nu în ultimul rând, avocatul adaugă o cultură a independenței, a contradictorialității și a apărării persoanei. Numai atunci competențele sunt exact cele de care are nevoie o entitate la momentul când trebuie să facă supervizarea umană efectivă, mai degrabă decât simbolică. Schimbarea e una profundă: juristul nu vine numai să controleze decizia, el participă la conceperea cadrului în care o decizie umană poate încă să fie luată în cunoștință de cauză.

– Cu o atare predispoziție profesională, ce ar presupune noua deschidere de formare profesională și de acțiune practică pentru juristul IA?

– M.D.: În esență, este vorba de trecerea de la consilierea juridică la practicianul de guvernanță tehnologică avansată. Într-adevăr, în întreprinderi, administrații, asociații sau instituții, multe conflicte se nasc mai puțin dintr-o absență de drept, cât din o proastă arhitectură a deciziei: persoanele vizate, absența de proces, responsabilitate difuză, confuzia între strategie și execuție, obiecțiuni netratate, decizii opace ori imposibil de contestat. Este, cu siguranță, terenul guvernanței etice. O bună practică ar fi, de exemplu, ca practicianul guvernanței să nu exercite puterea în locul colectivului. El securizează procesul: ajută la identificarea persoanelor în mod real impactate, face să apară obiecțiile, veghează la calitatea informației, distinge decizia strategică de autoritatea de execuție și asigură că decizia rămâne atribuită umanilor responsabili. Pentru un avocat sau un jurist în general, această funcție reprezintă o extensie naturală a profesiei. Ea mobilizează dreptul, dar și facilitarea, comunicarea, etica aplicată în înțelegerea dinamicilor organizaționale.

– Odată stabilită ținta profesională și prefigurată miza acțională, ce ar implica demersul formativ universitar ca atare?

– M.D.: Este nevoie a se forma juriști capabili să guverneze IA și cuanticul și nu numai de a le reglementa. Cu un atare obiectiv, evident că putem trece la aprecieri la nivelul realităților. AI Act consolidează problema controlului IA în cadrul organizațiilor, după cum o va face, în curând, și Quantum Act. Prevederile art. 4 impun furnizorilor și implementatorilor să ia măsuri spre a susține dezvoltarea unei cunoașteri suficiente a IA, prin persoanele care o pun în funcțiune ori o utilizează pe seama lor. Această exigență nu creează o certificare obligatorie de responsabil IA, ci consacră o idee esențială: o organizație nu poate să guverneze în mod corect sisteme pe care ea nu le înțelege! Așadar, formarea juriștilor trebuie să evolueze. Înțelegerea RIA e absolut necesară: a învăța organizarea unei deliberări, a construi o procedură de contestare, a documenta o obiecție, a identifica părțile impactate și a superviza un sistem în durată e la fel de important.

– Ca o concluzie, pe conținut, care e postulatul etico-juridic absolut care nu poate să lipsească din „gena normativă” a practicianului în guvernanța IA și să se reflecte consecvent în activitatea lui?

– M.D.: Regula supremă trebuie să rămână aceea că AI advises, Humans govern (IA sfătuiește, umanii decid). Fără îndoială, inteligența artificială poate pregăti, analiza, compara, memoriza și clarifica, dar nu poate confisca responsabilitatea de a decide. Formula invocată – AI advises, Humans govern – nu e o deviză anti-tehnologie, oricât ar fi ea de avansată și emergentă. Ea exprimă o repartiție de roluri ce nu poate face obiectul niciunei negocieri. Cu cât IA devine mai puternică, cu atât e și mai necesar de a amplifica și calitatea procesului uman ce o încadrează. Pentru juriști e, poate, una dintre cele mai mari evoluții din viitorii ani, care le modifică statutul și le compensează pierderile cu câștigurile avansate de aplicațiile și în profesiile tradiționale ale dreptului. Ei vor rămâne interpreții dreptului, dar pot deveni – și asta reprezintă o mare șansă oferită de noua revoluție tehnico-științifică – practicieni ai guvernanței tehnologice avansate, care permite umanului de a rămâne suveran asupra deciziilor ce îl angajează.

– Revenind la demersul instituțional universitar în sine, ce a provocat, de altfel, și dezvoltările teoretice indispensabile, în ce constă acesta?

– M.D.: Ne aflăm într-o fază preparatorie, în care suntem foarte atenți la ceea ce se întâmplă în materie și în alte țări, la evoluțiile reglementare și reacțiile pieței, deopotrivă cea de formare și cea de primire a forței de muncă. Apoi, dorim să armonizăm, cât mai deplin posibil, direcția de formare universitară în dreptul IA și Quantum Law, cu un suport suplimentar, puternic favorabil practicării noilor formule de guvernanță tehnologică. Din această perspectivă, noua și inedita direcție de pregătire profesională de conservare, consolidare, asigurare și valorificare a controlului (supervizării) umane asupra provocărilor noilor tehnologii avansate emergente impune a i se acorda importanța deosebită pe care o prezintă. Ne gândim, în spiritul unor atari considerații, ca, pe de o parte, să „infiltrăm” ideile aferente exercitării funcției de guvernanță preconizate în cadrul disciplinelor universitare existente și chiar la inițierea unui curs de aplicații specializate în contextul unei abordări interdisciplinare, iar pe de altă parte să desfășurăm formări de scurtă durată, de inițiere și mai ales de pregătire continuă pentru cei care se interesează de rolul de practician în guvernanța IA și a cuanticului, de pe poziția unei pregătiri deja dobândite.

Cum evoluțiile tehnologice sunt deosebit de rapide, credem că am putea chiar îndrăzni a promova inițiativa recunoașterii unei noi ocupații (și) în România, cea de practician al guvernanței tehnologice avansate (IA & Quantic). Totodată, o programă complexă, interdisciplinară de pregătire teoretico-practică universitară e în pregătire.

Un material Legal Marketing