Compania a pornit dintr-o preocupare legată de manipularea informațiilor în mediul online, în contextul alegerilor de anul trecut, iar ulterior a fost transformată într-un business înregistrat oficial în România.
„Anul trecut, în perioada alegerilor, am pornit de la o curiozitate: ce se întâmplă online. Toți am observat partea de manipulări în social media. Eu, lucrând mai demult cu tehnologii în zona de AI, am căutat modalități prin care putem răspunde la astfel de întrebări. Qriton a fost oficial integrată în zona de business în România la sfârșitul anului trecut. Dorim să oferim o nouă platformă AI în Europa, în zona de AI suveran, aliniată cerințelor EU AI Act", a declarat Marius Dima, cofondator Qriton Technologies, la emisiunea Profit Live, realizată pe Prima News TV de Profit.ro, de luni până joi, de la ora 14.00.
Potrivit acestuia, aplicarea prevederilor EU AI Act va reprezenta una dintre cele mai mari provocări pentru furnizorii de servicii AI, în special pentru modelele de tip „black box", care nu oferă explicații privind modul în care ajung la anumite rezultate.
„Majoritatea companiilor care oferă servicii în AI vor avea un mare challenge în a-și face serviciile operaționale pentru a fi la nivelul cerințelor EU AI Act. Majoritatea providerilor de servicii AI, precum OpenAI, Google sau Anthropic, oferă momentan un model de tip black box, care nu oferă suficiente explicații pentru deciziile pe care AI-ul le ia", a spus Marius Dima.
El afirmă că Qriton dezvoltă o tehnologie proprie bazată pe arhitectura Whole Field Networks, care urmărește explicabilitatea deciziilor încă din faza de proiectare și se adresează în principal companiilor.
„Tocmai în această întâmpinare am venit cu modelul nostru propriu, bazat pe Whole Field Networks, care oferă explicabilitate by design. Nu vrem să intrăm în competiție cu marile companii americane. Vrem să ne orientăm în zona de enterprise, în zona de business, exact în zona în care, momentan, aceste companii nu au acces", a precizat cofondatorul companiei.
În opinia sa, reglementările europene creează o oportunitate de piață pentru companiile specializate în conformitate.
„Există și oportunitate. Tocmai asta se întâmplă cu EU AI Act și reglementările care vor intra în vigoare din august. Practic, în zona aceasta de explicabilitate este un mare gap de business. Este un mare potențial acolo de business și exact acolo dorim să oferim servicii", a afirmat Dima.
Acesta consideră că nevoia de sisteme AI explicabile este cu atât mai mare în domenii în care deciziile pot avea impact asupra vieții oamenilor, precum sănătatea, apărarea sau sectorul financiar.
„Imaginați-vă că pui ChatGPT să conducă o mașină sau un avion. Tocmai acolo este challenge-ul principal. Din domeniul medical până în zona de apărare, oriunde sunt decizii importante și implică viața oamenilor, acolo avem nevoie de o tehnologie în care ne putem baza", a declarat acesta.
Referindu-se la industria financiară, Marius Dima a spus că utilizarea AI este deja extinsă în activitățile de analiză, însă deciziile care afectează direct oamenii vor necesita justificări clare în fața autorităților.
„Foarte multe teste se fac deja în zona financiară, fie că vorbim de stocuri sau de analize financiare. Ce este crucial pentru respectarea cerințelor Uniunii Europene este zona decizională care implică oamenii, cum sunt credit rating-urile. Asta necesită explicații față de autorități privind modul în care au fost luate aceste decizii", a explicat el.
În același timp, spune că piața de asigurări manifestă rezerve față de proiectele bazate pe AI generativ.
„Companiile de asigurări se retrag. Nu vor să-și asume riscurile pentru astfel de decizii", a afirmat Dima.
În ceea ce privește automobilele autonome, acesta consideră că tehnologia evoluează în direcția potrivită, însă mai este nevoie de numeroase etape de dezvoltare.
„Depinde cum AI-ul înțelege lumea înconjurătoare. Sunt deja camere, senzori și alte dispozitive montate. Vor mai fi multe etape iterative până să ajungem la filmele science-fiction, dar suntem în drumul cel bun", a spus el.
Din luna august, odată cu aplicarea unor noi prevederi europene, companiile care utilizează inteligență artificială vor trebui să demonstreze modul în care funcționează sistemele implementate, susține cofondatorul Qriton Technologies.
„Din august vom avea mai multe cerințe și mai multe controale în zona integrărilor unde se folosește AI-ul. Tot ceea ce devine operațional va trebui explicat. Noi vrem să redefinim ce înseamnă un AI explicabil. Practic, oferim un certificat prin care putem verifica faptul că o decizie este traceable", a declarat Dima.
Acesta consideră că firmele trebuie să investească mai mult în informarea angajaților și a managementului cu privire la impactul noilor reguli.
„Pentru orice business, orice antreprenor sau companie ar trebui să existe mai multă informare din partea administratorilor și angajaților privind impactul pe care AI-ul îl are asupra lor, asupra clienților și asupra persoanelor care folosesc serviciile sau produsele", a spus el.
În prezent, Qriton Technologies este finanțată din resurse proprii și colaborează atât cu jurnaliști de investigație, cât și cu universități și organizații europene. Compania beneficiază de acces la infrastructura europeană de supercomputere pentru dezvoltarea modelelor AI și analizează atragerea unei finanțări de tip seed.
„Actualmente suntem self-financed. Suntem într-un program de utilizare a unui supercomputer european, avem acces la infrastructura necesară pentru a antrena și scala modelele noastre de AI. Mai departe vedem ce înseamnă un seed funding și colaborări cu universități, medii academice și startup-uri. Targetul nostru este zona business-to-business", a declarat Marius Dima.
Compania se află încă în etapa de dezvoltare a modelului de business și monetizează în principal colaborările din zona investigațiilor jurnalistice și a proiectelor derulate împreună cu organizații și universități europene.
„Suntem la început. Încercăm să aplicăm în zona comercială câteva dintre tehnologiile pe care le dezvoltăm. Facem investigații jurnalistice sau ne alăturăm jurnaliștilor de investigații cu date și povești despre diferite activități online. Avem și colaborări la nivel european cu universități și asociații din zona civică și socială", a mai spus cofondatorul Qriton Technologies.
