Cu câteva zile înainte ca Sam Altman să fie demis, cercetătorii de la OpenAI avertizaseră Consiliul de Administrație despre o descoperire ce ar putea amenința omenirea

Cu câteva zile înainte ca Sam Altman să fie demis, cercetătorii de la OpenAI avertizaseră Consiliul de Administrație despre o descoperire ce ar putea amenința omenirea
Viorel Panaite
Viorel Panaite
scris 23 nov 2023

Înainte de cele patru zile de exilare a directorului general al OpenAI, Sam Altman, mai mulți cercetători din cadrul personalului startup-ului au scris o scrisoare către Consiliul de Administrație în care avertizau asupra unei descoperiri puternice în materie de inteligență artificială despre care au spus că ar putea amenința omenirea, au declarat pentru Reuters două persoane familiarizate cu acest subiect.

Urmărește-ne și pe Google News

Scrisoarea și algoritmul de inteligență artificială au fost evoluții cheie înainte de înlăturarea lui Altman de către Consiliul de Administrație, au spus cele două surse.

UiPath îl numește pe Tudor Cosăceanu vicepreședinte regional pentru România, pentru a accelera adoptarea automatizării bazate pe inteligență artificială CITEȘTE ȘI UiPath îl numește pe Tudor Cosăceanu vicepreședinte regional pentru România, pentru a accelera adoptarea automatizării bazate pe inteligență artificială

Sursele Reuters au spus că scrisoarea a fost un factor dintr-o listă mai lungă de nemulțumiri ale Consiliului de Administrație care au dus la concedierea lui Altman, considerat copilul teribil al inteligenției artificiale, printre care se numără preocupări legate de comercializarea progreselor înainte de a înțelege consecințele, scrie News.ro.

Înainte de revenirea sa triumfală, care s-a întâmplat marți seara, peste 700 de angajați au amenințat că vor demisiona și se vor alătura Microsoft - susținătorul lui Altman - în semn de solidaritate cu liderul lor concediat.

După ce a fost contactat de Reuters, OpenAI, care a refuzat să comenteze, a recunoscut într-un mesaj intern adresat personalului un proiect numit Q* și o scrisoare adresată Consiliului înainte de evenimentele din weekend, a declarat una dintre persoane. Un purtător de cuvânt al OpenAI a declarat că mesajul, trimis de Mira Murati, un director cu vechime, a alertat personalul cu privire la anumite articole din presă, fără a comenta acuratețea acestora.

Unele persoane de la OpenAI cred că Q* (pronunțat Q-Star) ar putea fi o descoperire în căutarea de către startup a ceea ce este cunoscut sub numele de inteligență artificială generală (AGI), a declarat pentru Reuters una dintre surse. OpenAI definește AGI ca fiind sisteme autonome ce depășesc oamenii în majoritatea sarcinilor valoroase din punct de vedere economic.

Având în vedere resursele vaste de calcul, noul model a fost capabil să rezolve anumite probleme matematice, a declarat sub rezerva anonimatului sursa Reuters. Cu toate că efectua doar calcule matematice la nivelul elevilor de școală primară, faptul că a reușit astfel de teste i-a făcut pe cercetători să fie foarte optimiști cu privire la viitorul succes al Q*, a mai spus sursa.

Cercetătorii consideră că matematica este o frontieră a dezvoltării inteligenței artificiale generative. În prezent, inteligența artificială generativă este bună la scriere și la traducerea limbilor străine prin prezicerea statistică a următorului cuvânt, iar răspunsurile la aceeași întrebare pot varia foarte mult. Dar cucerirea abilității de a face matematică - unde există un singur răspuns corect - presupune că IA ar avea capacități mai mari de raționament, asemănătoare cu inteligența umană. Acest lucru ar putea fi aplicat, de exemplu, la cercetări științifice noi, consideră cercetătorii din domeniul IA.

DOCUMENT Administratorul special cere răspunderea patrimonială a foștilor administratori ai Blue Air. Dezvăluire - Cum a intrat compania în insolvență CITEȘTE ȘI DOCUMENT Administratorul special cere răspunderea patrimonială a foștilor administratori ai Blue Air. Dezvăluire - Cum a intrat compania în insolvență

Spre deosebire de un calculator care poate rezolva un număr limitat de operații, AGI poate generaliza, învăța și înțelege.

În scrisoarea lor către Consiliu, cercetătorii au semnalat probele de inteligență artificială și potențialul pericol, au declarat sursele, fără a preciza care sunt îngrijorările exacte legate de siguranță semnalate în scrisoare. Există de mult timp discuții în rândul informaticienilor cu privire la pericolul reprezentat de mașinile foarte inteligente, de exemplu dacă acestea ar putea decide că distrugerea umanității este în interesul lor.

Semnatarii scrisorii au semnalat, de asemenea, activitatea unei echipe de "cercetători în domeniul inteligenței artificiale", a cărei existență a fost confirmată de mai multe surse. Grupul, format prin combinarea echipelor anterioare de la "Code Gen" și "Math Gen", explora modul de optimizare a modelelor de inteligență artificială existente pentru a le îmbunătăți raționamentul și, în cele din urmă, pentru a efectua lucrări științifice, a declarat una dintre persoane.

Altman a condus eforturile pentru a face din ChatGPT una dintre aplicațiile software cu cea mai rapidă creștere din istorie și a atras investițiile necesare - și resursele de calcul - de la Microsoft, pentru a se apropia de AGI. Pe lângă faptul că a anunțat o serie de noi instrumente în cadrul unei demonstrații în această lună, Altman a anunțat săptămâna trecută, în cadrul summitului APEC din San Francisco, că, în opinia sa, se întrezăresc progrese majore. "De patru ori în istoria OpenAI, cea mai recentă dată chiar în ultimele două săptămâni, am reușit să fiu prezent în sală atunci când dăm la o parte vălul ignoranței și împingem frontiera descoperirii, iar a face acest lucru este o onoare profesională de neuitat", a declarat el la summitul APEC.

O zi mai târziu, Consiliul de Administrație l-a concediat pe Altman.

viewscnt
Afla mai multe despre
sam altman
openai