„AI-ul ne-ar putea ucide pe toți până la sfârșitul deceniului”! Avertismentul unui cercetător demisionar de la Anthropic îngrijorat de inteligența artificială „scăpată de sub control”

El consideră că nicio companie nu mai poate dezvolta aceste sisteme în mod responsabil fără intervenția statelor.

CITEȘTE ȘI România intră pe radarul noii expansiuni europene a centrelor de date. Are șanse să devină a doua piață de centre de date din Europa Centrală și de Est, după Polonia

Tânărul expert, în vârstă de 27 de ani, și-a anunțat decizia prin șapte mesaje publicate pe X, marți spre sfârșitul după-amiezii. În mai puțin de două ore, acestea fuseseră deja vizualizate de două milioane de ori.

Motivul se rezumă la o singură frază: „Niciuna dintre cele două companii nu acționează în mod responsabil. Se îndreaptă cu viteză spre o superinteligență capabilă să se perfecționeze singură și se joace cu viețile noastre”. Cele două companii în cauză nu sunt altele decât OpenAI și Anthropic, cei doi foști angajatori ai săi, scrie News.ro

Matematician de formație, Coxon a lucrat la antrenarea unor noi modele de inteligență artificială (IA) pe baza unor cantități imense de date. Se afla, așadar, în inima procesului.

CITEȘTE ȘI Raport Heritage Foundation: România este o ancoră a NATO la Marea Neagră, dar investițiile americane noi au încetinit din cauza ordonanțelor de urgență și a instabilității politice de la București

Colegii săi folosesc acum cuvinte precum „crunchtime” (momentul decisiv) și „endgame” (faza finală) pentru a descrie direcția în care se îndreaptă sectorul IA, a povestit Coxon cotidianului The Wall Street Journal. „Ne îndreptăm spre cele mai extreme scenarii, în care, până la sfârșitul anului viitor, lucrurile ar putea scăpa deja de sub control”, avertizează el în interviul acordat cotidianului american. Cu atât mai mult cu cât, în viziunea sa, cursa dintre laboratoarele americane și cele chineze face să fie inevitabile compromisurile în materie de securitate.

Pe X, tânărul merge și mai departe. „Nu subestimați puterea acestei tehnologii. Aceste sisteme vor deveni în curând supraomenești, capabile să pirateze orice, să revoluționeze orice domeniu de la o zi la alta și să dobândească putere și resurse reale”, spune el într-un tweet. Mai rău, „oamenii care dezvoltă IA cred sincer că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului. Nu este o strategie de marketing”, continuă avertismentul tânărului matematician.

În fața presei, liderii și cercetătorii experimentați își aleg cu grijă cuvintele „pentru a părea rezonabili”. Însă, în privat, asigură el, aceleași persoane „își exprimă frica”, susține el. „Dacă cred cu adevărat asta, atunci de ce continuă să o construiască?”, se întreabă Coxon, care își împărtășește perspectiva: „La OpenAI, mulți nu au înțeles pe deplin mizele civilizaționale. La Anthropic, mizele sunt bine înțelese, dar sunt angajați într-o cursă pentru a ajunge primii – consideră că nimeni altcineva nu va acționa în mod responsabil, așa că trebuie să o facă ei înșiși, în ciuda riscului”.

CITEȘTE ȘI ULTIMA ORĂ Atac cibernetic chiar la DNSC

La începutul acestui an, Coxon a părăsit OpenAI pentru a se alătura Anthropic, tocmai datorită reputației acesteia în materie de siguranță a modelelor. Deși consideră că eforturile Anthropic în acest domeniu sunt sincere, el estimează acum că nicio companie nu poate dezvolta în mod responsabil o inteligență artificială capabilă să depășească capacitățile umane într-o serie întreagă de sarcini (ceea ce se numește uneori inteligență artificială generală sau AGI) fără intervenția statelor sau o încetinire coordonată.

Potrivit Wall Street Journal, această plecare se numără printre primele cazuri în care un angajat al Anthropic părăsește compania din cauza temerilor legate de siguranța IA. Anterior, un cercetător specializat în aceste chestiuni demisionase deja pentru a se dedica studiului poeziei. Avertismentul său? „Lumea este în pericol”.

Interdicție pentru folosirea inteligenței artificiale în școlile publice din New York

Zohran Mamdani, primarul din New York, impune o interdicție de un an legată de folosirea inteligenței artificiale în școlile publice.

Autoritățile din New York au anunțat un moratoriu de un an privind utilizarea inteligenței artificiale (IA) de către elevii din școlile publice primare și gimnaziale, aceasta fiind cea mai recentă măsură luată de autorități pentru a stabili linii directoare pentru utilizarea noilor tehnologii în sala de clasă, relatează Reuters.

CITEȘTE ȘI DECIZIE Vin noi tichete Rabla. Programul a fost suplimentat

Măsura luată de cel mai mare district școlar din țară este cea mai restrictivă de până acum din întreaga SUA, deși alte districte, inclusiv Los Angeles, au declarat că își revizuiesc politicile privind IA.

Primarul Zohran Mamdani a declarat miercuri reporterilor că școlile vor suspenda utilizarea actuală a aproximativ 40 de instrumente educaționale în sălile de clasă din orașul New York.

„Copiii au nevoie de profesori și de legături umane pentru a învăța și a se dezvolta. Ei trebuie să-și dezvolte abilitățile alături de colegii lor, să construiască relații cu educatorii și să se confrunte singuri cu probleme dificile”, a declarat Mamdani într-o conferință de presă.

CITEȘTE ȘI Vicepremierul Tanczos Barna avertizează: O coborâre a deficitului pe anul viitor încă un procent o să fie o chestiune extrem, extrem de dureroasă. Cred că ar trebui să negociem un moratoriu de un an de zile să rămânem pe deficitul de anul acesta

Politica va afecta aproximativ 600.000 de elevi din școlile publice până în clasa a VIII-a, în timp ce elevilor de liceu li se va permite să utilizeze IA în anumite cazuri. Profesorii vor avea dreptul să utilizeze IA pentru planificarea lecțiilor și pentru sarcini precum programarea orelor, a precizat municipalitatea într-un comunicat.

Școlile publice din metropola New York au impus anterior o interdicție temporară asupra ChatGPT la scurt timp după lansarea sa în 2022. Restricția a fost ulterior ridicată și înlocuită cu un asistent didactic personalizat bazat pe IA, potrivit Microsoft, coproprietar al OpenAI, compania care a creat ChatGPT.

Marile companii dezvoltatoare de IA – Google, Anthropic și Microsoft – nu au răspuns imediat la solicitările de comentarii adresate de Reuters după anunțul lui Mamdani.

Bill Gates avertizează asupra impactului AI

Bill Gates avertizează că lumea nu este pregătită pentru schimbările profunde pe care inteligența artificială le-ar putea provoca pe piața muncii și în societate. Cofondatorul Microsoft consideră că AI ar putea deveni fie ”cel mai mare factor de egalizare inventat vreodată”, fie ”cea mai gravă sursă de nedreptate”, în funcție de modul în care guvernele vor gestiona tranziția.

CITEȘTE ȘI Anthropic lansează Fable 5.1

Într-un eseu, Gates susține că nu vede suficiente dovezi că liderii politici, experții și comunitățile se pregătesc pentru ceea ce el descrie drept o perioadă de tulburări sociale, politice și economice.

”Nu există niciun plan pentru intrarea în era AI”

Gates estimează că tranziția către economia dominată de inteligența artificială ar putea fi una dintre cele mai turbulente perioade din istoria omenirii.

Problema, în opinia sa, este viteza schimbării. Spre deosebire de revoluțiile tehnologice precedente, AI ar putea prelua activități intelectuale într-un ritm mai rapid decât cel în care lucrătorii disponibilizați pot fi recalificați și absorbiți în noile profesii.

”Avem nevoie de timp pentru a ne pregăti pentru perioada de transformări sociale, politice și economice în care suntem pe cale să intrăm”, a avertizat Gates.

În prezent însă, spune el, pregătirile sunt insuficiente.

Locurile de muncă de birou, printre primele afectate

Efectele inteligenței artificiale sunt deja vizibile în unele profesii, potrivit lui Gates.

Printre domeniile care ar putea fi afectate relativ repede se numără vânzările, serviciile pentru clienți, programarea și activitățile juridice desfășurate de personalul auxiliar.

În timp, AI ar putea prelua și sarcini mai complexe, precum analiza datelor, evaluarea creditelor sau trierea pacienților.

O altă problemă este reducerea locurilor de muncă pentru începători. Tinerii ar putea intra pe o piață în care multe dintre activitățile care reprezentau până acum primul pas într-o carieră sunt deja realizate de sisteme AI.

Nici muncitorii nu vor fi protejați

Gates avertizează că transformarea nu se va limita la angajații din birouri.

Pe măsură ce roboții devin mai performanți și mai ieftini, automatizarea ar putea afecta masiv și munca fizică.

El dă exemplul unui angajat plătit cu 20 de dolari pe oră care ar putea ajunge să concureze cu un robot al cărui cost de operare este echivalent cu numai 10 dolari pe oră.

CITEȘTE ȘI FOTO Revolut lansează în România asistentul AI

Această diferență economică poate determina companiile să automatizeze rapid activitățile, mai ales dacă rivalii lor fac același lucru.

AI și roboții ar putea crea ”un cerc vicios”

Gates avertizează asupra apariției unui mecanism economic dificil de oprit.

O companie care utilizează AI și roboți își poate reduce costurile și, eventual, prețurile. Concurenții vor fi atunci obligați să adopte aceleași tehnologii pentru a rămâne competitivi.

Automatizarea poate astfel accelera automatizarea.

Gates descrie combinația dintre AI și robotică drept un posibil ”cerc vicios”, în care presiunea concurențială determină înlocuirea tot mai rapidă a unor categorii de angajați.

Guvernele trebuie să regândească munca, educația și protecția socială

Consecințele ar putea obliga statele să își regândească politicile privind ocuparea forței de muncă, educația, fiscalitatea și sistemele de protecție socială.

Gates propune crearea unor organisme naționale dedicate coordonării tranziției către era AI.

Aceste instituții ar trebui să poată elabora politici care traversează simultan numeroase domenii: piața muncii, taxele, energia, alegerile, sănătatea publică, sistemul financiar și securitatea națională.

Gates cere și o organizație internațională pentru AI

Reglementarea exclusiv la nivel național nu va fi suficientă, consideră miliardarul.

CITEȘTE ȘI ULTIMA ORĂ Ciucu se îndreaptă împotriva Solaris. M-am dus ca primar, mi-au trimis pe cineva junior. M-am simțit jignit!

Riscurile inteligenței artificiale depășesc granițele, astfel încât Gates propune înființarea în paralel a unei noi organizații internaționale pentru AI.

Aceasta ar putea împrumuta elemente din sistemele internaționale existente pentru controlul armelor nucleare, reglementarea aviației civile și acordurile globale pentru protejarea stratului de ozon.

În opinia sa, viitoarea instituție pentru AI va avea însă nevoie de mecanisme și mai complexe.

AI ar putea fi, în același timp, o forță uriașă pentru progres

Gates nu prezintă inteligența artificială exclusiv ca pe o amenințare. El consideră că aceeași tehnologie poate accelera rezolvarea unora dintre cele mai dificile probleme ale lumii.

CITEȘTE ȘI OpenAI îi taie accesul lui Elon Musk la modele de AI pe care le dezvoltă

AI ar putea contribui la dezvoltarea energiei curate și fiabile, combaterea schimbărilor climatice, creșterea producției agricole și eradicarea unor boli.

Tocmai această dualitate face esențial modul în care societatea gestionează următorii ani.

Mesajul lui Gates este că problema nu constă doar în cât de puternică va deveni inteligența artificială, ci în viteza cu care societățile vor reuși să-și adapteze economia, instituțiile și sistemele de protecție înainte ca tehnologia să transforme radical piața muncii.