La începutul anului, pe X, platforma socială a lui Elon Musk, se viralizau cu mare viteză numeroase imagini cu femei, chiar și cu copii, dezbrăcați artificial de Grok, chatbot-ul dezvoltat de X, companie deținută tot de Elon Musk.
Imaginile, generate fără acordul persoanelor care apăreau în ele, au determinat autoritățile din mai multe regiuni fie să înceapă investigații, fie să blocheze temporar accesul la Grok.
Ca răspuns, inițial, xAI a decis să limiteze accesul la funcția de dezbrăcare, care nu mai putea fi folosită de orice utilizator, ci doar de abonați.
Ulterior, compania a anunțat că a restricționat această facilitate, pentru a nu mai putea fi folosită de absolut nimeni. În realitate, abia după mai multe zile a devenit imposibilă dezbrăcarea femeilor și copiilor.
La o lună după izbucnirea scandalului, xAI nu a blocat nici acum complet dezbrăcarea oamenilor, aceasta fiind încă posibilă în cazul bărbaților.
Comenzile banale nu mai pot fi folosite pentru a crea imagini explicite, dar, cu puțină creativitate, utilizatorii încă mai pot păcăli limitările impuse de companie pentru a dezbrăca oameni cu Grok.
Comisia Europeană a deschis o anchetă împotriva X
X este anchetată de Comisia Europeană pentru că nu a împiedicat chatbotul Grok AI să răspândească imagini deepfake „ce pot constitui material susceptibil de abuz sexual asupra copiilor”.
Scandalul imaginilor generate de Grok a avut un impact mondial de la începutul acestui an. Pornind de la simpla comandă „Grok, pune-o în bikini”, mii de utilizatori ai rețelei sociale X au dezbrăcat fără consimțământul lor femei, adolescente și chiar copii, grație inteligenței artificiale integrate în platformă.
Comisia Europeană a declarat că ancheta, care riscă să atragă un nou val de critici din partea Casei Albe, va verifica dacă platforma socială a evaluat și a atenuat în mod corespunzător riscurile asociate cu implementarea Grok în X în cele 27 de țări ale UE.
„Deepfake-urile sexuale neconsensuale cu femei și copii sunt o formă violentă și inacceptabilă de degradare”, a declarat comisarul european pentru tehnologie, Henna Virkkunen. Cazul intră sub incidența regulamentului blocului european privind conținutul online, Legea serviciilor digitale, care impune restricții asupra materialelor dăunătoare și ilegale de pe internet.
În conformitate cu DSA, care a intrat în vigoare în 2023, UE poate aplica platformelor online amenzi de până la 6% din veniturile lor globale anuale pentru că nu au combătut conținutul ilegal și dezinformarea sau nu au respectat regulile de transparență.
