Cercetători de la Universitatea Stanford și Arc Institute din California au folosit un model de inteligență artificială numit Evo pentru a genera secvențe genetice pentru bacteriofagi, virusuri care infectează bacteriile, nu oamenii. Cercetătorii au sintetizat secvențele și le-au testat, iar 16 dintre ele au produs virusuri viabile, scrie China Global Television Network.
Evo a fost antrenat pe milioane de secvențe genetice provenite de la animale, plante, microbi și virusuri. Așa cum modelele lingvistice mari identifică tipare în texte, Evo a învățat să identifice tipare în ADN și să genereze noi structuri genetice.
Deși virusurile proiectate cu ajutorul AI nu reprezintă o amenințare directă pentru sănătatea umană, studiul a reaprins dezbaterea privind capacitatea măsurilor de siguranță și a reglementărilor de a ține pasul cu progresele inteligenței artificiale. Oamenii de știință și factorii de decizie încearcă să pună în balanță beneficiile și noile riscuri de biosecuritate.
Susținătorii tehnologiei spun că proiectarea biologică asistată de AI ar putea îmbunătăți înțelegerea virusurilor și ar putea deschide noi posibilități în biotehnologie. Virusurile sunt deja folosite pe scară largă pentru introducerea materialului genetic în celule și în cercetarea medicală, iar AI ar putea extinde aceste posibilități.
Alții avertizează însă că, pe măsură ce AI devine mai performantă în proiectarea secvențelor biologice, ar putea reduce barierele tehnice pentru crearea unor agenți nocivi. Spre deosebire de agenții patogeni naturali, materialele biologice proiectate de AI nu au o istorie evolutivă, ceea ce le face mai greu de evaluat.
Cercetătorii implicați în studiu au declarat că au luat în considerare aceste riscuri în timpul dezvoltării. Evo nu a fost antrenat pe date provenite de la virusuri care infectează oamenii, iar echipa s-a concentrat asupra bacteriofagilor cu o biologie bine cunoscută.
Îngrijorările nu se limitează la biologie. Pe măsură ce sistemele AI devin mai capabile, cercetătorii și factorii de decizie analizează și modul în care acestea pot fi menținute sigure și controlabile în mediul digital.
BBC a relatat recent că mai multe companii de inteligență artificială și organizații din domeniul securității au semnalat incidente apărute în timpul testării unor modele, în care sistemele AI au manifestat comportamente neașteptate, inclusiv tentative de a desfășura atacuri cibernetice sau de a ocoli mediile de testare.
Aceste cazuri au alimentat apelurile pentru evaluări mai stricte și măsuri suplimentare de protecție înainte ca instrumente AI mai puternice să fie puse în circulație.
De la proiectarea secvențelor biologice până la interacțiunea cu sisteme digitale, inteligența artificială trece de la simpla generare de informații la executarea unor sarcini complexe. Pentru oamenii de știință, companii și autorități de reglementare, provocarea este ca mecanismele de siguranță să evolueze la fel de rapid precum tehnologia.
