Medicii britanici au folosit un software AI (Ambient Voice Technology sau AVT) care nu îndeplinește standardele minime necesare, pentru a înregistra și transcrie consultațiile cu pacienții, potrivit unei investigații Sky News.
Departamentul pentru Sănătate (NHS) a cerut medicilor și spitalelor să nu mai utilizeze acest software de inteligență artificială, deoarece ar putea pune pacienții în pericol, având în vedere că software-ul intră în posesia informațiilor personale ale acestora.
Totuși, această solicitare are loc la doar două săptămâni după ce tot NHS a scris despre beneficiile utilizării AI pentru luarea notițelor (ceea ce ar permite medicilor mai mult timp pentru a se concentra asupra pacienților), folosind software-ul AVT.
Acum, în scrisoarea din 9 iunie NHS a transmis: “Suntem acum conștienți de o serie de soluții AVT care, în ciuda faptului că nu sunt conforme, sunt încă utilizate pe scară largă în practica clinică.
Mulți dintre furnizorii acestor programe nu au respectat standardele de bază ale NHS. Continuarea cu soluții neconforme riscă să pună în pericol siguranța clinică, dar încalcă și protecția datelor”, scrie BiziDay.
Spectrul zecilor de companii de inteligență artificială puțin cunoscute, dar ambițioase, care fac presiuni asupra spitalelor și cabinetelor pentru a-și instala produsele de ascultare îngrijorează unii profesioniști din domeniul sănătății.
Oficiali din cadrul NHS spun că este corect ca instituția să experimenteze, dar că este nevoie de norme mai clare care să evidențieze clar ce programe funcționează în siguranță și care nu.
Utilizarea inteligenței artificiale în domeniul medical a fost încurajată în Marea Britanie și de către ministrul Sănătății.
Totuși, experții trag un semnal de alarmă, spunând că unul dintre riscurile utilizării AI este reprezentat de așa-numitele “halucinații AI”, adică fenomenul în care această tehnologie inventează răspunsuri false și apoi minte în legătură cu acestea, ceea ce, într-un context medical, s-ar putea dovedi foarte periculos.
