Prezentarea noului instrument de transcriere Whisper de către OpenAI
Gigantul tehnologic OpenAI, cunoscut pentru dezvoltarea ChatGPT, a anunțat recent lansarea unui nou instrument de transcriere, numit Whisper, care utilizează inteligența artificială. Cu toate acestea, Whisper prezintă o problemă semnificativă, manifestată prin tendința de a genera fragmente de text sau chiar propoziții complete fabricate, conform unor cercetători citati de Reuters.
Acuratețea și deficiențele Whisper
OpenAI a promovat Whisper ca având o „soliditate și o precizie apropiate de standardele umane”. Însă, interviurile realizate cu mai mult de 10 ingineri de software, dezvoltatori și cercetători universitari sugerează altceva. Aceste surse au menționat că unele dintre informațiile fictive generate de Whisper, cunoscute în domeniu sub termenul de halucinații, conțin comentarii de natură rasială, retorică violentă și chiar propuneri de tratamente medicale nefondate.
Problemele generate de „halucinațiile” din text
Experții subliniază că aceste erori pot fi extrem de problematice, având în vedere că Whisper este utilizat în diverse industrii la nivel global pentru activități precum traducerea și transcrierea interviurilor, generarea de texte sau crearea de subtitrări pentru videoclipuri. În plus, utilizarea acestui instrument în medii sensibile, precum cel medical, este îngrijorătoare, deoarece spitalele încep să adopte Whisper pentru a transcrie consultațiile pacienților, ignorând astfel avertizările venite din partea OpenAI care recomandă evitarea utilizării în „domenii cu risc ridicat”.
Consecințele posibile ale erorilor de transcriere în medicină
Greșelile generate de Whisper pot avea „consecințe foarte grave”, a declarat Alondra Nelson, fostă conducătoare a Biroului de Politici Științifice și Tehnologice al Casei Albe în administrația Biden, până anul trecut. „Nimeni nu își dorește un diagnostic eronat”, a completat Nelson, subliniind că este necesară stabilirea unor standarde mai ridicate în utilizarea tehnologiei.
Riscurile pentru persoanele cu deficiențe de auz
Whisper este de asemenea folosit pentru a crea subtitrări destinate persoanelor surde și celor cu deficiențe de auz, o categorie de utilizatori expusă în mod special riscurilor generate de transcrierile greșite. Erorile în generarea de subtitrări pot afecta considerabil accesibilitatea informațiilor pentru aceste persoane, complicând astfel comunicarea și înțelegerea mesajelor.
Adoptarea tehnologiei Whisper în industrie
În prezent, peste 30.000 de medici și 40 de sisteme de sănătate au început să integreze Whisper în procesele lor de lucru. Printre acestea se numără Clinica Mankato din Minnesota și Spitalul de Copii din Los Angeles, care au ales să utilizeze această tehnologie pentru a eficientiza transcrierea consultațiilor medicale.
Concluzii ale specialiștilor
Mesajele transmise de cercetători și ingineri sugerează că, deși tehnologiile bazate pe inteligență artificială precum Whisper promit o eficiență sporită, este esențial să se acorde o atenție deosebită acurateței și fiabilității acestora. Adaptarea rapidă a acestor instrumente în domenii sensibile, cum ar fi medicina, impune o evaluare atentă a riscurilor și beneficiilor, asigurând astfel o utilizare responsabilă și etică a tehnologiei.
