AI za transkripciju u bolnicama dodaje izmišljene izjave

Tehnologija

AI za transkripciju u bolnicama dodaje izmišljene izjave

byDragan
prije 1 mjesec
0
0
123

Nedavna istraživanja otkrila su ozbiljne greške u AI transkripcionom alatu Whisper, koji se široko koristi u bolnicama za vođenje medicinske dokumentacije. Whisper, razvijen od strane OpenAI-a i prilagođen za zdravstveni sektor od strane startupa Nabla, često stvara tekst ili čitave rečenice koje nisu izgovorene, što se naziva "halucinacijama". Od uvođenja, više od 30.000 medicinskih radnika u 40 zdravstvenih sistema počelo je koristiti ovaj alat.

Iako se Whisper hvalio preciznošću, stručnjaci iz oblasti softvera i akademici primijetili su ozbiljne nedostatke, upozoravajući da halucinacije često uključuju osjetljiv ili štetan sadržaj, poput neprikladnih rasnih komentara, nasilnog jezika ili izmišljenih medicinskih savjeta. Istraživač sa Univerziteta Michigan naveo je da je u osam od deset transkripcija javnih sastanaka uočio značajne halucinacije, dok su i drugi stručnjaci prijavili slične probleme kroz hiljade transkripata.

Uticaj ovakvih grešaka je posebno kritičan u zdravstvu, gdje tačna dokumentacija može biti ključna za život pacijenata. Alondra Nelson, bivša direktorica Ureda za nauku i tehnologiju Bijele kuće, naglasila je da bi pogrešni transkripti mogli dovesti do ozbiljnih medicinskih grešaka, pozivajući na strožu regulaciju i više standarde za upotrebu AI tehnologije u medicini. Iako OpenAI i Nabla priznaju problem i rade na poboljšanjima, mnogi zahtijevaju brzu reakciju i ograničenje primjene Whisper-a u kontekstima gdje su u pitanju životi pacijenata.