Ministarstvo odbrane SAD-a (DoD) završilo je pilot-program pod nazivom Crowdsourced AI Red-Teaming (CAIRT) Assurance Program, koji je usmjeren na testiranje AI chatbotova u vojnim medicinskim službama. Ova inicijativa evaluirala je velike jezičke modele (LLMs) za sažimanje kliničkih bilješki i pružanje medicinskih savjeta, uključujući preko 200 učesnika iz različitih vojnozdravstvenih organizacija.

Rezultati su otkrili preko 800 potencijalnih ranjivosti i pristrasnosti u AI sistemima, što ističe izazove u njihovom korištenju za kritične medicinske zadatke u vojsci. Ova otkrića će poslužiti za izradu referentnih skupova podataka za procjenu budućih AI alata i osiguravanje njihovog usklađivanja s rigoroznim vojnim standardima.

Program CAIRT koristio je crowdsourced red-teaming pristup, uključujući različite dionike, poput kliničkih pružatelja usluga i budućih korisnika, kako bi ubrzao identifikaciju ranjivosti i izgradio povjerenje u AI sisteme. Ova inicijativa realizovana je u partnerstvu s neprofitnom organizacijom Humane Intelligence.

Pilot-projekt predstavlja značajan korak naprijed za DoD u balansu između AI inovacija i odgovornosti, osiguravajući da alati budu i efikasni i sigurni. Ova strategija se uklapa u šire nacionalne sigurnosne prioritete, budući da se razvoj AI tehnologija sve više smatra ključnim za održavanje konkurentnosti američke vojske.

Fokus na generativnu vještačku inteligenciju

Pilot-program, koji je vodio Ured za digitalne i AI tehnologije (CDAO) pri DoD-u, procjenjivao je primjenu LLM-ova za dva ključna zadatka: sažimanje kliničkih bilješki i pružanje medicinskih savjeta vojnicima. Učestvovalo je više od 200 stručnjaka, uključujući kliničke pružatelje usluga, analitičare zdravstvene zaštite i eksperte iz Agencije za zdravstvenu zaštitu odbrane (DHA).

Tokom testiranja tri vodeća AI modela chatbotova, identificirano je preko 800 potencijalnih ranjivosti i pristrasnosti. Ova otkrića će biti osnova za izradu skupova podataka za evaluaciju budućih AI alata, osiguravajući da zadovolje visoke standarde performansi i sigurnosti neophodne za vojne aplikacije.

Dr. Matthew Johnson, koji vodi ovu inicijativu, izjavio je da pilot-program služi kao ključna tačka za prikupljanje testnih podataka i validaciju opcija za smanjenje rizika. "Kako je primjena generativne AI (GenAI) u DoD-u u ranoj fazi eksperimentisanja, ovaj program pruža bitne podatke i smjernice za budući razvoj," izjavio je Johnson.

Transparentnost i odgovornost

Crowdsourced red-teaming metod, koji koristi tehniku simuliranih napada za testiranje otpornosti sistema, omogućio je uključivanje šire grupe dionika. To uključuje potencijalne buduće korisnike ovih tehnologija, čime se ubrzava identifikacija ranjivosti i podstiče povjerenje u AI sisteme.

Ured za digitalne i AI tehnologije (CDAO), osnovan u junu 2022. godine, nalazi se u središtu napora Pentagona za integraciju AI i digitalnih tehnologija u vojne operacije. Misija ovog ureda je ubrzanje usvajanja podataka, analitike i AI-a širom DoD-a kako bi se očuvala tehnološka prednost američke vojske.

AI kao nacionalni prioritet

Ova inicijativa dolazi u trenutku intenzivne globalne konkurencije u razvoju AI-a. Prošle godine, dvostranačka kongresna komisija preporučila je SAD-u da da prioritet razvoju AI-a, uspoređujući ovu inicijativu s projektom Manhattan. Komisija je pozvala ministra odbrane da AI projekte označi kao nacionalni prioritet, ističući rastući značaj AI-a u nacionalnoj sigurnosti.

Odgovorna integracija

Iako AI nudi ogroman potencijal, rezultati pilota s više od 800 identifikovanih ranjivosti podsjećaju na potrebu za rigoroznim testiranjem i nadzorom, posebno kada se tehnologija primjenjuje u kritičnim sektorima poput vojne medicine.

Pentagonov pristup AI-u služi kao primjer odgovorne inovacije, naglašavajući transparentnost, odgovornost i saradnju. Lekcije iz ovog programa oblikovat će budućnost vojne medicine i šire primjene AI-a u odbrani, istovremeno osiguravajući da inovacije ne ugroze sigurnost ili pouzdanost.