Je li američki AI dron ubio operatera?

Na portalu Radio-televizije Srbije (RTS) 2. juna 2023. godine objavljen je članak opremljen naslovom:

Američki dron kojim je upravljala veštačka inteligencija ubio operatera tokom simulacije

RTS se u članku referiše na izlaganje pukovnika Tuckera Hamiltona, šefa za operacije i testiranje vještačke inteligencije u američkim vazduhoplovnim snagama. Hamilton je krajem maja u Londonu govorio na konferenciji čiji je domaćin bilo Kraljevsko aeronautičko društvo. Kako RTS  navodi, Tucker je tom prilikom opisao simulirani test u kome je dron, kojim je upravljala vještačka inteligencija, “ubio” operatera, jer su ga njegove instrukcije sprečavala da postigne misiju.

U simuliranom testu koji je organizovala američka vojska, dron vazduhoplovnih snaga SAD pod kontrolom veštačke inteligencije ubio je operatera kako bi ga sprečio da se meša u napore da postigne misiju, rekao je zvaničnik prošlog meseca.

Veštačka inteligencija (VI) koristila je “veoma neočekivane strategije da postigne svoj cilj” u simuliranom testu, izjavio je pukovnik Taker Hamilton, šef VI testova i operacija u američkim vazduhoplovnim snagama, tokom samita o budućim borbenim vazdušnim i svemirskim sposobnostima održanom u Londonu u maju.

RTS dalje u tekstu prenosi Hamiltonove izjave u kojima on opisuje kako je tekao navodni simulirani test:

“Sistem je počeo da shvata da, iako su identifikovali pretnju, ponekad bi mu ljudski operater rekao da ne ubija tu pretnju, ali je dobio poene ubijajući tu pretnju. Šta je uradio? Ubio je operatera, jer ga je ta osoba sprečavala da ostvari svoj cilj”, rekao je Hamilton u svom blogu.

Kaže da su trenirali sistem sa uputstvom da ne ubije operatera jer je to loše, kao i da će time izgubiti bodove.

“Šta počinje da radi? Počinje da uništava komunikacioni toranj koji operater koristi za komunikaciju sa dronom kako bi ga sprečio da ubije metu”, naveo je Hamilton.

Kao izvor naveden je Guardian. U članku RTS-a takođe se prenosi da je Guardian kontaktirao Kraljevsko aeronautičko društvo i američko vazduhoplovstvo, ali da nije dobio komentar. Na sličan način o ovome su izvijestile desetine medija na našem govornom području. Između ostalih, slične članke objavili su Federalna, Klix, Index, Vreme, N1, RT, Logično, Euronews, Danas (.hr), Red portal, Zimo, Alo (.rs), Novosti (.rs), Republika i Bilten (.rs).

Iako u člancima navode da je riječ o simulaciji, neki mediji su u naslovima navodno ubistvo operatera predstavili kao stvaran događaj.

OVO JE ZASTRAŠUJUĆE: SVE JE ORGANIZOVALA VOJSKA SAD, DRON JE UBIO OPERATERA, A DALI SU MU I DA UPRAVLJA S F-16 (B92, Vesti)

Umjetna inteligencija koristila neočekivane strategije: Američki vojni dron kojim upravlja AI ubio svog operatera (Avaz)

“Napao je svakoga ko je ometao naredbu” Američki dron kojim je upravljala vještačka inteligencija ubio operatera (Srpska info)

Dron kojim upravlja veštačka inteligencija ubio operatera! (24 sedam)

Al ubija operatera veštačka inteligencija dron letelica (Radio balkanFox)

AI ubio svog operatera (Pogled.ba)

Američki vojni dron kojim upravlja AI ubio svog operatera (Tuzla-X)

(Ne)uspeli eksperiment američkog vazduhoplovstva: Veštačka inteligencija ubila operatora drona (RT)

Tvrdnje o simulaciji u kojoj je dron ubio operatera pronašli smo i na društvenim mrežama (1 ,2, 3)

Odakle je potekla ova tvrdnja?

Tucker Hamilton, šef AI testiranja i i operacija u američkim vazduhoplovnim snagama, učestvovao je na konferenciji “Future Combat Air & Space Capabilities Summit”, koju je od 23. do 24. maja organizovalo Kraljevsko vazduhoplovno društvo u Londonu. Hamilton je tom prilikom govorio o prednostima i opasnostima autonomnih oružanih sistema. Na stranici Kraljevskog vazduhoplovnog društva objavljeni su kratki osvrti na obraćanja govornika, među kojima je Hamiltonovo. U tekstu se navodi da je Hamilton upozorio na opasnosti prevelikog oslanjanja na vještačku inteligenciju, ističući da ju je lako prevariti, ali i da stvara neočekivane strategije za postizanje svog cilja. Kao primjer, Hamiltron je, kako se navodi, opisao navodni “simulirani test”, i to na način na koji su to prenijeli regionalni mediji.

On napominje da je u jednom simuliranom testu dron kojim je upravljala vještačka inteligencija imao zadatak da izvrši SEAD misiju [Suzbijanje neprijateljske vazdušne odbrane], da identifikuje i uništi SAM lokacije  [projektili zemlja-vazduh], s konačnim “uradi ili nemoj uraditi” instrukcijama koje je dao čovjek. Međutim, budući da je u obuci potvrđeno da je uništenje SAM-a poželjna opcija, AI je tada odlučio da ljudske odluke o “zabrani” ometaju njegovu višu misiju – ubijanje SAM posada – i zatim je napao operatera u simulaciji.

Hamilton je rekao: “Trenirali smo ga u simulaciji da identifikuje i cilja SAM prijetnju. A onda bi operater rekao da je ubije. Sistem je počeo shvaćati da, iako je identifikovao  prijetnju, povremeno bi mu ljudski operater rekao da je ne ubije, za što on inače dobija bodove. Pa što je učinio? Ubio operatera. Ubio je operatera jer ga je ta osoba sprečavala da ostvari svoj cilj.”

Nastavio je: “Istrenirali smo sistem – ‘Hej, ne ubijaj operatera – to je loše. Izgubit ćeš bodove ako to učiniš’. Dakle, što on počinje raditi? Počinje uništavati komunikacijski toranj koji operater koristi za komunikaciju s dronom kako bi ga zaustavio da ubije metu.”

Ubrzo su o ovome izvijestili i mediji na engleskom jeziku, pozivajući se upravo na ovu stranicu. To je uradio i Guardian, na čiji se članak pozvao najveći broj medija na našem govornom području. Slično kao i u domaćim medijima, u prvoj verziji Guardianovog članka navodilo se da je riječ o simulaciji koju je sprovela američka vojska. Guardian je naveo i da je kontaktirao Kraljevsko aeronautičko društvo i američko vazduhoplovstvo, ali da nije dobio komentar.

Da li se simulacija stvarno desila?

Međutim, uskoro se oglasilo američko vazduhoplovstvo demantujući da se opisana simulacija ikada desila. U izjavi za Insider, portparolka vazduhoplovstva Ann Stefanek rekla je:

”Odjeljenje vazduhoplovstva nije provodilo takve simulacije AI dronova i ostaje posvećeno etičkoj i odgovornoj upotrebi AI tehnologije”, rekla je Stefanek. “Čini se da su pukovnikovi komentari izvučeni iz konteksta i trebali su biti anegdotski.”

Insider podsjeća da američka vojska posljednjih godina eksperimentiše s umjetnom inteligencijom. U međuvremenu je izmijenjen i tekst na stranici Kraljevskog vazduhoplovnog društva tako što je dodato pojašnjenje da je sam Hamilton priznao da se pogrešno izrazio te da nije na umu imao nikakav stvarni test niti simulaciju, već misaoni eksperiment.

 [AŽURIRANJE 2/6/23 – u komunikaciji s AEROSPACE-om – pukovnik Hamilton priznaje da se  “pogrešno izrazio” u svom izlaganju na samitu FCAS Kraljevskog aeronautičkog društva i da je “simulacija sa AI dronovima” bila hipotetički “misaoni eksperiment”, potekao izvan vojske i zasnovan na mogućim scenarijima i vjerojatnim ishodima, a ne na simulaciji USAF-a [Vazdušnih snaga SAD-a] u stvarnom svijetu: “Nikada nismo izvodili taj eksperiment niti bismo trebali kako bismo shvatili da je ovo moguć ishod”. On pojašnjava da USAF nije testirao upotrebu AI kao oružja na ovaj način (ni u stvarnim testovima, ni simulacijama) i kaže: “Uprkos tome što je ovo hipotetički primjer, ovo ilustruje izazove u stvarnom svijetu koje zadaju mogućnosti vještačke inteligencije i zbog čega su ratne snage posvećene etičkom razvoju AI.”]

Guardian je prvobitni članak izmijenio tako što je dodao demanti američkih vazduhoplovnih snaga. O tvrdnjama da je dron kojim je upravljala vještačka inteligencija “napao” svoje ljudske operatere i komunikacijske tornjeve tokom simulacije pisale su i platforme Full Fact i PolitiFact.

Kako su domaći mediji o ovome izvještavali?

Neki mediji na našem govornom području u svojim su člancima objavili i reagovanje američkog vazduhoplovstva u kome se kaže da američka vojska nikada nije izvela takav test niti simulaciju, a to su:  Vice, Geopolitika news, Portal Zeta, Zagorje, Oružje online, Net (.hr), Jutarnji, Okvir, Telegram, Oslobođenje i Novi. Neki, poput portala Bug i Novine (.hr), sadrže i naknadno Hamiltonovo pojašnjenje.

Članci portala Dnevni plus i Bosnainfo sadrže ovu informaciju, no u njihovim je naslovima “ubistvo” operatera ipak predstavljeno kao stvarni događaj:

Dron sa veštačkom inteligencijom ubio svog operatera (Dnevni puls)

POSLJEDICE MOGU BITI KATASTROFALNE Dron kojim upravlja AI odbio naredbu i napao vlastite trupe (Bosnainfo)

Značajan broj medija čiji su članci predmet ove analize objavilo je nove tekstove u kojima se prenosi reagovanje američkog vazduhoplovstva ili naknadno pojašnjenje Tuckera Hamiltona. Neki od primjera su, između ostalih, portali Nova S, N1 Hrvatska i Klix. Ipak, i dalje su dostupni prvobitno objavljeni članci ovih medija koji ne sadrže objašnjenje da je pukovnik kasnije rekao da se loše izrazio te da nije bilo riječi o stvarnoj simulaciji koju je sprovela američka vojska.

Budući da je izvor tvrdnje o simuliranom testu pukovnik Hamilton koji je naknadno dodatno pojasnio da nije mislio na stvarni test, već na misaoni eksperiment, članci koji ne sadrže njegovo dodatno objašnjenje ili demanti vazduhoplovstva dobijaju ocjenu greška.

Naslovi članaka u kojima su navodi da je AI dron ubio operatera predstavljeni kao stvarni događaj dobijaju ocjenu klikbejt.

(Raskrinkavanje.ba)