Jul 18, 2013

Ubij me nežno

Bespilotna letelica X-47B, novi adut američke mornarice
Iako je na novinske stranice X-47B došao tek nedavno, obimno testiranja letelice u koju je američka vojska uložila skoro milijardu dolara traje već nekoliko meseci. Jedan od prvih zadataka koje je trebalo savladati bilo je sigurno kretanje letelice po skučenoj palubi nosača aviona što je težak problem za daljinski kontrolisano vozilo sa rasponom krila od 20 metara, visoko 10 i teško preko 20 tona. Usledili su uspešni testovi poletanja i sletanja sa kopna, a zatim touch-and-go manevar sa nosačem aviona (letelica samo dotakne palubu, doda gas i ponovo uzleti). Sve liči na standardnu proceduru testiranja mornaričkih aviona, s "malom" razlikom što letelica nema kabinu niti pilota koji bi pred poletanje mogao da salutira osoblju na palubi (umesto toga, X-47B namiguje lampama koje nosi na krajevima krila). Suštinski prodor ostvaren je prošle nedelje kada je obavljeno prvo klasično sletanje bespilotne letelice na nosač aviona, uz korišćenje kuke i elastične sajle razapete iznad piste, na zadovoljstvo inženjera fabrike Nortrop-Gruman u kojoj je letelica proizvedena i mornarice koja je sve to finansirala. Poduhvat je bio više nego komplikovan s obzirom da letelica nema rep (koji poboljšava stabilnost) i da je skoro u potpunosti kompjuterski kontrolisana.

X-47B na palubi nosača aviona
Bespilotne borbene letelice imaju više značajnih prednosti u odnosu na one konvencionalne kojima upravlja pilot. U vazduhu mogu da ostanu neuporedivo duže (i preko šest sati), neprekidno vrebajući zgodnu priliku za napad. Mogu da ponesu praktično svako zamislivo naoružanje, ekonomične su jer traže manje novca za izradu i održavanje i, što je najvažnije, u slučaju havarije ili obaranja nema ljudskih žrtava. Njihova namena je višestruka, kako u miru tako i u ratu: mogu da osmatraju teren, nadgledaju vazdušni prostor i granice, istražuju ležišta nafte i ruda, obavljaju naučne eksperimente i merenja, tragaju za izgubljenima ili nastradalima, rano upozoravaju na poplave, požare i druge katastrofe, da lete duboko u neprijateljsku teritoriju, prate kretanje protivnika, prisluškuju komunikacije ili - da ubijaju. Do skoro je tehnologija naoružanih bespilotnih letelica bila rezervisana samo za svetske vojne velesile ali se danas ove sprave nalaze u arsenalu 24 države (jednu imaju i naše hrvatske komšije). Najrasprostranjeniji i najpoznatiji modeli proizvode se u Izraelu (Elbit Hermes 450, IAI Heron) i SAD (MQ-9 Reaper, MQ-1, Predator, X-47B). Interesantno je da se u Americi trenutno školuje otprilike podjednak broj pilota borbenih aviona i kontrolora bespilotnih letelica.

Iako X-47B ima prilično zloslutan izgled (grubo gledano, ovo "leteće krilo" liči na umanjenu verziju strateškog "stelt" bombardera B2 od kojeg je "iskopirao" brojne elemente dizajna), letelica (proizvedena u dva komada) neće biti korišćena u borbenim operacijama i na kraju će završiti u nekom muzeju. Njen zadatak je da demonstrira i tesitra nove mogućnosti korišćenja bespilotnih letelica u izmenjenim borbenim uslovima. Akcenat je stavljen na "stelt" tehnologiju (nevidljivost za radare), funkcionisanje u uslovima slanog, korozivnog okruženja mora i morskog vazduha, otpornost na povećanu elektromagnetnu interferenciju u blizini bojnih brodova kao i korišćenje nosača aviona kao primarnog aerodroma. Ali ono što istinski izdvaja X-47B od svojih brojnih prethodnika je povećana autonomija funkcionisanja, kako tokom leta i navigacije, tako i tokom praćenja ciljeva, izbora mete i njenog uništenja (X-47B može da ispali svaku raketu iz postojećeg američkog arsenala, a po količini ubojnih sredstava koje nosi ne zaostaje za regularnim borbenim avionima). Umesto da bude konstantno kontrolisan od strane nekoliko operatera koji upravljaju letelicom pomoću miša, džojstika i satelitske veze, X-47B je u tom pogledu praktično samostalan, zahtevajući tek povremeno klik ili dva sa strane.

Razvijene zemlje odavno imaju inteligentno naoružanje u svom arsenalu. Tipičan primer su nisko-leteće krstareće rakete poput "Tomahavka". Ovaj projektil u stanju je da svoju putanju prilagođava konfiguraciji terena i vrši automatsku obradu podataka koji se pribavljaju iz više paralelnih izvora (avioni, tenkovi, brodovi, vojnici na terenu), uz mogućnost da po potrebi ili na intervenciju sa zemlje u letu izabere alternativni cilj. Ali prisustvo čoveka u svakoj fazi leta i dalje je esencijalno: ovaj projektil konstantno je nadziran sa zemlje a izbor ciljeva obično se vrši mnogo pre lansiranja.

U tom pogledu X-47B ide korak dalje. Ako se čitav koncept dokaže tokom testiranja, naredna generacija letelica koja u upotrebu treba da uđe krajem decenije verovatno će imati "licencu" da izabere i uništi svoj cilj potpuno samostalno, čim je meta uočena. Po prvi put na nebu će se naći mašina koja će moći da ubije "po svojoj slobodnoj volji", zavisno od okolnosti, baš kao što to rade samosvesni "Skajnet" i roboti iz "Terminatora".

MQ-1 Predator (SAD)
Nalazimo se na pragu nove revolucije u tehnici ratovanja koja se po svom radikalnom obimu može uporediti sa uvođenjem baruta, automatske puške ili atomske bombe u redovno naoružanje. U svetu u kome se neprekidno ratuje već stolećima, samo je jedna stvar konstantna: broj nedužnih žrtava, eufemistički svrstanih pod "kolateralnu štetu" neprekidno raste. Zahvaljujući bespilotnim letelicama vojnici su sve dalje od linije fronta koje zapravo i nema. Rat se vodi svuda a ponajviše u urbanim zonama prepunim civila koji nemaju gde da se sklone jer svako mesto na planeti može da postane legitimni vojni cilj.

Za mnoge je pomisao da će oružje dobiti svoju "glavu" i početi samostalno da "razmišlja" (čitaj: da odlučuje o nečijem životu ili smrti) – zastrašujuća. Mašine ne znaju za strah i kada se odluka jednom donese, one će izvršiti svoj zadatak po svaku cenu. Umesto generala koji biraju mete na sastancima svojih štabova, odluku će donositi kompjuterski programi. Za Kristofa Hajnsa, ekspreta UN za pitanja ratnih zločina i masovnih egzekucija dileme nema. Takva istraživanja treba zabraniti na vreme, pre nego što budemo morali da se suočimo s posledicama jer "odluku o sudbini bilo kog ljudskog bića može da donese samo drugo ljudsko biće, nikako mašina".

Brojni su i oni koji smatraju da nema preteranog razloga za strah. Na kraju krajeva, mašina može da uradi samo ono za šta je isprogramirana. U stvarnosti je sve mnogo komplikovanije. Kompjuterski programi sadrže milione linija koda, na njima radi više timova ljudi specijalizovanih tek za jedan aspekt čitave funkcionalnosti tako da ne postoji nijedna osoba koja ga poznaje u celini, niti iko može unapred sa sigurnošću da tvrdi koja meta će na kraju biti odabrana i uništena. Osim toga, kao i svaki program u vašem računaru ili pametnom telefonu, ni program usađen u neki budući X-47B nije imun na greške. Samo što se u ovom slučaju težina grešaka meri brojem tragično nastradalih.

MQ-7 Reaper (SAD)
Drugi razlog za brigu je što se skoro svi sistemi "veštačke inteligencije" (pa i oni nagurani u avione i rakete) makar delimično zasnivaju na neprekidnim auto-korekcijama i automatskim poboljšanjima proisteklim iz znanja stečenog kroz iskustvo (u ovom slučaju - borbene misije). Ovakva vrsta prilagodljivosti je neophodna jer niko ne može unapred da predvidi u kakvim će se sve realnim okolnostima naći jedna bespilotna letelica. Samim tim, nemoguće je kreirati softver koji će unapred imati odgovor na svaku novonastalu situaciju. Ako mašina mora da uči tokom vremena i donosi odluke na bazi iskustva, da li možemo unapred da znamo u kom smeru će evoluirati?

Najvažnije pitanje ujedno je i najteže: može li borbena mašina uopšte da se ponaša "razumno", bar kao vojnik koji ima svoju čast i etički kodeks? Mogu li se etička načela tek tako implementirati u softveru? Koja su to načela? Jer, moralni kodeks ni u mirnodopska vremena nije svuda isti zbog ogromnih civilizacijskih, kulturoloških i drugih razlika, kamoli u ratu kada su sve moralne skrupule ili relativizovane ili potpuno ukinute.

Oni koji podržavaju dalja istraživanja na polju naoružanih robota tvrde da ne mora sve da bude tako crno: recimo, mašine nemaju emocije. Ne postoji mogućnost da jedna ispravno programirana bespilotna letelica prekorači pravila službe i počini ratni zločin usled povećane količine adrenalina, psihoze ili potpunog rastrojstva. Ne postojati mogućnost da se nemoćni protivnik šikanira protivno pravilima i običajima rata. U američkoj vojsci ratni kodeks postoji već 150 godina, on je precizno opisan u desetinama priručnika iz kojih vojnici svih fela uče šta je moralno a šta nije kako sutra, u vrtlogu rata, ne bi morali o tome da razmišljaju sopstvenom glavom. Možemo li sve te visko moralne knjige da pretvorimo u jednako moralan kompjuterski kod?

Elbit Hermes 450 (Izrael)
Po nekima, rešenje problema je upravo u odvajanju etike od emocija: mašina mora da bude u stanju da donosi etički ispravne odluke ali ništa više od toga, da vegetira na nivou "priučenog šegrta" i večito bude uskraćena za mogućnost donošenja fundamentalnih odluka. Ovaj scenario, na žalost, ne izgleda mnogo verovatno. Iskustvo govori da se svaka uspešna mašina usavršava u pravcu povećane automatizacije i veće autonomije. Pre ili kasnije stvoriće se pritisak da se pametnoj mašini koja u praksi ne greši povere složeniji poslovi i zadaci. Sve dok ne pogreši, a onda će biti kasno.

Ima tu i argumenata koji su zabavni jedanko koliko i stručni, ako ne i više. Profesor Ronald Arkin sa katedre za informatiku Univerziteta u Džordžiji navodi sledeći primer: "Zamislite jednog 'robokapa' koji patrolira borbenom zonom a onda primeti da iz zgrade preko puta jedan terorista puca na njega. Robot ima mogućnost da napadača neutrališe upotrebom snajpera ili granate, slično kao i svaki drugi pešadinac. I dok bi se vojnik od krvi i mesa verovatno opredelio za najjednostavnije i najjače sredstvo koje će ga izložiti minimalnoj pogibelji (granata), robot uočava, nakon poređenja terena koji vidi sa svojom bazom podataka, da se napadač nalazi tik do neprocenjivo vredne džamije iz IX veka. Zbog toga će robot doneti "etičniju" odluku i opredeliće se za snajper kako bi neprocenjivo kulturno dobro ostalo netaknuto. Suština je da robot nije bezuslovno posvećen sopstvenom samoočuvanju. On se ne plaši na način svojstven ljudima, ne puca nasumce i može da podnese mnogo veći nivo rizika po sebe kako bi doneo ispravnu odluku". Profesor Arkin već duže vremena radi na softveru koji će biti sposoban za ovakve odluke, iako priznaje da on još uvek nije dovoljno dobar da bi se mogao primeniti u zoni u kojoj ima civila.

Heron (SAD)
Sa druge strane, Kolin Alen, profesor sa Univerziteta u Indijani, smatra da je ovaj pravac razvoja unapred osuđen na neuspeh. Jednostavno, ne postoji rat bez civila. Tehnologija pomoću koje mašinu možemo da naučimo da poštuje sva pravila rata još ne postoji i verovatno neće postojati u narednih pedesetak godina. Sve do tada, prisustvo čoveka u donošenju kritičnih odluka biće apsolutno neophodno.

Bez obzira na sve, dalja istraživanja na polju intelignetnih, samodovoljnih borbenih mašina će se nastaviti, ne samo u Americi nego i u brojnim drugim svetskim armijama. Budžeti namenjeni za ove svrhe solidno su popunjeni – javnost i političari pozitivno gledaju na ideju da umesto običnih vojnika stradaju mašine, ne razmišljajući o sekundarnim implikacijama. Neki Obamini kritičari smatraju da narastajuće pouzdanje predsednika u sve veću moć i preciznost bespilotnih letelica uvodi državu u stanje permanentnog rata niskog intenziteta, bez plana da taj rat jednom bude okončan. Rat vođen na ovoj način postaje manje strašan, apstraktniji i podnošljiviji. Ratne strahote, jednostrano sagledane isključivo kroz prizmu sopstvenih ljudskih gubitaka, postaće lakše za gledanje. Samim tim će i odluka o stupanju u rat biti donošena mnogo lakše nego pre. Zašto bi se neko ustezao od ratovanja ako u njega šalje samo mašine dok su vojnici na sigurnom, udobno zavaljeni ispred svojih kompjuterskih monitora i igračaka?

Kad neprijatelja svedete samo na sliku na ekranu, rat postaje video igra, kao Call of Duty ili Company of Heroes. A svi znamo koliko video igre umeju da budu zabavne i zarazne.

Smrt stiže u petak

Anvar al-Avlaki
Svakog utorka, na sastanku tima za nacionalnu bezbednost, predsednik Obama lično proverava i ažurira spisak istaknutih neprijatelja Amerike, uglavnom terorista povezanih s al-Kaidom i drugim sličnim organizacijama. Ne radi se o protokolarnom informisanju ili redovnom podsećanju na to ko su najveći zlikovci u očima Amerikanaca. Reč je o konkretnom "spisku za odstrel" na kojem se nalaze osobe čija je likvidacija unapred odobrena, bez obzira na mesto i vreme. Jedino u izuzetnim okolnostima (recimo kada se "meta" nalazi u društvu civila) potrebno je dodatno odobrenje predsednika pre akcije.

Interesantno je da se Obamin konzervativni prethodnik u Ovalnoj sobi, Džordž Buš mlađi (za koga se sigurno ne može reći da je patio od sentimentalnosti), nikad nije bavio ovim poprilično morbidnim poslom prepuštajući ga profesionalcima. Ali, ni Obama više ne liči na čoveka koji je ne tako davno bio ljubimac čitavog sveta i za to bio nagrađen Nobelovom nagradom za mir, manje zbog konkretnih dela, više zbog nade koju je svima ulivao.

Mnogi (danas već uveliko bivši) Obamini saradnici fascinirani su (r)evolucijom u Obaminom ponašanju i stavovima smatrajući ovu promenu bez presedana u novijoj američkoj istoriji. Sa jedne strane, svet vidi čoveka koji se zalaže za zatvaranje logora u Gvantanamu, čini kakve-takve napore da okonča rat u Avganistanu i smanji američki vojni angažman u svetu, a sa druge ratnog komandanta koji je borbu protiv terorizma maltene privatizovao, vodeći ga u udri-muvu-take-no-prisoners stilu a sve pod velom državne tajne, sa vrlo malo konkretnih informacija čak i kada su ciljevi nesporni a kamoli onda kada se prave tragične greške.

Ostaci al-Avlakijevog vozila
Jednog utorka u aprilu 2011. na spisku za odstrel našao se i Anvar al-Avlaki. Anvar je nekada bio lojalni građanin Amerike, republikanski glasač i imam u lokalnoj muslimanskoj zajednici a onda je zvanično odbacio svoje državljanstvo, napustio zemlju i iz skrovišta u Jemenu počeo da emituje zapaljive propovedi u kojima zagovara fundamentalizam i džihad, regrutujući omladinu za mudžahedinski rat protiv nevernika. Stavljanje američkog državljanina (makar i bivšeg) na to-do listu predstavljalo je presedan, ali izuzev Anvarovog oca koji se žestoko protivio ovakvoj Obaminoj odluci, javne reakcije nije bilo. Uostalom, u američkom ustavu lepo piše da je kazna za izdaju zemlje - smrt, bez ulaženja u detalje gde, kada i kako ta smrt ima da se isporuči.

I tako je jednog petka u septembru te iste godine Anvar al-Avlaki izašao pred svog tvorca pre nego što je nameravao. Likvidiran je u Jemenu, iz drugog pokušaja, raketom "Helfajer" ispaljenom sa bespilotnog "Predatora" dok je u džipu sa svoja tri saputnika jeo doručak. Obarač bespilotnog "dželata" povukao je lično Obama koji će kasnije izjaviti da je odluku doneo brzo, lako i bez razmišljanja: "Ovaj udarac", kaže Obama, "pokazuje da za al-Kaidine teroriste i njihove pomagače ne postoji sigurno mesto na zemljinoj kugli."

Nekako nezapaženo promakla je vest da je u petak, u udaru "Predatora", poginuo i Abdul-Rahman al-Avlaki, osamnaestogodišnji Anvarov sin. Nesrećni tinejdžer rođen je u Denveru, nikad nije odbacio svoje državljanstvo, nije se bavio verom, politikom i terorizmom niti ga je iko tražio ili gonio po bilo kom osnovu. Zanimao ga je "Fejsbuk" i američka bofl-muzika, ponašao se i šišao kao mladi Amerikanac pa je na kraju po frizuri i identifikovan (s obzirom da je nakon raketnog udara od Abdula ostao samo komadić lobanje sa malo kose). Ali, kad "Predator" gađa, kolateralna šteta je neminovna, zar ne? Robert Gibs, Obamin portparol, rekao je tim povodom: "Mislim da je detetu bio potreban mnogo odgovorniji otac".

Neko bez srca možda će reći da je nesrećnog Abdulu zadesilo ono što je i zaslužio. Postoji, međutim, nešto što Gibs u tom trenutku nije znao. Abdul nije ubijen u istom udaru "Predatora", u isti petak kad i njegov otac. Ubijen je stotinama kilometara dalje čitave dve nedelje kasnije dok je sa školskim društvom a) razgorevao vatru za roštilj b) tragao za svojim ocem c) pio piće u kafiću (verzija priče zavisi od izvora). Svejedno, svi izvori slažu se da je Abdul bio potpuno nevina žrtva.

TAI Anka (Turska)
Da li je besmislenim ubijanjem jednog svog tinejdžera Amerika želela da pošalje poruku da se njen osvetnički gnev neće zaustaviti samo na nespornim teroristima, da će zahvatiti malo dublje i šire sve dok se kancer međunarodnog terora ne iskoreni? Ili je istina ono što je pod pritiskom javnosti američka administracija naknadno saopštila: da je Abdulova smrt bila tragična greška a da je prava meta bio neki opskurni Egipćanin u njegovoj blizini sa jakim vezama u al-Kaidi? Možebiti, jer ko radi taj i greši. Jedino je sigurno da i pored nedavnog Obaminog bećanja da će se ubuduće gađati samo teroristi koji predstavljaju "neposrednu pretnju za bezbednosti SAD", broj borbenih misija raste a da se Robert Gibs nikad nije izvinio za svoje bezosećajne reči.

Razmere kolateralne štete

Komandna soba iz koje se upravlja "Predatorima"
Američka upotreba naoružanih bespilotnih letelica u Avganistanu, Jemenu, Pakistanu i drugim zemljama u kojima se skrivaju najtraženiji teroristi i drugi državni neprijatelji nikad nije bila bez kontroverzi, što zbog diskutabilnog poštovanja suvereniteta drugih država, što zbog izbora meta, što zbog brojnih civilnih žrtava. Iako predstavnici Pentagona tvrde da nikad nisu imali preciznije oružje na raspolaganju, "Njujork Tajms" je svojevremeno objavio zvanične informacije iz Pakistana da je u udarima "Predatora" poginulo 14 terorista i preko 700 nevinih ljudi, odakle proizilazi da je preciznost ovih udara jedva malo veća od nule (2%). Drugačije podatke iznosi CIA: od polovine 2008. do polovine 2010. godine likvidirano je preko 1300 terorista, a nesrećno je stradalo samo 30 civila. Nezavisni posmatrači navode da se procenat stradalih civila sve do 2012. godine kretao u rasponu od 6 do 25% da bi zatim pao na nivo između 2 i 9%. Smanjen broj nedužnih žrtava u novije vreme delimično je uzrokovan i promenom taktike: teroristi su, umesto u svojim domovima i na javnim mestima, gađani dok su se nalazili u pokretu, najčešće u automobilu i van naselja.

Tačne razmere "kolateralne štete" jako je teško utvrditi jer se većina raketnih udara zbiva u pasivnim zabitima Avganistana i Pakistana gde je pristup terenu praktično nemoguć a svaka mogućnost komunikacije svedena na minimum. Retki intervjui koje su sa lokalnim stanovništvom obavili novinari i nezavisni istraživači govore da je u periodu od maja 2010. do polovine 2011. u Avganistanu poginulo barem 40 civila. U istom periodu CIA navodi da je zahvaljujući bespilotnim letelicama eliminisano oko 600 terorista i njihovih pomagača.

Vreme #1176

Marsijanske hronike

Reč “Marsovac” prvi put se pojavila 1877. godine u Americi i Engleskoj u novinskim tekstovima posvećenim otkriću dva Marsova satelita, Fob...