Utvidelse av kampsonen

Norsk krigsteknologi gjør avstanden mellom mennesket og krigshandlingene større enn noen gang. Nå utvikler Norge våpen som kan drepe uten direkte menneskelig kontroll.

«Maskiner har verken dødelighet eller moral. De bør ikke ha makt til å bestemme over menneskers liv og død.» Slik lød den kontante dommen fra Christof Heyns, FNs spesialrapportør for utenomrettslige, summariske og vilkårlige henrettelser. Han har sagt det før. Og fra talerstolen under FNs våpenkonferanse i Genève i november, gjentok han budskapet: Et forbud mot drapsroboter – såkalte lethal autonomous weapon systems – må skrives inn i Genève-konvensjonen. Og det haster, mener Heyns. Når våpensystemene først er operative, kan det være for sent.

For tolv år siden var det autonome våpensystemet Joint Strike Missile (JSM) en skisse på et tegnebrett i Kongsberg. Kongsberg Gruppen, et av verdens ledende selskaper innen krigsteknologi, ville lage et selvdrevet missil, spesialdesignet til å passe inn i baugen til det amerikanske kampflyet F-35. Missilet skal svinge og styre som et fly, bevege seg lavt langs bakken og skjule seg i terrenget. Med kunstig intelligens skal det kunne finne, gjenkjenne og ødelegge forhåndsprogrammerte «mål» helt på egenhånd. Og selv om ruten er forhåndsprogrammert, kan flyet selv endre rute for å unngå å bli fanget opp av radarsystemer. Dersom sensoren ikke gjenkjenner «målet», skal missilet selv ta beslutningen om å avbryte angrepet.

Scenariet er ennå ikke blitt til virkelighet, men det er nærere enn man kanskje skulle tro. I 2015 starter testflygninger i Norge. Da blir Norge et av få land – i selskap med USA, Storbritannia og Israel – som er i avsluttende fase av utviklingen av våpen som kan styres uten direkte menneskelig kontroll. I tillegg har land som Tyskland, Russland, Kina og Sør-Korea investert betydelige summer i autonom våpenteknologi.


Krigens paradigmeskifte

Den klassiske statskrigen, som preget den europeiske krigshistorien fra statsdannelsene på 1600-tallet og fram til forrige århundre, ser ut til å være en tilbakelagt epoke. Krig er ikke lenger en voldshandling begått av soldater mot soldater, der blodsutgytelsene rammer begge sider. I dag blir krigføringen i økende grad styrt av programvare, og framsynte røster mener at man snart ikke kan utføre krigshandlinger uten å ferdes i cyberspace via GPS-satellitter.

Tre dager etter at Obama satte seg ved skrivebordet i det ovale rom i 2009, godkjente fredsprisvinneren sitt første droneangrep. I langt større grad enn sin forgjenger, som verden over ble sett på som en pistolsvingende cowboy, navigerte han landet i en ny sikkerhetspolitisk retning: CIA var ikke lenger bare en spiontjeneste, men en paramilitær organisasjon med målrettede drap som spesialfelt.

Det er ikke vanskelig å forstå hvorfor lavintensive konflikter med «lette fotavtrykk» er å foretrekke. Med dronepiloter, tørrskodde og på trygg avstand fra slagmarken, kan mektige militærmakter fjernstyre sine angrep. Våpenbaser og mistenkelige personer i fjerne land kan tilintetgjøres, ofte uten vitner.

Tanken kom som en naturlig forlengelse av det amerikanske militærets modus operandi: Hva om våpensystemene utstyres med kunstig intelligens, slik at de selv kan utføre målrettede drap uten dronepilotens assistanse?

I 2011 kjørte den amerikanske marinen testflygninger av det selvdrevne droneflyet X-47B, som kan lette, lande og fylle tanken på egen hånd. I motsetning til dagens dronefly, som fremdeles fjernstyres av mennesker av kjøtt og blod, er det nye våpensystemet designet til å legge ut på oppdrag for egen maskin. I likhet med det norske våpenet under utvikling, trenger X-47B bare å holdes under menneskelig oppsyn.

«Dagens ubemannede systemer innebærer en høy grad av menneskelig interaksjon,» slår det amerikanske forsvaret fast i en rapport som skisserer utviklingsprognosene for ubemannede våpensystemer i perioden 2011–2036.1 Graden av menneskelig kontroll skal reduseres, og forsvaret forventer at framskrittene innen kunstig intelligens ikke bare vil gjøre programvare i stand til å ta beslutninger, men også til å gjøre det bedre og mer presist enn mennesker. «Det amerikanske forsvaret må fronte teknologi og politikk som bygger opp under en høyere grad av autonomi. De autonome systemene vil redusere arbeidskraftsbyrden, avhengigheten til heltidsoperative kommunikasjonssystemer og redusere [den menneskelige] reaksjonstiden,» heter det videre i rapporten.

Med forskningsstøtte fra forsvaret har robotetikere kommet fram til at maskiner kan rustes til å navigere i virkelighetens etiske dilemmaer, og at de til og med kan programmeres til å følge proporsjonalitetsprinsippet: Sivile tap skal alltid stå i et forsvarlig forhold til militære gevinster. Kritikere frykter det motsatte.

– Jeg vet at noen forsøker å framstille JSM som et autonomt våpensystem som kan være i strid med folkeretten, men det stemmer ikke. Det er mennesker som finner og velger målet for missilet. Når missilet er kommet fram så vil det bruke sensoren til å bekrefte at det er riktig mål. Hvis det ikke klarer å gjenkjenne målet, så vil det ikke angripe, sier Endre Lunde, kommunikasjonsrådgiver i Forsvarsdepartementet.

Han svarer villig på spørsmål om JSM, som Kongsberg Gruppen i disse dager legger en siste hånd på. Det selvdrevne missilet, som skal være operativt i 2025, er ifølge Forsvaret et av de mest avanserte militære utviklingsprogrammene i Norge noen gang. Og det mest kostbare. Utvikling, integrering og produksjon av JSM er beregnet å koste den norske staten 8,2 milliarder kroner, opplyser Lunde.

– JSM vil føre til en betydelig styrking av terskelforsvaret. Det vil si at en eventuell motstander må ta høyde for at bruk av makt mot Norge kan bli både svært risikabelt og kostbart, og man vil tenke seg om to ganger før man angriper, sier Lunde.

Men det er ikke bare Det norske forsvaret som vil benytte seg av det høyteknologiske våpensystemet. Australia har vist stor interesse for å kjøpe JSM, det samme har Sør-Korea. Lunde mener likevel at bruken vil bli begrenset og strengt regulert, siden missilet både krever høy kompetanse og er avhengig av det amerikanske F-35-flyet. At missilet selv kan ta beslutninger om ikke å gjennomføre et angrep, kaller Forsvaret en «innebygd sikkerhetsventil».


Ansvarlighet for alle vinder

Alle mennesker har «iboende verdighet» heter det i menneskerettighetserklæringens innledende formulering. All statsmakt er forpliktet til å respektere og beskytte den.

Å la en blodløs maskin bestemme om du skal leve eller dø er ytterst uverdig. Det bryter med humanismens grunnprinsipp, mener menneskerettighetsorganisasjoner som Human Rights Watch, Harvards International Human Rights Clinic og det internasjonale forskningsnettverket Campaign to Stop Killer Robots. Synet deles også av den amerikanske menneskerettighetsforskeren Mary Ellen O’Connell.

– Unnskyldningene som Det norske forsvaret bruker ligner de jeg hører her hjemme i USA, sier O’Connell på telefonen fra Princeton.

Professoren underviser til daglig på det prestisjefulle Notre Dame-universitetet i Indiana, og de siste fem årene har hun skrevet en rekke artikler om droner, autonomisering og folkerett.

– Den amerikanske regjeringen mener at så lenge det er mennesker som bygger og programmerer de nye våpensystemene, så er de ikke autonome. Det er tøv, sier O’Connell.

– Produsentene vil i det lengste unngå å kalle våpensystemene autonome, fordi folkeretten er bygget på prinsippet om menneskelig handling. Men så lenge våpensystemene har potensiale til å angripe uten menneskelig ordre 20–30 minutter før angrepet inntreffer, bør de kalles autonome. For hva hvis man programmerer missilet til å utføre et dødelig angrep tre år senere? Hvor langt kan mennesket fjerne seg fra dødshandlingen før det ikke lenger kan holdes ansvarlig? spør professoren, som kombinerer tydelighet med høyt tempo når hun snakker.

Problemet med å fjerne mennesker fra krigshandlingene, mener hun, er selve grunnvilkåret for rettssamfunnet: At en person kan holdes rettslig ansvarlig for sine handlinger. For hvem skal egentlig holdes ansvarlig for et autonomt droneangrep? De som produserte våpensystemet, eller de som finansierte det? Kan ingeniøren som programmerte systemet holdes ansvarlig, eller er det militærets øverstbefalende, politikerne eller staten? Og hva hvis våpensystemet går berserk og avfyres ved en systemfeil?

– Det er en stor moralsk og juridisk forskjell på hvordan droneangrep fungerer i dag, med dronepiloter som manøvrerer droneflyene og utfører angrepene, og de våpensystemene som nå utvikles. Den etiske forskjellen er helt enkelt at man mister den sosiale konteksten som mennesket er en del av. For er det ikke vissheten om at man kan bli holdt ansvarlig for sine handlinger, som ofte holder oss fra å begå drap? Når det blir enklere å drepe, blir det naturligvis enklere å bryte folkeretten, sier O’Connell.

Hun mener usynlighetsteknologien drives fram av et politisk ønske om å glemme hva som egentlig foregår når man avfyrer et våpen.

– Den teknologiske utviklingen er foruroligende fordi den bidrar til å normalisere det som allerede har etablert seg som en permanent unntakstilstand. Etter 13 år med ulovlige droneangrep begynner vi å tro at det er lovlig. Vi ledes til å tro at det å gripe inn i fremmede staters indre anliggender er riktig. Men når sivilsamfunnet militariseres med såkalte humanitære intervensjoner, antiterror-operasjoner og destruksjon av andres våpenbaser, er det helt klart i strid med FN-pakten, sier O’Connell, og siterer paragrafen som fastslår statenes selvråderett og forbyr all bruk av militær makt foruten selvforsvar.

Per i dag finnes det ingen internasjonal lovgivning som regulerer eller forbyr bruk av autonome våpensystemer, og det finnes heller ingen klar definisjon på hva autonome våpensystemer er.

– Det stemmer som Christof Heyns sier, at det haster å få regelverket på plass. Når våpensystemene først er operative, vil det være for sent. Det har med penger å gjøre. Jo flere land som investerer i de nye teknologisystemene, jo vanskeligere blir det å forby dem, sier O’Connell.

Og skal vi tro Christof Heyns, som vil gjenta sine formaninger om forbud i FNs generalforsamling neste år, er det folkeretten som står i fare for å sakke akterut. Det verste framtidsscenarioet? At avstanden mellom mennesket og krigshandlingene – overlatt til «Fire-and-Forget»-maskiner – er så komfortabel at den vanskelig lar seg gjenopprette.

© norske LMD

Frida Skatvik er journalist og idéhistoriker.