Neurovapnens roll i framtida krig

Tänk dig att du är en soldat som färdas i en stridsvagn genom en stad i en krigszon. Bland civila och oskyldiga invånare ska du urskilja potentiella hot och fientliga kombattanter. Trots träning och militär erfarenhet är det en nästintill omöjlig uppgift att fatta rätt beslut i den kaotiska och otroligt stressiga situationen du befinner dig i. Den komplexa mänskliga hjärnan är fantastisk på många sätt, men inget system är så bra att det inte kan förbättras. Eller?

– Det som skett de senaste åren är att man dragit nytta av nya framsteg inom neurovetenskap och använt detta i utveckling av nya vapensystem, berättar Gregor Noll, professor i folkrätt på Lunds universitet, vars forskning kretsar kring bland annat krigets lagar, flyktingrätt och mänskliga rättigheter.

Han har fördjupat sig i frågan om neurovapnens roll i framtida krigföring och de potentiella problem de för med sig – juridiska frågeställningar såväl som dystopiska framtidsvisioner av apokalyptiska mått. En central fråga han ställer sig är huruvida de nya vapensystemen, om de skulle förverkligas och användas i strid, vore förenliga med krigets lagar och internationell humanitär rätt.

För att illustrera problematiken återvänder vi till soldaterna i stridsvagnen. Gregor Noll beskriver ett system som idag existerar på prototypnivå:

På stridsvagnen utsida har man satt en mängd kameror som tar bilder på omgivningen åt alla håll. Bilderna processas sedan i ett datorprogram som filtrerar bort oväsentliga komponenter i bilden. Sedan visas bilderna i mycket snabb takt för en utvald soldat. Bilderna visas så snabbt att hen inte kan analysera dem på ett medvetet plan. På huvudet har han en ”badmössa” med elektroder som känner av de elektriska strömmar som flödar i olika delar av hjärnan. Igenkänning – när soldatens hjärna reagerar för något hen känner igen – ger upphov till specifika neurologiska mönster som datorprogrammet känner av. När ett sådant mönster registreras visas bilden som orsakat det igen för soldaten då denne på ett undermedvetet plan känt igen ett potentiellt hot.

– Neurovapnens roll i praktisk krigsföring vore i första hand att effektivisera och förbättra precisionen vid målsökning, säger Gregor Noll och fortsätter. Som ett mycket sofistikerat kikarsikte där den mänskliga hjärnan kopplas samman med en dator.

– De vore dels resursbesparande och skulle dessutom underlätta för stridande parter att följa krigets lagar – som förbjuder dig att döda civila medborgare och förstöra sjukhus och andra civila inrättningar, förklarar han.

Det är väl bra?

” Tyvärr är det ju inte så att mjukvaran i systemet har skickats ned till soldaterna av en välvillig gud.”

Väldigt stressade människor, som soldaterna i stridsvagnen, är kanske inte världens mest tillförlitliga beslutsfattare. Ett system som inte brottas med mänsklig irrationalitet och inte drabbas av kognitiv överbelastning i det kaos som infinner sig på ett slagfält låter ju som en bra idé. Men Gregor Noll menar att det inte är så ”enkelt” som det låter.

– Tyvärr är det ju inte så att mjukvaran i systemet har skickats ned till soldaterna av en välvillig gud, säger Gregor Noll.

– Det är människor som skapar datorprogrammen. Och utvecklingen av programvaran bygger på deras uppfattningar om hur människor fungerar, hur krig fungerar och hur människor fungerar i krig, fortsätter han.

Gregor Noll menar att allt hänger på mänskliga beslut som fattats utanför den faktiska slagfältssituationen. Och vilka beslut som fattas beror på vilka premisser man programmerar in i systemet och fortsätter.

– Vad som bekymrar mig är att det är svårt att utkräva ansvar. I traditionell krigföring finner man en tydlig hierarkisk ordning där generalen ger order och den menige lyder. Men om den menige är kopplad till ett avancerat neurovapensystem – vem är det egentligen som ska ställas till svars? Det blir svårt att avgöra var gränsen går mellan människa och maskin.

 Kan man hålla sig inom krigets lagar? Enligt en konvention från 1977 måste en stat i färd med att införskaffa nya vapen undersöka om dessa kan användas inom gränserna för internationell humanitär rätt.

Gällande neurovapensystem som det Gregor Noll beskrivit är det mycket svårt att avgöra. Vilken slutsats man drar hänger mycket på huruvida man litar på systemets beslutsfattande eller inte.

– Det blir problematiskt när vi på grund av vår egen kognitiva otillräcklighet tillskriver datorprogrammen en överlägsenhet som kanske inte är befogad, säger Gregor Noll och tar upp ett annat exempel som berör hur vi redan idag tar viktiga beslut som bygger på att vi helt enkelt litar på tekniken.

“Jag vet inte hur det fungerar när datorn talar om för mig var jag ska placera mina pengar, men jag litar på att det är kloka människor som skrivit programmet”…

På samma sätt är vapensystemet i vår fiktiva stridsvagn designat så att soldaten ska känna sig bekväm med att datorn fattar rätt beslut vid en militär insats.

– När kommer vi till en punkt då människans förmåga att över tid kontrollera utfallet i krigsföring med neurovapensystem är så begränsad att det bara är en fråga om tillit som är kvar, frågar sig Gregor Noll och fortsätter.

– Och när det gått så långt, har det då skett en delegation av beslutsfattande från människan till de komplexa vapensystemen ­– som inte nödvändigtvis genomskådas av programmerarna heller?

Dagens artificiella intelligens är kapabel till så kallad ”deep learning”, det vill säga att den utvecklar och förbättrar sig själv, utan programmerarens insats.

– Det är lite som att släppa ut ett barn i världen, säger Gregor Noll. Vi har ingen aning om vad barnet hittar på.

Gregor Noll påpekar att detta exempel på ett bra sätt illustrerar centrala frågor kring debatten om ”singulariteten” – att vi är på väg mot en punkt då mänskligheten förlorar kontrollen över tekniken och den fortsätter att utveckla sig själv. (Robotarna tar över jorden).

Är detta ren science fiction eller ett tänkbart framtidsscenario? Detta och annat kommer att behandlas på eventet ”The Dark Side of Neurotechnology: What are neuroweapons and are they lawful?” under vetenskapsveckan ”Den fantastiska hjärnan”. Eventet hålls i Pufendorfsalen, Juridicum den femte september klockan 16.00-18.00.

Text: Catrin Jakobsson