Techgigantene samler data på slagmarken i Ukraina

11. mai 1997. Den absolutte verdenseneren i sjakk i en mannsalder, Garry Kasparov, stormer rasende ut av et turneringsrom i New York. Han har nettopp tapt det sjette og avgjørende partiet i en match mot IBMs supercomputer kalt Deep Blue. Det siste partiet tapte han på bare 19 trekk. På pressekonferansen etterpå beklager han sin oppførsel, men vil ikke anerkjenne at datamaskiner er bedre sjakkspillere enn mennesker. 

Nesten 20 år senere. 

1. september 2017. Første skoledag i universitetsbyen Jaroslavl i Russland. President Vladimir Putin holder tale for en samling unge studenter. Talen, som blir direktesendt på russisk statlig TV, har tittelen “Russland mot fremtiden”.  Putin snakker i én time om mulighetene som finnes innen kunstig intelligens (AI). AI er fremtiden ikke bare for Russland, men for hele menneskeheten, påpeker han. 

Han snakker også om anvendelsen av AI i krig. Dødelige presisjonsvåpen i form av missiler og droner. Han forteller at fremtidens kriger kommer til å bli utkjempet med autonome droner, og at den nasjonen som først går tom for droner, vil tape krigen. Han runder av med en bombastisk spådom: 

– Den som blir ledende på kunstig intelligens, kommer til å herske over verden.

Fremmøtte studenter klapper begeistret.

AI-eksplosjon i Kyiv

Fem år etter Putins tale til studentene går Russland til en storskala invasjon av nabolandet Ukraina.  Siden har dronene haglet over landet. Både menneskestyrte og autonome. 

Til tross for alt snakket om presisjonsvåpen, har krigen frem til nylig minnet mer om kjøttvektstrategien: Nasjonen med flest soldater på vekta over tid vinner. En type krig Russland historisk har mestret godt. Det siste året har det virket som om Ukraina sakte har måttet gitt tapt for det stadige trykket på frontlinjen. Men så, nå i begynnelsen av august, skjedde det noe nytt.  

I en oppsiktsvekkende manøver gikk et par hundre godt trente ukrainske soldater inn i Kursk-regionen i Russland. Manøveren kom tilsynelatende helt uventet på både Russland og utenforstående militære eksperter og analytikere som har fulgt krigen. 

Manøveren fremstår som et totalt uventet trekk, og det hersker stor uenighet blant utenforstående eksperter om hvilken verdi dette vil ha. 

Men det de fleste eksperter kan enes om, er at Ukraina de siste årene har fått forbløffende god hjelp til å kunne foreta taktiske og strategiske analyser. For mens Putin har pøst på med soldater til frontlinjen, har utviklingen innen AI-feltet formelig eksplodert i Kyiv. 

Techselskapene trekker til slagmarken

Russland invaderte i februar 2022. En måned senere setter den australske entreprenøren og administrerende direktør i techselskapet Clearview AI, Hoan Ton-That, seg ned og formulerer et brev til ukrainske myndigheter.  

“Vi vil tilby dere gratis opplæring og bruk av våre produkter, noe dere kanskje kan ha nytte av i denne pågående grusomme konflikten,” skriver Ton-That. 

Clearview spesialiserer seg på ansiktsgjenkjenning, og selskapet har trent opp sin AI ved å skrape internett for personlige bilder. I dag sitter de angivelig med en database på 20 milliarder foto. Teknologien deres har i flere år vært regnet for å være svært kontroversiell, også her i Norge.  

I 2019 ble det kjent at amerikansk politi hadde benyttet deres programvare til å identifisere og pågripe mistenkte i straffesaker. Siden har selskapet blitt bøtelagt av EU, vært under etterforskning i USA for brudd på personvernlover, håndtert en rekke rettssaker og høringer og har fått skarp kritikk i mye av pressen. 

Men Ukraina er i krig, og russisk personvern er trolig lavt på prioriteringslisten. Ton-Thats tilbud var attraktivt. 

Selskapet kan blant annet hjelpe med å identifisere infiltratører, de kan identifisere omkomne og hjelpe til med familiegjenforeninger. 

Tilbudet kom raskt på pulten til innenriksminister Leonid Tymtsjenko. I et intervju med Time Magazine i fjor fortalte Tymtsjenko at han lastet ned programvaren. Så matet han den med bilder av russiske soldater som rykket frem. Til hans store overraskelse greide AI-en i de fleste tilfeller umiddelbart å finne soldatens navn, hjemby og sosiale medier-profil.

Tymtsjenko sa i samme intervju at over 1.500 ukrainske tjenestemenn, fordelt på 18 departementer, benyttet programvaren daglig. Og at det så langt hadde lykkes dem å identifisere mer enn 230.000 russiske soldater og tjenestemenn som hadde vært eller var direkte involvert i krigen.  

– Til fots over grensen

Time Magazine har vært toneangivende i å rapportere fra techrevolusjonen i Ukraina. I en lengre reportasje fra februar i år beskrives det hvordan den eksentriske Palantir-sjefen, Alex Karp, sammen med et knippe av sine medarbeidere, krysset grensen til Ukraina fra Polen til fots i juni 2022.

På den andre siden av grensen ble de hentet og kjørt til president Volodymyr Zelenskys kommandobunker. Ifølge avisen skal han ha vært den første sjefen for et internasjonalt techselskap som tok kontakt med Zelensky personlig. I likhet med Clearview AI ønsket Palantir å tilby sine tjenester til krigsinnsatsen – gratis.

Resultatet av møtet var at Palantir etablerte en base i Kyiv.

Palantir er et av de raskest voksende techselskapene i verden, og selskapets suksess er tett knyttet til etterretnings- og krigsindustrien. De første kontraktene Palantir fikk var med føderale myndigheter i USA. Ifølge New York Times skal blant annet selskapet ha vært tungt involvert i jakten på Osama bin Laden i årene etter 11. september. Palantir er i dag involvert i alle grener av det amerikanske forsvaret. Inntektene selskapet har fra amerikanske myndigheter alene vil i år passere en milliard dollar.

Den fulle oversikten over hva Palantir bringer til bordet, og hvordan teknologien deres fungerer, er ikke offentlig tilgjengelig. Generelt kan man vi at selskapet har utviklet en AI-plattform som er i stand til å analysere store mengder informasjon raskt og gi operasjonelle råd. En ukrainsk tjenestemann beskrev et bruksområde overfor Time: Teknologien prosesserer satellitt- og dronebilder mot gjenkjennelsesalgoritmer i sanntid, og med hjelp av dette kan de blant annet spore russiske tropper med en gang de begynner å bevege seg, og foreslå hvilket våpensystem som trengs for å eliminere trusselen. 

Ukrainas Silicon Valley - “Mil-Tech Valley”

– Fortidens dreiebøker har sluttet å fungere, og alle vet det. Til og med de som stolte mest på dem har skjønt dette nå.

Slik innledet Karp sitt seneste nyhetsbrev til Palantir Technologies i forbindelse med presentasjonen av tallene for andre kvartal. Nyhetsbrevet ble publisert dagen før Ukraina gikk inn i Kursk.

Det videre budskapet i nyhetsbrevet er påtagelig ideologisk – nærmest litt krigersk.

“Vi har ment fra starten at et ensidig fokus på å skape verdier for våre partnere er den eneste måten å overleve og lykkes på i et langsiktig perspektiv. Og at styrken og dominansen i det amerikanske militæret må bevares og hegnes om. Disse verdiene, som burde være helt ordinære og dagligdagse, blir i visse deler av den offentlige opinionen sett på som radikale … .”

Det Karp her henviser til, er berøringsangsten flere store techselskaper fra Silicon Valley, som Microsoft og Google, har hatt for å bli sett i sammenheng med utvikling av våpenteknologi. Innad i for eksempel Google har dette vært svært kontroversielle temaer, noe som blant annet førte til at selskapet i 2018 avsluttet samarbeidet med Pentagon.

Karp og Palantir har ingen slike betenkeligheter. Karp selv er av den overbevisning at han og selskapet han startet sammen med PayPal-gründer Peter Thiel har en moralsk forpliktelse til å bevare Vestens kultur og verdier. Han har i flere intervjuer argumentert med at verdensordenen bør være ledet av et dominant USA. I denne sammenhengen er nasjoner som Russland og Kina Palantirs uttalte fiender. 

Skjønt krig forandrer spillereglene. I dag har også techgiganter som Microsoft, Amazon, Google og Starlink  alle engasjert seg i Ukraina. Her jobber de, ifølge Time, med å beskytte Ukraina mot cyberangrep og sikre data. Den massive aktiviteten har ført til at deler av Kyiv nå har fått tilnavnet “Mil-Tech Valley”.

– Ofte føles det litt som om alle er i en slags tech-start up-vibb, uttalte en ansatt til magasinet, men føyde til: 

– Bortsett fra at det er krig, da. 

Denne tilstedeværelsen til techselskapene handler derimot ikke bare om skaperglede, altruisme og nestekjærlighet. Man kan argumentere for at de simpelthen ikke har råd til å la være. 

AI trenger data

– For å utvikle et AI-system trengs data – enorme mengder med data, forklarer forsker Johanne Jensen Skeie ved Institutt for forsvarsstudier. 

Jensen Skeie forsker på hvordan big data kan anvendes i krig, og har skrevet en rapport om kunstig intelligens og konkurransebaserte strategier. Her tar hun for seg hvordan Forsvaret kan nyttiggjøre seg utviklingen. Hennes primære anbefaling er å inngå informasjonssamarbeid med allierte, da spesielt USA. Årsaken er at lille Norge ikke har noen muligheter til å utvikle AI i et omfang og et tempo som de større aktørene på verdensscenen.  

– Den norske strategien for militær AI anerkjenner at Norge er et lite land. Det er mer krevende for oss å utvikle store gjennombrudd på samme nivå som land som USA kan utvikle. Det er usikkert om vi i det hele tatt har nok militær data, forklarer hun. 

For ikke bare trenger AI en enorm mengde data for å utvikle seg, den er også “kresen” på hvilken type data den mates med. Det må være relevante data. 

I rapporten viser hun til Det amerikanske forsvarsdepartementets nye datastrategi, hvor data i seg selv har fått status som en strategisk ressurs. Da spesielt det som beskrives som “riktig innsamling og lagring av data som er relevant for militære operasjoner, som kan brukes til å utvikle kunstig intelligens tilpasset militære formål”.

Jensen Skeie forklarer at det å være aktivt deltagende i pågående konflikter, som Clearview AI i Ukraina, er en mulighet for selskapene til å få tilgang til denne ressursen i stort monn. 

– De hjelper til med krigsinnsatsen, men disse selskapene eksisterer for å tjene penger. De får absolutt noe tilbake. De får testet produktet sitt, og de forbedrer produktet sitt. Clearview har for eksempel siden 2022 kommet med mange meldinger om at de nå har tilgang på enda flere bilder enn før. Selskapets applikasjon har gått hovedsakelig å bli brukt av amerikanske politidepartementer til at den nå brukes daglig i alt fra grensekontroll til identifisering av soldater i Ukraina.

Tidligere forklarer hun, var forskning som drev utviklingen innen teknologi i stor grad statsdrevet. I vesten i dag er det i hovedsak kommersielle selskap som driver AI-utviklingen.

Skeie er ikke alene om disse observasjonene. I en kronikk i Aftenposten i juni beskrev forsker og forfatter Inga Strümke krigssoner som treningsarenaer for AI. 

“Akkurat som selvkjørende biler kan ta feil mellom mennesker og plastposer, finnes det ingen garantier for at KI-våpensystemer ikke gjør feil. Men for å forbedre disse systemene trengs massiv testing, og krigssonene gir ulike aktører anledning til nettopp det,” skrev hun. 

Et laboratorium

Leder for NUPIs forskningssenter for digital teknologi og cybersikkerhet, Niels Nagelhus Schia, forteller at teknologifronten i Ukraina er i en voldsom utvikling.

– Ukraina har i prinsipp sagt “kom og hjelp oss med det dere kan”, og de legger få begrensninger på utviklingen techselskapene driver med i landet deres. I Ukraina er det unntakstilstand. I Norge, eller andre land hvor det ikke er krig, hadde selskaper som Palantir og Clearview trolig møtt mye sterkere motstand, og hadde opplevd begrensninger på hvordan de kunne operere. Spesielt med hensyn til etiske aspekter og regelverk ved utvikling og bruk av AI og ny teknologi. 

For Nagelhus Schia er techselskapenes tilstedeværelse i Ukraina todelt:

– Det handler om at disse selskapene vi her snakker om er vestlige, og de vil hjelpe til med det de kan. Samtidig er det store muligheter for innovasjon, og for å ta i bruk ting kjapt. Det er ikke utenkelig at det også vil ha kommersielle og teknologiske gevinster. Dette har nok bidratt til en snøballeffekt når det gjelder selskaper som trekker til krigssoner. Samtidig er det også viktig å legge til at dette har stor betydning for Ukrainas motstandskraft, men også for Ukrainas økonomi og etterhvert også gjennoppbygging.

– Mye er gradert

Karp i Palantir har uttalt at kraften i avanserte algoritmesystemer nå er så stor at den tilsvarer det å ha tilgang til atomvåpen mot en fiende som bare har konvensjonelle våpen. Men det er en typisk generell uttalelse techselskap har en tendens til å komme med. Hvordan dette faktisk fortoner seg i praksis på slagmarken, hvis du ser bort fra fysiske angrep, blir ikke forklart. 

Skeie forklarer at det er lite tilgjengelig informasjon om hvordan teknologien i Palantir eller andre techselskap faktisk anvendes. 

– Dette er på en måte utnevnt som den store transformative teknologien, men det vi vet om bruksområdene, har vi stort sett fra intervjuer med journalister og offentlige tilgjengelige kilder. Vi vet hvilke innsalg selskapene har, men vi antar at det er mye vi ikke vet om som er gradert. 

Det er ett unntak – Clearview.

– Det har vært en av de første eksemplene på bruk av AI i krig som det finnes litt åpen informasjon om, også fordi selskapet averterer Ukrainas bruk av applikasjonen. Deres ansiktsgjenkjenningsalgoritmer er ganske kjente, og teknologien ble ikke skapt utelukkende for militære formål.

–  Vet vi noe om AI kan brukes til å forbedre overordnede strategiske avgjørelser?  

– Mye blir spekulasjon. Jeg ser for meg, uten at jeg vet, at AI-systemer benyttes til etterretningsstøtte. At man prosesserer etterretningsdata for å fremstille informasjon raskere enn det et menneske klarer, og at den informasjonen er verdifull støtte for strategiske beslutninger. Med teknologien som er nå, tenker jeg at det er fullt mulig. 

Kasparovs lov

En som derimot har spekulert mye i hvordan AI best kan anvendes strategisk er den tidligere sjakkverdensmesteren Garry Kasparov, som ble nevnt innledningsvis. Etter at han hadde fått fordøyd sitt forsmedelige tap mot IBMs Deep Blue i 1997, begynte han å se på mulighetene som ligger i AI. Han kom opp med en idé om at AI ville kunne løfte sjakk til nye høyder, og i 1998 sjøsatte han et nytt turneringskonsept kalt avansert sjakk, senere også kalt kentaursjakk. Konseptet her er at mennesker og maskin skal samarbeide, og turneringene er lag mot lag. 

Tanken var at menneskelig intuisjon koblet med programvarens analysekraft vil løfte spillestyrken til nye høyder. Noe som viste seg å være tilfellet. I en slik turnering i 2005 vant to sjakkamatører overraskende over garvede spillere. Dette førte til en erkjennelse om at den viktigste egenskapen den menneskelige delen bragte til bordet var å forstå, og tolke, maskinen. Funnene ble oppsummert i det vi i dag kaller Kasparovs lov: 

“En vanlig spiller med god programvare og bedre forståelse av prosess er bedre en god programvare alene; og betydelig mye bedre enn en god spiller med god programvare, men som har dårligere forståelse av prosessen.” 

Den tredje strategien

Konseptet kentaursjakk ble flittig henvist til av Det amerikanske forsvarsdepartementet da de annonserte sin nye satsning “Third Offset Strategy” i 2015. Der de to foregående “strategiene” hadde handlet om våpen- og styrkedominans, handlet denne tredje strategien om teknologisk dominans. 

Et sentralt poeng her er at maskinen trenger mennesket til å tolke sine analyser. Dette er spesielt fremtredende når det gjelder ting som f.eks. etterretning, antiterror og analyser av troppebevegelser. Palantir var tidlig inne i denne satsningen gjennom sitt samarbeid med Pentagon.   

I dette paradigmet er det nesten like viktig å trene opp personell som å bygge ut programvaren. Uten en god forståelse av prosessen blir heller ikke resultatet bra. 

Og også til dette formål har Ukraina blitt en formidabel “skole”. Her får selskapenes analytikere prøvd og utviklet sine ferdigheter i skarpe situasjoner på daglig basis. Men techselskapene er ikke de eneste som har fått øynene opp for AI-revolusjonen. Ukrainerne selv er i ferd med å bli en technasjon å regne med.  

Bygger for fremtiden

Du kan si at de store techselskapene dataminer slagmarken i Ukraina, men det skjer med villig hjelp fra ukrainerne selv. Et talende eksempel på dette appen Diia, som myndighetene har laget. Her kan enhver borger laste opp geotaggede bilder som de mener er relevante for landets forsvar. 

For i Ukraina hersker AI-feberen. Allerede før krigen var landet langt fremme når det gjaldt studieretninger innen teknologi, og de hadde om lag 5.000 selskaper innen techbransjen. De aller fleste av disse eksisterer i dag. På mange måter er de ukrainske selskapene nå ledende når det gjelder utvikling av maskinstyrte militære droner og artilleri, ifølge den amerikanske tankesmien Atlantic Council.

Ved krigens utbrudd gikk president Zelensky ut og inviterte internasjonale selskaper med teknologikompetanse til å bidra i krigsinnsatsen. Det ble laget incentiver til dette formålet, som gunstige etablerings- og skattevilkår. Den påfølgende tiden har, som beskrevet ovenfor, selskapene strømmet til landet.  

I fjor lanserte styresmaktene det såkalte Brave1-initativet for å ta mer kontroll over utviklingen. Dette er en slags næringsklynge hvor alle techselskapene som opererer i Ukraina – både innenlands og utenlands – kan samles og utveksle innovasjoner som kan bidra til krigsinnsatsen. Myndighetene la 2,7 millioner dollar i potten til dette første året. I år har finansieringen økt til 39 millioner dollar. Ukrainas digitaliseringsminister, 33 år gamle Mykhailo Fedorov, drar i dag rundt på messer i utlandet og markedsfører slagmarkene ved fronten som “den beste testarenaen som finnes for nyskapende teknologi”. 

– Vårt store mål er å gjøre Ukraina til verdens forsknings- og utviklingslaboratorium innen tech, har Fedorov uttalt til Time.

En tjenestemann supplerte med at den langsiktige planen er å skape en industri som landet også kan lene seg på i årene etter krigen. 

Ukraina er, som de selv sier, “Open for Business”.

Pengene renner inn

Hva Palantir angår, ble selskapet registrert på New York-børsen i 2020, hvor det i skrivende stund er verdsatt til om lag 68 milliarder dollar. Det siste året alene har aksjen steget med ca. 120 prosent.   

Lik aksjekursen ser bunnlinjen ut til å vokse nærmest eksponentielt. Som før nevnt har inntekten fra selskapets engasjement med det amerikanske forsvaret nå oversteget én milliard i året. I siste kvartalsrapport fra selskapet blir det opplyst at selskapet hadde 678 millioner dollar i inntekter bare i årets 2. kvartal. En økning på 27 prosent fra samme periode året før. Den totale inntjeningen i 2024 ligger an til å lande på over 2,7 milliarder dollar.  

Når det gjelder Clearview AI, har selskapets kontroversielle teknologi bragt dem mye hodebry. Selskapet er betydelig mindre enn Palantir, og er ikke børsnotert, men i en nylig rettssak i Illinois i USA ble selskapet verdsatt til 225 millioner dollar. Rettssaken endte med et historisk forlik. 23 prosent av aksjene skal plasseres i et fond hvor alle amerikanere som har et bilde av seg selv i Clearviews database kan få en andel. Med denne løsningen unngikk selskapet konkurs og kan fortsette å skrape internett for dine og mine bilder i sosiale medier. 

Ifølge en tidligere lekkasje har selskapet 2.200 organisasjoner fordelt på 27 land i sin kundeliste, og de fortsetter å vokse. Blant annet gjennom aktiv markedsføring av sin tilstedeværelse i Ukraina. 

– Vår tids Oppenheimer-øyeblikk

Dessverre er virkeligheten innrettet slik at Vestens techselskaper ikke er alene om å hente ut data fra krigens grusomheter. En frontlinje har to sider, og på den andre siden av denne sitter Vladimir Putin. Han kjenner som nevnt verdien av droner, og det er ingen grunn til å anta at de russiske forskerne og utviklerne ligger på latsiden. Går du lenger østover, kommer du til Kina. 

USA og Kina regnes som de to nasjonene som har kommet lengst når det gjelder utviklingen av AI. 

En reportasje i Politico fra mai beskriver en økende frykt verden over for at krigen i Ukraina kan bli et nytt Oppenheimer-øyeblikk. Et øyeblikk hvor man innser at menneske har skapt et fryktelig våpen som kan true selv vår eksistens.  I april samlet delegater fra 143 land seg i Wien for å diskutere trusselen fra autonome våpensystemer. Og det som virkelig skremte mange av delegatene, er hva som vil skje den dagen USA og Kina barker sammen. 

Det ble tatt initiativ til å formulere et internasjonalt forbud mot denne typen våpen, men de aller fleste anerkjente at de største aktørene trolig ikke ville stille seg bak et slikt dokument. Ukrainas digitaliseringsminister Fedorov gav følgende uttalelse til nettutgaven til Politico etter konferansen: 

– Jeg er fullstendig enig i at vi må finne en løsning på spørsmålet om hvordan vi kan begrense bruken av AI. Etter at vi har vunnet krigen.