Historien gjentar seg

Aldri igjen, sa vi. Så skjer det likevel, på vår vakt. FN frykter at hundretusener av innestengte palestinere i Nord-Gaza vil dø som følge av krigshandlinger, blokade av mat og vilkårlige henrettelser. Her i Norge har nå Storebrand utestengt selskapet Palantir fra porteføljen, en helt naturlig konsekvens av regjeringens offisielle fraråding. Palantir leverer KI som er ment for voldelig undertrykking, og selskapets ledelse støtter aktivt og eksplisitt et regime som begår daglig krigsforbrytelser.

Det skulle bare mangle at det får konsekvenser. Teknologibransjen er, på samme måter som andre selskaper ansvarliggjort gjennom Åpenhetsloven, de må etterleve FNs veiledende prinsipper for næringsliv og menneskerettigheter (UNGP) og OECDs retningslinjer for flernasjonale selskaper.

Ingenting av dette er forenlig med å bidra til det ettertiden med svært stor sannsynlighet vil definere som et folkemord.

Likevel inviterte bransjeforeningen IKT Norge nylig Palantir til å snakke på en konferanse om KI, med tema “sikkerhet, tillit og innovasjon”. Oljefondet står fortsatt investert med 5 milliarder kroner i selskapet. I en LinkedIn-post nylig, stilte kommunikasjonsdirektøren i NHO spørsmålet “må næringslivet engasjere seg i politisk betente saker som Gaza?” Svaret hennes: “Nei”.

Sorry bransjefolk, men dette er ikke tiden for tilslørende tåkeprat. Dette er ikke politisk betent. Betennelsen er juridisk og etisk.

Vi er vitne til vår tid grusomste krigsforbrytelse. En overmakt driver nedslakting av en innestengt befolkning i strid med folkeretten. Voldshandlingene er i større grad enn noen gang muliggjort av informasjonsteknologi. Kodelinjer, algoritmer og digitale tjenester blir en stadig viktigere del av det globale krigsmaskineriets verdikjede.

Det er av flere kilder, blant annet Human Rights Watch, grundig dokumentert at KI er en integrert del av militæroperasjonen på Gazastripen. Den brukes til selektering av drapsofre (“Lavender”), utvelgelse av bygninger som skal bombes (“The Gospel”) og beregninger av når et offer befinner seg på et angitt bombemål (“Where´s Daddy”). Trolig er eksemplene langt flere.

Er du opptatt av teknologihistorie? Da vet du trolig at vi har vært her før. Det er nå 23 år siden boken “IBM and the Holocaust”. Denne boken viste hvordan IBMs hullkortmaskiner ble tilrettelagt for nazistene - og bidro til å identifisere jøder, konfiskere eiendom, deportere dem til konsentrasjonsleire og sørge for et planmessig og velorganisert masseutryddelse.

På mange måte var IBM-hullkortet den første storskala anvendelsene av “informasjonsteknologi” på samfunnsnivå. Kortet ble oppfunnet av tysk-amerikanske Herman Hollerith. Kortet var omtrent på størrelse med en dollarseddel, lagre detaljerte opplysninger om en person, sted eller prosess, avhengig av hullenes plassering på kortet, som ble slått ut i rader og kolonner. Kortet ble matet inn i en høyhastighetsleser, ut kom personlig informasjon.

Maskinene, levert av IBMs datterselskap Deutsche Hollerith-Maschinen GmbH (Dehomag), ble blant annet brukt til en folkeregistrering med fokus på rase. Når Hitler hadde navnene og oppholdsstedene til Tysklands jøder, laget selskapet systemer for å tabulere dataene mot sysselsettingsdatabase og finansinstitusjoner. Plasseringsdata ble deretter brukt til å organisere den massive overføringen av jøder fra hjemmene deres til gettoene.

Det fantes en IBM-avdeling – Hollerith Abteilung – i nesten alle konsentrasjonsleirer, selskapet bidro ifølge forfatteren Edwin Black også til den grusomme “utryddelse gjennom arbeid”-kampanjen, hvor ferdigheter ble matchet med behov for slavearbeid og jøder ble innkalt for å bli jobbet i hjel.

Visste IBM hva de bidro til? Selskapet hevder selv at de hadde begrenset kunnskap om hva maskinene ble brukt til. Det er vel kjent at Thomas Watson var personlig involvert i arbeidet. Han ble i 1937 hedret av Hitler i Berlin ved en storslått prisutdeling.

IBM er i dag et ansvarlig selskap, og de har gjort mye bra i tiden etter krigen. Det meste tyder på at leveransene til nazi-tyskland var motivert av profitt, ikke jødehat. Historien er likevel viktig å få frem, fordi den kan lære oss noe om nåtiden. I lys av det menneskeskapte marerittet medmennesker i Palestina lever under, bør det alvorlige feilskjæret under andre verdenskrig vekke noen tanker.

Hvem fremskaffer, lagrer og prosesserer data som muliggjør angrepene i Midtøsten? Kjøres det algoritmer som plukker ut palestinske drapsofre i norske datasentre? Er det i så fall greit?

Jeg spør for å provosere frem refleksjon. Det har aldri vært viktigere enn akkurat nå å være bevisst hvem som bruker teknologien vår, og hva den brukes til.
Vi har aldri hatt større kapasitet til å hente, kombinere og prosessere informasjon. Hva skjer med krigens rett og ansvarsforhold når autonome våpen, eller “slaughterbots”, flytter avgjørelsen om å drepe fra menneske til maskin?

Det er nemlig her vi er, nå. De første angrepene med slike våpen ble registrert i 2021, samme år som autonome dronesvermer ble bruk, forøvrig av israelske styrker, i Gaza. I FN diskuteres et forbud mot slike våpen, men avgjørelsen kommer ikke før tidligst i 2026. Etter Trumps seier er det lite sannsynlig at vi vil få på plass noen internasjonal konvensjon om ansvarlig bruk av KI.

Det er i praksis fritt frem, akkurat som under Holocaust. Er det da opp til hver enkelt, eller er det nettopp bransjeforeninger som IKT-Norge og NHO som skal sikre at vi utfordrer hverandre og legger listen høyt for etikken?

Fancy corporate-slides om hypotetiske og bærekraftige fremtidsløsninger er underordnet akkurat nå. For mens vi går på konferanser og diskuterer fremtiden i verdens tryggeste land produseres data, lagres data, sammenstilles og prosesseres data. Algoritmer tar på daglig basis selvstendige valg om hvem som skal leve og hvem som skal dø, i en grusomt misbruk av makt som vil stå igjen som en skamplett på vestens historie.

Ja, verdikjedene er langt mer kompliserte og sammensatte enn de var da IBM leverte hullkort og maskiner på 1930-tallet. Vi vet alt for lite om hvem som, direkte og indirekte, bidrar til at forbrytelsene skjer. Men da blir det desto viktigere at alle i bransjen tar ansvar for å stille kritiske spørsmål, både til seg selv og til hverandre. Og at de som kjenner situasjonen på bakken, lovkravene og som brenner for siviles rettigheter må bli lyttet til og trukket inn i diskusjonene. 

Og jeg utfordrer både NHO og IKT Norge til å erkjenne, ikke usynligegjøre, problemet - og løfte ansvaret høyt på dagsorden. Hvis vi ikke i den norske informasjonsteknologibransjen selv greier å stille kritiske spørsmål om KI-genererte grusomheter som begås hver eneste dag, akkurat nå, hvordan skal den da klare å styre denne kraftfulle teknologien slik at den skaper et bedre samfunn i fremtiden?

Du trenger ikke drømme opp en mørk fremtid for å finne eksempler på at intelligente maskiner undergraver menneskers frihet og trygghet. Det skjer, akkurat nå. Vi lever midt i en direktesendt dystopi.