Microsoft-ansatte protesterer mod militært AI-projekt: Vores teknologi skal ikke bruges til drab

Illustration: Oleg Zabyelin/Bigstock
Machine learning skal nu hjælpe det amerikanske militær med analyse af store mængder data, så chancen for at nedlægge det rigtige mål øges. Men det er ikke en mission, der vækker udelt begejstring.

Medarbejdere hos Microsoft har sendt et brev til selskabets ledelse, hvor de opfordrer til, at et tilbud på en amerikansk militærkontrakt tilbagekaldes. Hvis Microsoft vinder kontrakten, vil det indebære, at it-selskabet skal levere computerkraft til kunstig intelligens, der skal bruges i krigsøjemed.

Det skriver The Telegraph.

Buddet fra Microsoft på deltagelse i et cloudbaseret system under navnet Joint Enterprise Defense Infrastructure (JEDI) blev indleveret d. 12. oktober.

I skrivelsen anklages Microsoft for at bryde med selskabets principper »i bytte for kortsigtet profit«, hvis man beder medarbejderne gå ind i et it-projekt, hvor ingen aner, om det skal bruge til positionering, overvågning eller i drabsøjemed.

»Mange Microsoft-medarbejdere mener ikke, at det, vi bygger, skal bruges til at føre krig,« lyder det i brevet.

JEDI er ifølge The Guardian et ambitiøst projekt, der fra skyen skal betjene amerikanske styrker over hele verden, fra analytikere ved skriveborde i Virginia til soldater på operation i Niger.

Kontrakten lyder på 10 mia. dollars over 10 år, og derfor kæmper flere store tech-virksomheder om at vinde den. Målet er ifølge Guardians analyse ikke så meget at øge slagkraften til at dræbe - for ildkraften i det amerikanske militær er i forvejen overvældende - men at øge chancen for at ramme det rigtige mål.

Machine learning skal altså hjælpe med at analysere de enormt store mængder data, som kan føre militæret til det rigtige mål eller til fjenden, som ellers i vores tid er blevet langt mere diffus end tidligere.

Men det er ikke en mission, som de ansatte, der står bag brevet, bakker op om:

»Da vi begyndte at arbejde hos Microsoft, gjorde vi det i håb om at 'give alle mennesker på jorden mulighed for at opnå mere', ikke med det formål at afslutte liv og skabe mere død,« skriver de endvidere.

Det vides ikke, hvad den amerikanske regering vil anvende JEDI-projektet til.

På en industrikonference, hvor JEDI blev drøftet, afslørede administrerende direktør for det amerikanske forsvarsministerium John Gibsondet dog, at projektet »vitterlig handler om at øge slagkraften (lethality, red.) i vores afdeling«.

Google har oplyst, at man har trukket sig fra udbudskonkurrencen, med en udtalelse om, at det er usikkert, om deltagelse ville være i strid med selskabets AI-principper.

Virksomheden står i øvrigt overfor intern modstand mod deltagelsen i det amerikanske militærs Maven-program.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Kommentarer (7)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Carsten Svendsen

Jeg er helt enig med både Microsoft og google folkene at det er en ret skidt ide med militært AI..

men kan heller ikke lade være med at tænke om denne modstand fra amerikansk side vil give kineserne og russerne, som bekendt tager noget let på menneskerettigheder, en udslagsgivende fordel over for US.

Mogens Bluhme

Hvis det bruges til at redde menneskeliv.

Man skal huske på den helt naturlige prioritering af at begrænse tab af menneskeliv:

1) Egne soldater
2) Civile
3) Det mindst antal dræbte af fjender, som er nok til at afslutte krigen.

Krigens længde er afgørende: Antal dræbte vil i en ønskesituation godt kunne være meget højt i starten for gruppe 3) men i virkeligheden samlet begrænse tab i form af en hurtigere afslutning/kapitulation.

Hvis AI anvendes med henblik for mere præcision og dermed begrænse tab for gruppe 1) og 2), er det helt fint med mig.

Hans Nielsen

Når man/vi ikke kan blive enige om prioritering, hvordan skal man så blive enige om mål og midler. Og hvordan skal. og hvem skal programmere denne prioritering ind i AI ?

I mange konflikter har man prioriteret 2 over 1, altså acceptere et højere tab for at skåne civile. Andre gange har man prioritere døde ting, som byer industri eller kunst.

Så hvordan er det lige du vil prioritere ?. Og når du har helt styr på det, så du ikke overtræder love eller regler, så få dem lige konfirmeret med alle din allieret.

Men igen, det er sikkert en tabt sag. Men du skal ikke tro, at du sidder i den behagelige ende af våbnene og udvæglensen. Når biler, fly og skibe bliver selvkørende, kan de overtages af "terrorister".
Eller så se videoen. Hvor en drone til et par hundrede kr. kan udslette et mål.

Man kan så sige at krige bliver mere demokratiseret. Det er ikke kun os, som får adgang til nemme og billige våben.

En forsmået ung knægt kunne bruge en drone til et angreb på en gruppe af mopper. Ikke nødvendigvis for at dræbe. Lemlæstelse er lige så godt i forbindelse med terror. Og der er nemt adgang til aggressive væsker

Det er ikke alle som har adgang til atomvåben. Med de fleste mennesker eller organisationer vil få adgang til autonome våben, måske bare i form af en fjernstyret modelbil, med et pund sprængstof.
Eller så vil crip, give de fleste med adgang til et mindre biologilokale, mulighed for at udvikle biologisk våben med potentiale til at slå 99.9% af menneskeheden ihjel.

Prøv lige at tænke sig allerede i dag. Hvad hvis en dyreværnsorganisation eller en pengeafpresser ønsker at afpresse landbruget eller beskytte vildsvine. En trussel om, eller en konstant spredning af svinepest ville fjerne grunden til et vildsvinehegn og en objektiv grund til at slå vildsvinet ned. Så det bliver en sygdom vi bare må leve med.

Men i forbindelse med en anden tråd, om at terroristerne ikke er dumme. Jo det er de heldigvis, men på en helt anden måde end politiker og politi tror. Og godt for det, nu ikke flere gode ideer. Tænk på hvad 3 hashvrag, som ville flygte fra politiet foranstaltet :-)

Kjeld Flarup Christensen

Hvorfor denne modstand i dag. Kigger man tilbage i tiden, så var der ikke nogen betænkeligheder ved at producere hverken konventionelle våben eller atombomber. Nærmere tværtimod, var der sikkert en del stolthed over det.

Er mennesker blevet klogere, eller har de totalt mistet realitetssansen.

Hvad nytter det at opbygge et humant samfund, hvis denne humanisme betyder, at man ikke kan forsvare sig imod det inhumane.

Forklaringen kan selvfølgelig også være årtiers mistillid til regeringen. En del konspirations teorier, men også en meget reel Snowden.

Så må man blot spørge, kærer Microsoft ansatte sig lige så meget omkring den militære betydning af verdens mest udbredte styresystem på kontorcomputere.

Hans Nielsen

betænkeligheder ved at producere hverken konventionelle våben eller atombomber.


Du kender hvis ikke meget til historie, eller ser du kun fox :-)

Nobel troet at dynamitten ville stoppe alle krige, det samme med udviklingen af maskingeværet.

Det var mange udvikler af atomvåben som have betænkeligheder, som eksempel blev den hovedansvarlig for det russiske program systemkritiker.

Lidt kort plads, til at fortælle de mange og lange historie.

Eller se på de 2 breve som A. Einstein skrev, det enes førte til udviklingen af atombomben, den anden var en advarsel.

Log ind eller Opret konto for at kommentere
Brugerundersøgelse Version2
maximize minimize