Militær AI stiller massive sikkerhedskrav til Terma: »I sidste ende er alt underlagt CIA-modellen«

Nå, allerede to thumbs down. Der er åbentbart nogle helt uskyldige spørgsmål som man skal udskammes for at stille, kan jeg forstå!

Det ligger måske ikke lige for, men når man ser på hvordan våbenindustrien, som foretrækker at rebrande sig som forsvarsindustrien (præcis ligesom overvågningskameraer nu hedder "tryghedskameraer") , så kunne det være interessant at vide i hvilken grad Terma m.fl. suger på offentilge data, herunder personrelateret data til deres "forskning".

Den slags data kan jo sikkert finde anvendelse til udvikling af produkter som stater som Emiraterne og Saudiarabien gerne betaler gode petro-dollars for, så de kan identificere og "forsvare" sig mod egne dissidenter og andre farlige "fjender".

I Danmark må data indsamlet til et formål jo snartsagt bruges til hvadsomhelst, så længe produktudviklingen kaldes forskning. Har danske våbenproducenter mon adgang til danske borgeres data på dette grundlag? Er der nogen måde vi kan få oplyst om borgernes data også bruges af våbenindustrien?

Automatiske våben er en gammel nyhed, vist fra sidste halvdel af det 19. århundrede. Rekyldrevne, gasdrevne, håndsving eller motor (og sikkert flere principper). Autonome våben er derimod nyt, men ikke lige nævnt her.

Min gode gamle Mercedes e320 cdi kunne ikke mere, så jeg gik sidste efterår på jagt efter afløseren.

Fruen og jeg lagde vægt på ny fremdrifts teknologi samt kørselshjælp som nogle fabrikanter kalder “pilot” andre “assistentsystemer”. Så i løbet af vinteren fik vi prøvekørt alt fra Audi, Kia, Honda, Skoda, Tesla, VW ID4, Mercedes, Renault, Citroen osv.

Min første forskrækkelse fik jeg da den Tesla 3 jeg prøvekørte på en 70-km omfartsvej ville smutte med over rødt, fordi ham foran kørte overfor rødt. Der opdagede jeg at skiltegenkendelse og alle andre objekter den havde på AR skærmen ikke indbefattede lyssignaler. Det er i øvrigt generelt, og ikke specifikt for Tesla.

Den næste detalje jeg opdagede var i Audi e-tron. At det system som hjælper med at holde bilen på vejbanen, at striberne er velpudsede. De må ikke være medtaget af slidtage, snavs, blade, sne og hvad man ellers kan forstille sig.

Den tredje ting var hos Mercedes parkeringssystem. Den del som gør at du stiger ud af din bil og via din mobil lader bilen selv finde en parkeringsplads - er slået fra i Danmark. Det var det samme med Audi.

Så vi måtte nøjes med den udgave hvor du selv sidder i bilen og ser at rattet drejer med tilhørende gearskift og man kun skal bremse.

Der var flere ting at nævne fra prøvekørslerne, men nu tilbage til AI. Alle de her biler har indbygget LTE forbindelse, kun til bilen data transmissioner tilbage til fabrikken.

For mig lyder det relativt simpelt at analyserer de mange data som bilerne sender til centrale servere og så fikset noget genkendelse af trafiklys og at dette er meget lettere end at opbygge en AI til våbenbrug.

Med jer ved jeg ikke, for selvom våbenindustrien er stor, så tror jeg at bilindustrien er endnu større og hvis ikke de kan få en bil til at stoppe for et lyskryds … hvordan så med et selvskydende våbensystem?

Ro på battet mester, må jeg foreslå at du læser artiklen.

Vi bør KRAFTIGT gå imod at systemer selv kan beslutte våbenbrug.!! Lad os se på det store børskrak nogle år tilbage. Det skete så alvorligt fordi børs transaktioner idag styres af software, der bl.a. selv styrer hvornår det skal reagere. Altså ud fra algoritmer, men uden den menneskelige fornuft. Havde det nu været våben, så ville en lille fejl der affyrer et våben, kunne trigge en eskalerende række af affyringer fra de forskellige parter, og inden længe har vi en verdensomspændende krigs handling. Alene baseret på software beslutninger

• Det bør og Skal modarbejdes. Ikke alene herhjemme, hvor den slags fornuftigt kunne underlægges streng regulering. Men også på det helt store internationale plan - i stil med atomvåbens aftalerne. 'Intelligente ??' våben, er en fare for hele menneskeheden på størrelse med slutningen af den kolde krig. Jo før vi bremser den tendens des bedre.

BTW: Hvis du mener, at alle 21.575 (anslåede) medarbejdere er alkoholikere, så bliver det nogle store AA møder, de holder.

CIA = Confidentiality, Integerity and Availability i denne kontekst og ikke "Central Intelligence Agency".

Men må jeg så samtidig lige lave et rant mod ukritisk brug af akronymer der kan misforståes - lige dette er ret udtalt.

Ligesom når folk taler om SDLC - især de yngre synes det skal stå for Software Development Life Cycle, men den ældre generation (dvs. mig) forbinder det med en af IBMs vigtigste protokoller.

Eller når nogen er så smarte at de forkorter FrameBuffer Image viewer til FBI - er det så lige nemt at søge efter det man egentlig gerne vil?

BTW: Hvis du mener, at alle 21.575 (anslåede) medarbejdere er alkoholikere, så bliver det nogle store AA møder, de holder.

Foretagenet hvor I'et vel nærmest må anses for et oxymoron eller et udtryk for syg humor, da intelligens nok er det mest fraværende element blandt alkoholikerne fra Georgetown.

Nej, det har ikke noget med skæg og blå briller at gøre. Det er bare den perseption, som navnet har på mange. Jeg læser lige nu Master in Intelligence and Cyber Studies på SDU, og vi studerer blandet andet problematikkerne i efterretning - intelligence på engelsk. Jeg har en meter literatur om emnet, som jeg skal igennem, så mit behov er godt dækket :-)

CIA = Confidentiality, Integerity and Availability i denne kontekst og ikke "Central Intelligence Agency".

Jeg skal lige have på det rene - CIA modellen har det noget som helst at gøre med det såkaldte "Central Intelligence Agency" i Langley at gøre?

Foretagenet hvor I'et vel nærmest må anses for et oxymoron eller et udtryk for syg humor, da intelligens nok er det mest fraværende element blandt alkoholikerne fra Georgetown.

Jeg kan endnu en gang anbefale at læse Tim Weiners "CIA - fra den kolde krig til krigen mod terror".

Som jeg forstår det, så er alle systemer i alle sektorer "underlagt" CIA modellen, og jeg ser ikke noget specielt for denne sektor. At de nok har en lidt større "portion sikkerhed" tilknyttet disse militære systemer, er nok rigtigt, men CIA modellen er definitionen af sikkerhed i sig selv. Bare for at være en anelse krakilsk...