Computer myrder 9, sårer 14

Moderne automatiske våben kigger ikke på uniformens farve inden de skyder og hvis der er fejl i software eller hardware skyder de alt hvad der rører sig.

I dette tilfælde er 9 sydafrikanske soldater døde og 14 såret.

Asimovs love trænger til en opdatering.

phk

Kommentarer (16)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Jens Madsen

Men kan programmørerne, de ansvarlige, og ledelsen bag produktionen af computeren, sættes for en rigsret?

Det er nødvendigt, at vi får afgjort, hvem som har ansvar i sådanne tilfælde. Man kan ikke tillade sig, at udvikle maskiner der går rundt og skyder tilfældigt, på grund af en softwarefejl, og så ikke tager ansvar for fejlen. Fejlen må undersøges. Der må opdages hvilken programmør der har gjort fadæsen. Og vedkommende bør sættes for en rigsret for mord. Ikke kun programmøreren bør kunne dømmes, da arbejdsvilkår, fysiske deadlines, og trusler måske har være årsag.

Enhver bør tænke sig om, inden de udvikler software og hardware til et sådant produkt.

Hvis vi ikke får placeret ansvaret, for hvad robotter og computere gør, hos producenten og udviklerne, har vi reelt ikke mere lov og ret. Enhver vil kunne kode en computer, og har begået lovligt mord.

  • 0
  • 0
Helge Svendsen

Er de første, der bliver brudt når teknologien er der.

Der er god mening i dræber robotter så længe de ikke skyder efter en selv ...

http://www.theregister.co.uk/2007/05/24/robochoppers_to_join_flying_hk/

Interessant læsning.

Alle der roder lidt med AI (ja det findes endnu) ved at det tager fejl en gang i mellem.

Jeg ved ikke om jeg har ret meget lyst til at være den del af kontrol data sættet til test af en sådan tingest ...

  • 0
  • 0
Poul-Henning Kamp Blogger

Mnjae, nu er de fleste krige jo ført ud fra devisen om at fjenden ikke var lige så gode mennesker som os selv, så det er vel kun en gradbøjning af asimovs love.

Forskellen er at nye moderne våben ikke har den skelnen implementeret.

Poul-Henning

  • 0
  • 0
Martin Pedersen

Hehe, ja det var også bare for at være lidt på tværs. Faktisk har Asimov jo selv brugt den gradbøjning i sine bøger, da Solarianerne byggede robotter der kun opfattede dem med Solarian accent som mennesker.

  • 0
  • 0
Jens Madsen

Det er ikke muligt, at dømme en computer. Naturligvis kan den dømmes til Linux, eller Windows. Dette vil ikke gavne. Det mest effektive, er måske at dømme den til at kun måtte køre skak, eller et andet spil, der ikke skydder.

De skyldige er producenterne, og udviklerne. Det er relativt nemt, at placere udviklere i nutidens teams, da det eneste der kræves, er at landet som gør det, selv har supergode udviklere. Virksomheder vil typisk altid tage en sådan dygtig udvikler, og placere dem i en central position. Dette betyder, at software og hardware, måske får lagt "fejl" ind, af dygtige programmører og specialister, der måske endog hjælper den ansatte således han kan producere mere, eller til metoder der kan bruges uden at opdages.

Vi kan derfor ikke forvente, at maskinerne gør som de bør. Det kan nemt opstå "hovsa misil" lignende tendenser.

Det er meget vigtigt, med kontrol over udviklingen, og at man kan finde ud af hvilken programmør der har lavet en given kodestump. Det kan man ikke, hvis der bruges operativsystemer som Linux og Windows, da det ikke er noget system der håndterer dette, for disse operativsystemer. Der kan ikke ansvarsplaceres en bug, hvis der bruges sådanne operativsystemer. Derfor, ikke en god idé at dømme en computer, til at bruge en sådan. Hvis dette sker, er eneste resultat, at enhvilkensomhelst ærlig programmør vil kunne dømmes, meddens de der har gjort det går totalt fri.

Der kræves altså mere, end normal udvikling, og normale metoder, for at stå mål med et lands forsøg på indtrængen i udviklingsafdelingen. Uanset, om det er på operativsystemniveauet, som Windows, eller Linux, eller om det er ved direkte ansættelse og ikke ved brug af bagdøre i programmer og compilere. Man må forvente, at compilere og operativsystemer, er de første steder, der søges placeret dygtige medarbejdere. Og hvis nødvendigt, direkte i de pågældende virksomheder der udvikler f.eks. krigsmateriel hvis det ikke kan gøres indirekte ved placering i andre virksomheder (f.eks. microsoft). De pågældende vil altid, gøre tingene så det er svært at opdage, og omgå enhver form for sikkerhed, samt vide alt om sikkerheden der bruges. Måske har de udviklet den selv, eller nogen af kammaraterne.

Det er derfor ikke enkelt, da selv sikkerhedssystemer, sikkerhedssoftware osv. kan rapportere forkert, og ikke angive de rigtige personer, som er skyldige.

I PC sammenhæng ved vi efterhånden, at det er muligt at logge på andres computer, og misbruge computeren, som var det personen selv der sad der. Mange sikkerhedsprogrammer og firewall's kan endog snydes, så det ikke ses forsøg på adgangen. Dette er huller, som er indbygget bevidst, med henblik på, at kunne gå ind, og manipulere til, at andre personer straffes fra ens handling.

Operativsystemer, sikkerhedssoftware, er allerede "indfiltreret", og kan ikke bruges. Hverken Windows eller Linux er brugbart. Og mange compilere kan ikke bruges, fordi de indeholder kode, der giver bagdøre eller gør koden ustabil.

Derfor bør man faktisk ikke lave våben. For sandsynligheden for, at det reelt er fjenden som udvikler dem for en, og måske til fordelagtig lav pris, men med stor gevindst, er yderst sandsynligt. Det er direkte dumt at lave våben robotter.

På nuværende tidspunkt er ikke så stor styr på udviklingen, operativsystemer, sikkerhed, og software der styrer sikkerhed, osv. og der findes ikke tools der er troværdige og som er udviklet under størst mulig sikkerhed, der kan opdage den rette skyldige, hvis nogen lægger software ind, så der skydes forkert. Med andre ord, er risikoen ved at udvikle våben software for stor.

Det eneste, som kan gøres uden større risiko, er at vedblive at indfiltrere enhver form for software, såsom operativsystemer, programmer der står for sikkerhed, routere og firewall's således de ikke logger osv, eller kan dirigere data videre skjult, som om de kom fra andet sted. Dette ødelægger samtidigt, at software og hardware reelt kan, og bør bruges, til at udvikle våben. Computerne er et våben i sig selv, og vil til enhver tid kunne misbruges, af dem der har gjort det.

Og måske også dem, der opdager fejlen.

  • 0
  • 0
Jens Madsen

Måske skal man også advare om, at der udvikles nye atomvåben. De gamle, er måske fra før infiltration af enhver form for software, og hardware, meddens at nye under alle omstændigheder, hovedsageligt udvikles af fjenden. USA vil udvikle nye atomvåben for Rusland og måske også for Iran. Og Rusland og Iran, vil udvikle nye atomvåben for USA. Da alt software og hardware i dag er infilteret er dette muligt, og mest sandsynligt vil blive gjort. Laver USA nye atomvåben, vil fjenden ikke angribe med sine egne - men med fejl, i de nye. Derved startes ikke en 3. verdenskrig, og raketterne fungerer sikkert, selvom de ikke når sikkert op i stratosfæren.

Enhver fornuftig stat, bør afholde sig fra at udvikle nye våben. De kan kun skyde mod dem selv - når det er alvor.

  • 0
  • 0
Martin Juhl Jørgensen

Jeg så nyheden andetsteds men tænkte at du helt sikkert ville blogge om den ;)

Et af problemerne med at have computerstyret våben er vel også at det er super vanskeligt at finde ud af lige præcis hvem der er ven og hvem der fjende. F.eks. hører man ofte FN folk sige at de ikke kan kende forskel på de forskellige fraktioner selvom de har været dernede i området i en årrække, og mon de ikke også selv engang i mellem kommer i tvivl.

Ingen fest uden FF (Friendly Fire) som man siger :)

Gad vide hvor meget arbejde de har lagt i at teste det software og sørge for at der er backup systemer også videre der sørger for at den ikke bare uden lige laver en 360° med full auto.

  • 0
  • 0
Deleted User

Så længe det er et automatvåben der går amok, har jeg ingen kvaler. Begynder deres atomarsenal at lave samme nummer, så vil jeg da fraråde dem at bruge softwaren næste gang.

  • 0
  • 0
Deleted User

Jeg vil dog understrege at jeg har kvaler i netop denne situation, da mennesker er blevet drabt. Min udtalelse fra før var imod den generelle situation hvor ingen mennesker afgår ved døden.

  • 0
  • 0
Jakob Damkjær

Ja det er ret keglet når en af de robotvåben går grasat,

Men hvor ofte sker det når der er et menneske i den ende af
våbenet der bestemmer ?

og det er umuligt at lave antiluftskyts der ikke er computerstyret idag. Mennesker har alt alt for langsom reaktionstid. Så det er valget mellem ingen eller robot våben.

Det er langt fra den første gang at fuldt eller delvist autoatiserede våben laver lidt FF. Men hvis det skete ofte så
ville militæret nok holde op med at bruge dem. Men det modsatte er det der sker.

Under første golf krig var der et automatiseret antiluftskyts bateri på et amerikansk flåde fartøj der tog fejl af de flares som naboskibet sendte op og misilet der var på vej mod dem... Hvad kan man sige. Et par vulcan kanoner på fuld auto er aldrig sjovt at være i den forkerte ende af. Men grundet usandsyneligt held så var der ingen der døde.

Derfor burde autovåben ha en let tilgængelig killswitch.

  • 0
  • 0
Jens Madsen

Hvis alle soldaterne får implanteret implanter, så kanonerne kan genkende dem, burde FF vel kunne undgås?

Måske kunne tøj, og krop, males i nogle farver med et helt specielt spektra. Et kamera afstemt præcis efter det pågældende spektra, vil udfra hud og uniformsfarve kunne afgøre FF.

  • 0
  • 0
Jacob Sparre Andersen

Og hvormange sekunder tror du det tager fjenden at opdage hvilken farve der skal til?

Det kan jo både bruges til at beskytte sig selv, og til at sikre sig at man ikke spilder krudt på ikke-mål.

Jacob

»Enhver politiker med en levende opposition forstår ikke at
gøre brug af de sande politiske værktøjer.«

  • 0
  • 0
Jens Madsen

Ofte kan emnet dekoreres med pynteled'er, og disse udsendet kodet lys. Ved at bruge LED'er, med en bestemt bølgelængde der adskiller sig fra omgivelser, og at detektere blink, de sender ud, så er muligt at kode lyset, og det vil ikke kunne laves samme kodet lys, af en fjende.

  • 0
  • 0
Jens Madsen

Er der grund til, at bruge "dødbringende granater" mod fly? Ikke dræbende sort maling, der overmaler vinduerne, eller klister der tilklæber bombeluger, burde kunne bruges. Dette vil eliminere skaden i tilfælde af friendly fire.

  • 0
  • 0
Log ind eller Opret konto for at kommentere