Microsoft: Nødvendigt at indføre etiske principper for brug af ansigtsgenkendelse

Illustration: Bigstock
Ansigtsgenkendelse kræver lovregulering, inden det er for sent, skriver Microsofts topjurist, Brad Smith, i et blogindlæg. Inden da vil virksomheden benytte seks principper til at sikre, at kunder benytter deres teknologi forsvarligt.

I stedet for blot at vente på, at verdens regeringer begynder at regulere brugen af ansigtsgenkendelsesteknologi, bør teknologivirksomheder selv tage aktion.

Sådan lyder det fra Microsofts topjurist, Brad Smith, i et blogindlæg, hvor han annoncerer, at Microsoft vil indføre seks principper, der skal sikre, at virksomhedens kunder ikke benytter dens teknologi uforsvarligt.

Det skriver Reuters.

Microsoft opfordrede i juli til, at ansigtsgenkendelse bør reguleres ved lov i USA. Det skete i forlængelse af den kritik, virksomheden fik i forbindelse med sit samarbejde med det amerikanske immigrationspoliti, ICE.

Læs også: Microsoft: Ansigtsgenkendelse bør reguleres ved lov

Og målet er stadig lovgivning, skriver Brad Smith.

»Vi mener, det er vigtigt, at regeringer begynder at vedtage lovgivning, der regulerer teknologien i 2019. Flaskens ånd er så at sige lige ved at stikke hovedet ud af flasken. Medmindre vi handler, risikerer vi at vågne om fem år og finde ud af, at ansigtsgenkendelse er blevet spredt på måder, der forværrer samfundsproblemerne,« skriver han.

Inden da bør Microsoft og andre virksomheder skabe sikkerhedsforanstaltninger for teknologien, mener han.

Læs også: Amazon-ansatte i protest over software til masseovervågning: I strid med vores værdier

For Microsofts vedkommende udgør seks principper, der bliver indført i første kvartal 2019, dette værn.

De kan læses herunder (Microsofts formulering):

Fairness. We will work to develop and deploy facial recognition technology in a manner that strives to treat all people fairly.

Transparency. We will document and clearly communicate the capabilities and limitations of facial recognition technology.

Accountability. We will encourage and help our customers to deploy facial recognition technology in a manner that ensures an appropriate level of human control for uses that may affect people in consequential ways.

Nondiscrimination. We will prohibit in our terms of service the use of facial recognition technology to engage in unlawful discrimination.

Notice and consent. We will encourage private sector customers to provide notice and secure consent for the deployment of facial recognition technologies.

Lawful surveillance. We will advocate for safeguards for people’s democratic freedoms in law enforcement surveillance scenarios, and will not deploy facial recognition technology in scenarios that we believe will put these freedoms at risk.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Kommentarer (2)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Anne-Marie Krogsbøll

.... må jeg henlede opmærksomheden på dette Ph.D-projekt, som fokuserer på anvendelsen af ansigtsgenkendelse sammen med genetiske undersøgelser til diagnosticering af psykiske sygdomme:
http://orbit.dtu.dk/files/89834062/phd319_Fagertun_J.pdf
https://www.dtu.dk/english/News/2014/04/Danish-research-leads-facial-ana...

Projektet bruger (scraper?) bl.a. 40 000 LinkedIN-profilers portrætfotos som kontrolgruppe - uden at informere de pågældende eller indhente samtykke. Jeg har fået bl.a. følgende korrespondance om aktindsigt med DTU vedr. dette:

"Til DTU.
Jeg vil bede om at få aktindsigt i alle akter og evt. fakturaer, som omhandler den anvendelse af 40 000 danske LinkedIN-profil-billeder, som omtales i denne Ph.d:
http://orbit.dtu.dk/files/89834062/phd319_Fagertun_J.pdf
"Finally our results are reproduced on a data set of more than
40,000 public Danish LinkedIN profile pictures." (s. 29).
- Hvordan har man fået adgang til billederne?
- Har man fået/købt dem af LinkedIn?
- Har man bedt om de pågældendes samtykke?
Jeg vil minde om, at svarfristen er 7 arbejdsdage, og at forsinkelse vil blive påklaget uden yderligere varsel.
Venlig hilsen
Anne-Marie Krogsbøll"

"Kære Annemarie
Under henvisning til din anmodning om aktindsigt af 27 november 2018, samt dine spørgsmål om brug af billeder i afhandlingen skal følgende oplyses:
De eneste billeder i afhandlingen, der er fra LinkedIn er på side 104. Disse billeder er anonymiserede og derfor ikke af omfattet af den i 2013 gældende persondatalovgivning, så der skulle ikke indhentes tilladelse til brug i henhold til persondatalovgivningen, LinkedIn har ikke fået betaling for brugen af billederne.
Det kan oplyses at forfatteren alene har behandlet billeder fra LinkedIn via de i afhandlingen beskrevne statistiske metoder, dette kræver ingen tilladelser henhold til persondatalovgivningen
DTU har derfor intet materiale at give indsigt i . DTU har overvejet meraktindsigt, men har ikke yderligere materiale der vurderes at være relevant for din forespørgsel.
Afgørelsen er jfr. Universitetslovens § 34 endelig
Venlig hilsen
XXXXX"

Kan nogen forklare mig, hvorledes et portrætfoto kan være "anonymt"?

Og ville en tilsvarende anvendelse af andres ansigter uden informering og indhentelse af samtykke fra de pågældende også kunne ske under GDPR?

Desuden er dette projekt flere steder i rapporten omtalt som en del af et større projekt i samarbejde med Lundbeck og deCode Genetics via Innovationsfonden. Dette har jeg søgt aktindsigt i, men Lundbeck pudsede hele det juridiske apparatet på anmodningen, som blev stort set afvist med begrundelsen "forretningshemmeligheder". Og DTU benægter, at der overhovedet har været et samarbejde, og mener, at der er tale om en "skrivefejl" i Ph.D-en. Lyder det sandsynligt, at en faktuelt forkert henvisning til et sådant samarbejde flere steder i en Ph.D-rapport - som vel skal holde en vis videnskabelig standard - blot kan være et "skrivefejl"?

Jeg kan fuldt ud støtte Microsofts appel i denne sag. Området er ude af kontrol, og ansigtsgenkendelse, som åbenbart kan være en direkte vej til genetisk kortlægning og folks sjæleliv pr. fjernbetjening, åbner for livsfarlig totalitær udvikling, og med et enormt misbrugspotentiale i de forkerte magthaveres hænder.

Lars Tranke

ingen nævnte at de (microsoft) er igang med at lave et nyt authentication-system i samarbejde med mastercard som skal være det nye loginsystem man kan bruge i princippet til alt online, men vist til at starte med kun i finansielle relationer.. baseret på biometri

kunne man forestille sig at de to ting har en relation til hinanden

Log ind eller Opret konto for at kommentere
Pressemeddelelser

Welcome to the Cloud Integration Enablement Day (Bring your own laptop)

On this track, we will give you the chance to become a "Cloud First" data integration specialist.
15. nov 2017

Silicom i Søborg har fået stærk vind i sejlene…

Silicom Denmark arbejder med cutting-edge teknologier og er helt fremme hvad angår FPGA teknologien, som har eksisteret i over 20 år.
22. sep 2017

Conference: How AI and Machine Learning can accelerate your business growth

Can Artificial Intelligence (AI) and Machine Learning bring actual value to your business? Will it supercharge growth? How do other businesses leverage AI and Machine Learning?
13. sep 2017
Jobfinder Logo
Job fra Jobfinder