GDPR stopper Facebooks selvmords-spotter-algoritme i Europa

Foto: Facebook
Facebook lancerer ikke popups, der skal hjælpe selvmordstruede brugere, i Europa på grund af GDPR.

Den europæiske persondataforordning, GDPR, der træder i kraft til maj næste år, har stoppet lanceringen af en ny algoritme fra Facebook. Det skriver Techcrunch.

Facebook ruller en ny selvmords-spottende algoritme ud i hele verden, der gransker posts og livestreams på siden og med mønstergenkendelse forsøger at markere folk, som algoritmen mener udtrykker selvmordstanker. Det er uklart, om private beskeder også granskes af algoritmen.

Algoritmen er blevet prøvekørt i hjemlandet, USA, og brugere, der flages med selvmordstanker, får en pop-up, der tilbyder hjælp. I baggrunden bliver en moderator hos Facebook alarmeret om brugeren og kan informere myndighederne nær brugeren.

Ingen ved, hvad algoritmen laver

I en pressemeddelelse fra Facebook lyder det, at denne funktion rulles ud i hele verden undtagen EU, hvilket ifølge Techcrunch skyldes den kommende implementering af GDPR, der stiller øgede krav til, hvordan virksomheder indsamler og bruger personlige data.

Som med alle andre Facebook-produkter er det sparsomt med informationer om, hvordan algoritmen dømmer brugere som selvmordstruede. I pressemeddelelsen skriver selskabet, at de vil implementere AI for at alarmere moderatorer på siden hurtigere, men ikke, om der er tale om neurale netværk, simpel meningsanalyse eller noget helt tredje.

Det er heller ikke klart, hvordan Facebook har trænet deres algoritme, hvilke data der er brugt, eller hvor repræsentativ denne data er.

Hvis du lider af depression eller har tanker om selvmord, kan du anonymt få hjælp hos Livslinien ved at ringe 7020 1201 eller chatte med en frivillig på livslinien.dk.

Læs også: Det er negativt at være sort og homoseksuel ifølge Googles sprogforståelsesalgoritme

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Kommentarer (4)
Thomas Hedberg

På mig virker det mest som et politisk stunt så Facebook kan få en folkelig opbakning imod en lovgivning der er en trussel imod deres forretningsmodel.

Personligt er jeg taknemmelig for at Facebook ikke slipper den slags algoritmer løs og jeg er glad for at se lovgivningen tilsyneladende virker på globale spillere som Facebook.

Thomas Pedersen

I princippet er jeg enig med dig, men jeg er ikke så optimistisk mht. konsekvenserne for FB.
Jeg er bange for at specielt den nye ePrivacy lovgivning, som er en forlængelse af GDPR vil betyde at FB og Google kommer til at sætte sig på en betydelig andel af nyhedsmedier osv., da man så kun skal give dem samtykke en gang, og de så med dyb sorg må sige at de desværre ikke må dele vores data med andre, men gerne vil formidle nyheder gennem deres portaler. Det er nogenlunde hvad der er sket med Amazon på ehandel området.

Bjarke Jørgensen

Tænk om man en tilfældig dag lavede et opslag - af hvilken grund ved jeg ikke - og fik en meddelelse om at man skulle søge hjælp, fordi der var risiko for at man var selvmordstruet.

Hvis ikke man var det i forvejen, blev man det.

On-topic: jeg ved godt hvordan AI fungerer, men jeg ville hjertens gerne vide på hvilke præmisser denne algoritme fungerer. Ved Facebook hvornår folk har begået selvmord? Ved Facebook hvornår folk har forsøgt - eller blot tænkt på det? Nej - det håber jeg ihvertfald ikke - og hvis ikke, hvordan kan de så knytte posts sammen med...?
Endnu engang tages kunstig intelligens i brug hvor det ikke har plads.

Andrew Rump

Ved Facebook hvornår folk har begået selvmord? Ved Facebook hvornår folk har forsøgt - eller blot tænkt på det?

Facebook ved ekstremt meget om menneskelig psykologi, bare ved at følge kontaktanmodninger, billedtagging, beskeder på væggen, ...
De ved ofte allerede før nogen bliver par eller endnu oftere hvornår par går fra hinanden (før de selv er kommet til samme erkendelse), hvem elskeren/elskerinden er!
De ved også hvornår en person dør, bare på de beskeder familie og venner lægger op - så er det bare at gå baglæns og se om der er et mønster.
Simpelt!

Log ind eller Opret konto for at kommentere
Pressemeddelelser

Welcome to the Cloud Integration Enablement Day (Bring your own laptop)

On this track, we will give you the chance to become a "Cloud First" data integration specialist.
15. nov 2017

Silicom i Søborg har fået stærk vind i sejlene…

Silicom Denmark arbejder med cutting-edge teknologier og er helt fremme hvad angår FPGA teknologien, som har eksisteret i over 20 år.
22. sep 2017

Conference: How AI and Machine Learning can accelerate your business growth

Can Artificial Intelligence (AI) and Machine Learning bring actual value to your business? Will it supercharge growth? How do other businesses leverage AI and Machine Learning?
13. sep 2017