Det halter med datasikkerheden i DeepMinds adgang til 1,6 millioner digitale journaler

deepmind, ai
Samarbejdet mellem det britiske sundhedsvæsen og DeepMind bliver nu mødt med kritik, da panelet med ansvar for samarbejdet påpeger flere fejl og mangler.

Samarbejdet mellem Googles DeepMind og det engelske sundhedsvæsen har vist sig på nogle punkter at være ulovligt, da det ikke beskytter patienternes data ordentligt, skriver BBC.

Problemet er opstået i forbindelse med en app, der er udviklet af DeepMind-holdet til at identificere patienter med risiko for nyresygdomme. DeepMind har fået udleveret 1,6 millioner digitale journaler.

Et uafhængigt panel, der er nedsat for at holde øje med brugen af DeepMind, mener, at der skal ændres i den nuværende aftale, for at det kan fungere ordentligt og lovligt.

Formanden for panelet, Julian Huppert, forklarer, at der er en række 'mangler' i den nuværende kontrakt, og at der er brug for en række ændringer.

Læs også: Deepmind: AI's hukommelsesproblem kan være løst

Det er ikke holdet bag DeepMind, der gør noget forkert, men panelet mener stadig, at firmaet har et medansvar for at tjekke op på, at deres samarbejdspartnere overholder loven:

»Folk er bekymrede for de store teknologifirmaers magt, og vi føler, at vi kan forvente høje standarder fra DeepMind, da det er knyttet til Google,« siger Julian Huppert.

Problemer med sikkerheden

Panelet har udpeget en gruppe eksperter til at vurdere de teknologiske risici ved DeepMind. De fandt 11 svagheder - langt de fleste var dog med lav risiko.

En risiko er, at alle med adgang til systemet vil kunne ændre i dataene eller introducere malware. Holdet bag DeepMind er opmærksomme på risikoen og arbejder for at få udbedret svaghederne.

Læs også: Google Deepmind: Vi øger sikkerheden mod misbrug af sundhedsdata

DeepMind tager ansvaret på sig, og gør det i en udtalelse klart, hvad de har lært af episoden:

»I sidste ende, hvis vi vil bygge teknologi, der skal hjælpe en vital social institution som hospitalsvæsenet, så skal vi være sikre på, at vi tjener samfundets prioriteter og ikke løber fra dem,« skriver Mustafa Suleyman, der er medstifter i DeepMind.

Selvom DeepMind er kendt for sin kunstige intelligens, bliver det faktisk ikke brugt i den britiske ordning, forklarer Julian Huppert:

»DeepMind kunne bruge sin kunstige intelligens til at hjælpe med sundhedspleje, men jeg tror desværre, at hospitalsvæsenets data ikke er så godt, som man havde håbet, så det var nødvendigt at gå et skridt tilbage.«

Læs også: Googles kunstige intelligens slår verdensmester i brætspil - igen

Tips og korrekturforslag til denne historie sendes til tip@version2.dk

Følg forløbet

Kommentarer (0)

Log ind eller opret en konto for at skrive kommentarer

Pressemeddelelser

Affecto Denmark reaches highest Microsoft Partner level

Affecto Denmark, a leading provider of data-driven solutions, has reached the highest level in the Microsoft partner ecosystem: Managed Partner.
22. jun 2017

Innovate your business with Affecto's IoT Explorer Kit

Are you unsure if Internet of Things fits your business strategy?
31. maj 2017

Big Data Lake Summit: Fast and Trusted Insights

If you want to outpace, outsmart and outperform your competition in a digital world, you need trusted data that can be turned into actionable business insights at speed.
24. apr 2017