bloghoved erik david johnson

Ny rapport om AI i det danske Sundhedsvæsen

I den seneste tid har jeg som en del af Sirikommissionen arbejdet på en række anbefalinger til hvordan kunstig intelligens og innovation med fordel kan løfte sundhedssektoren og dermed patientoplevelsen i Danmark. I fredags præsenterede vi disse på Christiansborg foran et større publikum med oplæg til debat blandt de fremmødte politikere.

Illustration: Erik David Johnson

Kunstig Intelligens i det danske sundhedsvæsen

Siden midt 2017 har vi, medlemmerne af Sirikommissionen, arbejdet på at få indsigt i hvordan kunstig intelligens og innovative teknologier kan bruges til at forbedre den danske sundhedssektor. Min rolle har været at agere AI-ekspert, og det har været særdeles interessant at sidde med direktører, ledere i det offentlige, meningsdannere og andre eksperter inden for kunstig intelligens, innovation og selvfølgelig sundhedsormådet. Det var tydeligt at vi er midt i en tid hvor der vil ske store forandringer med sundhedsområdet som betyder at vi som borgere kan få flere fordele, medbestemmelse, lighed og i det hele taget kvalitet hvis vi vil og tør spille vores kort rigtigt.

Data er i centrum

Som jeg også skrev om på Sirikommissionens egen blog, så er en af nøglebrikkerne i at opnå alt dette, at vi tænker os grundigt om når det kommer til borgernes sundhedsdata. De skal behandles med stor omhu og samvittighed, og samtidig skal de kunne udnyttes som grundlag for træning af kunstig intelligens og andre innovative teknologier, til at sikre og forbedre det danske sundhedsvæsen. I Danmark står vi godt på dette område med et stærkt udgangspunkt, selv om der er barrierer at overkomme og hensyn at tage, og det skal vi udnytte til borgernes fordel.

En rapport og en animeret film

Hvis du er interesseret i at læse rapporten med vores anbefalinger, kan du følge dette link. Der er gjort noget ud af at præsentere problemstillingerne og anbefalingerne på en måde så alle kan være med, og vi håber at disse når så mange som muligt af dem, som har indflydelse på hvordan fremtidens sundhedsvæsen skal formes. Under mit arbejde i Sirikommissionen tog jeg også initiativ til at vi supplerede selve rapporten med en animeret film, som åbner op for nogen af de temaer der går igen i rapporten. Den kan også ses via dette link, og håbet er, at selv de politikere og andre interessenter med indflydelse på de berørte problemstillinger, som har en meget travl hverdag, i det mindste vil have tid til at se filmen igennem, og forhåbentligt derigennem få blod på tanden til at læse rapporten, og ja: Det gælder også dig kære læser!

Kommentarer (69)
Claus Juul

AI har en fremtid, AI i det danske sundhedsvæsen, hører i mine øjne til i en fjern fremtid, der er simpelhen nød til at komme styr på sikkerheden før der bruges penge på AI.

Nogen vi måske sige at AI hurtigt kan give overskud og frigør resurser til it-sikkehed, til det vil jeg bare sige, glem det, for gevinsten hentes hjem inden den, bruges på it-sikkerhed.

Kort sagt, jeg tror Erik, at du har været medvirkende til at politikerne nu ser en mulighed for profilere sig på AI i sundhedssektoren i stedet for at sikre vores alles data bedre.

Erik David Johnson Blogger

Hej Claus, Det var et kvikt svar - nåede du at læse rapporten på den tid?

Nu præsenterer du jo helt klart den side af sagen som har fokus på om borgernes rettigheder beskyttes ift. brug af deres data, og ikke så meget med den side som skal skabe bedre forhold gennem bedre og mere innovative løsninger.

Det er godt at folk som dig byder ind, og det er ligeledes godt at dem som har visioner for hvordan vi kan gøre tingene bedre gennem udnyttelse af samme data, også byder ind.

Jeg synes rapporten tegner et klart billede af hvorledes det netop er 2 sider af samme sag som der skal bruges energi på fra alle sider: Hvordan får vi mest muligt ud af data - uden at gå kompromis med borgernes sikkerhed, ret til personlig data, privatliv, etc.?

Så jeg må stille mig uenig i din skarpe konklusion på rapportens bidrag til diskussionen.

Claus Juul

Hvordan får vi mest muligt ud af data - uden at gå kompromis med borgernes sikkerhed, ret til personlig data, privatliv, etc.?

Jeg er ikke i tvivl om at du mener det godt, men realiteten er bare at sundhedsvæsenet i Danmark ikke i dag har sikkerheden i orden, dvs. "uden at gå kompromis med borgernes sikkerhed, ret til personlig data, privatliv, etc.?" ikke er en mulighed, da borgernes sikkerhed allerede er sat over styr og det samme gælder ret til personlig data og privatliv.

At forsøge at bygge et velfungerende hus oven på et elendigt fundament giver i mine øjne ikke mening.

Erik David Johnson Blogger

Hej Claus, Jeg kan sagtens følge dig, og der er meget at gøre der også, men anbefalingerne går på hvordan vi skal forholde os nu og ganske langt ude i fremtiden også, og jeg tror det er problematisk udelukkende at fokusere på datasikkerhed og privacy, uden at løfte blikket imod fordelene ved innovativ, intelligent anvendelse af data.

Målet må være at skabe den bedst mulige situation for borgerne, med en målrettet indsats på begge områder. Hvor vi skal starte kan så diskuteres, men det er sådan set også målet med anbefalingerne: At politikerne bliver bekendte med alle relevante aspekter af de tiltag der fremover vil forme det danske sundhedsvæsen.

Anne-Marie Krogsbøll

Nu præsenterer du jo helt klart den side af sagen som har fokus på om borgernes rettigheder beskyttes ift. brug af deres data, og ikke så meget med den side som skal skabe bedre forhold gennem bedre og mere innovative løsninger.


Jeg må erklære mig enig med Claus Juul - I bygger dette fundament på sandbund. Og det illustreres jo faktisk i dette citat - hvor det fremstilles som enten-eller.

Det er muligt, at det er enten-eller. Hvad gør vi så? Ja, der er vi jo nogen, som efterhånden har forstået, at I er en del - med særdeles pengestærke interessenter i baghånden - som er villige til at sælge privatliv og demokrati, fordi I mener, at målet (i bedste fald bedre behandling - i værste fald kæmpe økonomisk afkast til aktionærer og direktører, og forringet folkesundhed) helliger midlet. Hvis befolkningen ikke vil makke ret, og afgive deres data og privatliv frivilligt (på individniveau), så må vi tvinge dem, og stjæle data fra dem, er der en del i dette bagland (også SIRIS), der mener.

Hvad er din - og SIRI-kommissionens holdning til det? Går du og SIRI ind for samtykke - eller har I en masse forbehold? Går I ind for, at man har ret til fuld indsigt i formål, databehandlere, evt. økonomiske bagmænd og bindinger - altid! - og til at få slettet sine data igen, hvis det ønskes?

Hvis ikke I gør, så er der kun ét svar, og det er "Forget it!" Og jeg tror, at vi bliver flere og flere, der siger "Nej"!

Man kan f.eks. skrive under her: https://www.skrivunder.net/signatures/nej_til_udlevering_af_dine_helbred...

Anne-Marie Krogsbøll

Målet må være at skabe den bedst mulige situation for borgerne, med en målrettet indsats på begge områder. Hvor vi skal starte kan så diskuteres, men det er sådan set også målet med anbefalingerne: At politikerne bliver bekendte med alle relevante aspekter af de tiltag der fremover vil forme det danske sundhedsvæsen.

Allerede dumpet - hvor blev borgerne lige af i ligningen? Tydeligvis er de bipersoner - det vigtige er politikerne - som har vist sig lette at forme af diverse lobbyistinteresser.

Det er borgerne, der skal forstå det, og som skal tage beslutningerne på egne vegne vedr. egne data. Jeg stoler ikke på nogen politikere overhovedet på dette felt . De er for sovset ind i erhvervsinteresser.

  • Åben for indsigt i partikasser.
  • Giv indsigt i alle politikeres og forskeres bankkonti - alle sammen.
  • Fjern Mørklægningsloven, så vi kan få indsigt i, hvem der holder møder med hvem.

Ja, det er sat hårdt op - men i lyset af, at politikere og forskere vil tiltvinge sig adgang til borgernes allerinderste privatliv, uden at borgerne kan få at vide, hvad der foregår med disse data, så er det vel ikke for meget forlangt. For intet skal jo være privat længere, vel?

Erik David Johnson Blogger

Hej Anne-Maria, Retorisk udvælger du et citat af mig og påstår at jeg mener at "det er enten eller". Sådan er det jo slet ikke. At vi skal have begge aspekter med i vores overvejelser er på ingen måde at sige at det er enten eller.

Du kunne have valgt et andet citet fra mig som for eks.: "Målet må være at skabe den bedst mulige situation for borgerne, med en målrettet indsats på begge områder." Det kan meget bedre stå alene.

Jeg er ikke nødvendigvis uenig med dig og Claus, men det er samtidigt vigtigt at diskussionen ikke bliver for ensidig og begrænsende.

Erik David Johnson Blogger

Anne-Maria, til dit andet indlæg, så respekterer jeg din holdning, men generel mistillid til politikere er lidt svært for mig at kommentere på, og det lyder derudover som om du slet ikke har læst rapporten.

Hvad synes du om baggrundspapir 2 i forhold til de problemstillinger du nævner?

Anne-Marie Krogsbøll

Hej Erik.

Tak for svar. Jeg er klar over, at du er ude i officielt ærinde, og derfor begrænset i at give udtryk for personlig holdning, men du svarede jo ikke helt på mine spørgsmål? Men det er jo nok også en slags svar.....

Jeg har ikke noget imod en ensidig diskussion, når det er mit privatliv og mine data, det handler om - der synes jeg faktisk, at det er mig, der skal sætte præmisserne, og at politikerne skal have meget lidt at skulle have sagt. I stedet har de tiltaget sig - og delt ud af - rettigheder, som de efter min mening slet ikke bør have. Udnyttelse af privatliv er ikke en sag, som Folketinget har ret til at trække ned over hovedet på borgerne. Det er en privatsag.

Men kan du pege på, hvor SIRI-rapporten helt konkret giver plads til, at borgerne får noget at skulle have sagt? Jeg er (undskyld) simpelthen så træt af store ord og fedt flæsk, som viser sig at dække over noget helt andet i praksis.

Erik David Johnson Blogger

Hej Igen Anne-Maria, Jeg vil henvise til side 9 i rapporten. Her er et par citater:

"Vi anbefaler at: Regeringen opretter en central enhed, der kan sikre en samlet og sikker adgang til private og offentlige sundhedsdatabaser til gavn for både borgere, forskere, sundhedssektoren og virksomheder. Det kunne for eksempel være hos Sundhedsdatastyrelsen ud fra et klart mandat."

"Enheden bemandes med medarbejdere med de rette tekniske, sundhedsfaglige og juridiske kompetencer med højt fokus på privacy og cybersikkerhed."

"Det skal være et grundlæggende mål at skabe mest muligt transparens for borgerne omkring, hvilke data, der findes i databaserne og hvordan og til hvad, de anvendes."

...se mere i rapporten.

Christian Nobel

jeg tror det er problematisk udelukkende at fokusere på datasikkerhed og privacy, uden at løfte blikket imod fordelene ved innovativ, intelligent anvendelse af data.

Jeg vil anbefale dig at sætte dig lidt ind i GDPR, der er faktisk rigtig mange guldkorn.

Et af dem er security-by-design - men det er på ingen måde det du lægger op til.

Og at præsentere en tosidet mønt til politikere, og tro de forholder sig til begge sider er direkte naivt!

Claus Juul

Hvad synes du om baggrundspapir 2 i forhold til de problemstillinger du nævner?

Der står bla

De medarbejdere, der administrerer og har adgang til databasen, skal selv sagt være fuldt kompetente i forhold til at håndtere udfordringerne med privacy og cybersikkerhed.

Hvis jeg skal sætte mig i politikerens sted og høre/læser dette, vil jeg tænke "det forventer jeg der er styr på".
Desværre viser erfaringen, at der er der ikke. (jeg trækker på personlig erfaring).

Som sagt, isoleret er tiltaget godt, men når jeg nu ved hvad jeg ved, kan jeg ikke andet end at fraråde AI, før der er styr på den basale sikkerhed.

Anne-Marie Krogsbøll

Hvad synes du om baggrundspapir 2 i forhold til de problemstillinger du nævner?


Jeg synes, at der står en masse pænt lydende, men ret indholdsløse ting. For der står ikke ( med mindre jeg har overset det, i så fald beklager jeg), at der altid skal oplyses om alle anvendelser, bagmænd og bindinger. Og der står heller ikke, at der altid skal indhentes samtykke. Har jeg overset noget?

Man kan jo sagtens skrive noget om, at det skal gøres lettere at give samtykke og den slags, hvis dette så lovgivningsmæssigt gennemhulles af alle mulige undtagelser, hvor der alligevel ikke skal gives mulighed for samtykke/opt out etc. 8sådan som man aktuelt er i gang med med L68).

Og jeg mener også, som Claus Juul, at man spænder vognen for hesten. Lad os få styr på den aktuelle elendighed, både mht. datasikkerhed, etik og jura, indenvi begynder at opstille luftkasteller, som ikke har noget ordentligt fundament, (men som politikerne desværre garanteret gerne vil lægge stemmer og statsbudget til)

Mht. politikermistillid: Ja - efter at have fulgt med i dette område i nogle år, så har jeg udviklet en indædt mistillid til den måde, det foregår, når vore politikere lukker lobbyister for langt ind i varmen. Der kan dagens debatindlæg i Politiken om, hvordan den slags foregår, være fuldt relevant ift. den digitale udvikling også - og mht. medicinalindustriens samarbejde på dette punkt:
https://politiken.dk/debat/debatindlaeg/art6308168/Vi-skal-ikke-tro-p%C3...

Jeg vil faktisk gerne have et svar på mit forslag mht. åbenhed omkring pengestrømmene i politik. Er politikeres og partiers bankkonti virkeligt mere private, end hvad jeg snakker med min læge om?

Anne-Marie Krogsbøll

"Enheden bemandes med medarbejdere med de rette tekniske, sundhedsfaglige og juridiske kompetencer med højt fokus på privacy og cybersikkerhed."
"Det skal være et grundlæggende mål at skabe mest muligt transparens for borgerne omkring, hvilke data, der findes i databaserne og hvordan og til hvad, de anvendes."


Ikke godt nok! Der lægges ikke op til rettigheder, men til spin...

Flere års følgen med i dette har lært mig, at forskere og politikere finder ethvert smuthul, hvor der er plads til selv at fortolke (= misbruge). Det viser den aktuelle L68 til fulde.

Christian Nobel
Anne-Marie Krogsbøll

Anne-Marie, Jeg oversætter det ikke til spin når jeg læser det. Nu er det også anbefalinger og ikke reelle gennemarbejdede lovforslag. Men igen, du har en reel bekymring, som bestemt skal adresseres.


Tak, Erik . Jeg er nu ikke særligt forhåbningsfuld, for hvem har siddet i arbejdsgruppen, der har udarbejdet forslagene?:

Grete Christensen, formand Dansk Sygeplejeråd
Camilla Rathcke, formand Yngre Læger
Mette Mollerup, udviklingskonsulent Kvalitet og Patientsamarbejde, Odense Universitetshospital
Henrik Bodskov, adm. dir. IBM Danmark
Hjalte Åberg, direktør Region Hovedstaden
Henning Langberg, professor KU og direktør for Copenhagen Healthtech Cluster
Tanja Danner Nielsen, Public & Healthcare Advisory, NNIT A/S
Bente Sorgenfrei, formand FTF
Erik David Johnson, manager Netcompany
Anders Friis, Corti
Sara Gry Striegler, programleder Dansk Design Center
Thomas Damkjær Petersen, formand IDA
Grit Munk, chefkonsulent IDA
Christian Olesen, junior analytiker IDA
Med bidrag fra Jan Madsen, professor, DTU Compute
og Winnie E. Svendsen, lektor, DTU Nanotech

Stort set alle "the usual suspects", når borgerne skal gennes ind i datamalkekofolden med skiftevis pisk og gulerod. Er der overhovedet nogen, der repræsenterer kritikerne af udviklingen?

Og et spørgsmål: Hvem har finansieret SIRI og rapporten? Jeg kan ikke se, at det fremgår. Hvorfor ikke? (hvis jeg har overset det, beklager jeg).

Erik David Johnson Blogger

Hej Christian, Nu kender vi ikke hinanden, men din tolkning passer altså dårligt med hvordan jeg mente de ord. Jeg er ikke selv egentlig beslutningstager, når det kommer til disse problemstillinger, andet end at jeg kan påvirke dagsordener med min position som AI-ekspert og sætte mine valgkrydser efter egen overbevisning - lige som du.

Erik David Johnson Blogger

Christian, Med forlov lyder det lidt som om du ser mig som fortaler for en bestemt position som skal virke på bekostning af borgernes rettigheder, privacy eller dataindsigt.

Det er altså IKKE tilfældet. Du er også selv aktiv her og påvirker dagsordenen med din stemme, og den mulighed skal alle have. Jeg gør som nævnt opmærksom på alle aspekterne af diskussionen, uden at favorisere et standpunkt uforholdsmæssigt. Jeg synes skam også at data indsigt, privacy og gennemsigtighed er meget vigtigt.

Lighed er desuden bare endnu et tema som er identificeret af kommissionen som vigtigt i arbejdet med fremtidens sundhedsvæsen.

Jesper Frimann

Tja. ja.
Hvis jeg skal beskrive rapporten med et ord er det Ligegyldig.

Der står jo ikke noget i den rapport som man ikke ville kunne have forudsagt ville stå der, når man læser deltager listen.
Det er lidt de samme salgs pitches, som vi nu har hørt gentaget igen og igen de seneste år. Så kald det et sammenkog/kompromis af ledelsen for forskellige interessenter på området.

Det er jo ikke så svært at lave bedre sundhed. I stedet for at bruge pengene på AI'er, apps, smart phone og BigData løsninger, skulle man måske bruge dem på noget så simpelt, som Nok veluddannet sundhedsfagligt personale, god rengøring og mere forebyggelse. Det ville gi' en god ROI for ejerne af sundhedssektoren og kunderne. Nemlig os borgere.

Det er lidt det samme mønster vi ser hver gang politikerne nedsætter en 'ekspert gruppe'. Der er simpelt hen for få eksperter på fagområdet med. Det er sku til at få lange..... af..

// Jesper

Anne-Marie Krogsbøll

Som man kan se var jeg, Ida Auken og flertallet i salen fokuserede på diskussionen omkring sundhedsdata, så der er bestemt fokus på det.


Kan du oplyse, hvem der var inviterede? Hvor mange almindelige borgere - eks. inviteret pr. lodtrækning - ikke nogen, der er udpeget af industrisponserede patientorganisationer?

Hvad kostede tilmelding til arrangementet? For ofte koster den slags adskillige tusinde kroner, så ingen almindelige mennesker har råd til at deltage.

Og hvem holdt oplæg? Kan du lægge programmet ind her?

Jakob Skov

Som jeg læser anbefalingerne i rapportens baggrundspapir 2 er der meget fokus på at systemerne skal være lette at bruge, at man skal være hurtige til at give samtykke til forskning og sikre større centralisering i regionernes databaser.

Centralisering af data, et fokus på at simplificere adgang fremfor fremhævning af programmerings-faglige sikkerhedshensyn og hurtig og dermed potentiel forhasted adgangsgivning er i direkte opposition til at tage udgangspunkt i privat-liv og sikkerhed hvis det var et fokusområde i forbindelse med rapporten. Der er derfor næppe en helt afbalanceret repræsentation i anbefalingernes ordvalg eller primære sigte.

Samtidig har mange kritiseret stort set samtlige politikeres dømmekraft indenfor sikkerhed og privatliv. Det kan skyldes utilstrækkelig eller mangelfuld rådgivne fra deres faglige kontakter, men et generelt rapport-niveau som dennes er nok også med til at fjerne fokus fra problemer som man tilsyneladende ikke ønsker at løse med anbefalingerne.

Det er næppe smart at sammensætte en kommission om it-fremtid uden en repræsentantion der har tilstrækkelige kompetencer indenfor cyber-sikkerhed og privatliv uden betydelige andre interesser. Ikke at der i princippet er et behov, men det man er kommet frem til tyder på en eller flere manglende stemmer der formår at problematisere designprocesserne og prioriteter i tilstrækkelig grad til at anbefalingerne bærer præg af det.

Peter Stricker

Jeg synes skam også at data indsigt, privacy og gennemsigtighed er meget vigtigt.


Jeg hæfter mig ved, at du ikke anser samtykke som vigtigt nok til at medtage, på trods af at dette er nævnt flere gange af Anne-Marie Krogsbøll.

Datatilsynet har udgivet en udmærket Vejledning om samtykke som jeg vil anbefale dig at læse. Derefter vil jeg gerne høre om du mener at samtykke er vigtigt.

Chresten Christensen

Som nævn før, så er der en en masse smukke ord i rapporten ja jeg har læste den , med som altid så er djævle i deltaljerne.
”det skal være et grundlæggende mål at skabe mest muligt transparens for borgerne
omkring, hvilke data, der findes i databaserne og hvordan og til hvad, de anvendes,

Den eneste måde , jeg se dette gennem ført på er ved at lægge borgernes data i et selvstændig selvskab (A/S) hvor borgerne har en aktie, som svare til den data de lever til denne.
Det vil også motiver borgerne til at lever data, da de selvfølgelig få, den indflydelse som de har aktier i dette selvskab til. Samtigdig med at der også er mulighed for udbytte fra aktierne.
Med hensyn til tilgang til data og sikkerhed så kan man lave en API , som kun kan tilgår AI , og da information når den, har været igennem en AI ikke mere er entydige, når der tage forbehold for at det ikke er muligt at spørge til en enkelt borger, eller man kan sætte en anden AI til at overvåge den først AI således at lovginingen bliver overholdt.
Et spørgsmål til Erik; hvordan har du tænkt dig at sikre at AI opfylder spec...

Claus Juul

Kære Erik

Jeg syntes der er et klart billede af at AI og sundhedsdata ikke er et godt match, set med de kommentar der er her til artiklen.

Må jeg foreslå et andet forretningsområde: Kontrol af skatte oplysninger; Der er rigtig mange oplysninger og kilder til data.

Jeg tror det kunne blive en kæmpe succes historie, og målet er let at forstå: alle skal betale det korrekte i skat og dermed bidrage til den fælles kasse.

Erik David Johnson Blogger

Anne-Maria: Jeg fulgte lige op på det, og kan fortælle at rapporten og møderækken op til er finansieret af Ingeniørforeningens visionsmidler samt en betragtelig støtte i form.af arbejdskraft fra Dansk Design Center. Endelig har hele arbejdsgruppen bidraget gratis med deres tid og viden.

Alle kunne tilmelde sig mødet på Christiansborg - en åben, gratis invitation for alle. Der var selvfølgelig begrænsede pladser, og jeg tror ikke tilfældige danskere blev ringet op i bedste lotteri-stil, men det var åben og først-til-mølle. Til gengæld er "afstemningen" du ser på billedet blot det - et billede. Det var ikke en afstemning i officiel forstand, det var mere at måle stemningen i rummet.

Jeg håber det besvarer det meste.

Anne-Marie Krogsbøll

hej Erik.

Tak for svar.
At dømme efter omtalen af arrangementet var det bestemt ikke overrendt af almindelige borgere - der nævnes overhovedet ingen af den slags.

Hvordan er invitationen kommet ud? og er det muligt, at du kunne lægge en kopi ind her?

Og mht. den "frivillige" deltagen - så har de pågældende vel deltaget i deres arbejdstid, de fleste af dem? I så fald har de i mine øjne repræsenteret deres respektive "bagland".

Erik David Johnson Blogger

Jesper Frimann, du skriver at midlerne hellere skulle bruges på "Nok veluddannet sundhedsfagligt personale, god rengøring og mere forebyggelse", i stedet for Ai og Innovation.

Jeg ser AI og Innovation som måder at opnå netop disse ting på. Vil du have forebyggelse - AI modeller kan netop lave mønstergenkendelse på data og generalisere på data, så man kan lave prædiktioner, som igen kan give os langt bedre muligheder for forebyggende initiativer - ikke som erstantning af sundhedspersonale, men som et stærkt værktøj der lader dem gøre deres arbejde bedre.

Se for eks. denne case som også blev brugt som eksempel til mødet:

https://www.engadget.com/2018/01/15/ai-helps-dutch-emergency-dispatchers...

Google "AI" og "Healthcare" og find selv mange flere eksempler.

Erik David Johnson Blogger

Chresten Christensen, Virkelig gode pointer, og jeg kunne være så fræk at sige at netop den diskussion og dit forsøg på at gå mere i dybden har været målet for vores arbejde. Det har ikke været muligt at finde alle svarene med vores scope og midler, men vi har forsøgt at stille de rigtige spørgsmål og identificere kritiske områder, som for eksempel det du tager op her.

Nu er der jo lovgivning på området, men AI modellers læsbarhed som faktor er også et emne der skal berøres - ingen tvivl om det. Hvis man bruger ANNs og Deep Learning, etc. - er det så positivt fordi en model der modtager input mellem 0 og 1 i sig selv er forholdsvist anonymiserende når output matches op mod input, eller er det et problem fordi dens resultater kan være svære at afkode ift. hvordan den nåede frem til dem?

Skal performance udelukkende måles i precision/recall, eller er der andre faktorer som er etiske eller politiske som skal indgå? Det og meget andet er alt sammen noget vi bliver nødt til at forholde os til.

Erik David Johnson Blogger

Claus Juul, Nu var der tale om en periode med temaet Det Danske Sundhedsvæsen, og så fokuserede vi på det. Det er udvalgt fordi der ER forbedringer at lave genne AI og Innovation, men samtidigt skal det gøres med omhu.

Jeg kan ikke se at sundhedsvæsnet skal ligge i dvale ift. wins på teknologi og innovation, bare fordi du kan nævne lavthængende frugter i andre områder.

Anne-Marie Krogsbøll

Jesper Frimann, du skriver at midlerne hellere skulle bruges på "Nok veluddannet sundhedsfagligt personale, god rengøring og mere forebyggelse", i stedet for Ai og Innovation.
Jeg ser AI og Innovation som måder at opnå netop disse ting på


Erik:
Hvorfor bruger man pengene på sindsygt dyre IT-projekter - som jo bevisligt ofte giver meget store problemer ift. at få det til at fungere efter hensigten, og som derudover oftest ender med at blive meget dyrere end budgetteret- når man i forvejen ved, at det halter gevaldigt med hospitalshygiejnen?
https://www.dr.dk/nyheder/indland/3000-doer-af-infektioner-paa-danske-sy...
https://www.dr.dk/nyheder/politik/statsrevisorerne-hygiejnen-paa-hospita...

Man ved det jo i forvejen, så hvorfor kommer man ikke bare i gang med at redde de her 3000 personer årligt? Det er da lavhængende frugter ift. folkesundheden - i modsætning til AI og personlig medicin, som er 10 fugle på taget mange år frem i tiden. Helt bortset fra altså privatlivsaspektet - som er det helt grundlæggende problem.

Anne-Marie Krogsbøll

Skal performance udelukkende måles i precision/recall, eller er der andre faktorer som er etiske eller politiske som skal indgå? Det og meget andet er alt sammen noget vi bliver nødt til at forholde os til.


Det er meget trist og meget foruroligende, at det i ramme alvor er den slags man sidder - i lukkede fora, styret og langt hen ad vejen betalt, af industrien - og diskuterer. For det burde være indlysende, at i hvert fald etiske (hvad mener du med politiske - kan du give et eksempel?) faktorer skal have en høj placering - ja, det burde faktisk være den allerøverste prioritet - for hvis etikken ikke er på plads, hvad skal vi så med den forskning?

Jeg bliver faktisk meget foruroliget over den sætning - hvorfor skal industrien overhovedet blandes ind her?

René Pagh

Med alle de debatter og skandaler vi har læst gennem det sidste lange stykke tid, er det måske tid til at lave et "fagparti"

Det kunne så bestå af folk der har borgernes og dermed samfundets interesse i centrum:

Her er starten på en liste:

Eksperter i jernbane, IT, byggeri, grundlovsrettigheder, energi, økonomi, integration og find selv på flere...

Jeg tror faktisk at et sådant parti vil have gode muligheder for at blive valgt ind, og have mulighed for at sætte sig ud over de rød / blå problematikker der er.

Ville være rart med nogen som lytter lige så meget til eksperter og foreninger på området, som til store dyre konsulent rapporter.

Måske vi så ville kunne begynde at se langsigtede politikker, og ikke bare holder det til næste valg... fint så er det de vi gør...

Anne-Marie Krogsbøll

Erik, du svarer Claus Juul:

Jeg kan ikke se at sundhedsvæsnet skal ligge i dvale ift. wins på teknologi og innovation, bare fordi du kan nævne lavthængende frugter i andre områder.

Er du fuldstændigt blind for, at man netop i øjeblikket flytter midler og ressourcer fra den grundlæggende livsvigtige behandling, pleje og hygiejne til fordel for disse luftige IT-projekter? Hvor kommer pengene ellers fra?

Christian Nobel

Jeg ser AI og Innovation som måder at opnå netop disse ting på.

Før vi nu får kastet en masse penge efter alt for mange luftkasteller, hvad så med at vi rent lavpraktisk fik vores samfund til at fungere på en værdig vis, så eksempelvis dette ikke kunne ske:

https://www.dr.dk/nyheder/regionale/midtvest/91-aarige-ruth-maatte-ikke-...

Jeg må indrømme jeg bliver så træt, så træt, når vi dagligt, fra fedtlaget af djØFFERe, bombarderes med overgrebsforslag som udhuler vores ret til et privatliv, når vi ovenikøbet samtidig har et samfund hvor der er en hel masse basale ting som slet ikke fungerer.

Man bliver i øvrigt heller ikke i bedre humør, når man erfarer at Krigsministeriet får tilført 1,4 milliard, så man kan hygge sig endnu mere bag mørkelygtens skær hos Center For CyberUsikkerhed:

https://www.dr.dk/nyheder/politik/kampen-mod-cyberangreb-skal-styrkes-me...

Hvad med at det i stedet var Datatilsynet som i stedet fik midler og beføjelser, det ville i langt højere grad komme borgerne til gode.

Jesper Frimann

Jeg ser AI og Innovation som måder at opnå netop disse ting på. Vil du have forebyggelse - AI modeller kan netop lave mønstergenkendelse på data og generalisere på data, så man kan lave prædiktioner, som igen kan give os langt bedre muligheder for forebyggende initiativer - ikke som erstantning af sundhedspersonale, men som et stærkt værktøj der lader dem gøre deres arbejde bedre

@Erik David Johnson
Det er jo ikke sådan det foregår. Dit argument med konstant sundheds personale bemanding + ekstra penge til ny teknologi, er for at sige det lige ud helt forkert. Det har simpelt hen ikke gang på jord.
Anne-Marie Krogsbøll har 100% ret når hun skriver:

Er du fuldstændigt blind for, at man netop i øjeblikket flytter midler og ressourcer fra den grundlæggende livsvigtige behandling, pleje og hygiejne til fordel for disse luftige IT-projekter? Hvor kommer pengene ellers fra?

Vi sidder lige nu og ser på det største IT-projekt i sygehusvæsnets historie med Sundhedsplatformen, som skulle medføre effektiviseringer, mere tid og guld og grønne skove.
Resultatet er effektivitets nedgang, fyringer af medarbejdere og merarbejde til allerede hårdt pressede sundhedsfaglige medarbejdere.
Så forklar mig lige hvorfor det at kaste penge efter endnu flere IT-luftkasteller/eksperimenter skal gøre andet end at give os borgere/kunder/patienter/ejere af det offentlige ringere service ?

Der er videnskabelig evidens for nok ikke stresset kompetent sundhedsfagligt personale, giver bedre behandlig, mindre smerte, færre komplikationer og færre dødsfald i sundhedssektoren.

Desuden er det ikke så forfærdelig meget dyrere for samfundet at ansætte en sygeplejeske eller en SOSU'er på deltid, end det er at have dem gående arbejdsløse. Simpelt hen fordi pengene ryger tilbage ind i økonomien.

Er der videnskabelig evidens for at X millioner brugt på AI i sundhedssektoren medfører bedre service end X millioner brugt på sundhedsfagligt personale ?

Det eksempel med AI du bruger, er et forsøg. IGEN det er ikke et videnskabeligt studie. Og ja.. det er svært at få 112 til at rykke ud til et 'hjerteanfald', man skal jo nærmest true med at køre folk selv (den situation har jeg været med til at stå i). Men det skyldes jo igen at man fra politisk side har skåret og skåret og skåret og lagt press på personalet på at gå på kompromis med fagligheden.

Listen.. jeg er ikke mod teknologi.. hele min karriere har været i IT-branchen. Og ja.. AI kan formodentlig spille en rolle i sundhedsvæsnet, og ja wearables, smartphones og fanden og hans pumpestok har en rolle at spille.

Men som IT Enterprise Arkitekt med en del sundhedsfaglig personale i lederroller familien, så hører jeg jo daglig om de problemer der er i sundhedssektoren. Må jeg altså insistere på.
Og jeg bruger så et sundhedsfagligt billede:
Så opererer du jo ikke Kunstige implantater, kunstige lemmer m.m. ind i en patient der ligger på intensiv og er i kritisk tilstand.

Du stabiliserer patienten, sørge for at vedkommende bliver rask sørger for at vedkommende har lidt fedt på kroppen, har det mentale overskud. Og så kan vi gå igang med at prøve nogle ting.

Det er jo ikke fordi vi ikke skal bruge ny teknologi i sundhedssektoren... men... lad os nu ikke slå patienten ihjel i bare 'salgsiver'.

// Jesper

Jesper Frimann

Nu har vi jo så verbalt overfaldet lidt Erik David Johnson for hans indlæg.
Men tak for at du stiller op Erik.

Jeg er sådan set enig i præmissen om, at 'ny teknologi' er fremtiden også i sundhedsvæsnet.

Så hvad burde Anbefalingerne på SIRI kommisionens rapport så have været, hvis vi skulle prøve at være lidt konstruktive og bidrage lidt også ?

Jeg prøver selv herunder at gi nogle bud.

// Jesper

Christian Nobel

Nu har vi jo så verbalt overfaldet lidt Erik David Johnson for hans indlæg.
Men tak for at du stiller op Erik.

Erik skal helt klart have den cadeau, og selv om jeg godt ved at jeg selv kan være skarp i tonen, så er det ikke personligt, men fordi det (i frustration) nogen gange ender med at være budbringeren man skyder.

Jeg er sådan set enig i præmissen om, at 'ny teknologi' er fremtiden også i sundhedsvæsnet.

Selvfølgelig er det det, men det skal bare ikke præsenteres forlods til politikerne, som jo så straks iværksætter en besparelsesmanøvre, i forsøg på at realisere gevinsten forlods, som f.eks. set med sundhedsplatformen, og den øvrige tvangsdigitalisering som kun har været med til at fremmedgøre borgerne, og udhule Postnord.

Så hvad burde Anbefalingerne på SIRI kommisionens rapport så have været, hvis vi skulle prøve at være lidt konstruktive og bidrage lidt også ?

Det er vel lidt problematisk, al den stund der jo et langt stykke hen ad vejen er tale om en bunden opgave - på samme måde som der købes luderrapporter hos f.eks. Rambøll, hvor der er arbejdet baglæns fra konklusionen.

Jesper Frimann

Overordnet:
Oprettelse af Sundhedsfaglig/IT-faglig tværfagligt institution i Universitets regi, der skal forske i brug af ny IT teknologi i sundhedssektoren.
Eksisterende initiativer, konsolideres ind her også.

Specifikt:
Udarbejdelse af standarder, protokoller, retningslinjer, processer m.m. for hvorledes man sikkert, standardiseret og med verificeret validitet kan udveksle data i forhold til Telemedicin og borgerens egne wearables og snuheds apps. (Medcom er vigtig i den her sammenhæng)

Udarbejdelse af et sikkerhedsregime for offentlige persondata, med start i borgernes sundhedsdata. Med udgangspunkt i Tabel 14 i SIRI-kommissionens rapport, tyder det på at borgernes villighed til at dele sundhedsdata er kraftigt aftagende. Derfor er det vigtigt at genoprette borgernes tillid, ved selv at give dem kontrol og ejerskab over deres data.

Dette ejerskab og kontrol med sine egne data, vil desuden også muliggøre at borgerens offentlige data kan deles med private virksomheder på borgerens foranledning.
En usecase kunne være:

Hvis du nu giver borgerne mulighed for selv at dele og bestemme over deres data. . Så åbner du op for, at f.eks. når gamle fru Mortensen, skal hjem fra hospitalet, så har hun via sin aftale med Falck givet Falck lov til at abonnere på visse typer af SundhedsData/process hændelser. Så når lægen ved stuegang udskriver fru Mortensen, sendes en 'besked' til Falck der varsler dem om at Fru Mortensen er udskrevet. Dette kan de så lade indgå i deres planlægning af Sygetransport kørsel. Når hun forlader afdelingen sendes der igen en besked. Og nu ved man så, at der skal være en bil om X minutter.

Hvis fru Mortensen så også har Falcks Hjemme alarm ordning, ved de også (igen hvis Fru Mortensen giver dem lov) at man skal ændre sin 'overvågnings mode' af hendes Hjem, fordi hun nu er hjemme. Og man kan så selv tænke hjemmehjælp, mealonwheels m.m. ind i konceptet.

Igen .. så tror jeg at hvis man lader fagligheden istedet for .. ja.. salgs pitches bestemme vejen, så kan alle.. både det offentlige, borgerne og det private erhvervsliv få noget ud af det her.

// JEsper

Anne-Marie Krogsbøll

Erik skal helt klart have den cadeau, og selv om jeg godt ved at jeg selv kan være skarp i tonen, så er det ikke personligt, men fordi det (i frustration) nogen gange ender med at være budbringeren man skyder.


Enig - og Erik står i det mindste ved, at han er lobbyist - det er ikke alle, der gør det (selv om det oftest lyser langt væk).

Er der videnskabelig evidens for at X millioner brugt på AI i sundhedssektoren medfører bedre service end X millioner brugt på sundhedsfagligt personale ?

Jeg mener faktisk, at jeg har læst i nogle af de officielle rapporter, at dette ikke er undersøgt, og der er ikke udarbejdet f. eks. business case for f.eks. genom centret - man antager bare, at det nok godt kan betale sig - engang om 25 år....

Claus Juul

Jeg kan ikke se at sundhedsvæsnet skal ligge i dvale ift. wins på teknologi og innovation, bare fordi du kan nævne lavthængende frugter i andre områder.

Jeg er ked af at jeg ikke har formuleret mig godt nok.
Jeg mener at sundhedsvæsnet skal ligge i dvale, da de behandler meget personlige oplysninger (risiko for manglende fortrolighed), når der er de huller, jeg ved der er (sandsynlighed for at fortroligheden kompromitteres).

Jeg forslog skattekontrol, da det "bare" handler om penge og ikke personlige og følsomme data.

Claus Juul

som igen kan give os langt bedre muligheder for forebyggende initiativer - ikke som erstantning af sundhedspersonale, men som et stærkt værktøj der lader dem gøre deres arbejde bedre.

At investere og beholde de ansatte, er desværre ikke en gangbar metode i det offentlig, dvs. du ikke har en bussinescase, og hvis du havde, ville du skulle afgive den fremtidige besparelse fra dag 1 i projektet (ikke i driftsættelse).

Henrik Biering Blogger

Jeg er enig med de seneste indlæg om at man ikke skal skyde på budbringeren, men rapporten som helhed er yderst rodet og selvmodsigende. Nærmest som om en sekretær har haft en Uriaspost med at nedskrive hvad de enkelte paneldeltagere måtte være kommet med af ytringer:

Først skriver man:

I samarbejde med Etisk Råd og i overensstemmelse med EU’s persondataforordning skal der aftales rammer for, hvordan borgeren kan give tilladelse til adgang til data og hvem, der må få adgang til hvad.
Et vigtigt udgangspunkt er, at det altid bør være det mest minimale datasæt, der gives videre. . . . Optimalt set skulle borgerne have deres egen cloud med alle personlige oplysninger, hvorfor de selv hurtigt kunne give adgang til de relevante data til relevante personer eller projekter.

tilsyneladende velvidende om både ånd og bogstav i den ny persondataforordning. Og ja, sådanne personal clouds er faktisk på vej.

. . . For kort efter i samme baggrundspapir derefter at skifte 180%:

Det kan ske ved at stille krav om, at de virksomheder, der indsamler data via apps og andre sundhedstjenester, stiller datasættene til rådighed for sundhedssystemet og forskerne. . . Dette samarbejde er allerede tilstede i dag, hvor nogle danske udviklere stiller data til rådighed, hvorimod det er problematisk i forhold til store globale spillere som f.eks. Google. Krav til udveksling af data skal være med til at sikre, at Danmark bevarer sin førerposition indenfor systematisk opsamlet viden

hvor man tilsyneladende har glemt alt om at involvere brugerne, men vil tvinge private firmaer til at udlevere data bag om ryggen på dem. For ikke at tale om at man tilsyneladende helt har overset at persondataforordningen løser problemet med at flytte data hvorhen borgeren måtte ønske det. Uanset om det drejer sig om lokale app.-udviklere eller Google.

Så rapport: NEJ! , men diskussionsoplæg tydeligvis: JA!

Jakob Skov

Mit problem med rapporten er at udgangspunktet for sikkerhed og privatliv er defineret ud fra hvad det ikke må være og det i en sådan grad at der allerede før ideen er visualiseret endeligt er påtvunget faglige kompromiser.

Det jeg ligeså meget kritiserer er de andre afsnits manglende inddragelse af "sikkerhed og privatliv". Blandt andet "app-otek"-ideen. Jeg kan for eksempel se en potentiel showstopper i forhold til telefon-producenters insisteren på at kende alle apps på telefonen samtidig med at man foreslår at pålægge læger at sikre tilskud og recept på disse apps. Herved har telefon-producenten indirekte personhenførbare data, Endnu værre er det at statistikker for apps er offentligt tilgængelige. Hvis appen ikke er så almindeligt forekommende er samkøring af oplysninger derfor indirekte personhenførbare. For mig lyder det som en vej at sikre personhenførbarhed for eksempelvis folk med psykiske diagnoser der får en app ordineret, såsnart appen er mindre almindeligt brugt. Derfor ville jeg gerne have haft den slags krøller med i app-papiret eller tænkt ind i forslagenes udformning, men modsat sikkerhed og privatliv er app-ideen defineret ud fra en række mål og ikke begrænsninger og det er der denne kommission kunne have fået lidt mere ud af at have disse stemmer med og været mere ensartet i opbygningen af kataloget...

Erik David Johnson Blogger

Til Alle, så er jeg kun taknemmelig for at I engagerer jer i diskussionen, som var jo formålet med alt det her. Bliv endelig ved med det.

Jeg tager gerne rosen efter de verbale knubs - tak for det. Vi er mange som bare gerne vil gøre verden til et bedsre sted med den ekspertviden vi nu besidder, selv om det lyder naivt. Jo flere ildsjæle med dyb forståelse af eget område der engagerer sig og uddanner hinanden i problemstillingernes multifaceterede kompleksiteter, jo bedre løsninger ender vi ud med!

Jakob Skov

Tak for at tage diskussionen. Ofte ender artikler som denne med ekko-kamre af relativt enslydende standpunkter, som det så ofte sker i det digitale miljø. Selv om vi nok ikke bliver helt enige, er det altid godt at få en indsigt i hvad tankerne der ligger bag rapporten har været.

Et udgangspunkt er skabt for at folk der hører alle dele af debatten kan danne sig et overblik over rapportens styrker og svagheder.

Thomas Schmidt

Der er så mange af jer der snakker om sikkerhed for borgernes data, men AI kommer også til sundhedsvæsenet uden danmarks sundhedsdata og det vil forandre hele tilgangen hvordan sundhedsvæsenet kommer til at fungere på sigt. Det slog RSNA-messen (kæmpe messe om radiologi der afholdes i USA hvert år) sidste år fast med syvtommer søm. De ting der blev fremvist og nok også snart dukker op i Danmark, er ganske enkelt geniale. Og faktum er at vi ikke behøver danskernes sundhedsdata samlet i én stor database for at danske firmaer kan skabe AI løsninger til sundhedsvæsenet. Offentligt/privat samarbejde vil være meget bedre at satse på og vil meget hurtigere skabe resultater end at vente på en national database. Dette ville være en selvfølge for alle, hvis man rent faktisk vidste hvordan kunstig intelligens og dennes træning fungerer.

Anne-Marie Krogsbøll

Thomas Schmidt:

Det slog RSNA-messen (kæmpe messe om radiologi der afholdes i USA hvert år) sidste år fast med syvtommer søm. De ting der blev fremvist og nok også snart dukker op i Danmark, er ganske enkelt geniale.

  1. Får befolkningen noget at skulle have sagt mht. denne udvikling - som sandsynligvis vil kræve, at man flytter endnu flere midler og ressourcer fra basal pleje og behandling til højteknologiske systemer, som de færreste forstår? Eller er beslutningerne allerede taget på messer som den beskrevne (i givet fald - af hvem?)?

  2. Kan du uddybe "geniale"?

  3. Som du selv siger, så er det nok de færreste, der forstår denne udvikling/AI - og algoritmer er oftest umulige at få indsigt i, selv hvis man faktisk forstår den slags. . Er det ikke i sig selv et faresignal? Vil denne udvikling ikke medføre om muligt endnu større koncentration af magt og midler i toppen af samfundet?

  4. Hvis denne udvikling også kommer uden vore sundhedsdata, hvorfor kan vi så ikke få lov at have dem for os selv?

  5. Hvad nu, hvis befolkningen faktisk ikke ønsker denne udvikling ? Skal de have noget, at skulle have sagt?

Thomas Schmidt

Anne-Marie Krogsbøl:

  1. Om du skal have noget at sige er sådan set ligegyldigt, da disse systemer allerede er bygget og har trænet på eksisterende data. Altså er de ligeglade med danskernes data. De skal ganske enkelt ikke bruge dem. Systemerne her hentes ikke hjem af staten til kæmpe store datacentre, men købes hjem af de enkelte danske hospitalsafdelinger og vil formentlig blive købt ind som alt muligt andet udstyr købes hjem til hospitalsafdelinger idag. Idag ønsker hver enkelt afdeling sig ting i starten af året og får så senere på året at vide om man får det til næste år.

  2. Det geniale er at vha. af AI opdager man hjerneblødninger, infarkter, lungeembolier inden en skanning overhovedet er kommet forbi en læge efter patienten er skannet og systemerne sørger for at advisere radiologen om disse akutte tilstande, så disse undersøgelser bliver gennemgået først. Derved kan man hurtigere sætte ind med korrekt behandling og undgå mange alvorlige og invaliderende senfølger for patienterne.

  3. Jeg siger ikke at AI er svært at forstå, for det er det ikke. Med en grundviden inden for matematik, vil man kunne forstå principperne. Ellers kan jeg da anbefale at man ser youtube videoerne fra Siraj Raval, som lærer om AI på en rigtig sjov måde. Det at udvikle AI er idag ikke længere noget kun de store IT firmaer kan. Men tjek da videoerne.

  4. Du ejer allerede dine egne data idag og det siger jeg netop ikke at man ikke kan.

  5. Det skal jeg ikke kunne sige om de vil, men det kunne være godt, hvis dem der debatterede emnet faktisk vidste rigtig meget om det.

Jesper Frimann

Jeg tager gerne rosen efter de verbale knubs - tak for det. Vi er mange som bare gerne vil gøre verden til et bedsre sted med den ekspertviden vi nu besidder, selv om det lyder naivt. Jo flere ildsjæle med dyb forståelse af eget område der engagerer sig og uddanner hinanden i problemstillingernes multifaceterede kompleksiteter, jo bedre løsninger ender vi ud med!

Jo, men det er jo ikke Salgsmusklerne fra diverse private aktører, der sidder med produkter, som vil kunne udforme visionære langsigtede løsninger for brug af Ny teknologi i sundhedssektoren. Det er jo bagvendt. Igen så er der dele af rapporten, som mere eller mindre er 'copy paste' fra Salgsmanualen fra nogle af de private aktører.

Det må og skal jo være forskere og videnskabsmænd (m/k) med dyb ekspertise der kan formulere tekniske visioner og strategier.

Den rollebesætning som har været i SIRI-kommisionen passer så bedre IMHO på en følgegruppe, der så ville kunne komme med et indspark, baseret på hvad industrien faktisk kan levere i dag.

Så basalt synes jeg synes at konstruktionen er forkert. Det bliver et taktisk fokus og ikke et strategisk fokus.

Og jeg har intet imod det private erhvervslivs salgsmaskiner. Jeg har selv været en del af en i 10+ år, og har en skuffe fyldt med awards, diplomer og pins. Det er hvad det er, og de private aktører har en rolle at spille i det her, igen det er jo dem, der laver produkterne.
Men.. igen så nytter det ikke, at lade dem skrive strategien målene det fremtidsrettede, for så bliver den skrevet til de produkter, som man har i porteføljen nu.

// Jesper

Log ind eller Opret konto for at kommentere