Ny rapport om AI i det danske Sundhedsvæsen
I den seneste tid har jeg som en del af Sirikommissionen arbejdet på en række anbefalinger til hvordan kunstig intelligens og innovation med fordel kan løfte sundhedssektoren og dermed patientoplevelsen i Danmark. I fredags præsenterede vi disse på Christiansborg foran et større publikum med oplæg til debat blandt de fremmødte politikere.
Kunstig Intelligens i det danske sundhedsvæsen
Siden midt 2017 har vi, medlemmerne af Sirikommissionen, arbejdet på at få indsigt i hvordan kunstig intelligens og innovative teknologier kan bruges til at forbedre den danske sundhedssektor. Min rolle har været at agere AI-ekspert, og det har været særdeles interessant at sidde med direktører, ledere i det offentlige, meningsdannere og andre eksperter inden for kunstig intelligens, innovation og selvfølgelig sundhedsormådet. Det var tydeligt at vi er midt i en tid hvor der vil ske store forandringer med sundhedsområdet som betyder at vi som borgere kan få flere fordele, medbestemmelse, lighed og i det hele taget kvalitet hvis vi vil og tør spille vores kort rigtigt.
Data er i centrum
Som jeg også skrev om på Sirikommissionens egen blog, så er en af nøglebrikkerne i at opnå alt dette, at vi tænker os grundigt om når det kommer til borgernes sundhedsdata. De skal behandles med stor omhu og samvittighed, og samtidig skal de kunne udnyttes som grundlag for træning af kunstig intelligens og andre innovative teknologier, til at sikre og forbedre det danske sundhedsvæsen. I Danmark står vi godt på dette område med et stærkt udgangspunkt, selv om der er barrierer at overkomme og hensyn at tage, og det skal vi udnytte til borgernes fordel.
En rapport og en animeret film
Hvis du er interesseret i at læse rapporten med vores anbefalinger, kan du følge dette link. Der er gjort noget ud af at præsentere problemstillingerne og anbefalingerne på en måde så alle kan være med, og vi håber at disse når så mange som muligt af dem, som har indflydelse på hvordan fremtidens sundhedsvæsen skal formes. Under mit arbejde i Sirikommissionen tog jeg også initiativ til at vi supplerede selve rapporten med en animeret film, som åbner op for nogen af de temaer der går igen i rapporten. Den kan også ses via dette link, og håbet er, at selv de politikere og andre interessenter med indflydelse på de berørte problemstillinger, som har en meget travl hverdag, i det mindste vil have tid til at se filmen igennem, og forhåbentligt derigennem få blod på tanden til at læse rapporten, og ja: Det gælder også dig kære læser!
- Danmarks største job- og karrieresite for ingeniører og it-professionelle.
AI har en fremtid, AI i det danske sundhedsvæsen, hører i mine øjne til i en fjern fremtid, der er simpelhen nød til at komme styr på sikkerheden før der bruges penge på AI.
Nogen vi måske sige at AI hurtigt kan give overskud og frigør resurser til it-sikkehed, til det vil jeg bare sige, glem det, for gevinsten hentes hjem inden den, bruges på it-sikkerhed.
Kort sagt, jeg tror Erik, at du har været medvirkende til at politikerne nu ser en mulighed for profilere sig på AI i sundhedssektoren i stedet for at sikre vores alles data bedre.
Hej Claus, Det var et kvikt svar - nåede du at læse rapporten på den tid?
Nu præsenterer du jo helt klart den side af sagen som har fokus på om borgernes rettigheder beskyttes ift. brug af deres data, og ikke så meget med den side som skal skabe bedre forhold gennem bedre og mere innovative løsninger.
Det er godt at folk som dig byder ind, og det er ligeledes godt at dem som har visioner for hvordan vi kan gøre tingene bedre gennem udnyttelse af samme data, også byder ind.
Jeg synes rapporten tegner et klart billede af hvorledes det netop er 2 sider af samme sag som der skal bruges energi på fra alle sider: Hvordan får vi mest muligt ud af data - uden at gå kompromis med borgernes sikkerhed, ret til personlig data, privatliv, etc.?
Så jeg må stille mig uenig i din skarpe konklusion på rapportens bidrag til diskussionen.
Jeg er ikke i tvivl om at du mener det godt, men realiteten er bare at sundhedsvæsenet i Danmark ikke i dag har sikkerheden i orden, dvs. "uden at gå kompromis med borgernes sikkerhed, ret til personlig data, privatliv, etc.?" ikke er en mulighed, da borgernes sikkerhed allerede er sat over styr og det samme gælder ret til personlig data og privatliv.
At forsøge at bygge et velfungerende hus oven på et elendigt fundament giver i mine øjne ikke mening.
Jeg skulle ikke læse ret langt før jeg kunne se, at der isoleret set er mange gode mulighed for AI, men at hele infrastrukturen hvorpå AI setuppet skal bygges op omkring ikke nævnes med et ord, altså den infrastruktur som allerede eksistere.
Hej Claus, Jeg kan sagtens følge dig, og der er meget at gøre der også, men anbefalingerne går på hvordan vi skal forholde os nu og ganske langt ude i fremtiden også, og jeg tror det er problematisk udelukkende at fokusere på datasikkerhed og privacy, uden at løfte blikket imod fordelene ved innovativ, intelligent anvendelse af data.
Målet må være at skabe den bedst mulige situation for borgerne, med en målrettet indsats på begge områder. Hvor vi skal starte kan så diskuteres, men det er sådan set også målet med anbefalingerne: At politikerne bliver bekendte med alle relevante aspekter af de tiltag der fremover vil forme det danske sundhedsvæsen.
Du siger at "hele infrastrukturen hvorpå AI setuppet skal bygges op omkring ikke nævnes med et ord," i rapporten.
Så må jeg jo lige henvise dig til forudsætningerne for baggrundspapir 2 ;-)
Hvis man ikke har fundamentet i orden, så bygger man luftkasteller.
Jeg må erklære mig enig med Claus Juul - I bygger dette fundament på sandbund. Og det illustreres jo faktisk i dette citat - hvor det fremstilles som enten-eller.
Det er muligt, at det er enten-eller. Hvad gør vi så? Ja, der er vi jo nogen, som efterhånden har forstået, at I er en del - med særdeles pengestærke interessenter i baghånden - som er villige til at sælge privatliv og demokrati, fordi I mener, at målet (i bedste fald bedre behandling - i værste fald kæmpe økonomisk afkast til aktionærer og direktører, og forringet folkesundhed) helliger midlet. Hvis befolkningen ikke vil makke ret, og afgive deres data og privatliv frivilligt (på individniveau), så må vi tvinge dem, og stjæle data fra dem, er der en del i dette bagland (også SIRIS), der mener.
Hvad er din - og SIRI-kommissionens holdning til det? Går du og SIRI ind for samtykke - eller har I en masse forbehold? Går I ind for, at man har ret til fuld indsigt i formål, databehandlere, evt. økonomiske bagmænd og bindinger - altid! - og til at få slettet sine data igen, hvis det ønskes?
Hvis ikke I gør, så er der kun ét svar, og det er "Forget it!" Og jeg tror, at vi bliver flere og flere, der siger "Nej"!
Man kan f.eks. skrive under her: https://www.skrivunder.net/signatures/nej_til_udlevering_af_dine_helbred...
Allerede dumpet - hvor blev borgerne lige af i ligningen? Tydeligvis er de bipersoner - det vigtige er politikerne - som har vist sig lette at forme af diverse lobbyistinteresser.
Det er borgerne, der skal forstå det, og som skal tage beslutningerne på egne vegne vedr. egne data. Jeg stoler ikke på nogen politikere overhovedet på dette felt . De er for sovset ind i erhvervsinteresser.
Ja, det er sat hårdt op - men i lyset af, at politikere og forskere vil tiltvinge sig adgang til borgernes allerinderste privatliv, uden at borgerne kan få at vide, hvad der foregår med disse data, så er det vel ikke for meget forlangt. For intet skal jo være privat længere, vel?
Hej Anne-Maria, Retorisk udvælger du et citat af mig og påstår at jeg mener at "det er enten eller". Sådan er det jo slet ikke. At vi skal have begge aspekter med i vores overvejelser er på ingen måde at sige at det er enten eller.
Du kunne have valgt et andet citet fra mig som for eks.: "Målet må være at skabe den bedst mulige situation for borgerne, med en målrettet indsats på begge områder." Det kan meget bedre stå alene.
Jeg er ikke nødvendigvis uenig med dig og Claus, men det er samtidigt vigtigt at diskussionen ikke bliver for ensidig og begrænsende.
Anne-Maria, til dit andet indlæg, så respekterer jeg din holdning, men generel mistillid til politikere er lidt svært for mig at kommentere på, og det lyder derudover som om du slet ikke har læst rapporten.
Hvad synes du om baggrundspapir 2 i forhold til de problemstillinger du nævner?
Hej Erik.
Tak for svar. Jeg er klar over, at du er ude i officielt ærinde, og derfor begrænset i at give udtryk for personlig holdning, men du svarede jo ikke helt på mine spørgsmål? Men det er jo nok også en slags svar.....
Jeg har ikke noget imod en ensidig diskussion, når det er mit privatliv og mine data, det handler om - der synes jeg faktisk, at det er mig, der skal sætte præmisserne, og at politikerne skal have meget lidt at skulle have sagt. I stedet har de tiltaget sig - og delt ud af - rettigheder, som de efter min mening slet ikke bør have. Udnyttelse af privatliv er ikke en sag, som Folketinget har ret til at trække ned over hovedet på borgerne. Det er en privatsag.
Men kan du pege på, hvor SIRI-rapporten helt konkret giver plads til, at borgerne får noget at skulle have sagt? Jeg er (undskyld) simpelthen så træt af store ord og fedt flæsk, som viser sig at dække over noget helt andet i praksis.
Hej Igen Anne-Maria, Jeg vil henvise til side 9 i rapporten. Her er et par citater:
"Vi anbefaler at: Regeringen opretter en central enhed, der kan sikre en samlet og sikker adgang til private og offentlige sundhedsdatabaser til gavn for både borgere, forskere, sundhedssektoren og virksomheder. Det kunne for eksempel være hos Sundhedsdatastyrelsen ud fra et klart mandat."
"Enheden bemandes med medarbejdere med de rette tekniske, sundhedsfaglige og juridiske kompetencer med højt fokus på privacy og cybersikkerhed."
"Det skal være et grundlæggende mål at skabe mest muligt transparens for borgerne omkring, hvilke data, der findes i databaserne og hvordan og til hvad, de anvendes."
...se mere i rapporten.
Jeg vil anbefale dig at sætte dig lidt ind i GDPR, der er faktisk rigtig mange guldkorn.
Et af dem er security-by-design - men det er på ingen måde det du lægger op til.
Og at præsentere en tosidet mønt til politikere, og tro de forholder sig til begge sider er direkte naivt!
Bare lige for at få en byggeteknisk detalje på plads - næst efter ren klippegrund er sand faktisk noget af det bedste man kan fundere på.
Næh det Erik præsenterer er nok nærmere et hus der er opført uden pilotering i en mose der oversvømmes hver anden uge.
Der står bla
Hvis jeg skal sætte mig i politikerens sted og høre/læser dette, vil jeg tænke "det forventer jeg der er styr på".
Desværre viser erfaringen, at der er der ikke. (jeg trækker på personlig erfaring).
Som sagt, isoleret er tiltaget godt, men når jeg nu ved hvad jeg ved, kan jeg ikke andet end at fraråde AI, før der er styr på den basale sikkerhed.
Jeg synes, at der står en masse pænt lydende, men ret indholdsløse ting. For der står ikke ( med mindre jeg har overset det, i så fald beklager jeg), at der altid skal oplyses om alle anvendelser, bagmænd og bindinger. Og der står heller ikke, at der altid skal indhentes samtykke. Har jeg overset noget?
Man kan jo sagtens skrive noget om, at det skal gøres lettere at give samtykke og den slags, hvis dette så lovgivningsmæssigt gennemhulles af alle mulige undtagelser, hvor der alligevel ikke skal gives mulighed for samtykke/opt out etc. 8sådan som man aktuelt er i gang med med L68).
Og jeg mener også, som Claus Juul, at man spænder vognen for hesten. Lad os få styr på den aktuelle elendighed, både mht. datasikkerhed, etik og jura, indenvi begynder at opstille luftkasteller, som ikke har noget ordentligt fundament, (men som politikerne desværre garanteret gerne vil lægge stemmer og statsbudget til)
Mht. politikermistillid: Ja - efter at have fulgt med i dette område i nogle år, så har jeg udviklet en indædt mistillid til den måde, det foregår, når vore politikere lukker lobbyister for langt ind i varmen. Der kan dagens debatindlæg i Politiken om, hvordan den slags foregår, være fuldt relevant ift. den digitale udvikling også - og mht. medicinalindustriens samarbejde på dette punkt:
https://politiken.dk/debat/debatindlaeg/art6308168/Vi-skal-ikke-tro-p%C3...
Jeg vil faktisk gerne have et svar på mit forslag mht. åbenhed omkring pengestrømmene i politik. Er politikeres og partiers bankkonti virkeligt mere private, end hvad jeg snakker med min læge om?
Tak Christian - jeg tænkte vist på "kviksand" - det er sidst på dagen :-)
Ikke godt nok! Der lægges ikke op til rettigheder, men til spin...
Flere års følgen med i dette har lært mig, at forskere og politikere finder ethvert smuthul, hvor der er plads til selv at fortolke (= misbruge). Det viser den aktuelle L68 til fulde.
Udskyld jeg siger det, men det er en gratis omgang blah-blah-blah, som politikerne vil høre på nogenlunde samme måde som når Homer Simpson prøver at irettesætte sin hund.
Beklager, men det er ren bullshit, for det giver ingen garantier til borgerene - INGEN!!!
Anne-Marie, Jeg oversætter det ikke til spin når jeg læser det. Nu er det også anbefalinger og ikke reelle gennemarbejdede lovforslag. Men igen, du har en reel bekymring, som bestemt skal adresseres.
Nej, den skal respekteres, det er noget helt, helt andet!
Adresseres er bare en gang jeg-hører-hvad-du-siger, men jeg-gør-i-øvrigt-hvad-der-passer-mig.
Tak, Erik . Jeg er nu ikke særligt forhåbningsfuld, for hvem har siddet i arbejdsgruppen, der har udarbejdet forslagene?:
Grete Christensen, formand Dansk Sygeplejeråd
Camilla Rathcke, formand Yngre Læger
Mette Mollerup, udviklingskonsulent Kvalitet og Patientsamarbejde, Odense Universitetshospital
Henrik Bodskov, adm. dir. IBM Danmark
Hjalte Åberg, direktør Region Hovedstaden
Henning Langberg, professor KU og direktør for Copenhagen Healthtech Cluster
Tanja Danner Nielsen, Public & Healthcare Advisory, NNIT A/S
Bente Sorgenfrei, formand FTF
Erik David Johnson, manager Netcompany
Anders Friis, Corti
Sara Gry Striegler, programleder Dansk Design Center
Thomas Damkjær Petersen, formand IDA
Grit Munk, chefkonsulent IDA
Christian Olesen, junior analytiker IDA
Med bidrag fra Jan Madsen, professor, DTU Compute
og Winnie E. Svendsen, lektor, DTU Nanotech
Stort set alle "the usual suspects", når borgerne skal gennes ind i datamalkekofolden med skiftevis pisk og gulerod. Er der overhovedet nogen, der repræsenterer kritikerne af udviklingen?
Og et spørgsmål: Hvem har finansieret SIRI og rapporten? Jeg kan ikke se, at det fremgår. Hvorfor ikke? (hvis jeg har overset det, beklager jeg).
Hej Christian, Nu kender vi ikke hinanden, men din tolkning passer altså dårligt med hvordan jeg mente de ord. Jeg er ikke selv egentlig beslutningstager, når det kommer til disse problemstillinger, andet end at jeg kan påvirke dagsordener med min position som AI-ekspert og sætte mine valgkrydser efter egen overbevisning - lige som du.
Og det anser du slet ikke for spor problematisk?
Jeg gør.
Christian, Med forlov lyder det lidt som om du ser mig som fortaler for en bestemt position som skal virke på bekostning af borgernes rettigheder, privacy eller dataindsigt.
Det er altså IKKE tilfældet. Du er også selv aktiv her og påvirker dagsordenen med din stemme, og den mulighed skal alle have. Jeg gør som nævnt opmærksom på alle aspekterne af diskussionen, uden at favorisere et standpunkt uforholdsmæssigt. Jeg synes skam også at data indsigt, privacy og gennemsigtighed er meget vigtigt.
Lighed er desuden bare endnu et tema som er identificeret af kommissionen som vigtigt i arbejdet med fremtidens sundhedsvæsen.
Jeg håber, at du også vil svare på mine sidste spørgsmål, Erik. Hvem har finansieret SIRI og rapporten? Jeg kan ikke se, at det fremgår. Hvorfor ikke? (hvis jeg har overset det, beklager jeg).
Hvis I vil se hvordan stemningen på Christiansborg var ift. de forskellige anbefalinger så se billedet i denne artikel:
https://dsr.dk/politik-og-nyheder/nyhed/kommission-inddrag-patienter-og-...
Som man kan se var jeg, Ida Auken og flertallet i salen fokuserede på diskussionen omkring sundhedsdata, så der er bestemt fokus på det.
Anne-Marie, Jeg må lige vende tilbage der.
Helt fint, hvis bare jeg får svar, Erik.
Tja. ja.
Hvis jeg skal beskrive rapporten med et ord er det Ligegyldig.
Der står jo ikke noget i den rapport som man ikke ville kunne have forudsagt ville stå der, når man læser deltager listen.
Det er lidt de samme salgs pitches, som vi nu har hørt gentaget igen og igen de seneste år. Så kald det et sammenkog/kompromis af ledelsen for forskellige interessenter på området.
Det er jo ikke så svært at lave bedre sundhed. I stedet for at bruge pengene på AI'er, apps, smart phone og BigData løsninger, skulle man måske bruge dem på noget så simpelt, som Nok veluddannet sundhedsfagligt personale, god rengøring og mere forebyggelse. Det ville gi' en god ROI for ejerne af sundhedssektoren og kunderne. Nemlig os borgere.
Det er lidt det samme mønster vi ser hver gang politikerne nedsætter en 'ekspert gruppe'. Der er simpelt hen for få eksperter på fagområdet med. Det er sku til at få lange..... af..
// Jesper
"Inddrag patienter og sundhedsprofessionelle når teknologien blomstrer"
Ikke et ord om at inddrage datasikkerhedsprofessionelle - ikke et!
Kan du oplyse, hvem der var inviterede? Hvor mange almindelige borgere - eks. inviteret pr. lodtrækning - ikke nogen, der er udpeget af industrisponserede patientorganisationer?
Hvad kostede tilmelding til arrangementet? For ofte koster den slags adskillige tusinde kroner, så ingen almindelige mennesker har råd til at deltage.
Og hvem holdt oplæg? Kan du lægge programmet ind her?
Som jeg læser anbefalingerne i rapportens baggrundspapir 2 er der meget fokus på at systemerne skal være lette at bruge, at man skal være hurtige til at give samtykke til forskning og sikre større centralisering i regionernes databaser.
Centralisering af data, et fokus på at simplificere adgang fremfor fremhævning af programmerings-faglige sikkerhedshensyn og hurtig og dermed potentiel forhasted adgangsgivning er i direkte opposition til at tage udgangspunkt i privat-liv og sikkerhed hvis det var et fokusområde i forbindelse med rapporten. Der er derfor næppe en helt afbalanceret repræsentation i anbefalingernes ordvalg eller primære sigte.
Samtidig har mange kritiseret stort set samtlige politikeres dømmekraft indenfor sikkerhed og privatliv. Det kan skyldes utilstrækkelig eller mangelfuld rådgivne fra deres faglige kontakter, men et generelt rapport-niveau som dennes er nok også med til at fjerne fokus fra problemer som man tilsyneladende ikke ønsker at løse med anbefalingerne.
Det er næppe smart at sammensætte en kommission om it-fremtid uden en repræsentantion der har tilstrækkelige kompetencer indenfor cyber-sikkerhed og privatliv uden betydelige andre interesser. Ikke at der i princippet er et behov, men det man er kommet frem til tyder på en eller flere manglende stemmer der formår at problematisere designprocesserne og prioriteter i tilstrækkelig grad til at anbefalingerne bærer præg af det.
Jeg hæfter mig ved, at du ikke anser samtykke som vigtigt nok til at medtage, på trods af at dette er nævnt flere gange af Anne-Marie Krogsbøll.
Datatilsynet har udgivet en udmærket Vejledning om samtykke som jeg vil anbefale dig at læse. Derefter vil jeg gerne høre om du mener at samtykke er vigtigt.
Som nævn før, så er der en en masse smukke ord i rapporten ja jeg har læste den , med som altid så er djævle i deltaljerne.
”det skal være et grundlæggende mål at skabe mest muligt transparens for borgerne
omkring, hvilke data, der findes i databaserne og hvordan og til hvad, de anvendes,
”
Den eneste måde , jeg se dette gennem ført på er ved at lægge borgernes data i et selvstændig selvskab (A/S) hvor borgerne har en aktie, som svare til den data de lever til denne.
Det vil også motiver borgerne til at lever data, da de selvfølgelig få, den indflydelse som de har aktier i dette selvskab til. Samtigdig med at der også er mulighed for udbytte fra aktierne.
Med hensyn til tilgang til data og sikkerhed så kan man lave en API , som kun kan tilgår AI , og da information når den, har været igennem en AI ikke mere er entydige, når der tage forbehold for at det ikke er muligt at spørge til en enkelt borger, eller man kan sætte en anden AI til at overvåge den først AI således at lovginingen bliver overholdt.
Et spørgsmål til Erik; hvordan har du tænkt dig at sikre at AI opfylder spec...
Jakob, du skriver: "Det er næppe smart at sammensætte en kommission om it-fremtid uden en repræsentantion der har tilstrækkelige kompetencer indenfor cyber-sikkerhed og privatliv uden betydelige andre interesser."
Vi foreslår jo det modsatte. Jeg tror vi er enige her.
Kære Erik
Jeg syntes der er et klart billede af at AI og sundhedsdata ikke er et godt match, set med de kommentar der er her til artiklen.
Må jeg foreslå et andet forretningsområde: Kontrol af skatte oplysninger; Der er rigtig mange oplysninger og kilder til data.
Jeg tror det kunne blive en kæmpe succes historie, og målet er let at forstå: alle skal betale det korrekte i skat og dermed bidrage til den fælles kasse.
Anne-Maria: Jeg fulgte lige op på det, og kan fortælle at rapporten og møderækken op til er finansieret af Ingeniørforeningens visionsmidler samt en betragtelig støtte i form.af arbejdskraft fra Dansk Design Center. Endelig har hele arbejdsgruppen bidraget gratis med deres tid og viden.
Alle kunne tilmelde sig mødet på Christiansborg - en åben, gratis invitation for alle. Der var selvfølgelig begrænsede pladser, og jeg tror ikke tilfældige danskere blev ringet op i bedste lotteri-stil, men det var åben og først-til-mølle. Til gengæld er "afstemningen" du ser på billedet blot det - et billede. Det var ikke en afstemning i officiel forstand, det var mere at måle stemningen i rummet.
Jeg håber det besvarer det meste.
hej Erik.
Tak for svar.
At dømme efter omtalen af arrangementet var det bestemt ikke overrendt af almindelige borgere - der nævnes overhovedet ingen af den slags.
Hvordan er invitationen kommet ud? og er det muligt, at du kunne lægge en kopi ind her?
Og mht. den "frivillige" deltagen - så har de pågældende vel deltaget i deres arbejdstid, de fleste af dem? I så fald har de i mine øjne repræsenteret deres respektive "bagland".
Jesper Frimann, du skriver at midlerne hellere skulle bruges på "Nok veluddannet sundhedsfagligt personale, god rengøring og mere forebyggelse", i stedet for Ai og Innovation.
Jeg ser AI og Innovation som måder at opnå netop disse ting på. Vil du have forebyggelse - AI modeller kan netop lave mønstergenkendelse på data og generalisere på data, så man kan lave prædiktioner, som igen kan give os langt bedre muligheder for forebyggende initiativer - ikke som erstantning af sundhedspersonale, men som et stærkt værktøj der lader dem gøre deres arbejde bedre.
Se for eks. denne case som også blev brugt som eksempel til mødet:
https://www.engadget.com/2018/01/15/ai-helps-dutch-emergency-dispatchers...
Google "AI" og "Healthcare" og find selv mange flere eksempler.
Chresten Christensen, Virkelig gode pointer, og jeg kunne være så fræk at sige at netop den diskussion og dit forsøg på at gå mere i dybden har været målet for vores arbejde. Det har ikke været muligt at finde alle svarene med vores scope og midler, men vi har forsøgt at stille de rigtige spørgsmål og identificere kritiske områder, som for eksempel det du tager op her.
Nu er der jo lovgivning på området, men AI modellers læsbarhed som faktor er også et emne der skal berøres - ingen tvivl om det. Hvis man bruger ANNs og Deep Learning, etc. - er det så positivt fordi en model der modtager input mellem 0 og 1 i sig selv er forholdsvist anonymiserende når output matches op mod input, eller er det et problem fordi dens resultater kan være svære at afkode ift. hvordan den nåede frem til dem?
Skal performance udelukkende måles i precision/recall, eller er der andre faktorer som er etiske eller politiske som skal indgå? Det og meget andet er alt sammen noget vi bliver nødt til at forholde os til.
Claus Juul, Nu var der tale om en periode med temaet Det Danske Sundhedsvæsen, og så fokuserede vi på det. Det er udvalgt fordi der ER forbedringer at lave genne AI og Innovation, men samtidigt skal det gøres med omhu.
Jeg kan ikke se at sundhedsvæsnet skal ligge i dvale ift. wins på teknologi og innovation, bare fordi du kan nævne lavthængende frugter i andre områder.
Erik:
Hvorfor bruger man pengene på sindsygt dyre IT-projekter - som jo bevisligt ofte giver meget store problemer ift. at få det til at fungere efter hensigten, og som derudover oftest ender med at blive meget dyrere end budgetteret- når man i forvejen ved, at det halter gevaldigt med hospitalshygiejnen?
https://www.dr.dk/nyheder/indland/3000-doer-af-infektioner-paa-danske-sy...
https://www.dr.dk/nyheder/politik/statsrevisorerne-hygiejnen-paa-hospita...
Man ved det jo i forvejen, så hvorfor kommer man ikke bare i gang med at redde de her 3000 personer årligt? Det er da lavhængende frugter ift. folkesundheden - i modsætning til AI og personlig medicin, som er 10 fugle på taget mange år frem i tiden. Helt bortset fra altså privatlivsaspektet - som er det helt grundlæggende problem.
Det er meget trist og meget foruroligende, at det i ramme alvor er den slags man sidder - i lukkede fora, styret og langt hen ad vejen betalt, af industrien - og diskuterer. For det burde være indlysende, at i hvert fald etiske (hvad mener du med politiske - kan du give et eksempel?) faktorer skal have en høj placering - ja, det burde faktisk være den allerøverste prioritet - for hvis etikken ikke er på plads, hvad skal vi så med den forskning?
Jeg bliver faktisk meget foruroliget over den sætning - hvorfor skal industrien overhovedet blandes ind her?
Med alle de debatter og skandaler vi har læst gennem det sidste lange stykke tid, er det måske tid til at lave et "fagparti"
Det kunne så bestå af folk der har borgernes og dermed samfundets interesse i centrum:
Her er starten på en liste:
Eksperter i jernbane, IT, byggeri, grundlovsrettigheder, energi, økonomi, integration og find selv på flere...
Jeg tror faktisk at et sådant parti vil have gode muligheder for at blive valgt ind, og have mulighed for at sætte sig ud over de rød / blå problematikker der er.
Ville være rart med nogen som lytter lige så meget til eksperter og foreninger på området, som til store dyre konsulent rapporter.
Måske vi så ville kunne begynde at se langsigtede politikker, og ikke bare holder det til næste valg... fint så er det de vi gør...
Erik, du svarer Claus Juul:
Er du fuldstændigt blind for, at man netop i øjeblikket flytter midler og ressourcer fra den grundlæggende livsvigtige behandling, pleje og hygiejne til fordel for disse luftige IT-projekter? Hvor kommer pengene ellers fra?
Før vi nu får kastet en masse penge efter alt for mange luftkasteller, hvad så med at vi rent lavpraktisk fik vores samfund til at fungere på en værdig vis, så eksempelvis dette ikke kunne ske:
https://www.dr.dk/nyheder/regionale/midtvest/91-aarige-ruth-maatte-ikke-...
Jeg må indrømme jeg bliver så træt, så træt, når vi dagligt, fra fedtlaget af djØFFERe, bombarderes med overgrebsforslag som udhuler vores ret til et privatliv, når vi ovenikøbet samtidig har et samfund hvor der er en hel masse basale ting som slet ikke fungerer.
Man bliver i øvrigt heller ikke i bedre humør, når man erfarer at Krigsministeriet får tilført 1,4 milliard, så man kan hygge sig endnu mere bag mørkelygtens skær hos Center For CyberUsikkerhed:
https://www.dr.dk/nyheder/politik/kampen-mod-cyberangreb-skal-styrkes-me...
Hvad med at det i stedet var Datatilsynet som i stedet fik midler og beføjelser, det ville i langt højere grad komme borgerne til gode.
Uden økonomiske bindinger til erhvervslivet, faglige organisationer mv.
For tiden ved jeg vitterlig ikke hvor jeg skal placere mit kryds næste gang, så det lyder som en rigtig god ide.
@Erik David Johnson
Det er jo ikke sådan det foregår. Dit argument med konstant sundheds personale bemanding + ekstra penge til ny teknologi, er for at sige det lige ud helt forkert. Det har simpelt hen ikke gang på jord.
Anne-Marie Krogsbøll har 100% ret når hun skriver:
Vi sidder lige nu og ser på det største IT-projekt i sygehusvæsnets historie med Sundhedsplatformen, som skulle medføre effektiviseringer, mere tid og guld og grønne skove.
Resultatet er effektivitets nedgang, fyringer af medarbejdere og merarbejde til allerede hårdt pressede sundhedsfaglige medarbejdere.
Så forklar mig lige hvorfor det at kaste penge efter endnu flere IT-luftkasteller/eksperimenter skal gøre andet end at give os borgere/kunder/patienter/ejere af det offentlige ringere service ?
Der er videnskabelig evidens for nok ikke stresset kompetent sundhedsfagligt personale, giver bedre behandlig, mindre smerte, færre komplikationer og færre dødsfald i sundhedssektoren.
Desuden er det ikke så forfærdelig meget dyrere for samfundet at ansætte en sygeplejeske eller en SOSU'er på deltid, end det er at have dem gående arbejdsløse. Simpelt hen fordi pengene ryger tilbage ind i økonomien.
Er der videnskabelig evidens for at X millioner brugt på AI i sundhedssektoren medfører bedre service end X millioner brugt på sundhedsfagligt personale ?
Det eksempel med AI du bruger, er et forsøg. IGEN det er ikke et videnskabeligt studie. Og ja.. det er svært at få 112 til at rykke ud til et 'hjerteanfald', man skal jo nærmest true med at køre folk selv (den situation har jeg været med til at stå i). Men det skyldes jo igen at man fra politisk side har skåret og skåret og skåret og lagt press på personalet på at gå på kompromis med fagligheden.
Listen.. jeg er ikke mod teknologi.. hele min karriere har været i IT-branchen. Og ja.. AI kan formodentlig spille en rolle i sundhedsvæsnet, og ja wearables, smartphones og fanden og hans pumpestok har en rolle at spille.
Men som IT Enterprise Arkitekt med en del sundhedsfaglig personale i lederroller familien, så hører jeg jo daglig om de problemer der er i sundhedssektoren. Må jeg altså insistere på.
Og jeg bruger så et sundhedsfagligt billede:
Så opererer du jo ikke Kunstige implantater, kunstige lemmer m.m. ind i en patient der ligger på intensiv og er i kritisk tilstand.
Du stabiliserer patienten, sørge for at vedkommende bliver rask sørger for at vedkommende har lidt fedt på kroppen, har det mentale overskud. Og så kan vi gå igang med at prøve nogle ting.
Det er jo ikke fordi vi ikke skal bruge ny teknologi i sundhedssektoren... men... lad os nu ikke slå patienten ihjel i bare 'salgsiver'.
// Jesper
Nu har vi jo så verbalt overfaldet lidt Erik David Johnson for hans indlæg.
Men tak for at du stiller op Erik.
Jeg er sådan set enig i præmissen om, at 'ny teknologi' er fremtiden også i sundhedsvæsnet.
Så hvad burde Anbefalingerne på SIRI kommisionens rapport så have været, hvis vi skulle prøve at være lidt konstruktive og bidrage lidt også ?
Jeg prøver selv herunder at gi nogle bud.
// Jesper
Erik skal helt klart have den cadeau, og selv om jeg godt ved at jeg selv kan være skarp i tonen, så er det ikke personligt, men fordi det (i frustration) nogen gange ender med at være budbringeren man skyder.
Selvfølgelig er det det, men det skal bare ikke præsenteres forlods til politikerne, som jo så straks iværksætter en besparelsesmanøvre, i forsøg på at realisere gevinsten forlods, som f.eks. set med sundhedsplatformen, og den øvrige tvangsdigitalisering som kun har været med til at fremmedgøre borgerne, og udhule Postnord.
Det er vel lidt problematisk, al den stund der jo et langt stykke hen ad vejen er tale om en bunden opgave - på samme måde som der købes luderrapporter hos f.eks. Rambøll, hvor der er arbejdet baglæns fra konklusionen.
Overordnet:
Oprettelse af Sundhedsfaglig/IT-faglig tværfagligt institution i Universitets regi, der skal forske i brug af ny IT teknologi i sundhedssektoren.
Eksisterende initiativer, konsolideres ind her også.
Specifikt:
Udarbejdelse af standarder, protokoller, retningslinjer, processer m.m. for hvorledes man sikkert, standardiseret og med verificeret validitet kan udveksle data i forhold til Telemedicin og borgerens egne wearables og snuheds apps. (Medcom er vigtig i den her sammenhæng)
Udarbejdelse af et sikkerhedsregime for offentlige persondata, med start i borgernes sundhedsdata. Med udgangspunkt i Tabel 14 i SIRI-kommissionens rapport, tyder det på at borgernes villighed til at dele sundhedsdata er kraftigt aftagende. Derfor er det vigtigt at genoprette borgernes tillid, ved selv at give dem kontrol og ejerskab over deres data.
Dette ejerskab og kontrol med sine egne data, vil desuden også muliggøre at borgerens offentlige data kan deles med private virksomheder på borgerens foranledning.
En usecase kunne være:
Hvis du nu giver borgerne mulighed for selv at dele og bestemme over deres data. . Så åbner du op for, at f.eks. når gamle fru Mortensen, skal hjem fra hospitalet, så har hun via sin aftale med Falck givet Falck lov til at abonnere på visse typer af SundhedsData/process hændelser. Så når lægen ved stuegang udskriver fru Mortensen, sendes en 'besked' til Falck der varsler dem om at Fru Mortensen er udskrevet. Dette kan de så lade indgå i deres planlægning af Sygetransport kørsel. Når hun forlader afdelingen sendes der igen en besked. Og nu ved man så, at der skal være en bil om X minutter.
Hvis fru Mortensen så også har Falcks Hjemme alarm ordning, ved de også (igen hvis Fru Mortensen giver dem lov) at man skal ændre sin 'overvågnings mode' af hendes Hjem, fordi hun nu er hjemme. Og man kan så selv tænke hjemmehjælp, mealonwheels m.m. ind i konceptet.
Igen .. så tror jeg at hvis man lader fagligheden istedet for .. ja.. salgs pitches bestemme vejen, så kan alle.. både det offentlige, borgerne og det private erhvervsliv få noget ud af det her.
// JEsper
Enig - og Erik står i det mindste ved, at han er lobbyist - det er ikke alle, der gør det (selv om det oftest lyser langt væk).
Jeg mener faktisk, at jeg har læst i nogle af de officielle rapporter, at dette ikke er undersøgt, og der er ikke udarbejdet f. eks. business case for f.eks. genom centret - man antager bare, at det nok godt kan betale sig - engang om 25 år....
Jeg er ked af at jeg ikke har formuleret mig godt nok.
Jeg mener at sundhedsvæsnet skal ligge i dvale, da de behandler meget personlige oplysninger (risiko for manglende fortrolighed), når der er de huller, jeg ved der er (sandsynlighed for at fortroligheden kompromitteres).
Jeg forslog skattekontrol, da det "bare" handler om penge og ikke personlige og følsomme data.
At investere og beholde de ansatte, er desværre ikke en gangbar metode i det offentlig, dvs. du ikke har en bussinescase, og hvis du havde, ville du skulle afgive den fremtidige besparelse fra dag 1 i projektet (ikke i driftsættelse).
Jeg er enig med de seneste indlæg om at man ikke skal skyde på budbringeren, men rapporten som helhed er yderst rodet og selvmodsigende. Nærmest som om en sekretær har haft en Uriaspost med at nedskrive hvad de enkelte paneldeltagere måtte være kommet med af ytringer:
Først skriver man:
tilsyneladende velvidende om både ånd og bogstav i den ny persondataforordning. Og ja, sådanne personal clouds er faktisk på vej.
. . . For kort efter i samme baggrundspapir derefter at skifte 180%:
hvor man tilsyneladende har glemt alt om at involvere brugerne, men vil tvinge private firmaer til at udlevere data bag om ryggen på dem. For ikke at tale om at man tilsyneladende helt har overset at persondataforordningen løser problemet med at flytte data hvorhen borgeren måtte ønske det. Uanset om det drejer sig om lokale app.-udviklere eller Google.
Så rapport: NEJ! , men diskussionsoplæg tydeligvis: JA!
Det kan vi så læse et andet sted, at politikerne slet ikke vil spørge eller underrette borgerne om deres data må eller bliver udleveret fra en myndighed til en anden myndighed.
Mit problem med rapporten er at udgangspunktet for sikkerhed og privatliv er defineret ud fra hvad det ikke må være og det i en sådan grad at der allerede før ideen er visualiseret endeligt er påtvunget faglige kompromiser.
Det jeg ligeså meget kritiserer er de andre afsnits manglende inddragelse af "sikkerhed og privatliv". Blandt andet "app-otek"-ideen. Jeg kan for eksempel se en potentiel showstopper i forhold til telefon-producenters insisteren på at kende alle apps på telefonen samtidig med at man foreslår at pålægge læger at sikre tilskud og recept på disse apps. Herved har telefon-producenten indirekte personhenførbare data, Endnu værre er det at statistikker for apps er offentligt tilgængelige. Hvis appen ikke er så almindeligt forekommende er samkøring af oplysninger derfor indirekte personhenførbare. For mig lyder det som en vej at sikre personhenførbarhed for eksempelvis folk med psykiske diagnoser der får en app ordineret, såsnart appen er mindre almindeligt brugt. Derfor ville jeg gerne have haft den slags krøller med i app-papiret eller tænkt ind i forslagenes udformning, men modsat sikkerhed og privatliv er app-ideen defineret ud fra en række mål og ikke begrænsninger og det er der denne kommission kunne have fået lidt mere ud af at have disse stemmer med og været mere ensartet i opbygningen af kataloget...
Henrik Biering, Ja din sidste kommentar lyser ud af denne tråd, og jeg der er ingen tvivl om at formålet har været at ruske op i og gøre opmærksom på de muligheder og problemstillinger vi står over for i fremtidens sundhedsvæsen.
Til Alle, så er jeg kun taknemmelig for at I engagerer jer i diskussionen, som var jo formålet med alt det her. Bliv endelig ved med det.
Jeg tager gerne rosen efter de verbale knubs - tak for det. Vi er mange som bare gerne vil gøre verden til et bedsre sted med den ekspertviden vi nu besidder, selv om det lyder naivt. Jo flere ildsjæle med dyb forståelse af eget område der engagerer sig og uddanner hinanden i problemstillingernes multifaceterede kompleksiteter, jo bedre løsninger ender vi ud med!
Tak for at tage diskussionen. Ofte ender artikler som denne med ekko-kamre af relativt enslydende standpunkter, som det så ofte sker i det digitale miljø. Selv om vi nok ikke bliver helt enige, er det altid godt at få en indsigt i hvad tankerne der ligger bag rapporten har været.
Et udgangspunkt er skabt for at folk der hører alle dele af debatten kan danne sig et overblik over rapportens styrker og svagheder.
Der er så mange af jer der snakker om sikkerhed for borgernes data, men AI kommer også til sundhedsvæsenet uden danmarks sundhedsdata og det vil forandre hele tilgangen hvordan sundhedsvæsenet kommer til at fungere på sigt. Det slog RSNA-messen (kæmpe messe om radiologi der afholdes i USA hvert år) sidste år fast med syvtommer søm. De ting der blev fremvist og nok også snart dukker op i Danmark, er ganske enkelt geniale. Og faktum er at vi ikke behøver danskernes sundhedsdata samlet i én stor database for at danske firmaer kan skabe AI løsninger til sundhedsvæsenet. Offentligt/privat samarbejde vil være meget bedre at satse på og vil meget hurtigere skabe resultater end at vente på en national database. Dette ville være en selvfølge for alle, hvis man rent faktisk vidste hvordan kunstig intelligens og dennes træning fungerer.
Thomas Schmidt:
Får befolkningen noget at skulle have sagt mht. denne udvikling - som sandsynligvis vil kræve, at man flytter endnu flere midler og ressourcer fra basal pleje og behandling til højteknologiske systemer, som de færreste forstår? Eller er beslutningerne allerede taget på messer som den beskrevne (i givet fald - af hvem?)?
Kan du uddybe "geniale"?
Som du selv siger, så er det nok de færreste, der forstår denne udvikling/AI - og algoritmer er oftest umulige at få indsigt i, selv hvis man faktisk forstår den slags. . Er det ikke i sig selv et faresignal? Vil denne udvikling ikke medføre om muligt endnu større koncentration af magt og midler i toppen af samfundet?
Hvis denne udvikling også kommer uden vore sundhedsdata, hvorfor kan vi så ikke få lov at have dem for os selv?
Hvad nu, hvis befolkningen faktisk ikke ønsker denne udvikling ? Skal de have noget, at skulle have sagt?
" realiteten er bare at sundhedsvæsenet i Danmark ikke i dag har sikkerheden i orden...."
Hvor har du det fra?
Det modsatte udsagn er nok også korrekt.
Anne-Marie Krogsbøl:
Om du skal have noget at sige er sådan set ligegyldigt, da disse systemer allerede er bygget og har trænet på eksisterende data. Altså er de ligeglade med danskernes data. De skal ganske enkelt ikke bruge dem. Systemerne her hentes ikke hjem af staten til kæmpe store datacentre, men købes hjem af de enkelte danske hospitalsafdelinger og vil formentlig blive købt ind som alt muligt andet udstyr købes hjem til hospitalsafdelinger idag. Idag ønsker hver enkelt afdeling sig ting i starten af året og får så senere på året at vide om man får det til næste år.
Det geniale er at vha. af AI opdager man hjerneblødninger, infarkter, lungeembolier inden en skanning overhovedet er kommet forbi en læge efter patienten er skannet og systemerne sørger for at advisere radiologen om disse akutte tilstande, så disse undersøgelser bliver gennemgået først. Derved kan man hurtigere sætte ind med korrekt behandling og undgå mange alvorlige og invaliderende senfølger for patienterne.
Jeg siger ikke at AI er svært at forstå, for det er det ikke. Med en grundviden inden for matematik, vil man kunne forstå principperne. Ellers kan jeg da anbefale at man ser youtube videoerne fra Siraj Raval, som lærer om AI på en rigtig sjov måde. Det at udvikle AI er idag ikke længere noget kun de store IT firmaer kan. Men tjek da videoerne.
Du ejer allerede dine egne data idag og det siger jeg netop ikke at man ikke kan.
Det skal jeg ikke kunne sige om de vil, men det kunne være godt, hvis dem der debatterede emnet faktisk vidste rigtig meget om det.
Det har jeg fra mit arbejde, du læser til tider om det bla. her på version2.
Mit mellemnavn starte med B, det burde være nok til at finde mig på linkedin
Jo, men det er jo ikke Salgsmusklerne fra diverse private aktører, der sidder med produkter, som vil kunne udforme visionære langsigtede løsninger for brug af Ny teknologi i sundhedssektoren. Det er jo bagvendt. Igen så er der dele af rapporten, som mere eller mindre er 'copy paste' fra Salgsmanualen fra nogle af de private aktører.
Det må og skal jo være forskere og videnskabsmænd (m/k) med dyb ekspertise der kan formulere tekniske visioner og strategier.
Den rollebesætning som har været i SIRI-kommisionen passer så bedre IMHO på en følgegruppe, der så ville kunne komme med et indspark, baseret på hvad industrien faktisk kan levere i dag.
Så basalt synes jeg synes at konstruktionen er forkert. Det bliver et taktisk fokus og ikke et strategisk fokus.
Og jeg har intet imod det private erhvervslivs salgsmaskiner. Jeg har selv været en del af en i 10+ år, og har en skuffe fyldt med awards, diplomer og pins. Det er hvad det er, og de private aktører har en rolle at spille i det her, igen det er jo dem, der laver produkterne.
Men.. igen så nytter det ikke, at lade dem skrive strategien målene det fremtidsrettede, for så bliver den skrevet til de produkter, som man har i porteføljen nu.
// Jesper
Thomas Schmidt:
Tak for svar - jeg forstår simpelthen ikke, hvad din pointe er, men det er nok min fejl. For mig lyder det som om, den er, at befolkningen blot skal klappe i og blande sig uden om. Det kan være, at jeg tager fejl, i så fald beklager jeg.