Børnetelefonen skal have assistance af kunstig intelligens til at hjælpe børn

Illustration: Bigstock
Et computerstyret system skal identificere børn i akut fare og rykke dem frem i køen til Børnetelefonen. Derudover skal systemet være med på en lytter, når ansatte snakker med de børn og unge, der ringer ind.

Et computersystem med kunstig intelligens skal fremover være med på sidelinjen, når de frivillige hos Børnetelefonen snakker med børn, der har det svært.

Det skriver Jyllands-Posten.

De to primære arbejdsopgaver for systemet bliver dels at identificere børn, der er i en akut faresituation, og rykke dem frem i køen til Børnetelefonen, når de tager kontakt.

Derudover skal systemet være i stand til at registrere ord og formuleringer, som tyder på, at barnet udsættes for vold eller overgreb, og derpå underrette den rådgiver, der snakker med barnet.

Læs også: Advokat sætter spørgsmålstegn ved lovlighed af nyt AI-værktøj om udsatte børn

Avanceret software

Børns Vilkår, der driver Børnetelefonen, arbejder sammen med firmaet Itelligence om at implementere kunstig intelligens som assistance til rådgiverne.

Ifølge Børns Vilkår skal assistenten blandt andet basere sin viden på tidligere kommunikation mellem rådgivere og børn, som indlæses i 'avanceret software'.

Direktøren for Børn Vilkår, Rasmus Kjeldahl, understreger, at samtlige børn vil være anonyme, når den kunstige intelligens lytter til de potentielt personlige samtaler.

Læs også: Region H vil lægge data om børn i åben forskerdatabase

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Kommentarer (15)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Jesper Frimann

Det er sku da helt sort. Hvor vil man få kvalificeret data til at træne 'assistenten' fra ?

Og lad nu være med at bruge termen 'on the job training' for så vil den træning jo skulle ske på bekostning af børns ve og vel.

// Jesper

  • 13
  • 1
Louise Klint

Ja, tak, Jesper Frimann.
(Jeg sad også med åben mund og tænkte på, om jeg mon havde misforstået artiklen).

Og hvad med samtykke?
Ved børnene godt, at de bliver ”overvåget” / aflyttet?
Altså at noget teknologi ”lytter med” og "analyserer", hvad de siger?

Et andet aspekt er også, at jeg tror, en del af det, nogle af børnene udtrykker, kan være en slags nonverbal kommunikation. Altså, at det vigtigste måske bliver sagt imellem linjerne, via pauser eller på anden vis bagvendt og indirekte.

(Det er børn, og de ringer ikke nødvendigvis velforberedte, med argumenterne i orden, som vi voksne kan. De kan også være bange, kede af det eller sky. Ved godt, at medarbejderne er professionelle og kan spørgeteknik).

Dermed også sagt, at jeg tror, dette er en sværere opgave, end som så.
Og jeg er nysgerrig efter at vide, om den pågældende teknologi er færdigudviklet til dette formål, eller om dette reelt er et udviklingsprojekt?

  • 9
  • 1
Louise Klint

Børns Vilkår har 500 frivillige rådgivere til Børnetelefonen.
JP skriver om formålet:

Når organisationen tager den nye teknologi i brug, handler det ifølge direktøren om to ting:
Dels at sikre, at også mindre erfarne rådgivere opfanger signaler fra børn, der udsættes for overgreb eller andre former for svigt.
Dels at sikre, at flere samtaler kan ekspederes, og flere børn hjælpes.

Den nye teknologi kan nemlig også overtage en del af rådgiverens arbejde efter en samtale.
Her skal et skema om samtalen udfyldes, og det kan systemet fremover klare.
Det skal frigøre tid til, at rådgiverne kan hjælpe endnu flere børn.

Antallet af henvendelser stiger cirka 10 procent hvert år.
- Sidste år havde vi cirka 220.000 henvendelser til Børnetelefonen. Men det var kun 50.000-55.000 af dem, der førte til egentlige rådgivninger.

-Kan vi få kunstig intelligens til at reducere tidsforbruget til registrering og informationssøgning, så kan vi få flere børn igennem og skabe en endnu bedre tjeneste, siger Rasmus Kjeldahl.
Indførelsen af den nye teknologi vil ske gradvist, og første del ventes på plads inden sommer.

https://jyllands-posten.dk/indland/ECE11957067/kunstig-intelligens-skal-...

  • 3
  • 0
Christian Nobel

Jeg er ved at brække mig over al denne AI benovelse.

Prøv dog at se realiteterne i øjnene - en computer er stadig ikke i stand til at oversætte f.eks. relativt simpel engelsk tekst til korrekt dansk, så hvordan i alverden skulle den kunne være i stand til fortolke det usagte som Louise er inde på.

Tag ordet helix og prøv på google translate - det oversættes til ...tadaaah: helix, selv om den korrekte oversættelse (i henhold til kontekst) i følge Gyldendals ordbog er: spiral, skruelinje.

Skal vi nu ikke snart se at få trukket den håndbremse og stoppe med dette spillen bullshit banko.

  • 14
  • 1
Bjarne Nielsen

Fra artiklen:

... at identificere børn, der er i en akut faresituation, og rykke dem frem i køen til Børnetelefonen, når de tager kontakt.

Hvordan skal det ske. Ved at de mødes af en chat-bot, inden de evt. sendes videre til 2nd level support?

Fra Louise henvisning til JP:

... sikre, at også mindre erfarne rådgivere ...

Dvs. "de-skilling".

Dels at sikre, at flere samtaler kan ekspederes, og flere børn hjælpes.

Dvs. effektivisering.

Men vigtigst af alt: hvordan sikrer man at systemet lærer af sine fejl?

Hvordan sikrer man f.eks., at børn er i akut fare, men som ikke bliver rykket frem, bliver opdaget efterfølgende, så systemet kan forbedres? Eller virker læringen kun den anden vej, så det kun lærer af dem, som blev rykket frem, men ikke var i akut fare alligevel, og at systemet derfor lige så stille og roligt bliver mere og mere insensitivt?

Bliver systemet underkastet ekstern og uvildig kvalitetskontrol, eller holdes det "inden-døre" som "forretningshemmelighed" af "sikkerhedshensyn" inkl. hvad det måtte medføre af selektions-bias og forretningshensyn som vinder over det af passe på vores udsatte børn? Hvordan sikrer vi, at samfundet får maksimal læring af evt. dårlige erfaringer, og at de ikke bare bliver fejet ind under gulvtæppet af image-pleje hensyn?

Hvis man bevæger sig i feltet omkring udsatte børn, så påhviler der en helt særlige krav.

  • 12
  • 0
Bjarke Haack Jørgensen

"... BØVS! Det er Stewart, hva så min dreng, hvordan virkede tricket med Ferna i lærerens kaffe? - du har ventet HVOR længe? For helvede det nye edb-pis har skubbet alle fusk-opkaldende frem i køen - har snakket med en inder i 20 minutter jeg troede der havde fået tæsk i skolegården"

  • 4
  • 4
Rodney Lubega

Jeg er helt enig i, at mange af de ting der er i samtalen, er "sagt" nonverbalt. Det er noget f.eks. en AI (kunstig intelligens) ikke vil kunne genkende. Men senere hen, når systemet lære at genkende de pauser (som er nonverbalt) mellem en sætning, så begynder den at reagere. AI er baseret meget på mønstergenkendelse. Men ellers er jeg enig i din mening. :)

  • 1
  • 1
Niels Madsen

Jeg har stadig til gode at se en chat-robot på en webside som kan bruges til noget fornuftigt, selv om en lang række websider har dem, fx. Ikea og diverse kommuner. Og de er endda tekstbaserede, hvilket burde være noget nemmere end at udvikle det til tale i et lille sprogområde, og så med børnestemmer endda.

Jeg prøvede at spørge Frederiksberg kommunes "AI" (på deres hjemmeside) "hvem er kommunens databeskyttelsesrådgiver", og fik svaret at den var ny her og derfor ikke viste det. Jeg bliver godt nok vred over at vores skattekroner bruges på den slags åbenlyse svindel.

Og jeg håber ved gud ikke at Børns Vilkår kommer til at betale en krone for det bullshit, for så bliver det uden bidrag fra mig fremover. I øvrigt kan jeg ikke se hvordan de har tænkt sig at træne systemet, og samtidigt overholde løftet om anonymitet, da det så vil være umuligt at verificere at systemet rent faktisk agerer korrekt. Men måske er det ikke væsentligt om det virker når det kommer til stykket.

  • 5
  • 0
Thomas Nørmark

Hej Louise Klint - det er faktisk nogle fine input, du kommer med der, og især pauserne er noget, som vi har på radaen i forhold til projektet med Børns Vilkår. Samtidig viser vores analyser, at en samtale med et barn kan strække sig over flere emner - barnet skal ofte lige spores ind.

Kunne du være interesseret i at tage en kort snak om dette over telefonen? - Casen er så vigtigt, at vi er forpligtet til at tage imod al den konstruktive sparring, vi kan få.

På forhånd tak.

/Thomas

  • 3
  • 1
Yoel Caspersen Blogger

Kunne du være interesseret i at tage en kort snak om dette over telefonen? - Casen er så vigtigt, at vi er forpligtet til at tage imod al den konstruktive sparring, vi kan få.

Indgår samtalen i træningen af jeres AI?

... undskyld min skepsis, men sig lige til, når I har fået det til at virke.

Potentialet i systemet er enormt (fx ville vi kunne erstatte store dele af vores kundeservice med AI), men jeg tror ikke på det, før jeg har set det virke i praksis. Empirien på området er ikke imponerende, og AI virker p.t. som et buzzword, der skal tiltrække naive investorer og folk, der køber ind for andres penge.

  • 3
  • 0
Log ind eller Opret konto for at kommentere