EU vil forbyde visse typer af kunstig intelligens

EU vil blandt andet forbyde AI til masseovervågning. Illustration: Bigstock
EU vil forbyde nogle typer af kunstig intelligens, som bryder med unionens værdier. Hvis virksomheder bryder reglerne står de overfor en bøde på 20 millioner euro eller fire procent af deres omsætning.

EU har planer om at være den første i verden til at regulere brugen af kunstig intelligens ved at forbyde og lave stramme restriktioner for visse typer af teknologien.

Det skriver Politico.

Mediet har fået fat på udkastet til de nye regler, som EU-Kommissionen vil fremlægge i næste uge den 21. april.

Her står, at man vil forbyde sociale point-systemer, som man for eksempel benytter i Kina, da det overtræder unionens værdier.

Derudover vil man forbyde AI-systemer, der manipulerer folks adfærd, holdninger eller beslutninger, udnytter menneskers sårbarheder. Og så vil man forbyde AI til masseovervågning.

Læs også: Nyt dansk AI-forskningscenter til 350 mio. kr. får verdensførende forsker i spidsen

På trods af reglerne skal der være undtagelser, hvor myndigheder kan bruge teknologierne til at efterforske alvorlig kriminalitet. Det kan for eksempel være politiets brug af ansigtsgenkendelsesteknologier til at fange terrorister.

Ifølge udkastet, planlægger man at nedsætte et europæiske AI-råd, der skal bestå af én repræsentant fra hvert medlemsland.

Hvis virksomheder ikke overholder reglerne, kan de stå overfor en bøde på op mod 20 millioner euro eller fire procent af deres omsætning - de samme regler som for GDPR-overtrædelser.

Læs også: Clearviews massive ansigts-database er nu ulovlig i europa

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Følg forløbet
Kommentarer (23)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
#1 Mikael Ibsen

Alt, hvad der kan bruges, vil blive brugt, og alt, hvad der kan bruges, kan også misbruges og alt, hvad der kan misbruges, vil blive misbrugt. Om ikke før, så siden...

  • 9
  • 1
#2 Gert Madsen
  • "Det kan for eksempel være politiets brug af ansigtsgenkendelsesteknologier til at fange terrorister. "

Så er justitministeriet jo helt rolig. Traditionen her i landet er jo, at når først noget er indført pga. Terror, barneporno etc., så bruger man det bagefter til at fange manglende betaling af vægtafgift, eller hvad der nu ellers er på Politichefens bonusprogram.

  • 11
  • 0
#3 Mikael Ibsen

så er vi vel, i givet fald, alle terrorister, indtil vor uskyld er bevist - af en algoritme.

Det kan jeg godt forstå, at man kan være helt tryg ved, for algoritmer fejler jo, som det er alle bekendt, aldrig.

Og da slet ikke hvis man er lidt mørkhudet i ansigtet.

  • 8
  • 2
#7 Henrik Eriksen

Derudover vil man forbyde AI-systemer, der manipulerer folks adfærd, holdninger eller beslutninger, udnytter menneskers sårbarheder.

Her kan jeg så ikke lade være med at undre mig over, hvorfor "AI" overhovedet nævnes i denne sætning.

Er det dermed helt i orden at mennesker, også i form af ledende politikere, kendisser, youtubere og andre 'influensere', manipulerer folks adfærd, holdninger eller beslutninger, udnytter menneskers sårbarheder?

  • 1
  • 0
#8 Snurre Jensen

Det bliver interessant at få uddybet "manipulerer folks adfærd"

  • Anbefalinger a la Saxo, Netflix, Amazon etc
  • Opfølgende emails a la "husk at gennemføre din bestilling"
  • Emails der gør opmærksom på nye varer/tjenester
  • Etc.
  • 4
  • 0
#13 Kjeld Flarup Christensen

udnytter menneskers sårbarheder.

I stedet for at gå efter AI, burde man måske generelt forbyde udnyttelse(misbrug) af viden om andres sårbarheder.

Dermed kommer vi ind til kernen i det der hedder personfølsomme oplysninger. Det klassiske eksempel er forsikringsselsbet som ikke vil udstede en forsikring, fordi de kan købe sig til en masse personfølsomme oplysninger.

Om det er AI eller almindeligt detektivarbejde der finder oplysningerne er ligegyldigt. AI gør det blot billigere og dermed et potentielt større problem.

En gråzone vil så være forsikringsselskabernes beregninger af risikogrupper. Hvornår bliver AI så smart at det kan reducere størrelsen af gruppen til "en" og ud af andre offentligt tilgængelige oplysninger udtrække hvad der må siges at være personfølsomt.

  • 2
  • 0
#16 Kristian Rastrup

Ingen biologiske våben er nogensinde brugt til krigshandlinger.

Foruden da britterne gav indianere tæpper med kopper, eller når romerne lige kørte deres sværd gennem noget lort før et slag, eller da mongloerne bombarderede en by med ofre for byldepest, eller når britiske langbueskytter havde pilene sat med spidsen ned i jorden før affyring, eller ...

Og så kan man diskutere om gifte hevet fra naturens dyr eller planter er kemisk eller biologisk krigsførelse.

https://en.wikipedia.org/wiki/History_of_biological_warfare

  • 2
  • 0
#20 Ditlev Petersen

Er det dermed helt i orden at mennesker, også i form af ledende politikere, kendisser, youtubere og andre 'influensere', manipulerer folks adfærd, holdninger eller beslutninger, udnytter menneskers sårbarheder?

Altså bortset fra det med at udnytte sårbarheder, så ville et forbud mod sligt kræve at alle aviser m.v. blev lukket. Og at det blev forbudt at agitere eller på anden måde at argumentere for ideer. Megen debat går jo på at overbevise andre (manipulere dem) eller på selv at blive klogere (det er næsten værre endnu).

  • 3
  • 0
#23 Henrik Eriksen

Altså bortset fra det med at udnytte sårbarheder, så ville et forbud mod sligt kræve at alle aviser m.v. blev lukket.

Ja, og reklamer og product-placement og så videre. Jeg erkender at det ikke er realistisk. Men hvorfor må 'AI' ikke, hvis mennesker må?

Og at det blev forbudt at agitere eller på anden måde at argumentere for ideer.

Det synes jeg ikke. Men når man diskuterer en idé, så er det desværre almindeligt at appellere til folks følelser og samvittighed. Og det er grundlæggende forkert, efter min mening. Diskussioner omkring et emne burde være funderet i fornuft og oplysning. Min modpart (eller jeg selv) skal overbevises fordi vi får bibragt nogle oplysninger som vi ikke havde i forvejen, og derfor indser at vores opfattelse er forkert. Vi skal ikke ændre holdning fordi vi bliver manipuleret til at tro et eller andet.

Ja, det er desværre en utopi, og alle politikere bliver arbejdsløse, så det kommer ikke til at ske.

Men så kommer vi tilbage til mit spørgsmål: Hvorfor 'må' AI ikke, hvis mennesker må?

  • 1
  • 0
Log ind eller Opret konto for at kommentere