EUU, Alm.del - 2023-24 - Bilag 424: Samlenotat om Europarådets konvention om kunstig intelligens

Europaudvalget 2023-24
EUU Alm.del Bilag 424
Offentligt

Dato:

Kontor:

Sagsbeh:

Sagsnr.:

Dok.:

27. marts 2024

Databeskyttelseskontoret

Sara Anine Jensen

2022-02720

3201775

SAMLENOTAT

Forhandlingsoplæg vedrørende forhandlingerne om Europarå-

dets konvention om kunstig intelligens, menneskerettigheder, de-

mokrati og retsstatsprincippet

Notatet oversendes også til Folketingets Udvalg for Digitalisering og

IT til orientering.

KOM-nummer foreligger ikke.

Notatet er en opdateret version af samlenotatet af 25. oktober 2022.

Ændringer er markeret med streg i margin.

1. Resumé

Europa-Kommissionen fik ved rådsafgørelse af 21. november 2022 et

forhandlingsmandat, der bemyndiger Kommissionen til på vegne af

EU at føre forhandlinger om en Europarådskonvention om kunstig in-

telligens, menneskerettigheder, demokrati og retsstatsprincippet. Eu-

roparådets konvention om kunstig intelligens har været forhandlet i

regi af Europarådets udvalg for kunstig intelligens (CAI) siden juni

2022. Det forventes, at konventionen vil blive vedtaget i Europarådet

på et ministerrådsmøde den 17. maj 2024. Den videre proces for un-

derskrivelse og ratifikation af konventionen er ikke fastlagt på

Side 1/10

EUU, Alm.del - 2023-24 - Bilag 424: Samlenotat om Europarådets konvention om kunstig intelligens

nuværende tidspunkt. Det kan således ikke på nuværende tidspunkt

udelukkes, at den efterfølgende gennemførelse af konventionen i Dan-

mark vil kunne have lovgivningsmæssige og statsfinansielle konse-

kvenser.

Regeringen er overordnet positiv over for at der etableres en global

ramme for udvikling og anvendelse af kunstig intelligens i form af ud-

kastet til Europarådets konvention om kunstig intelligens.

Regeringen arbejder for, at konventionen ikke finder anvendelse på

kunstig intelligensaktiviteter relateret til beskyttelsen af den nationale

sikkerhed. Herudover arbejder regeringen for, at bestemmelserne i

konventionen er forenelige med bestemmelserne i EU’s kommende

forordning om kunstig intelligens.

Regeringen arbejder for, at forslaget til konventionen bidrager til en

retsstilling, hvor alvorlige risici adresseres, samtidig med at teknolo-

gien kan udvikles og anvendes, også ud

over EU’s grænser, til gavn

for vores samfund og i overensstemmelse med respekt for menneske-

rettighederne, demokratiet og retsstatsprincippet.

2. Baggrund

Den 11. september 2019 besluttede Europarådets Ministerkomité at

nedsætte et ad hoc-udvalg for kunstig intelligens (CAHAI), som havde

til formål at undersøge muligheden for og udarbejde et udkast til en

retlig ramme for udvikling, design og anvendelse af kunstig intelli-

gens, som er baseret på standarder fra Europarådet om menneskeret-

tigheder, demokrati og retsstatsprincippet samt eksisterende relevante

internationale juridiske instrumenter. Den 3. december 2021 afslut-

tede CAHAI sit arbejde og fremlagde et slutdokument, der identifice-

rede de mulige elementer i en sådan retlig ramme. Europarådets Mi-

nisterkomité har efterfølgende nedsat udvalget for kunstig intelligens

(CAI). CAI har fået til opgave hurtigst muligt at udarbejde en juridisk

bindende retsakt af tværgående karakter ("konvention"/ "rammekon-

vention") om kunstig intelligens baseret på Europarådets standarder

for menneskerettigheder, demokrati og retsstatsprincippet med fokus

på generelle fælles principper, der fremmer innovation, og som er

Side 2/10

EUU, Alm.del - 2023-24 - Bilag 424: Samlenotat om Europarådets konvention om kunstig intelligens

åbne for tredjelandes deltagelse, idet der tages hensyn til andre eksi-

sterende relevante internationale retlige rammer eller rammer under

udvikling.

CAI har den 30. juni 2022 fremlagt et første udkast til Europarådets

kommende konvention om kunstig intelligens, menneskerettigheder,

demokrati og retsstatsprincippet (konvention om kunstig intelligens).

Udkastet til konvention lægger op til at fastlægge overordnede og

grundlæggende principper og regler, der skal sikre, at kunstig intelli-

gens-systemer designes, udvikles og anvendes i overensstemmelse

med respekten for menneskerettighederne, et velfungerende demo-

krati og overholdelsen af retsstatsprincippet. Forhandlingerne i Euro-

parådet om den kommende konvention om kunstig intelligens befin-

der sig på nuværende tidspunkt på et fremskredent stadie.

Kommissionen fremsatte den 18. august 2022 henstilling om en råds-

afgørelse, som bemyndiger Kommissionen til at føre forhandlinger om

Europarådets kommende konvention om kunstig intelligens på vegne

af Den Europæiske Union. Rådsafgørelsen har hjemmel i TEUF arti-

kel 114 og 218, stk. 3 og 4.

Kommissionens forslag om rådsafgørelse var ikke omfattet af retsfor-

beholdet. Grundet retsforbeholdet er Danmark dog ikke omfattet af

EU’s

regler om medlemsstaternes behandling af personoplysninger

under udøvelsen af aktiviteter, der er omfattet af retsforbeholdet, hvor-

for Kommissionen ikke har kompetence til at forhandle på vegne af

Danmark på dette område. Forhandlingsmandatet er derfor kun bin-

dende for Danmark for så vidt angår spørgsmål, der er omfattet af

EU’s eksklusive kompetence.

Konventionen om kunstig intelligens indeholder ikke specifikke be-

stemmelser om de retshåndhævende myndigheders brug af kunstig in-

telligens. Det er dog forventningen, at de retshåndhævende myndig-

heder vil være omfattet af konventionens anvendelsesområde. Dermed

vil konventionen sætte en overordnet ramme for de retshåndhævende

myndigheders brug af kunstig intelligens.

Side 3/10

EUU, Alm.del - 2023-24 - Bilag 424: Samlenotat om Europarådets konvention om kunstig intelligens

Rådets afgørelse om forhandlingsmandat til Kommissionen blev ved-

taget ved rådsafgørelse 2022/2349 af 21. november 2022.

Europarådets konvention om kunstig intelligens har foreløbigt været

behandlet på 10 plenarmøder i CAI. Forhandlingerne er på det afslut-

tende stadie. Det forventes, at konventionen vedtages på et minister-

møde den 17. maj 2024.

Europarådets konvention om kunstig intelligens overlapper i betydelig

grad med EU’s forordning om kunstig intelligens med hensyn til an-

vendelsesområde og indhold. Udkastet til Europarådets konvention

om kunstig intelligens har dog et bredere udenrigspolitisk sigte ift. at

bidrage til de globale rammer for design, udvikling og anvendelse af

kunstig intelligens ud over EU’s grænser. Hvor forslaget om en for-

ordning om kunstig intelligens er industri- og indre markedsorienteret,

er udkastet til Europarådets konvention om kunstig intelligens i højere

grad fokuseret på at beskytte demokrati og menneskerettigheder. De

to forslag supplerer således hinanden. Forordningen om kunstig intel-

ligens indeholder desuden specifikke bestemmelser om de retshånd-

hævende myndigheders brug af kunstig intelligens, der er omfattet af

retsforbeholdet. Europarådets konvention om kunstig intelligens inde-

holder mere overordnede bestemmelser, der ligeledes vil finde anven-

delse for de retshåndhævende myndigheder.

3. Formål og indhold

Udkastet til konventionen om kunstig intelligens er en rammekonven-

tionen, som overordnet har til formål at sikre, at aktiviteter inden for

livscyklussen af kunstige intelligenssystemer er fuldt ud i overens-

stemmelse med menneskerettigheder, demokrati og retsstatsprincip-

pet.

Konventionen har været forhandlet i regi af Europarådets udvalg for

kunstig intelligens (CAI).

Side 4/10

EUU, Alm.del - 2023-24 - Bilag 424: Samlenotat om Europarådets konvention om kunstig intelligens

Udkastet til konventionen indeholder en definition af kunstig intelli-

genssystemer, der bygger på den senest reviderede definition vedtaget

af OECD den 8. november 2023.

Udkastet til konventionen opstiller en række generelle forpligtelser,

der skal sikre, at menneskerettighederne samt integriteten, uafhængig-

heden og effektiviteten af demokratiske institutioner og processer,

herunder princippet om magtadskillelse, respekt for domstolenes uaf-

hængighed og adgang til domstolene, er sikret ved kunstig intelligens-

aktiviteter.

Udkastet til konventionen indeholder endvidere en række overordnede

principper relateret til aktiviteter inden for livscyklussen af kunstig in-

telligenssystemer. Det gælder bl.a. respekt for den menneskelige vær-

dighed og individets autonomi, respekt for ligestillingen og et forbud

mod diskrimination samt at aktiviteterne sker i overensstemmelse med

privatlivsrettighederne og databeskyttelsesreglerne.

Udkastet til konventionen indeholder endeligt generelle bestemmelser

om en opfølgningsmekanisme og samarbejde, herunder også en pligt

til afrapportering inden for to år om gennemførelsen af konventionen.

Udkastet til konventionen indeholder ligeledes en bestemmelse, der

gør det muligt for de EU-medlemsstater, der bliver parter i konventi-

onen, at regulere deres indbyrdes forbindelser på grundlag af EU-ret-

ten.

Den videre proces

Forhandlingerne om konventionen om kunstig intelligens er på et

fremskredent stadie, og det forventes, at konventionen formelt bliver

vedtaget på ministerrådsmøde den 17. maj 2024.

Den videre proces for underskrivning og eventuel ratifikation af kon-

ventionen er endnu ikke fastlagt.

Det er ligeledes endnu uvist, om EU skal tiltræde konventionen på

Unionens vegne

–

hvilket ville betyde, at konventionen ikke skal rati-

ficeres i de nationale parlamenter, men at Rådet i overensstemmelse

Side 5/10

EUU, Alm.del - 2023-24 - Bilag 424: Samlenotat om Europarådets konvention om kunstig intelligens

med proceduren i TEUF art. 218 vedtager en afgørelse om underteg-

nelse og en afgørelse om indgåelse

–

eller om både Unionen og med-

lemsstaterne efterfølgende skal undertegne og ratificere konventio-

nen. Regeringen afventer en juridisk vurdering af spørgsmålet fra

Kommissionens juridiske tjeneste og Rådets juridiske tjeneste.

4. Europa-Parlamentets udtalelser

Europa-Parlamentet skulle ikke udtale sig om henstillingen om råds-

afgørelse om forhandlingsmandat til Kommissionen, men Europa-

Parlamentet blev informeret fuldt ud på alle trin af forhandlingerne om

rådsafgørelsen i overensstemmelse med TEUF artikel 218, stk. 10.

5. Nærhedsprincippet

Kommissionen fremhævede i forbindelse med henstilling om rådsaf-

gørelse om bemyndigelse til at indlede forhandlinger på vegne af Den

Europæiske Union om en europarådskonvention om kunstig intelli-

gens, menneskerettigheder, demokrati og retsstatsprincippet, at en

ensrettet tilgang er nødvendig for at sikre en konsekvent og ensartet

fortolkning af EU’s regler for kunstig intelligens, og for at sikre at

Europarådets kommende konvention om kunstig intelligens er fuldt

ud i overensstemmelse med eksisterende og fremtidig EU-ret på om-

rådet.

Kommissionen henviser i den forbindelse til, at det følger af TEUF

artikel 3, stk. 2, at Unionen

–

i spørgsmål vedrørende design, udvikling

og anvendelse af kunstig intelligens-systemer, der i vidt omfang er

omfattet af EU-retten, eller som forventes at blive omfattet efter EU-

rettens udvikling inden for en overskuelig fremtid, og navnlig den

kommende forordning om kunstig intelligens

–

har kompetence til at

føre forhandlingerne om Europarådets kommende konvention om

kunstig intelligens.

Regeringen er enig i vurderingen af, at nærhedsprincippet er over-

holdt.

Side 6/10

EUU, Alm.del - 2023-24 - Bilag 424: Samlenotat om Europarådets konvention om kunstig intelligens

6. Gældende dansk ret

Det bemærkes generelt i forhold til den kommende Europarådskon-

vention om kunstig intelligens, at der på nuværende tidspunkt ikke er

en specifik juridisk ramme for kunstig intelligens på nationalt plan.

På europæisk plan blev der den 8. december 2023 opnået en aftale i

trilog om forordningen om kunstig intelligens. Denne blev godkendt i

Rådet den 2. februar 2024 og af Europa-Parlamentets Udvalg den 13.

februar 2024. Europa-Parlamentet vedtog forordningen den 13. marts

2024. Forordningens regler vil trinvist finde anvendelse fra den 1. ja-

nuar 2025.

Udviklingen og anvendelsen af kunstig intelligens er derudover un-

derlagt eksisterende lovgivning, der ikke nødvendigvis indeholder

specifikke krav til kunstig intelligens, men alligevel fastsætter regler

om eksempelvis beskyttelse af grundlæggende rettigheder, herunder

blandt andet ligestilling, forbrugerbeskyttelse og databeskyttelse.

7. Konsekvenser

Lovgivningsmæssige konsekvenser

Det er ikke endelig afklaret på nuværende tidspunkt, om det vil have

lovgivningsmæssige konsekvenser, hvis konventionen skal finde an-

vendelse i Danmark.

Det vurderes umiddelbart, at hovedparten af konventionens bestem-

melser vil anses for gennemført i dansk ret, når forordningen om kun-

stig intelligens træder i kraft.

Det kan dog ikke udelukkes, at der i forbindelse med en eventuel

dansk ratifikation vil blive behov for at vedtage supplerende bestem-

melser om de retshåndhævende myndigheders brug af kunstig intelli-

gens, da Danmark på grund af retsforbeholdet ikke er omfattet af eller

bundet af de bestemmelser i forordningen om kunstig intelligens, som

omhandler politiets brug af ansigtsgenkendelse.

Side 7/10

EUU, Alm.del - 2023-24 - Bilag 424: Samlenotat om Europarådets konvention om kunstig intelligens

Økonomiske konsekvenser

Konventionen medfører ikke i sig selv statsfinansielle konsekvenser.

Det bemærkes, at eventuelle statsfinansielle konsekvenser, hvis Dan-

mark vælger at ratificere konventionen, ikke er afklaret på nuværende

tidspunkt.

Andre konsekvenser og beskyttelsesniveauet

Eventuelle andre konsekvenser, hvis Danmark vælger at ratificere Eu-

roparådskonventionen, er ikke afklaret på nuværende tidspunkt.

8. Høring

Forslaget til rådsafgørelse om forhandlingsmandat blev sendt i høring

i EU-specialudvalget for Politimæssigt og Retligt Samarbejde og i

EU-specialudvalget for Konkurrenceevne, vækst og forbrugerspørgs-

mål. Der indkom høringssvar fra Dansk Erhverv.

Der henvises til høringssvarene i grund- og nærhedsnotat af 25. okto-

ber 2022.

9. Generelle forventninger til andre landes holdninger

Udkastet til konventionen har foreløbigt været behandlet på 10 plenar-

møder i CAI. Der ses ikke at være officielle udmeldinger fra de øvrige

medlemmer af Europarådet i forhold til udkastet til konventionen. Der

har dog overordnet set være opbakning blandt medlemmerne under

forhandlingerne. Det forventes på den baggrund, at der vil være gene-

rel opbakning blandt medlemsstaterne til forhandlingernes endelige

resultat.

10. Regeringens generelle holdning

Regeringen stiller sig generelt positivt over for den linje, Kommissio-

nen har lagt ved forhandlingerne om konventionen, og det forventes,

at regeringen vil kunne støtte vedtagelsen af konventionen.

Regeringen anser kunstig intelligens som en af de afgørende teknolo-

gier til at understøtte Danmarks konkurrenceevne, velstand, grønne

Side 8/10

EUU, Alm.del - 2023-24 - Bilag 424: Samlenotat om Europarådets konvention om kunstig intelligens

omstilling samt den offentlige forvaltning. Regeringen anerkender

imidlertid, at anvendelsen af kunstig intelligens kan indebære en

række risici, der kan underminere en etisk, ansvarlig og sikker anven-

delse af kunstig intelligens.

Regeringen støtter, at risiciene ved kunstig intelligens adresseres i en

europæisk lovgivningsramme. Regeringen finder det centralt, at der

med forslaget til konvention søges opnået en ansvarlig og etisk ramme

for anvendelse af kunstig intelligens-løsninger og dataene bag disse.

Regeringen har under forhandlingerne fokuseret på, at Kommissionen

under forhandlingerne har holdt sig inden for rammerne af den eksi-

sterende kompetencefordeling, herunder for så vidt angår beskyttelse

af den nationale sikkerhed, der i henhold til TEU artikel 4, stk. 2, er

medlemsstaternes kompetence. På den baggrund har man fra regerin-

gens side arbejdet for, at national sikkerhed ikke er omfattet af kon-

ventionens anvendelsesområde.

Regeringen finder det desuden centralt, at bestemmelserne i Europa-

rådets kommende konvention om kunstig intelligens er forenelige med

bestemmelserne i den kommende forordning om kunstig intelligens.

Regeringen finder det vigtigt, at Kommissionen under forhandlin-

gerne har stilet efter, at konventionen indeholder den rette balance,

hvor alvorlige risici adresseres, samtidig med at udvikling og anven-

delse af teknologien også ud over EU’s grænser er til gavn for vores

samfund og i overensstemmelse med respekt for menneskerettigheder,

demokrati og retsstatsprincipper. I den henseende finder regeringen

det vigtigt, at konventionen tager højde for eksisterende lovgivning,

og at der ikke skabes unødige administrative og økonomiske byrder

for virksomheder og offentlige myndigheder.

Regeringen arbejder generelt på at afklare den videre proces for ved-

tagelse, undertegnelse og ratifikation af konventionen, herunder om

det er Unionen, der skal underskrive konventionen, eller om både Uni-

onen og medlemsstaterne skal tiltræde konventionen.

Side 9/10

EUU, Alm.del - 2023-24 - Bilag 424: Samlenotat om Europarådets konvention om kunstig intelligens

11. Tidligere forelæggelser for Folketingets Europaudvalg

Sagen har været forelagt for Folketingets Europaudvalg på mødet den

27. oktober 2022 til orientering.

Side 10/10