Kunstig intelligens (AI) er i hastig udvikling og implementeres allerede i flere dele af samfundet – også i retsplejen og forbrugerrettede processer. Med EU’s nye forordning om kunstig intelligens, også kendt som AI Act, træder vi ind i en ny æra, hvor teknologisk innovation og retsgarantier skal gå hånd i hånd. For os som advokater, og for de forbrugere og erhverv, vi repræsenterer, har dette vidtrækkende konsekvenser – både på det juridiske og det etiske plan.

AI Act (COM(2021) 206 final) sigter mod at regulere anvendelsen af AI-systemer gennem en risikobaseret tilgang, hvor højrisikosystemer – herunder dem, der påvirker borgeres rettigheder og pligter – underlægges streng regulering. Særligt relevant er artikel 5, der forbyder visse typer AI, artikel 14 om menneskelig kontrol og artikel 52 om krav til gennemsigtighed. Samtidig indføres der krav om ansvarlighed og klagemekanismer via det foreslåede AI Liability Directive (COM(2022) 496).

For os i advokatbranchen åbner det for både nye arbejdsfelter og et behov for opkvalificering. Samtidig medfører det nye rettighedsdimensioner for vores klienter inden for bl.a. familieret, strafferet, boligret og forvaltningsret.
AI Act trådte i kræft den. 1. august 2024 og implementeres gradvist over de kommende år.
Her er de vigtigste datoer for anvendelsen;

• 1. august 2024 – AI Act træder officielt i kraft. Fra denne dato begynder overgangsperioden, så virksomheder kan forberede sig.
• 2. februar 2025 – Forbud mod AI med uacceptabel risiko træder i kraft – fx manipulation og social scoring (jf. artikel 5).
• 2. august 2025 – Krav om åbenhed og ansvarlighed for generelle AI-systemer (GPAI) og etablering af tilsynsinstitutioner.
• 2. august 2026 – Hovedreglerne for højrisiko-AI træder i kraft – fx ved brug i retspleje, uddannelse og ansættelse.
• 2. august 2027 – Frist for tilpasning for højrisikosystemer i regulerede produkter, fx medicinsk udstyr og transportmidler.

FAMILIERET

Brugen af AI i sagsbehandling, fx i Familieretshuset, kan medføre øget effektivitet, men også risici for systemisk bias og manglende forståelse for den menneskelige kompleksitet i fx forældremyndigheds- og samværssager. AI-systemer, der vurderer samværsordninger ud fra standardiserede dataprofiler, kan utilsigtet skabe skævhed, især hvis de trænes på historiske data præget af kønsstereotyper.

Som advokater skal vi være kritiske over for algoritmernes beslutningslogik og kræve indsigt i datagrundlaget. Forbrugeren – den enkelte forælder – kan risikere at modtage afgørelser uden reel indsigt i, hvordan og hvorfor de er truffet. Ifølge artikel 52 i AI Act har borgeren krav på at blive informeret om, når en afgørelse helt eller delvist er truffet af et AI-system.

STRAFFERET

I flere lande anvendes AI til at vurdere risiko for recidiv eller til at prioritere politiressourcer. Sådanne forudsigelsessystemer kan påvirke efterforskning, anklage og domfældelse. I Danmark er udviklingen begyndt – og risikoen er, at borgere havner i risikogrupper baseret på historiske mønstre snarere end faktiske forhold.

Advokater skal være opmærksomme på, om AI har spillet en rolle i sagsopbygningen, og om klientens ret til en retfærdig rettergang (EMRK art. 6) er overholdt. For den sigtede borger eller den forurettede betyder det, at det bliver afgørende at kunne få indsigt i beslutningsgrundlaget – og sikre, at teknologien ikke bliver en retssikkerhedsmæssig blind vinkel.

FORVALTNINGSRET

AI anvendes allerede i forvaltningen – fx ved sagsbehandling i jobcentre, Udbetaling Danmark og Skat. Der anvendes systemer, som prioriterer sager, afgør ansøgninger og foreslår afgørelser. Det giver effektivitet, men udfordrer også legalitetsprincippet og retten til individuel vurdering.

Borgeren risikerer at få afslag på en ydelse uden at forstå hvorfor. Ifølge både AI Act artikel 14 og GDPR artikel 22 skal der være tilstrækkelig menneskelig kontrol over afgørelser, og borgeren skal kunne få dem prøvet manuelt. Som advokater skal vi derfor sikre, at forvaltningen ikke lader maskiner tage over, hvor skøn og empati burde spille en rolle.

BOLIGRET

AI benyttes i stigende grad til kreditvurdering, ejendomsvurdering og udlejning. Algoritmer vurderer risikoprofiler og kan medføre diskrimination – fx mod personer fra visse postnumre
eller med bestemte sociale markører. Som lejer eller boligkøber kan man blive fravalgt uden gennemsigtighed.

Advokaten skal sikre, at klientens sag bliver vurderet reelt og ikke algoritmisk skævvredet. Forbrugeren skal gøres opmærksom på retten til indsigt i datagrundlag og mulighed for at klage. AI Act artikel 52 og GDPR artikel 15 giver krav på sådan indsigt.

ERHVERVSRET

I erhvervsretlige sammenhænge, fx kontraktstyring, compliance og ansvarsvurderinger, stiller AI Act krav til virksomheder om dokumentation og compliance med AI-regler. Virksomheder skal kunne dokumentere AI-systemernes beslutningslogik og risikohåndtering for at undgå sanktioner og erstatningsansvar.

Advokater har her en central rolle i at rådgive virksomheder om compliance, risikostyring og forebyggelse af potentielle retstvister relateret til AI-anvendelse.

HVAD SKAL ADVOKATER VÆRE OPMÆRKSOMME PÅ?

• At AI-systemer ikke nødvendigvis overholder retsprincipper uden menneskelig mellemkomst.
• At gennemsigtighedskrav og pligten til at informere klienten bliver afgørende i alle typer sager.
• At ny lovgivning (AI Act og AI Liability Directive) skaber nye processuelle og materielle rettigheder.
• At teknologisk forståelse og digital opkvalificering bliver nødvendig i rådgivningssammenhæng.
• At der er nye muligheder for at føre principielle sager ved domstole og ankenævn, hvor AI har spillet en rolle.

HVAD BETYDER DET FOR FORBRUGEREN?

• At man har ret til at få at vide, om en afgørelse er AI-baseret.
• At man kan kræve manuel sagsbehandling i højrisikosystemer.
• At man skal oplyses om sine klagemuligheder og potentielle erstatningskrav ved skade.
• At man i stigende grad vil møde AI i kontakt med det offentlige, banker, ejendomsselskaber og domstole.
• At man risikerer at blive vurderet på basis af data, man ikke selv er klar over bruges.

Danmarks implementering af AI Act – Juridiske udfordringer og fremtidsperspektiver

Med AI Act (COM(2021) 206 final) har EU sat rammerne for en omfattende regulering af kunstig intelligens (AI). Mens tidligere fokus primært har været på den overordnede rammesætning, står Danmark nu overfor konkrete juridiske udfordringer i implementeringsfasen, særligt inden for håndhævelse og efterlevelse af reglerne i praksis.
En særlig juridisk udfordring ved implementeringen er grænsedragningen mellem AI Act og eksisterende databeskyttelsesret, herunder GDPR. Datatilsynet spiller en central rolle som både håndhæver og vejleder. I praksis betyder dette, at virksomheder og offentlige myndigheder skal navigere i komplekse dobbeltreguleringer, som kræver specialiseret juridisk rådgivning for at undgå compliance-risici.
Et konkret eksempel er brugen af AI til profilering og automatiserede afgørelser i finanssektoren. Danske banker har allerede igangsat interne compliance-processer for at sikre overensstemmelse med AI Act’s krav om transparens og ret til indsigt. Lovgivningen kræver, at virksomheder skal dokumentere, hvordan AI-beslutninger træffes, hvilket betyder, at bankerne nu må investere betydeligt i både teknologi og juridisk ekspertise for at efterleve kravene.
En anden væsentlig udfordring er retsanvendelsen inden for offentlig administration, hvor AI-systemer anvendes til alt fra jobcentrenes prioritering af borgersager til politiets risikovurderinger. Her opstår komplekse spørgsmål om ansvarsfordeling og kontrol, især når algoritmiske beslutninger viser sig at være fejlbehæftede eller diskriminerende. Dette har ført til juridiske diskussioner om, hvordan reglerne om ansvar og kompensation, som fastsat i AI Liability Directive (COM(2022) 496), bedst operationaliseres i dansk ret.

For advokater indebærer denne udvikling en øget rolle som rådgivere, ikke blot i forhold til compliance, men også med hensyn til risikoanalyse og forebyggelse af retstvister. Advokater vil skulle spille en proaktiv rolle i at sikre, at AI-anvendelse ikke alene lever op til lovgivningen, men også er i overensstemmelse med grundlæggende menneskerettigheder som beskyttet af den Europæiske Menneskerettighedskonvention (EMRK).
Danmarks tilgang indebærer således ikke blot en implementering af AI Act’s rammer, men en mere dybtgående juridisk bearbejdning af, hvordan kunstig intelligens kan integreres i det eksisterende retssystem. Dette betyder også, at advokatbranchen må forberede sig på nye specialiseringer og opkvalificering af medarbejdere inden for AI-juridiske områder.
På længere sigt vil implementeringen af AI Act i Danmark ikke blot være et spørgsmål om compliance, men også et strategisk valg om retssikkerhed og borgernes tillid til AI-teknologiens anvendelse.

Fremtiden inden for jura og AI

Samlet set markerer implementeringen af AI Act en væsentlig juridisk udvikling i Danmark, der ikke alene stiller nye krav til compliance og gennemsigtighed, men også rejser fundamentale spørgsmål om ansvar, retssikkerhed og borgernes rettigheder.

AI Act og relateret EU-lovgivning sætter for første gang en ramme for, hvordan kunstig intelligens må bruges i relation til borgerne. Det åbner for en række nye rettigheder for forbrugeren, men stiller samtidig store krav til advokaten som rådgiver og som garant for retssikkerhed. I takt med at AI udbredes til nye retsområder, må vi som branche tage aktiv stilling til, hvordan teknologien skal håndteres – og hvordan vi bedst beskytter borgernes rettigheder i en algoritmisk virkelighed.
Hos Nikolajsen Advokatfirma er vi på forkant med den teknologiske udvikling. Vi følger udviklingen i EU’s regulering af kunstig intelligens tæt og integrerer AI-jura og databeskyttelse i vores rådgivning. Vores mål er at sikre, at vores klienter – både private og erhverv – er beskyttet og klædt på til at navigere sikkert i en digitaliseret virkelighed.

Vi er klar til AI-fremtiden – og til at hjælpe dig sikkert gennem den.

KILDER:
– https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52021PC0206 (AI Act COM(2021) 206 final) COM(2022) 496 final)
– https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52022PC0496 (AI Liability Directive)
– https://eur-lex.europa.eu/eli/reg/2016/679/oj (GDPR)
– https://www.echr.coe.int/documents/convention_eng.pdf (EMRK artikel 6)
– https://eur-lex.europa.eu/legal-content/DA/TXT/?uri=CELEX%3A32016R0679 ( GDPR (Europa-Parlamentets og Rådets forordning (EU) 2016/679))
– https://www.echr.coe.int/documents/convention_dan.pdf (Den Europæiske Menneskerettighedskonvention (EMRK))