EU’s AI Act og danskernes krav om regulering af generativ AI

EU har taget et historisk skridt med verdens første omfattende lovgivning om kunstig intelligens. I december 2024 indgik medlemslandene en foreløbig politisk aftale om European AI Act, der forventes førstebehandlet i Europa-Parlamentet i begyndelsen af 2025 med ikrafttræden senere samme år. Udarbejdelsen af loven har strakt sig over mere end 2½ år og markerer et vendepunkt i reguleringen af en teknologi, der hurtigt er blevet en integreret del af samfundet. Samtidig viser ny forskning fra Syddansk Universitet (SDU), at danskerne i overvejende grad bakker op om behovet for klare rammer og etiske retningslinjer for både udvikling og brug af AI.

For danske ledere, specialister og iværksættere rummer udviklingen både udfordringer og muligheder. EU’s AI Act introducerer juridisk usikkerhed omkring bødeniveauer og implementeringstidspunkt, mens danskernes holdning signalerer en klar forventning om ansvarlig AI-brug. I uddannelsessektoren varsler regeringens planer om en "strakspakke" mod AI-misbrug i gymnasiet allerede fundamentale ændringer i eksamensformer og lektiekultur fra næste skoleår.

EU’s AI Act: Bøder, risikoklasser og konkrete forbud

European AI Act opererer med en detaljeret risikobaseret klassificering, der opdeler AI-systemer i fire niveauer. Systemer med "uacceptabel risiko" forbydes helt, og listen over forbudte applikationer er konkret og omfattende. Det drejer sig blandt andet om:

• Biometriske identifikationssystemer, der baserer sig på følsomme karakteristika som etnicitet, seksualitet eller religion
• Ikke-målrettet indsamling af ansigtsbilleder med henblik på opbygning af ansigtsgenkendelsesdatabaser
• Følelsesgenkendelse på arbejdspladser og uddannelsesinstitutioner
• Social scoring-systemer, der rangerer borgere baseret på adfærd
• Systemer, der manipulerer folks frie vilje eller udnytter sårbarheder, f.eks. ved at påvirke beslutninger på en uetisk måde

For virksomheder, der overtræder loven, er sanktionerne hårde. Bøderne varierer mellem 7,5 millioner euro (svarende til 1,5% af den globale omsætning) og op til 35 millioner euro (7% af den globale omsætning), afhængigt af overtrædelsens art og virksomhedens størrelse. Det betyder, at store tech-giganter med milliardomsætninger kan risikere bøder i milliardklassen ved grove overtrædelser.

Generativ AI, herunder chatbots som ChatGPT, falder under kategorien "begrænset risiko". Her er kravene primært rettet mod transparens: Brugere skal tydeligt informeres, når de interagerer med AI, og når indhold – uanset om det er tekst, billeder, video eller lyd – er genereret eller manipuleret af AI. Derudover stilles der krav om, at udviklere skal give indsigt i, hvilken data modellerne er trænet på, så brugerne kan vurdere pålideligheden og eventuelle bias i systemerne.

Danskerne kræver regulering og etik – men EU-loven fokuserer primært på brug

En omfattende undersøgelse foretaget af forsker Mia Stenbro Lorenzen fra Syddansk Universitet (SDU) i projektet Citizens, Digitalisation, and AI (CDAI) viser, at danskerne i høj grad støtter regulering af generativ AI. Undersøgelsen, der omfatter 1.227 respondenter, afdækker en bred konsensus om behovet for klare rammer:

• 73% mener, der i nogen eller høj grad er behov for regulering af generativ AI
• 86% mener, der bør være etiske retningslinjer for udviklingen af AI
• 86% mener, der bør være etiske retningslinjer for brugen af AI
• 74% ser behov for regulering af private virksomheders brug af AI
• 66% ser behov for regulering af private borgeres brug af AI

Undersøgelsen afslører et potentielt mismatch mellem danskernes ønsker og det fokus, EU’s AI Act lægger. Mens danskerne i høj grad ønsker regulering af både udvikling og brug af AI, koncentrerer EU-forordningen sig primært om brugen af teknologien. Det efterlader et reguleringsmæssigt tomrum, når det kommer til de etiske og praktiske aspekter ved udviklingen af AI-systemer – et område, som danskerne tydeligt ønsker adresseret.

Resultaterne fra CDAI-projektet understreger, at der blandt danskerne er en klar forventning om, at AI udvikles og anvendes på en ansvarlig måde, der tager højde for samfundets og den enkeltes rettigheder. Den brede støtte til etiske retningslinjer tyder på, at danskerne ikke blot ser regulering som en nødvendighed, men også som en forudsætning for at opretholde tillid til teknologien.

Regeringens strakspakke: AI-frie lektier, gruppeeksamen og økonomiske konsekvenser

I uddannelsessektoren har generativ AI allerede sat dybe spor. Årets studenter er de første, der har haft adgang til værktøjer som ChatGPT gennem hele deres gymnasietid, og konsekvenserne begynder at vise sig. 25 gymnasielærere har meldt om markant svækkede kompetencer blandt eleverne, hvilket har fået undervisningsminister Magnus Heunicke (S) til at handle. I juni 2026 varslede han en "strakspakke" for at begrænse AI-misbrug i gymnasiet, med implementering allerede til næste års eksaminer.

Strakspakken indeholder flere konkrete tiltag:

• Lektier flyttes ind på skolen i AI-frie omgivelser for at sikre, at eleverne udfører opgaverne uden hjælp fra generativ AI. Det betyder en omorganisering af skoledagen og kræver, at skolerne etablerer fysiske rammer, hvor AI ikke kan anvendes.
• Gruppeeksamen får comeback som et middel til at begrænse elevernes adgang til AI under prøverne. Ved at lade eleverne arbejde sammen i grupper under opsyn reduceres muligheden for at benytte eksterne værktøjer til at løse opgaverne.
• Ændringerne træder i kraft til næste års eksaminer, hvilket giver skolerne kort tid til at tilpasse sig de nye regler.

De økonomiske konsekvenser af strakspakken skal konkretiseres på Sorø-mødet i august 2026. Blandt de forventede udgifter er behovet for flere censorer til at håndtere de ændrede eksamensformer, hvilket vil belaste skolernes budgetter. Initiativet har dog ikke kun mødt opbakning. Dansk Industri (DI) advarer mod at forbigå AI fuldstændigt i uddannelsessystemet. Uddannelseschef Anne Fløe fra DI understreger:

Teknologien er her, og man kan ikke lade som om, den ikke er det.

Ifølge DI bør man i stedet integrere AI i undervisningen ved at indføre et fag om teknologiforståelse, der giver eleverne kompetencer til at anvende AI på en kritisk og ansvarlig måde. Kritiken fra DI afspejler en bredere diskussion om, hvorvidt forbud og restriktioner er den rette vej, eller om uddannelsessystemet i stedet bør tilpasse sig den nye teknologi og lære eleverne at navigere i den.

Konsekvenser for danske virksomheder, uddannelse og samfundet

For danske ledere og iværksættere medfører EU’s AI Act en række udfordringer, der kræver øjeblikkelig opmærksomhed. Den juridiske usikkerhed omkring bødeniveauer og det præcise implementeringstidspunkt nødvendiggør, at virksomhederne hurtigt sætter sig ind i de nye regler og sikrer overholdelse. Med bøder op til 7% af den globale omsætning kan manglende compliance få alvorlige økonomiske konsekvenser, især for store virksomheder med international drift. Samtidig signalerer danskernes klare støtte til regulering og etik, at der er en forventning om ansvarlig AI-brug, hvilket kan påvirke forbrugeradfærd og virksomheders omdømme. Forbrugere og samarbejdspartnere vil i stigende grad forvente, at virksomhederne opererer inden for de etiske og juridiske rammer, som loven fastsætter.

I uddannelsessektoren vil regeringens strakspakke have øjeblikkelige og vidtrækkende konsekvenser. Flytning af lektier til skolen og genindførelse af gruppeeksamen vil ændre den daglige undervisning og eksamensformer fundamentalt. For lærere betyder det en tilpasning til nye undervisningsmetoder og en øget arbejdsbyrde i forbindelse med opsyn og bedømmelse. For eleverne indebærer det en ny måde at arbejde på, hvor adgang til AI-værktøjer bliver begrænset under visse omstændigheder. Skolerne står over for praktiske udfordringer, herunder behovet for at etablere AI-frie zoner og ansætte flere censorer, hvilket vil have økonomiske implikationer, der endnu ikke er fuldt ud afklaret.

For specialister og beslutningstagere i Danmark og Norden som helhed er det afgørende at følge udviklingen tæt. EU’s AI Act skaber et fælles rammeværk for regulering af AI i Europa, men de nationale initiativer, som den danske strakspakke, viser, hvordan landene kan supplere de europæiske regler med egne løsninger. Den danske tilgang til uddannelse kan tjene som inspiration for andre nordiske lande, der står over for lignende udfordringer med AI i skolesystemet. Samtidig understreger den brede danske støtte til regulering og etik, at der er et klart behov for at balancere innovation med ansvarlighed – en udfordring, der vil præge debatten om AI i de kommende år.