AI i din hollandske virksomhed: Risici ved overholdelse af GDPR og AI-loven

Brug af AI i din hollandske virksomhed

Hvis din hollandske virksomhed bruger kunstig intelligens (AI), der behandler personoplysninger, gælder GDPR (AVG) fuldt ud i dag, håndhævet af den hollandske databeskyttelsesmyndighed (Autoriteit Persoonsgegevens, AP). Derudover pålægger EU's AI-lov pligter, der afhænger af systemets risiko: forbuddene mod forbudte praksisser og pligten til AI-færdigheder har været gældende siden 2. februar 2025, mens størstedelen af ​​højrisikoordningen er blevet udskudt.

Den mest almindelige fejl er at behandle AI som et fremtidigt compliance-problem. Udsættelsen i AI-loven suspenderer ikke noget i GDPR. Denne side forklarer, hvilke regler der gælder nu, hvilke der kommer senere, og hvad du bør gøre først.

Hvilke GDPR-regler gælder, når du bruger AI?

Alle sammen, så snart AI-systemet behandler personoplysninger. Du skal bruge et retsgrundlag for hver behandlingsoperation, et specifikt formål og ikke flere data end det pågældende formål kræver.

De sædvanlige retsgrundlag er: samtykke, opfyldelse af en kontrakt, en juridisk forpligtelse eller en legitim interesse. Formålsbegrænsning er vigtigst med AI. Kundedata, du har indsamlet for at køre en chatbot, må ikke blot genbruges til at træne en anden model. Hvis du køber et AI-værktøj, skal du kontrollere, om leverandøren bruger dit input til at træne sine egne modeller. Hvis den gør det, behandler leverandøren muligvis data til sine egne formål, og du har brug for klare kontraktvilkår for dataansvarliges og databehandleres roller.

AP har påpeget, at mange AI-modeller blev trænet på data hentet fra internettet uden et gyldigt juridisk grundlag. Som bruger er du fortsat ansvarlig for din egen behandling, så du kan ikke overdrage dine GDPR-forpligtelser til AI-udbyderen.

Erhvervsfolk på et moderne kontor diskuterer AI og dataoverholdelse med digitale skærme, der viser abstrakt teknologigrafik og en visning af Amsterdam uden for vinduerne.

Hvad med følsomme data?

Særlige kategorier af personoplysninger, såsom helbredsoplysninger, etnisk oprindelse, religion og biometriske data, der bruges til at identificere en person, må i princippet ikke behandles. Kun snævre undtagelser i GDPR og den hollandske GDPR-implementeringslov (UAVG) tillader det.

Kunstig intelligens, der bruges til rekruttering, kundeprofilering eller sundhedsydelser, berører hurtigt sådanne data, nogle gange indirekte, fordi en model kan udlede dem. Identificer, hvilke systemer der behandler følsomme data, begræns inputtet, og dokumenter den undtagelse, du er afhængig af. Hvis ingen af ​​dem gælder, må du ikke bruge systemet til det formål.

Hvornår må AI træffe beslutninger om mennesker?

GDPR forbyder afgørelser udelukkende baseret på automatiseret behandling, der har retsvirkninger eller lignende betydelige virkninger for en person, såsom afvisning af en låneansøgning eller en jobansøger, medmindre en snæver undtagelse finder anvendelse.

Hvor en undtagelse gælder, har personen ret til menneskelig indgriben, til at udtrykke sine synspunkter og til at anfægte beslutningen. Du skal også fortælle folk, at der finder automatiseret beslutningstagning sted, og give meningsfuld information om den involverede logik og dens konsekvenser. Du behøver ikke at afsløre forretningshemmeligheder, men en generel erklæring om, at "der anvendes kunstig intelligens", er ikke nok. Ægte menneskelig gennemgang betyder, at den, der gennemgår, har autoriteten og informationen til at ændre resultatet.

Erhvervsfolk diskuterer AI og risici for databeskyttelse på et moderne hollandsk kontor med digitale teknologiske visualiseringer i baggrunden.

Hvornår har du brug for en DPIA?

En konsekvensanalyse vedrørende databeskyttelse (DPIA) er obligatorisk før behandling, der sandsynligvis vil resultere i en høj risiko for de berørte personer. Kunstig intelligens, der anvendes til profilering, evaluering af medarbejdere eller ansøgere eller kombination af store datasæt, vil ofte opfylde denne tærskel.

DPIA'en beskriver behandlingen og dens formål, tester nødvendighed og proportionalitet, identificerer risiciene og fastlægger dine foranstaltninger. Hvis der fortsat er en høj risiko, skal du konsultere AP'en, før du starter. Gentag DPIA'en, når du ændrer systemet eller de data, det bruger.

Hvad kræver AI-loven, og hvornår?

AI-loven opdeler systemer i fire niveauer: forbudte praksisser, højrisikosystemer, systemer med gennemsigtighedsforpligtelser og minimalrisikosystemer. Den gælder for udbydere og distributører, hvilket betyder virksomheder, der bruger et AI-system under deres egen myndighed.

DatoHvad gælder
2 februar 2025Forbud mod forbudte AI-praksisser; Pligt til at kende AI for udbydere og distributører
August 2 2025Regler for udbydere af generelle AI-modeller; forvaltnings- og sanktionsbestemmelser
August 2 2026Generel anvendelsesdato, herunder gennemsigtighedspligterne
udskudtHøjrisikoregler, udskudt af AI-omnibus (forordning (EU) 2026/1744, gældende siden 27. juli 2026)

Udsættelsen vedrører kun højrisikoordningen. I henhold til omnibusordningen er det planlagt, at højrisikoreglerne for de områder, der er anført i lovens bilag, såsom beskæftigelse og kreditvurdering, skal gælde fra den 2. december 2027, og reglerne for kunstig intelligens i produkter, der allerede er omfattet af EU's produktlovgivning, skal gælde fra den 2. august 2028.

Hvilke AI-anvendelser er højrisiko?

Højrisikosystemer omfatter kunstig intelligens, der anvendes inden for ansættelse og HR (f.eks. til at screene ansøgere eller evaluere personale), i adgangen til essentielle tjenester såsom kreditvurdering og forsikringspriser, inden for uddannelse, kritisk infrastruktur, retshåndhævelse, migration og retsadministration.

For disse systemer skal distributørerne bruge dem i henhold til instruktionerne, sikre menneskeligt tilsyn af uddannet personale, overvåge deres drift og føre logfiler. Nogle distributører skal også udføre en konsekvensanalyse af grundlæggende rettigheder. En generel model, såsom en stor sprogmodel, kan blive en del af et højrisikosystem, når du bruger den til et af disse formål, såsom CV-screening.

En gruppe forretningsfolk diskuterer dokumenter og bærbare computere omkring et konferencebord med en digital skærm, der viser EU-symboler og AI-ikoner i baggrunden.

Hvad er gennemsigtighedsforpligtelserne?

Folk skal vide, når de har med AI at gøre. En chatbot skal gøre det klart, at det ikke er et menneske, og AI-genererede eller manipulerede billeder, lyd eller video (deepfakes) skal oplyses som sådan.

De fleste daglige anvendelser, såsom udarbejdelse af e-mails, opsummering af dokumenter, spamfiltre eller lagerplanlægning, indebærer minimal risiko og medfører ingen specifikke forpligtelser i henhold til AI-loven ud over AI-færdigheder. GDPR gælder stadig, hvis personoplysninger er involveret.

Hvem fører tilsyn med kunstig intelligens i Holland?

For personoplysninger, AP. For AI-loven bygger Holland videre på eksisterende sektortilsynsførende, hvor AP fører tilsyn med områder uden en sektortilsynsførende, og den hollandske myndighed for digital infrastruktur (Rijksinspectie Digitale Infrastructuur, RDI) koordinerer.

Den hollandske lov, der forankrer denne struktur (Uitvoeringswet AI-verordening), er stadig et lovforslag. Indtil den træder i kraft, foregår håndhævelsen af ​​AI-relaterede brud i vid udstrækning gennem GDPR, hvortil AP ikke behøver nye beføjelser. Hvis dit AI-system understøtter en essentiel eller vigtig tjeneste, kan cybersikkerhedsloven (Cyberbeveiligingswet), der er trådt i kraft siden 15. august 2026, også finde anvendelse.

Hvad betyder AI-færdigheder i praksis?

Siden den 2. februar 2025 skal udbydere og distributører træffe foranstaltninger for at sikre, at personale, der betjener eller bruger AI-systemer, har et tilstrækkeligt niveau af AI-færdigheder. Pligten er risikobaseret: hvad der er tilstrækkeligt, afhænger af systemet og hvad medarbejderne gør med det.

  • Vedtag en skriftlig AI-politik, der angiver, hvilke værktøjer der er godkendte, og hvilke data der må indtastes.
  • Træn personale pr. rolle: HR i rekrutteringsværktøjer og bias, marketing i profilering, kundeservice i chatbots.
  • Lær personalet at kontrollere output og eskalere fejl.
  • Registrer hvem der blev oplært, hvornår og i hvad.

Hvad bør man som virksomhed tjekke ved hjælp af AI?

  • Har I en oversigt over alle AI-systemer, der er i brug, deres leverandører, deres input og output?
  • Er der et retsgrundlag og et specifikt formål for hver behandling af personoplysninger?
  • Bruger leverandøren dine data til at træne sine egne modeller, og omhandler kontrakten det?
  • Træffer noget system beslutninger om mennesker uden reel menneskelig kontrol?
  • Har I udført en DPIA for højrisikobehandling?
  • Er nogen af ​​jeres anvendelser på listen over forbudte praksisser eller højrisikoområder?

Hvad skal man som AI-leverandør undersøge?

  • Er du udbyder i henhold til AI-loven, og hvilken risikokategori falder dit system ind under?
  • Blev dine træningsdata indsamlet med et gyldigt juridisk grundlag?
  • Får dine kunder de instruktioner og oplysninger, de har brug for til at opfylde deres egne opgaver?
  • Fortæller dit system brugerne, at de interagerer med AI, og mærker det genereret indhold?
  • Er jeres databehandleraftaler klare omkring den dataansvarliges og databehandlerens roller?

Hvad kan vi gøre for dig med AI og GDPR?

Vores IT- og privatlivsadvokater rådgiver virksomheder om begge ordninger på én gang.

  • Vi kortlægger jeres AI-systemer i forhold til risikokategorierne i AI-loven og GDPR.
  • Vi udarbejder jeres interne AI-politik og rammeværket for AI-kompetencer.
  • Vi gennemgår leverandørkontrakter og databehandleraftaler for AI-værktøjer.
  • Vi udfører eller gennemgår DPIA'er og konsekvensanalyser af grundlæggende rettigheder.
  • Vi hjælper dig med forespørgsler og undersøgelser foretaget af AP.

Resumé

  • GDPR gælder fuldt ud for enhver kunstig intelligens, der behandler personoplysninger; udsættelsen af ​​AI-loven ændrer intet her.
  • Forbudte praksisser og pligten til at forstå kunstig intelligens har været gældende siden 2. februar 2025; de fleste andre regler i henhold til AI-loven er trådt i kraft siden 2. august 2026.
  • Højrisikoordningen udskydes af AI-omnibusordningen (forordning (EU) 2026/1744).
  • Udelukkende automatiserede beslutninger med betydelige konsekvenser for personer er begrænsede og kræver sikkerhedsforanstaltninger.
  • Start med en opgørelse over dine AI-systemer; det bestemmer alle andre trin.

Ofte stillede spørgsmål

Betyder udsættelsen af ​​AI-loven, at jeg kan vente med at overholde reglerne?

Nej. Udsættelsen vedrører kun reglerne for højrisiko. Forbuddene mod forbudte praksisser og pligten til at forstå kunstig intelligens har været gældende siden den 2. februar 2025, og GDPR gælder fuldt ud for enhver kunstig intelligens, der behandler personoplysninger.

Kan jeg indtaste kunde- eller medarbejderdata i en offentlig AI-chatbot?

Kun hvis du har et juridisk grundlag, formålet er foreneligt, og leverandørens vilkår tillader det. Hvis leverandøren bruger dit input til at træne sine modeller, kan du videregive personoplysninger til et nyt formål; mange virksomheder forbyder derfor dette i deres AI-politik.

Er AI-baseret CV-screening tilladt?

Det er tilladt, men det er en højrisikoanvendelse i henhold til AI-loven og kræver normalt en DPIA i henhold til GDPR. En afvisning må ikke udelukkende baseres på automatiseret behandling uden de sikkerhedsforanstaltninger, som GDPR kræver, såsom reel menneskelig gennemgang.

Hvem håndhæver reglerne for kunstig intelligens i Holland?

Den hollandske databeskyttelsesmyndighed (AP) håndhæver GDPR. For AI-loven vil eksisterende sektortilsynsførende agere inden for deres egne sektorer, hvor AP for områder uden en sektortilsynsførende og RDI koordinerer; den hollandske implementeringslov er stadig et lovforslag.

Tom Meevis
Tom Meevis er advokat hos Law & More in Eindhoven og AmsterdamHan beskæftiger sig med almen praksis og er firmaets forhandler og procesfører.

Et spørgsmål om IT-lovgivning eller privatliv?

Send os et par linjer om dit spørgsmål på info@lawandmore.nlVi giver dig besked om, hvorvidt vi kan hjælpe, og hvad det næste skridt er. Vi vurderer ikke sager eller dokumenter via e-mail uden forudgående aftale.

Vil du have en IT-advokat til at vurdere din situation? I en betalt konsultation på 300 EUR inklusive moms får du et vejledende svar på dit spørgsmål.

Denne artikel indeholder generelle oplysninger og erstatter ikke rådgivning om din specifikke situation.

Har du brug for juridisk rådgivning?

Send os et par linjer om dit spørgsmål på info@lawandmore.nlVi giver dig besked om, hvorvidt vi kan hjælpe, og hvad det næste skridt er. Vi vurderer ikke sager eller dokumenter via e-mail uden forudgående aftale.

Vil du have en IT-advokat til at vurdere din situation? I en betalt konsultation på 300 EUR inklusive moms får du et vejledende svar på dit spørgsmål.

Relaterede artikler

Databeskyttelse i Holland hviler på to instrumenter: den generelle forordning om databeskyttelse (GDPR),

En online anmeldelse i Holland er lovlig, så længe den rapporterer en ægte

I henhold til hollandsk og europæisk lov kan en algoritme ikke være strafferetligt ansvarlig, ikke engang delvist. Artikel

I henhold til artikel 3:15a i den hollandske borgerlige lovbog (BW) har en elektronisk signatur det samme

Et softwareprojekt, der går i stå: brud, pligten til at samarbejde, ekspertbeviser,

Du kan stoppe eller udsætte fuldbyrdelsen af ​​en hollandsk dom ved at anmode retten om at