I henhold til hollandsk og europæisk lov kan en algoritme ikke være strafferetligt ansvarlig. Strafferetligt ansvar kræver en gerningsmand, som loven anerkender som en person, og artikel 51 i lovens § 1 udvider denne status kun til fysiske personer og juridiske personer. Et AI-system er et objekt, ikke en mistænkt. Det spørgsmål, der er relevant i praksis, er derfor ikke, om algoritmen er delvist ansvarlig, men hvilket menneske eller hvilken virksomhed, der er fuldt ud ansvarlig for, hvad den gjorde.
Det spørgsmål har allerede et veludviklet svar i hollandsk strafferet. Doktrinerne om funktionel forseelse (functioneel daderschap) og virksomheders strafferetlige ansvar blev udviklet til netop denne situation: skade forårsaget af et instrument, en organisation eller en proces snarere end af tiltaltes egne hænder. Denne artikel beskriver, hvordan disse doktriner gælder for AI, hvordan EU's AI-lov ændrer standarden for pleje, hvordan algoritmisk output behandles som bevis, og hvordan et forsvars- og et compliance-program bør se ud. For det bredere spørgsmål om at fordele ansvar på tværs af en forsyningskæde af udviklere, udbydere og brugere, se vores ledsagende artikel om, hvem der er ansvarlig, når en maskine begår en forbrydelse.
Hvorfor en algoritme ikke kan være mistænkt
En strafbar handling i henhold til hollandsk lov kræver en menneskelig handling eller undladelse, der passer til den lovpligtige definition af en lovovertrædelse, som er ulovlig, og som kan bebrejdes gerningsmanden. Hvert af disse elementer forudsætter en aktør med en vilje. En algoritme producerer output ved at udføre kode på data; den har ingen vilje til at danne sig, intet at bebrejde sig for, og intet, som en strafferetlig sanktion kunne nå. Artikel 51 Sr skabte plads til virksomheden sammen med individet, netop fordi en virksomhed handler gennem mennesker; der er ingen sammenlignelig bestemmelse for software, og oprettelsen af en sådan ville kræve, at lovgiver opfinder en ny kategori af juridisk person.
Det ville heller ikke tjene noget formål, som strafferetten anerkender. En straf eksisterer for at straffe, afskrække og, hvor det er muligt, korrigere. Ingen af disse funktioner kan udføres på en model. Sletning af vægtene i et neuralt netværk straffer dets ejer, ikke netværket. Alt, hvad strafferetten ønsker at opnå, når et AI-system forårsager skade, skal opnås gennem de personer og organisationer, der står bag det, hvilket er grunden til, at hollandsk praksis ikke behandler dette som et hul i loven.
Tabellen nedenfor viser uoverensstemmelsen mellem elementerne i en strafbar handling og hvad et AI-system rent faktisk er.
| Element | Hvad strafferetten kræver | Placering af et AI-system |
|---|---|---|
| En gerningsmand | En fysisk person eller en juridisk person i henhold til art. 51 Sr. | Ingen af delene. Systemet er et objekt, der ejes og drives af en anden. |
| En adfærd | En handling eller en culpøs undladelse, der kan tilskrives gerningsmanden. | Et output produceret af kode. Den tilskrivelige adfærd er beslutningen om at bygge, implementere eller lade den køre. |
| Forsæt eller uagtsomhed | Opzet, herunder betinget forsæt eller culpa i betydningen væsentlig uagtsomhed. | Ingen mental tilstand overhovedet. Forsæt og uagtsomhed findes, om nogen steder, hos de mennesker, der konfigurerede og overvågede det. |
| En sanktion | Fængsel, bøde, samfundsdom eller foranstaltning. | Ingen kan pålægges software. Sanktioner pålægges operatøren. |
Hvem er i stedet ansvarlig: funktionel handling og art. 51 Sr
Hollandsk strafferet har to mekanismer til at holde en person ansvarlig for handlinger, de ikke fysisk har udført. Begge blev udviklet længe før maskinlæring eksisterede, og begge passer til AI-sager uden ændringer.
Funktionel udøvelse
Functioneel daderschap gør det muligt at betragte en person som gerningsmand til en lovovertrædelse, der fysisk blev udført af en anden eller noget andet. De kriterier, som Hoge Raad formulerede i IJzerdraad-dommen, forbliver testen: tiltalte skal have haft beføjelse til at afgøre, om adfærden fandt sted (beschikken), og skal have accepteret den eller sædvanligvis accepteret en sådan adfærd (aanvaarden).
Anvendt på et AI-system er det første kriterium normalt ligetil, og det andet afgør sagen. Dispositionsbeføjelser vises ved evnen til at konfigurere systemet, indstille dets driftsgrænser, opdatere eller omskole det og frem for alt slukke det. Meget få operatører kan troværdigt sige, at de manglede denne beføjelse. Accept er det sværere spørgsmål, og det er der, beviserne går hen: hvad vidste operatøren om systemets fejltilstande, hvad der blev rapporteret ved test eller tidligere hændelser, hvad sagde risikovurderingen, og hvad der blev gjort ved det. Accept kræver ikke et ønske om resultatet. Det er nok, at operatøren bevidst accepterede en betydelig risiko, hvilket er den almindelige hollandske standard for betinget hensigt (voorwaardelijk opzet).
Virksomhedsansvar og faktisk ledelse
Hvor operatøren er en virksomhed, finder artikel 51 Sr anvendelse. Overtrædelsen kan tilskrives den juridiske person, hvis adfærd fandt sted inden for dens område, hvilket Hoge Raad har forklaret ud fra de faktorer, der er anført i Drijfmest-dommen: adfærden blev udført af en person, der arbejdede for virksomheden, den passer inden for dens normale drift, den var nyttig for virksomheden, og virksomheden var i stand til at afgøre, om den fandt sted og accepterede, eller sædvanligvis accepterede, en sådan adfærd. Et AI-system, der anvendes af en virksomhed til at udføre sit arbejde, opfylder per definition størstedelen af denne liste.
Artikel 51 Sr tillader også retsforfølgning af dem, der beordrede lovovertrædelsen, og dem, der faktisk havde ledelsen af den (feitelijk leidinggeven). Dette er den bestemmelse, der når direktører og ledende medarbejdere personligt. Den kræver mere end en plads på organisationsdiagrammet: personen skal have været opmærksom på den forbudte adfærd, i det mindste i den forstand at have accepteret en betydelig chance for, at den fandt sted, og skal have undladt at træffe foranstaltninger, som de var kompetente og med rimelighed forpligtet til at træffe. I en sag om AI oversættes det direkte til beviser for, hvem der modtog modelvalideringsrapporten, hvem der godkendte implementeringen, og hvem der besluttede, at en kendt bias eller fejlrate var acceptabel.
Uagtsomhedsforseelser gør det meste af arbejdet
I praksis er retsforfølgning, der involverer automatiserede systemer, langt mere tilbøjelig til at være bygget på uagtsomhed end på forsæt. Hvor et AI-drevet køretøj, en maskine eller et medicinsk udstyr forårsager død, er den relevante lovovertrædelse forårsagelse af død ved uagtsomhed i henhold til artikel 307 Sr; hvor det forårsager alvorlig skade, art. 308 Sr. Culpa i hollandsk strafferet betyder væsentlig uagtsomhed, vurderet i forhold til, hvad en rimelig operatør i den situation burde have gjort. Det er netop det grundlag, som en AI-sag vil blive kæmpet på, fordi standarden for omhu ved implementering af et automatiseret system i stigende grad er nedskrevet: i AI-loven, i sektorregulering, i tekniske standarder og i operatørens egne procedurer. En dokumenteret afvigelse fra en standard, som operatøren selv har vedtaget, er det stærkeste bevis på uagtsomhed, der findes.
Diskrimination er den anden tilbagevendende kategori. Diskrimination i udøvelsen af en virksomhed eller et erhverv er en strafbar handling i henhold til Wetboek van Strafrecht, og der findes både forsætlige og uagtsomme varianter. En model, der systematisk stiller en beskyttet gruppe dårligere, er derfor ikke kun et administrativt problem i henhold til databeskyttelses- og ligebehandlingsloven; i en alvorlig sag er det et strafferetligt problem. Vores vejledning til strafferetspleje i Holland forklarer, hvordan en sådan sag ville forløbe fra efterforskning til dom.
AI-loven fastsætter standarden for pleje, ikke sanktionen
EU 's lov om kunstig intelligens er en administrativ regulering. Den skaber ikke strafbare handlinger, og den gør ingen til mistænkt. Dens betydning for strafferetligt ansvar er indirekte og betydelig: den fastlægger bindende, hvad en omhyggelig udbyder eller implementeringsmedarbejder af et AI-system forventes at gøre. Når en standard for omhu er kodificeret, er en afvigelse fra den bevis på uagtsomhed, og overholdelse af den er bevis på omhu.
Loven sorterer systemer efter risiko. Et lille antal praksisser er direkte forbudt, herunder sociale scoringer foretaget af offentlige myndigheder, umålrettet scraping af ansigtsbilleder for at opbygge genkendelsesdatabaser, følelsesgenkendelse på arbejdspladsen og i uddannelsessektoren og, med forbehold af snævre undtagelser, fjernbiometrisk identifikation i realtid i offentlige rum til retshåndhævelse. En større gruppe klassificeres som højrisiko, som dækker sikkerhedskomponenter i regulerede produkter og de anvendelser, der er anført i bilaget til loven, herunder rekruttering, kreditvurdering og anvendelser inden for retshåndhævelse, migration og retsadministration. Systemer, der interagerer med mennesker eller genererer syntetisk indhold, har gennemsigtighedsforpligtelser. Resten er i det væsentlige ureguleret.
Udbyder eller distributør: rollerne bestemmer opgaverne
Loven fordeler forpligtelser i henhold til roller, og at få rollen forkert er en af de mest almindelige compliance-fejl. En udbyder udvikler et system eller får det udviklet og markedsfører det under eget navn; en distributør bruger et system under egen myndighed i forbindelse med sine aktiviteter. Udbydere har de tunge designforpligtelser, distributører har forpligtelser til korrekt brug, menneskeligt tilsyn og overvågning. Fælden er, at en distributør bliver en udbyder med alle de pligter, der følger, hvis vedkommende sætter sit eget navn på systemet, væsentligt ændrer det eller ændrer dets tilsigtede formål på en måde, der bringer det inden for højrisikokategorierne. Finjustering af en købt model på dine egne data og derefter brug af den til et formål, som leverandøren aldrig har overvejet, kan stille og roligt flytte en organisation over denne grænse. I en strafferetlig efterforskning dukker den samme sondring op igen i spørgsmålet om, hvem der havde dispositionsbeføjelsen, hvilket er grunden til, at rollerne bør registreres skriftligt og afspejles i kontrakten.
Hvad der gælder nu
Tidsplanen har ændret sig, og det er værd at være præcis omkring, hvor den står. Forbuddene mod praksisser med uacceptabel risiko og forpligtelsen til at sikre AI-færdigheder gælder allerede. Reglerne for generelle AI-modeller gælder allerede. Gennemsigtighedsforpligtelserne i artikel 50, herunder pligten til at gøre det klart, at indhold er kunstigt genereret eller manipuleret, gælder allerede. Det, der er blevet udskudt af den digitale omnibuspakke, er højrisikoregimet: forpligtelserne for de systemer, der er anført i bilag III, træder nu i kraft den 2. december 2027, og forpligtelserne for de systemer, der er omfattet af bilag I, træder nu i kraft den 2. august 2028. Separat er det foreslåede direktiv om AI-ansvar blevet trukket tilbage, så det civilretlige ansvar for AI-skade forbliver et spørgsmål om national ret, hvilket i Holland betyder de almindelige regler for erstatningsansvar uden for kontrakt og produktansvar.
Sanktionerne i henhold til loven er administrative og er fastsat til op til 35 millioner euro eller syv procent af den samlede globale årlige omsætning, alt efter hvad der er højest, for at udøve en forbudt praksis, med lavere lofter for andre overtrædelser. Tilsynet i Holland organiseres omkring eksisterende regulatorer, med Autoriteit Persoonsgegevens og Rijksinspectie Digitale Infrastructuur i en koordinerende rolle. Vores artikler om forbudte AI-praksisser og om højrisiko-AI-systemer i henhold til AI-loven beskriver forpligtelserne i detaljer, og vores oversigt over EU's AI-lov dækker rammerne som helhed.
Hvordan en anklager vil bruge det
Forestil dig en udbyder, der tager et screeningsværktøj i brug uden at kontrollere træningsdataene for bias, uden den menneskelige tilsynsordning, som loven kræver, og uden den dokumentation, den kræver. Hvis dette værktøj derefter bidrager til et kriminelt udfald, behøver anklageren ikke at argumentere ud fra grundlæggende principper om, hvilken omhu der var udvist. Forpligtelserne er på papiret, bruddet er dokumenteret, og acceptelementet for funktionel handling følger af beslutningen om at implementere alligevel. Det modsatte er lige så sandt, og dette er det punkt, som bestyrelser oftest overser: en virksomhed, der kan fremlægge sin risikovurdering, sine valideringsresultater, sin tilsynsprotokol og sin hændelseslog, har bygget kernen i sit eget forsvar, før noget gik galt.
Algoritmisk output som bevis
Den anden måde, hvorpå kunstig intelligens kommer ind i en strafferetssal, er ikke som en årsag til skade, men som en kilde til bevismateriale. Ansigtsgenkendelse, automatisk nummerpladegenkendelse, netværksanalyse af kommunikationsdata, modeller for svindelrisiko, stemmesammenligning og stadig mere automatiseret sortering af beslaglagte data producerer alle materiale, som anklagemyndigheden ønsker at stole på. Hollandsk strafferetspleje fungerer med et lukket system af beviskategorier, og algoritmisk output danner ikke en egen kategori. Det når retten som en del af en officiel rapport eller gennem en ekspertudtalelse, og det er underlagt samme kontrol som ethvert andet bevismateriale.
Det er netop denne granskning, der fokuserer på forsvarsarbejdet. Tre spørgsmål afgør, hvilken vægt materialet kan bære. Er metoden valideret, og af hvem? Under hvilke betingelser fejler den, og var disse betingelser til stede? Og kan forsvaret teste den, hvilket betyder adgang til tilstrækkelig information om systemet, dets træningsdata, dets fejlrater og dets konfiguration til at imødegå en meningsfuld udfordring. Et match præsenteret som en kendsgerning uden fejlrate og uden mulighed for verifikation er ikke bevis, som en domstol bør dømme på grundlag af, og at sige det er et legitimt og ofte effektivt forsvar.
Ekspertudsagn har sin egen ramme. Retten kan udpege en ekspert, forsvaret kan anmode om en, og registeret over retseksperter eksisterer for at fastsætte en kvalitetstærskel for de områder, det dækker. Hvor en AI-metode falder uden for et anerkendt felt, er det i sig selv et argument om resultatets pålidelighed. Det er også værd at bemærke, at det nye Wetboek van Strafbeoordeling, vedtaget af Eerste Kamer den 24. februar 2026 og offentliggjort i Staatsblad i marts 2026, træder i kraft bog for bog ved kongeligt dekret; indtil da gælder de nuværende bestemmelser og deres artikelnumre fortsat.
Databeskyttelsesvinklen
Når en beslutning, der påvirker en person, træffes udelukkende ved hjælp af automatiserede midler, giver GDPR den pågældende person retten til ikke at blive underlagt den, sammen med retten til meningsfuld information om den involverede logik. I forbindelse med strafferetlig håndhævelse gælder de parallelle regler i den lov, der implementerer politiets databeskyttelsesdirektiv. Dette har betydning i to retninger. For en mistænkt er det en vej til information om et system, som myndighederne måske foretrækker ikke at forklare. For en virksomhed er implementering af automatiseret beslutningstagning uden et lovligt grundlag og uden sikkerhedsforanstaltninger en overtrædelse af lovgivningen, der vil blive læst sammen med enhver strafferetlig anklage.
Forsvar i en sag, hvor AI er involveret
Det instinktive forsvar, at systemet var en sort boks, og at ingen kunne have vidst, hvad det ville gøre, er svagere, end det ser ud til. Det besvarer det forkerte spørgsmål. Hollandsk strafferet spørger ikke, om tiltalte forudså det præcise resultat; den spørger, om tiltalte havde beføjelse til at afgøre, om adfærden fandt sted, og accepterede den risiko, den ville. Uigennemsigtighed kan være til skade for tiltalte: at implementere et system, hvis adfærd ikke kan forklares, i en situation, hvor det kan forårsage alvorlig skade, er i sig selv en beslutning, som en domstol kan betragte som en accept af risikoen.
De forsvar, der virker, er snævrere og mere bevisbaserede. Det første er en reel mangel på kontrol: systemet blev anskaffet som et færdigt produkt, konfigureret og vedligeholdt af leverandøren, og sagsøgte havde hverken informationen eller den tekniske evne til at gribe ind. Dette argument flytter opmærksomheden op i kæden til leverandøren, og det står eller falder på kontrakten og på, hvad der faktisk blev rapporteret til implementeringsudbyderen. Det andet er, at operatøren gjorde, hvad en omhyggelig operatør gør: dokumenteret risikovurdering, validering før implementering, defineret menneskeligt tilsyn med en person, der havde autoriteten og kompetencen til at tilsidesætte, overvågning efter implementering og hurtig handling på hændelser. Det tredje er årsagssammenhæng, som ofte underudnyttes. I en kæde, der løber fra træningsdata gennem en model til en menneskelig beslutning til et resultat, skal anklagemyndigheden vise, at denne sagsøgtes adfærd forårsagede resultatet, og så brydes komplekse kæder.
To praktiske punkter følger. Bevar alt tidligt: logfiler, modelversioner, konfiguration, hændelsesrapporter og korrespondancen omkring implementeringsbeslutninger er bevismaterialet på begge sider, og de overskrives rutinemæssigt. Og husk, at de almindelige sikkerhedsforanstaltninger i strafferetsplejen gælder fuldt ud for teknisk komplekse sager, herunder en mistænkts ret til at tie stille; vores artikel om retten til at tie stille i straffesager forklarer, hvordan det fungerer i en hollandsk efterforskning. Hvor påstanden er om bedrageri begået med automatiserede værktøjer, dækker vores guide til bedrageri og økonomisk kriminalitet i Holland de involverede lovovertrædelser.
Hvad børnepasningsaffæren rent faktisk viser
Toeslagenaffairen, den hollandske børnepasningssag, er det emne, som enhver diskussion om algoritmisk ansvarlighed i Holland vender tilbage til, og den citeres normalt af den forkerte grund. Lærdommen er ikke, at en algoritme gjorde noget kriminelt. Den er, at et system med automatiseret risikoudvælgelse, kombineret med en institutionel uvilje til at sætte spørgsmålstegn ved dets output, forårsagede årevis med alvorlig skade på titusindvis af familier uden at nogen blev holdt strafferetligt ansvarlige.
Skatteforvaltningen brugte risikoklassificering til at udvælge ydelseskrav til undersøgelse. Indikatorer, der aldrig burde have været brugt, herunder nationalitet, fandt vej til udvælgelsen, og en mindre administrativ uregelmæssighed kunne udløse en konstatering af bevidst bedrageri med en forpligtelse til at tilbagebetale den fulde ydelse. Familier kunne ikke se, hvorfor de var blevet udvalgt, embedsmænd behandlede klassificeringen som en konklusion snarere end et signal, og byrden for at modbevise en anklage, som ingen ville forklare, faldt på de anklagede. Den hollandske databeskyttelsesmyndighed fandt behandlingen af nationalitetsoplysninger ulovlig og pålagde en bøde, og regeringen trådte tilbage i januar 2021.
Det, der ikke skete, er lærerigt. Ingen enkeltpersoner blev retsforfulgt. Ansvaret var spredt på tværs af en organisation, en politik, et stykke software og en juridisk ramme, der behandlede inddrivelse af ydelser som et administrativt anliggende. Denne spredning er præcis den risiko, som funktionel forseelse og artikel 51 i straffeloven er designet til at imødegå, og det forklarer, hvorfor AI-loven insisterer på identificerbart menneskeligt tilsyn og dokumentation. Ansvarlighed kræver en person, der kunne have stoppet det, og en fortegnelse over, hvad de vidste.
Tre fejl er værd at nævne, fordi de direkte fører til juridisk eksponering for enhver organisation. Beslutninger kunne ikke forklares, så de kunne ikke anfægtes. Menneskelig tilsyn eksisterede på papiret, men ikke i praksis, fordi de involverede personer hverken havde autoriteten eller informationen til at tilsidesætte systemet. Og effekten af et flag var at vende bevisbyrden om, hvad angår faktiske omstændigheder, hvis ikke i lovgivningen. Enhver implementering af AI, der reproducerer disse tre funktioner, er et juridisk problem, der venter på at modnes, uanset hvilken teknologi der ligger bag. Regeringens svar, herunder vejledning om ikke-diskrimination gennem design og om algoritmeregistre for offentlige organer, er rettet direkte mod disse tre punkter.
Et compliance-program, der også fungerer som et forsvar
Alt, hvad en virksomhed gør for at overholde AI-loven, frembringer også den dokumentation, den ville have brug for, hvis noget gik galt. Dette dobbelte formål er argumentet for at gøre det korrekt snarere end minimalt, og det gør de følgende trin umagen værd.
Start med en opgørelse. Du kan ikke klassificere det, du ikke har nævnt, og de fleste organisationer opdager, at AI er kommet ind gennem indkøb snarere end gennem et projekt: en screeningsfunktion i en rekrutteringsplatform, et scoringsmodul i en kreditansøgning, en overvågningsfunktion i sikkerhedssoftware. Klassificer hvert system i henhold til loven, registrer begrundelsen, og gennemgå det igen, når et system ændres væsentligt, fordi en ændring af formålet kan flytte et system til en anden kategori.
Tildel derefter ansvaret til navngivne personer i stedet for til afdelinger. Funktionel udøvelse og faktisk ledelse handler begge om, hvem der kunne have afgjort, om adfærden fandt sted. En organisation, hvor ingen kan identificeres som ansvarlig, undgår ikke ansvar; den afslører blot den, der sidder øverst på listen. Sig, hvem der ejer hvert system, hvem der kan godkende implementering, hvem der udfører tilsyn, og hvem der kan slukke det, og sørg for, at den navngivne person har autoriteten og den tekniske kompetence til at gøre det.
Gør menneskeligt tilsyn reelt. Kravet er ikke en person i loopet, men en person, der kan forstå outputtet, har ret til at afvise det, og som ikke måles på gennemløb på en måde, der gør afvisning upraktisk. Registrer tilsidesættelser, fordi en log, der viser, at tilsynsfunktionen rent faktisk bruges, er mere værd end noget politikdokument.
Dokumentér den tekniske situation: hvor træningsdataene kom fra, og hvordan de blev kontrolleret, hvilke test der blev udført, og hvad de viste, hvad de kendte fejlrater og fejltilstande er, og hvad der blev besluttet om dem. Hvor en vurdering af indvirkningen på databeskyttelse eller grundlæggende rettigheder er påkrævet, skal den udføres før implementering og holdes ajour. Overvåg efter implementering, log hændelser, og handl på dem på en måde, der er synlig i journalen.
Endelig skal du sørge for at få kontrakterne i orden. Når et system købes i stedet for at blive bygget, bestemmer ansvarsfordelingen mellem leverandør og distributør, hvem der bærer risikoen. Bed om den tekniske dokumentation, som loven kræver, om brugsanvisningen, om information om kendte begrænsninger og om retten til at blive informeret om hændelser og væsentlige ændringer. Vores IT-juridiske team håndterer disse aftaler.
Når AI er gerningsmandens værktøj snarere end en virksomheds fiasko
Indtil videre har denne artikel behandlet skade forårsaget af et AI-system, som en virksomhed har implementeret til et legitimt formål. Den anden halvdel af billedet er AI, der bevidst bruges til at begå en lovovertrædelse, og her er svaret enklere: lovovertrædelsen er lovovertrædelsen, og teknologien er en skærpende detalje snarere end et juridisk problem. Hollandsk strafferet er udformet med hensyn til resultater og adfærd, ikke med hensyn til instrumenter, hvilket er grunden til, at der har været behov for meget få nye bestemmelser.
Bedrageri begået med en klonet stemme eller en syntetisk video af en instruktør, der instruerer en betaling, er bedrag i henhold til artikel 326 Sr, præcis som det ville være med et forfalsket brev. Et dokument genereret af en model til støtte for en falsk påstand er dokumentfalsk i henhold til artikel 225 Sr. Brug af en person, der identificerer personoplysninger, til at udgive sig for at være dem er en lovovertrædelse i sig selv i henhold til artikel 231b Sr. Distribution af seksuelt eksplicitte billeder af en person uden deres samtykke er strafbart, og Wet seksuele misdrijven, der er trådt i kraft siden 1. juli 2024, moderniserede denne del af straffeloven; et syntetisk billede falder ikke uden for den, fordi det blev genereret snarere end optaget. Vedvarende chikane gennem automatiserede konti kan udgøre belaging i henhold til artikel 285b Sr, som kun retsforfølges efter klage fra offeret.
Det, som AI ændrer, er skala, troværdighed og vanskeligheden ved bevisførelse. En overbevisende syntetisk stemme fjerner den friktion, der plejede at beskytte mod betalingssvindel, og bevis for, at en optagelse er autentisk, kan ikke længere antages. To praktiske konsekvenser følger. For ofre og virksomheder er verifikationsprocedurer, der ikke afhænger af genkendelse af en stemme eller et ansigt, nu en grundlæggende kontrol snarere end en forfinelse. I straffesager er ægtheden af lyd- og videomateriale blevet et spørgsmål, der skal bevises snarere end formodes, og forsvaret har ret til at teste det.
Regulering begynder at hjælpe. Gennemsigtighedsforpligtelserne i artikel 50 i AI-loven, som allerede gælder, kræver, at udbydere markerer syntetisk indhold på en maskinlæsbar måde og kræver, at distributører oplyser, at et billede, en lyd eller en video er blevet kunstigt genereret eller manipuleret, når det afbilder virkelige personer eller begivenheder. Overholdelse af reglerne stopper ikke en målrettet lovovertræder, men det styrker alle andres position: det gør ikke-offentliggjort syntetisk indhold til en reguleringsovertrædelse i sig selv, og det giver efterforskere og domstole et signal at holde øje med. Vores artikel om at bevise digital bedrag i Holland omhandler bevissiden af disse sager.
Ofte stillede spørgsmål om AI og strafferetligt ansvar
Kan en virksomhed holdes strafferetligt ansvarlig, hvis dens kunstige intelligens diskriminerer?
Ja, det kan det absolut. Selvom du ikke selv vil se et AI-system stået på anklagebænken, kan den virksomhed, der har taget det i brug, helt sikkert blive anklaget for diskriminerende resultater i henhold til de hollandske principper for virksomheders strafferetlige ansvar. Hvis en virksomheds ledelse vidste om AI'ens potentiale for bias og ikke gjorde noget, eller hvis de var groft uagtsomme i deres tilsyn, er strafferetlige sigtelser en meget reel mulighed. EU's AI-lov fastsætter også strenge regler mod bias for højrisikosystemer. Manglende opfyldelse af disse standarder ville være et stærkt bevis på uagtsomhed i enhver straffesag. Det juridiske søgelys vil altid skinne klarest på de menneskelige beslutninger, der træffes omkring AI'ens oprettelse, træning og implementering.
Hvad er problemet med den sorte boks i AI?
"Black box"-problemet er en betegnelse for komplekse AI-modeller, hvor selv de personer, der har bygget dem, ikke fuldt ud kan spore, hvordan et specifikt output blev nået. Dette er et massivt problem, når AI og strafferet støder sammen. I retten kan dette faktisk blive hjørnestenen i et forsvar. En advokat kunne argumentere for, at et skadeligt udfald var fuldstændig uforudsigeligt, hvilket betyder, at den tiltalte manglede den nødvendige kriminelle hensigt (opzet). Argumentet er simpelt: hvordan kunne de have tilsigtet et resultat, de umuligt kunne forudsige? Men anklagere har et stærkt comeback. De kan argumentere for, at det at implementere et kraftfuldt, uforudsigeligt system uden passende sikkerhedsforanstaltninger i sig selv er en handling af hensynsløshed eller grov uagtsomhed. Og det kan være nok til at opfylde det mentale element, der er nødvendigt for strafferetligt ansvar. Dette baner vejen for en juridisk kamp med høje indsatser om forudsigelighed og omsorgspligt.
Hvad er den bedste måde for udviklere at begrænse juridisk risiko?
Det mest effektive, udviklere kan gøre for at beskytte sig mod juridisk risiko, er at føre omhyggelig og transparent dokumentation gennem alle faser af AI'ens levetid. Tænk på det som at skabe et detaljeret "revisionsspor", der kan blive dit vigtigste bevis. Denne dokumentation skal virkelig dække alt fra start til slut: Datakilder: Hvor kom træningsdataene fra, og hvordan blev de kontrolleret for kvalitet og bias?; Bias-reduktion: Hvilke specifikke skridt blev taget for at finde og fjerne bias fra datasættene?; Designrationale: Hvad var logikken bag de vigtigste arkitektoniske valg og algoritmer?; Testresultater: En fuldstændig registrering af hver testkørsel, inklusive fejl og hvordan du løste dem. Det er lige så vigtigt at etablere en klar ramme for menneskeligt tilsyn. Hvis en undersøgelse nogensinde finder sted, tjener dette papirarbejde som et ubestrideligt bevis på due diligence. Det hjælper med at vise, at enhver forårsaget skade var en virkelig uforudsigelig ulykke, ikke et resultat af uagtsomhed - og det danner grundlaget for et solidt juridisk forsvar.
Kan en algoritme findes strafferetligt ansvarlig for en forbrydelse i henhold til gældende hollandsk og EU-lovgivning?
Nej. I henhold til gældende lov kan en algoritme ikke anses for strafferetligt ansvarlig. Kernejuridiske begreber som kriminel hensigt (opzet) og juridisk personstatus er forbeholdt mennesker og i visse situationer virksomheder.
Hvorfor kan et AI-system ikke bare stilles for retten ligesom et menneske?
En algoritme mangler de grundlæggende egenskaber, der kræves for at blive stillet for retten: den har ingen bevidsthed, ingen personlige aktiver at beslaglægge og ingen frihed, der kan tages fra en person, i modsætning til en fysisk person eller en virksomhed, der er anerkendt som en juridisk person.
Betyder det, at kunstig intelligens er irrelevant i straffesager?
Nej, tværtimod. Selvom algoritmen i sig selv ikke kan være skyldig, bliver dens handlinger centrale for at bevise skyld eller uskyld hos de mennesker, der skaber, implementerer og fører tilsyn med den.
Hvilket juridisk koncept er sværest at anvende på AI-systemer?
Kriminel hensigt (opzet) er særligt vanskelig, da anklagere normalt skal bevise en skyldig forsætlighed, såsom forsæt, hensynsløshed eller kendskab til forseelser, mens en algoritme blot opererer baseret på sin programmering og datainput og mangler bevidsthed, overbevisninger eller ønsker.
Hvordan Law & More kan hjælpe
Law & More rådgiver virksomheder, direktører og enkeltpersoner om strafferetligt ansvar som følge af automatiserede systemer. Vi vurderer eksponering i henhold til artikel 51 i den juridiske forordning og doktrinen om funktionel handling, opbygger og gennemgår AI-governance, der kan holde stand som bevis for omhu, udfordrer algoritmisk bevismateriale i straffesager og forsvarer virksomheder og deres ledere i efterforskninger foretaget af anklagemyndigheden og af tilsynsmyndigheder. Hvis din organisation anvender AI i en situation, hvor fejl har konsekvenser, bedes du kontakte vores kontor, før en hændelse tvinger spørgsmålet frem.
