Auteursrecht en AI-modellen: kan een model zelf een kopie bevatten?

Waarom het AI-model juridisch niet mag worden overgeslagen

De productieketen van generatieve AI bestaat grofweg uit verschillende fasen. Eerst worden gegevens verzameld en als trainingsdata gebruikt. Vervolgens wordt een model getraind. Dat model wordt daarna verwerkt in een AI-systeem waarmee gebruikers via prompts output kunnen genereren.

In juridische discussies ligt de nadruk vaak op het begin en einde van die keten. Mag auteursrechtelijk beschermd materiaal worden gebruikt voor training? En wanneer maakt de output inbreuk op een bestaand werk?

Daartussen bevindt zich echter het getrainde AI-model zelf. Juist daar kan een derde auteursrechtelijke vraag ontstaan: kan een beschermd werk tijdens het trainingsproces zodanig in de parameters van een model worden vastgelegd dat het model zelf een verveelvoudiging bevat?

Dat is meer dan een theoretische discussie. Als een beschermd werk daadwerkelijk in het model is opgeslagen, verschuift de aandacht van incidentele output naar de technische bron waaruit die output kan worden gegenereerd. Voor bedrijven die modellen ontwikkelen, aanbieden of in eigen producten verwerken, kan dat juridisch een wezenlijk verschil maken.

Artikel 14 Auteurswet: auteursrecht is niet afhankelijk van de drager

De gedachte dat een auteursrechtelijk beschermd werk alleen wordt gekopieerd wanneer een mens de kopie direct kan zien of lezen, past al lange tijd niet meer binnen het auteursrecht.

Artikel 14 Auteurswet speelt daarin een belangrijke rol. De bepaling maakt duidelijk dat ook het vastleggen van een werk, of een deel daarvan, op een voorwerp dat het werk hoorbaar of zichtbaar kan maken als verveelvoudiging kan gelden.

De historische achtergrond daarvan is opvallend actueel.

Aan het begin van de twintigste eeuw konden muziekwerken bijvoorbeeld worden opgeslagen op pianolarollen. Op zo'n rol stond geen traditioneel notenschrift. De muziek was gecodeerd in patronen van perforaties die door een machine werden omgezet in pianospel. Wie alleen naar de rol keek, zag dus geen muziekstuk in een vorm die rechtstreeks begrijpelijk was.

Dat leidde destijds tot het argument dat het muziekwerk zelf niet op de drager aanwezig zou zijn. De drager bevatte immers slechts technische patronen.

Het auteursrecht is juist ontwikkeld om te voorkomen dat een nieuwe technische vorm van vastlegging ertoe leidt dat een beschermd werk juridisch ineens verdwijnt. Niet de leesbaarheid voor het menselijk oog staat centraal, maar de vraag of het werk daadwerkelijk is vastgelegd en met behulp van een technisch hulpmiddel weer waarneembaar kan worden gemaakt.

Die techniekneutraliteit is voor AI bijzonder relevant.

Een beschermd werk hoeft dus niet als een herkenbaar afbeeldingsbestand, tekstbestand of audiobestand in een systeem te staan voordat van een auteursrechtelijk relevante vastlegging sprake kan zijn. Ook een indirecte, gecodeerde of anders technisch vormgegeven reproductie kan binnen het verveelvoudigingsrecht vallen.

Statistische patronen zijn niet automatisch auteursrechtelijk irrelevant

AI-modellen slaan tijdens hun training informatie op in grote aantallen parameters. Die parameters bevatten statistische relaties die later mede bepalen welke output het model produceert.

Een veelgehoorde gedachte is dat een model daarom geen werken kan bevatten. Het model zou alleen statistiek bewaren: getallen, waarschijnlijkheden, patronen en relaties.

Maar daaruit volgt juridisch niet automatisch dat de opgeslagen informatie onbeschermd is.

Een statistisch patroon kan namelijk zeer abstract zijn, maar ook uiterst specifiek. Een model kan een algemene regel leren over taal, beeld of muziek. Zo'n regel hoeft niets van een individueel beschermd werk te bevatten. Maar een patroon kan ook zo specifiek worden dat concrete, beschermde kenmerken van een bepaald werk ermee kunnen worden gereconstrueerd.

Het probleem zit dus in de stap van "het model bestaat uit statistische patronen" naar "het model kan daarom geen auteursrechtelijk beschermde expressie bevatten". Die tweede conclusie volgt niet vanzelf uit de eerste.

Generaliseren en memoriseren zijn verschillende verschijnselen

Voor het begrijpen van deze discussie is het onderscheid tussen generaliseren en memoriseren nuttig.

Bij generaliseren haalt een model bredere informatie uit trainingsdata. Het leert bijvoorbeeld structuren, verbanden of algemene kenmerken die niet noodzakelijk aan één specifiek beschermd werk zijn gekoppeld.

Bij memoriseren wordt informatie over een specifiek werk veel concreter in het model vastgelegd. Daardoor kan het model dat werk, of relevante beschermde onderdelen daarvan, later opnieuw voortbrengen.

Dat betekent overigens niet dat "memoriseren" en "verveelvoudigen" juridisch exact hetzelfde zijn. Memorization is in oorsprong een technisch begrip. Computerwetenschappelijk onderzoek zoekt bijvoorbeeld vaak naar output die vrijwel letterlijk overeenkomt met materiaal uit de trainingsdata.

Het auteursrecht kan breder zijn. Een reproductie hoeft niet altijd voor honderd procent identiek te zijn. Ook een auteursrechtelijk relevante bewerking kan beschermd materiaal overnemen zonder een exacte kopie te zijn.

Voor een juridische analyse moet daarom niet alleen worden gevraagd of een model technisch gezien iets heeft "gememoriseerd". De relevante vraag is of auteursrechtelijk beschermde trekken van een werk zodanig zijn vastgelegd dat sprake kan zijn van een verveelvoudiging.

Een model bevat niet alleen losse bouwstenen

Een ander argument is dat een AI-model hoogstens kleine fragmenten of losse elementen uit trainingsdata bevat. Losse feiten, woorden, ideeën, stijlelementen en andere niet-beschermde bouwstenen mogen op zichzelf vrij worden gebruikt.

Dat uitgangspunt blijft belangrijk. Het enkele feit dat een systeem met vrije bouwstenen uiteindelijk iets kan maken dat op een beschermd werk lijkt, betekent nog niet dat het beschermde werk zelf al in het model aanwezig is.

Maar de analyse verandert wanneer het model méér bevat dan losse bouwstenen.

Als de statistische structuur van het model zo specifiek is dat een bepaald werk met een eenvoudige prompt opnieuw kan worden gegenereerd, kan het moeilijker worden om te zeggen dat alleen onbeschermde fragmenten aanwezig zijn. Het model kan dan functioneren als een technisch gecodeerde opslagvorm waaruit beschermde expressie opnieuw naar voren kan worden gebracht.

Het verschil is belangrijk. Een doos met algemene bouwstenen bevat niet automatisch het gebouw dat ermee kan worden gemaakt. Maar wanneer de informatie om precies een specifiek beschermd resultaat te reconstrueren in de technische structuur is vastgelegd, komt de situatie veel dichter bij een gecomprimeerde of gecodeerde reproductie.

Compressie maakt een kopie niet vanzelf onschadelijk

Digitale informatie hoeft niet in haar oorspronkelijke vorm te worden opgeslagen.

Dat kennen we al langer van digitale compressie. Een afbeelding kan bijvoorbeeld technisch worden omgezet en sterk worden gecomprimeerd, terwijl de kenmerkende inhoud nog steeds kan worden gereconstrueerd. De technische vorm waarin informatie wordt bewaard, zegt daardoor niet zonder meer iets over de auteursrechtelijke kwalificatie ervan.

Hetzelfde kan bij AI relevant zijn.

Dat informatie verspreid, gefragmenteerd of wiskundig gecodeerd in een model is opgenomen, sluit niet uit dat beschermde elementen nog steeds aanwezig zijn. Als die informatie latent behouden blijft en later opnieuw zichtbaar of hoorbaar kan worden gemaakt, kan de wijze van opslag op zichzelf onvoldoende zijn om een verveelvoudiging uit te sluiten.

Voor AI-bedrijven is daarom vooral een functionele benadering relevant: wat kan op basis van de opgeslagen modelparameters daadwerkelijk worden gereconstrueerd?

Het AI-model als een nieuwe soort drager

Terminologie maakt deze discussie soms ingewikkelder dan nodig.

Woorden als "leren", "onthouden", "neuronen" en "herinneren" maken AI begrijpelijker, maar zijn metaforen. Een AI-model is geen menselijk brein. Het is een technisch systeem waarin informatie door middel van parameters wordt vastgelegd en verwerkt.

Voor het auteursrecht is dat verschil belangrijk.

Het menselijk geheugen wordt niet behandeld als een auteursrechtelijke gegevensdrager. Een getraind AI-model is daarentegen een stabiel technisch object waarvan de parameters kunnen worden opgeslagen, gekopieerd, verspreid en in softwaresystemen kunnen worden verwerkt.

Daarmee kan een AI-model in bepaalde situaties functioneren als een bijzonder soort drager.

Het verschil met een traditionele drager is dat een model meer kan dan opgeslagen informatie simpelweg reproduceren. Het kan ook nieuwe output berekenen op basis van de patronen die tijdens training zijn gevormd. Een model kan dus tegelijkertijd informatie dragen en nieuwe content genereren.

Dat maakt het juridisch ingewikkelder, maar niet noodzakelijk fundamenteel anders. Als een specifiek beschermd werk daadwerkelijk in het model is vastgelegd, verdwijnt die vastlegging niet omdat hetzelfde model daarnaast miljarden andere berekeningen kan uitvoeren.

De output kan iets zeggen over wat in het model zit

Een van de lastigste aspecten van moderne AI-modellen is hun ondoorzichtigheid. Zelfs voor ontwikkelaars is niet altijd exact vast te stellen welke informatie waar en op welke manier in de parameters is opgeslagen.

Daar ontstaat een belangrijke bewijsrechtelijke vraag.

Stel dat een gebruiker een eenvoudige prompt invoert en het AI-systeem vervolgens een output genereert die opvallend sterk overeenkomt met een beschermd werk waarop het model is getraind. Moet de rechthebbende dan technisch kunnen aanwijzen in welke parameters dat werk precies is opgeslagen en hoe die opslag tijdens het trainingsproces is ontstaan?

Een dergelijke eis zou in de praktijk bijzonder zwaar zijn. Het model kan uit miljarden parameters bestaan en de rechthebbende heeft doorgaans geen toegang tot de technische werking ervan.

De output kan daarom juridisch een belangrijke aanwijzing zijn.

Wanneer een specifieke reproductie na een eenvoudige prompt uit een model kan worden gegenereerd, kan dat erop wijzen dat relevante informatie over het onderliggende werk al in het model aanwezig was. De output is dan niet alleen het mogelijke eindpunt van een inbreuk, maar kan ook bewijswaarde hebben voor wat eerder tijdens de training in het model is vastgelegd.

Dat sluit aan bij een bredere gedachte uit het auteursrechtelijke bewijsrecht. Wanneer de overeenstemming tussen twee werken zo opvallend is dat onafhankelijke totstandkoming onwaarschijnlijk wordt, kan van de vermeende inbreukmaker een verklaring worden verlangd voor die overeenstemming. In de context van generatieve AI kan dat relevant zijn wanneer vaststaat dat het betreffende werk bovendien tot de trainingsdata behoorde.

Dit betekent niet dat iedere overeenkomst tussen AI-output en bestaand werk bewijst dat er een kopie in het model zit. De omstandigheden van het concrete geval blijven bepalend. Het betekent wel dat de technische complexiteit van een model niet automatisch een juridisch schild vormt.

Waarom één interne kopie grote gevolgen kan hebben

De omvang van memorisering in generatieve AI-modellen is niet eenvoudig vast te stellen. Technische schattingen lopen uiteen en richten zich bovendien vaak vooral op vrijwel letterlijke reproducties. Het auteursrechtelijke begrip verveelvoudiging kan ruimer zijn.

Zelfs wanneer slechts een relatief klein deel van een enorme trainingsdataset in een model blijft hangen, kan het absolute aantal betrokken werken groot zijn.

Daar komt een tweede aspect bij: schaalbaarheid.

Een traditionele kopie is één kopie. Een in een model opgeslagen reproductie kan in potentie functioneren als een soort moederkopie waaruit opnieuw output wordt gegenereerd. Wanneer een AI-systeem geen adequate beperkingen bevat, kunnen gebruikers herhaaldelijk output opvragen die het opgeslagen materiaal geheel of gedeeltelijk reproduceert of bewerkt.

Voor generatieve-AI-bedrijven gaat het risico daarom niet alleen om wat tijdens training gebeurt. Ook de combinatie van het onderliggende model, de gebruikersinterface, toegestane prompts en eventuele outputfilters is relevant.

De TDM-exceptie lost het modelvraagstuk niet automatisch op

Bij AI-training speelt ook tekst- en datamining, vaak afgekort als TDM, een belangrijke rol.

Een mogelijke juridische benadering is dat bepaalde reproducties die noodzakelijk zijn voor tekst- en datamining onder een wettelijke uitzondering kunnen vallen. De gelijkstelling van generatieve-AI-training met TDM is echter niet zonder discussie.

Zelfs wanneer wordt aangenomen dat de TDM-exceptie op het trainingsproces van toepassing is, volgt daaruit niet automatisch dat iedere kopie die ná de training in het model aanwezig blijft eveneens is toegestaan.

Artikel 15o Auteurswet koppelt het bewaren van een voor tekst- en datamining gemaakte reproductie aan de periode waarin dat voor die tekst- en datamining noodzakelijk is. Vanuit dat uitgangspunt is verdedigbaar dat een beschermd werk dat na afronding van de training permanent in de modelparameters achterblijft niet zonder meer door dezelfde uitzondering wordt gerechtvaardigd.

Het onderscheid tussen tijdelijke reproducties tijdens het trainingsproces en een blijvende reproductie in het getrainde model is daarmee essentieel.

Juist voor AI-startups die zich op een TDM-grondslag beroepen, is het dus riskant om training en modelopslag als één juridisch moment te behandelen. De vraag is niet alleen wat er tijdens de analyse van trainingsdata gebeurt, maar ook wat er daarna daadwerkelijk in het model achterblijft.

Wat betekent dit voor startups en scale-ups?

Voor techbedrijven is vooral van belang dat auteursrechtelijke analyse niet stopt bij de dataset. Wie generatieve AI ontwikkelt of exploiteert, moet ook kijken naar het getrainde model en naar de relatie tussen dat model en de output.

In de praktijk zijn daarbij vijf vragen bijzonder relevant:

• Wat blijft na de training in het model achter? Een proces dat alleen abstracte patronen generaliseert, roept andere vragen op dan een model dat specifieke werken reproduceerbaar opslaat.
• Welke output kan met eenvoudige prompts worden gegenereerd? Regelmatige of opvallend precieze reproducties kunnen wijzen op een probleem dat dieper zit dan alleen het gedrag van één gebruiker.
• Welke technische beperkingen zijn ingebouwd? Filters en andere maatregelen kunnen relevant zijn om te voorkomen dat beschermde output gemakkelijk wordt gereproduceerd of aan gebruikers wordt verstrekt.
• Op welke juridische grondslag rust de training? Een rechtvaardiging voor bepaalde trainingshandelingen betekent niet automatisch dat een blijvende kopie in het uiteindelijke model eveneens gerechtvaardigd is.
• Welke rol heeft het bedrijf in de AI-keten? Het maakt verschil of een startup zelf een model traint, een bestaand model verspreidt of daar een eigen AI-systeem bovenop bouwt. Model, systeem en output zijn juridisch verschillende onderdelen van dezelfde productieketen.

Voor founders en investeerders betekent dit ook dat een AI-model niet alleen als technische asset moet worden bekeken. De herkomst van de trainingsdata, de eigenschappen van het getrainde model en de manier waarop beschermde output wordt voorkomen, kunnen onderdeel zijn van het juridische risicoprofiel van die asset.

Techniekneutraliteit is juist bij AI essentieel

Generatieve AI maakt het verleidelijk om voor nieuwe technische begrippen ook volledig nieuwe juridische regels te zoeken. Maar een belangrijk deel van het auteursrecht is juist ontworpen om technologische veranderingen te kunnen overleven.

Een werk verdwijnt juridisch niet noodzakelijk omdat het wordt omgezet in perforaties, digitale code, gecomprimeerde gegevens of statistische parameters. Doorslaggevend kan zijn of beschermde expressie daadwerkelijk is vastgelegd en vanuit die vastlegging weer waarneembaar kan worden gemaakt.

Daarmee volgt niet dat ieder AI-model auteursrechtelijk beschermde werken bevat. Een model bestaat evenmin volledig uit kopieën van zijn trainingsdata. De relevante positie ligt tussen die uitersten: modellen kunnen zowel onbeschermde algemene patronen als concrete, beschermde informatie bevatten.

Voor startups en scale-ups is precies die nuance belangrijk. De vraag is niet of een AI-model "alleen maar statistiek" bevat, maar wat die statistiek in een concreet geval vertegenwoordigt en kan reproduceren.

Conclusie: kijk niet alleen naar training en output, maar ook naar het model

De auteursrechtelijke discussie over generatieve AI heeft drie relevante niveaus: de trainingsfase, het getrainde model en de uiteindelijke output. Wie alleen naar input en output kijkt, kan daardoor een juridisch belangrijk deel van de keten missen.

Artikel 14 Auteurswet ondersteunt een techniekneutrale benadering. Een werk hoeft niet rechtstreeks leesbaar, zichtbaar of herkenbaar in een bestand te staan om te kunnen zijn vastgelegd. Ook een statistische of sterk gecomprimeerde representatie kan auteursrechtelijk relevant zijn wanneer beschermde kenmerken daarin behouden blijven en opnieuw waarneembaar kunnen worden gemaakt.

Voor AI-startups en scale-ups maakt dat modelgedrag zelf tot een juridisch aandachtspunt. Niet iedere vorm van leren door een model levert een verveelvoudiging op, maar het argument dat een model per definitie geen beschermde werken kan bevatten omdat het slechts uit parameters en statistische patronen bestaat, is te eenvoudig. Juist bij generatieve AI moet daarom niet alleen worden gekeken naar wat erin gaat en wat eruit komt, maar ook naar wat er daadwerkelijk in het model achterblijft.

‍