Een AI-toepassing die dossiers samenvat, facturen uitleest of vragen van leden beantwoordt, kan veel handwerk wegnemen. Werkt die toepassing met persoonsgegevens, dan geldt de AVG volledig. Voor AI, AVG en jullie organisatie betekent dat: vooraf keuzes maken over welke data er meegaat, waar die heen gaat en wie de uitkomst controleert. Hieronder staat per onderdeel wat een AI-toepassing nodig heeft om aan de AVG te voldoen, als checklist die je naast jullie eigen plannen kunt leggen.
AI en de AVG in het kort
Een AI-toepassing die persoonsgegevens verwerkt, moet voldoen aan dezelfde AVG-regels als andere software: een vastgelegd doel en een grondslag, zo min mogelijk gegevens, goede beveiliging, afspraken met elke partij die data verwerkt en transparantie richting betrokkenen. Bij gevoelige gegevens komen daar vaak een DPIA en strengere eisen aan menselijke controle bij.
Dit artikel gaat over privacy. Over de bredere aanpak, van idee tot werkende toepassing, schreven we een apart stuk over AI-implementatie in organisaties.
Wanneer gegevens als gevoelig gelden
Bijzondere persoonsgegevens zijn gegevens die de AVG extra beschermt, zoals gegevens over gezondheid, etniciteit, religie, politieke voorkeur of strafrechtelijke zaken. Voor die categorieën geldt in principe een verwerkingsverbod, tenzij een wettelijke uitzondering van toepassing is. Het burgerservicenummer heeft in Nederland ook een eigen, strikt regime.
Daarnaast zijn er gegevens die juridisch niet bijzonder zijn, maar in de praktijk wel gevoelig: financiële gegevens, schadedossiers, beoordelingen van medewerkers of aanvragen bij een fonds. Behandel die in het ontwerp met dezelfde zorg. Een lek of een fout heeft daar al snel grote gevolgen voor de mensen om wie het gaat.
Checklist: AVG-eisen voor een AI-toepassing
Deze checklist volgt de levensloop van een toepassing: wat je regelt voordat er iets gebouwd wordt, wat in de techniek zit en wat doorloopt na livegang. De Autoriteit Persoonsgegevens heeft hiervoor ook eigen publicaties: een checklist en een uitgebreide handreiking over de Algemene verordening gegevensbescherming (AVG). Gebruik die naast deze lijst.
Voordat je bouwt
In deze fase leg je de basis waarop alle latere keuzes rusten. Wat hier ontbreekt, is achteraf lastig en duur te herstellen.
- Kan het zonder persoonsgegevens? De AP adviseert organisaties eerst te onderzoeken of zij generatieve AI kunnen gebruiken zonder persoonsgegevens te verwerken. Vaak kan een deel van de toepassing met geanonimiseerde of gepseudonimiseerde data werken. Houd er wel rekening mee dat gepseudonimiseerde data onder de AVG nog steeds persoonsgegevens zijn.
- Doel en grondslag vastgelegd. De AVG kent zes grondslagen: toestemming, overeenkomst, wettelijke verplichting, vitaal belang, publieke taak of gerechtvaardigd belang. Leg vast voor welk doel de AI de gegevens gebruikt. Gegevens die voor dossierbehandeling zijn verzameld, mag je niet zonder toets voor iets anders inzetten. Gaat het om bijzondere persoonsgegevens, dan heb je ook een uitzondering op het verwerkingsverbod nodig.
- DPIA uitgevoerd waar nodig. Bij een waarschijnlijk hoog risico voer je vooraf een DPIA uit (artikel 35 AVG). Dat geldt ook voor pilots en tests; alleen met volledig geanonimiseerde gegevens val je buiten de AVG. Nieuwe technologie in combinatie met gevoelige gegevens is vaak al reden genoeg.
- Rollen en verwerkersovereenkomsten rond. Jullie organisatie is meestal verwerkingsverantwoordelijke. Elke partij die namens jullie gegevens verwerkt, zoals de bouwer, de hostingpartij en de aanbieder van het model, heeft een verwerkersovereenkomst nodig. Wij sluiten standaard een verwerkersovereenkomst af met klanten waarvoor we persoonsgegevens verwerken.
- Functionaris gegevensbescherming betrokken. Betrek de functionaris gegevensbescherming vanaf het begin in plaats van hem achteraf te informeren. Dat scheelt herontwerp later.
Welke data er beschikbaar is en hoe die eruitziet, bepaalt veel van deze keuzes. Daarvoor is onze checklist om je data klaar te maken voor AI een handige aanvulling.
In de techniek
Hier wordt privacy een ontwerpkeuze in plaats van een papieren afspraak. De volgende punten bepalen of gevoelige gegevens binnen de grenzen blijven die je vooraf hebt gesteld.
- Per vraag alleen meesturen wat nodig is. Stuur niet een heel dossier naar een taalmodel als de vraag over één document gaat. Bij onze AI-implementaties blijft data binnen de eigen omgeving van de klant, en per vraag gaat alleen mee wat nodig is.
- Afspraken over training en opslag bij de modelaanbieder. Controleer of de aanbieder jullie invoer gebruikt om modellen te trainen, hoe lang hij die bewaart en waar de verwerking plaatsvindt. Gaan gegevens naar een land buiten de Europese Economische Ruimte, dan heb je een geldig doorgiftemechanisme nodig.
- Rollen en rechten, tweefactorauthenticatie en audit-logs vanaf dag één. Een AI-assistent mag niet meer laten zien dan de gebruiker zelf mag inzien. Wij raden af deze drie basismaatregelen naar een latere sprint te schuiven: achteraf inbouwen raakt de hele applicatie. Bij Letselinzicht, een platform voor letselschadeberekeningen, zitten rollen en rechten, tweefactorauthenticatie, audit-logs en Europese hosting in de basis.
- Antwoorden herleidbaar naar de bron. Als een antwoord laat zien uit welk document het komt, kan een medewerker het controleren en kun je een verzoek om inzage of correctie goed afhandelen. Bij onze toepassingen wijst het antwoord terug naar de bron waaruit het is opgebouwd.
- Losse onderdelen voor modelstappen. Bouw de AI-stap als apart onderdeel met een vast uitvoerformaat. Dan kun je een model vervangen zonder dat de opslag, de controleschermen of de audit trail mee veranderen, en hoef je alleen die ene stap opnieuw te toetsen.
Na livegang
Een AI-toepassing is na oplevering niet klaar. Modellen veranderen, het gebruik groeit en de regels worden verder ingevuld. Deze punten houden de toepassing in lijn met de AVG.
- Menselijke controle bij beslissingen over personen. Artikel 22 van de AVG geeft mensen het recht om niet onderworpen te worden aan een besluit dat alleen op geautomatiseerde verwerking berust, als dat besluit hen aanmerkelijk treft. Bij ons stelt de AI voor en beslist de vakspecialist. Bij Letselinzicht worden bonnen en facturen herkend en voorgesteld, maar de jurist houdt de controle.
- Transparantie richting betrokkenen. De AVG verplicht organisaties om helder te zijn over hoe AI-systemen werken en welke persoonsgegevens zij verwerken. Werk jullie privacyverklaring bij zodra AI een rol krijgt in het verwerken van gegevens.
- Rechten van betrokkenen uitvoerbaar. Kunnen jullie gegevens van één persoon terugvinden, aanpassen en verwijderen, ook in logbestanden en tussenopslag van de AI-toepassing? Leg bewaartermijnen vast en zorg dat de techniek ze afdwingt.
- Doorlopend onderhoud en monitoring. Beveiliging veroudert. Bij ons worden servers wekelijks onderhouden en dagelijks gemonitord, en worden kritieke updates live gepatcht.
- Datalekprocedure die AI meeneemt. Een datalek dat waarschijnlijk een risico vormt voor betrokkenen, meld je binnen 72 uur bij de Autoriteit Persoonsgegevens. Zorg dat jullie audit-logs laten zien welke gegevens wanneer en door wie zijn gebruikt, zodat je snel kunt bepalen wat er is gebeurd.
- Kwaliteit meetbaar houden. Leg vooraf criteria vast waaraan goede antwoorden moeten voldoen en toets daar periodiek op. Een toepassing zonder onderhoud levert na verloop van tijd slechtere uitkomsten, en een fout antwoord over een persoon is ook een privacyrisico.
AVG en AI Act naast elkaar
De AVG gaat over persoonsgegevens, de AI Act over het AI-systeem zelf. Waar de AI Act zich richt op de veilige en transparante inzet van AI-systemen, blijft de AVG van toepassing zodra persoonsgegevens worden verwerkt. Ze vervangen elkaar dus niet.
Een toepassing kan onder de AI Act een laag risico hebben en onder de AVG toch een DPIA nodig hebben, of andersom. Welke verplichtingen uit de AI Act voor jullie gelden, hangt af van de risicoklasse en jullie rol. Dat werken we uit in ons artikel over wat de AI Act betekent voor je AI-toepassingen.
Veelgestelde vragen
Mogen medewerkers gevoelige gegevens in een publieke chatbot plakken?
Dat raden we af. Publieke modellen kennen jullie organisatie niet, en zonder verwerkersovereenkomst en heldere afspraken over opslag en training heb je geen grip op wat er met de gegevens gebeurt. Een toepassing die binnen jullie eigen omgeving draait, is voor gevoelige gegevens de veiligere route.
Is een DPIA verplicht voor elke AI-toepassing?
Nee. Een DPIA is verplicht als de verwerking waarschijnlijk een hoog risico oplevert voor betrokkenen. Bij gevoelige gegevens, nieuwe technologie of grootschalige verwerking is dat vaak zo, dus voor de toepassingen in dit artikel is een DPIA meestal verstandig.
Wie is verantwoordelijk als de AI een fout maakt met persoonsgegevens?
De verwerkingsverantwoordelijke, meestal jullie organisatie, blijft aanspreekbaar onder de AVG. Leveranciers hebben eigen verplichtingen als verwerker. Daarom zijn menselijke controle en een audit trail niet alleen goed voor de kwaliteit, maar ook voor jullie verantwoording.
Hoe weet je of jullie bestaande systemen geschikt zijn voor AI?
Kijk waar de gegevens staan, wie erbij mag en of je per persoon kunt terugvinden wat er is verwerkt. Ontbreken rollen en rechten of logging in de bronsystemen, dan regel je die eerst of in de koppeling met de AI-toepassing.
Privacy als onderdeel van het ontwerp
AVG-proof werken met AI begint bij het ontwerp: weinig data meesturen, gegevens binnen de eigen omgeving houden, elke stap herleidbaar maken en een mens laten beslissen. Wie die keuzes vroeg maakt, heeft later minder herstelwerk en een toepassing die de toets van een functionaris gegevensbescherming of toezichthouder goed doorstaat.
Wil je weten welke AI-toepassing bij jullie kansrijk is en wat die van jullie data en privacyafspraken vraagt? Onze AI-implementatie begint met een AI Discovery op locatie, waarna je binnen een week een rapport krijgt met één tot drie startprojecten. Wil je eerst zelf kijken, dan geeft de gratis AI-implementatiescan direct een eerste oordeel.