Nieuwe data voor hoog-risicosystemen
Door de Digitale Omnibus verandert de planning van een aantal verplichtingen. De strengste regels voor AI-systemen met een hoog risico gaan gelden vanaf 2 december 2027. Voor AI die onderdeel is van gereguleerde producten, zoals medische hulpmiddelen en machines, geldt 2 augustus 2028. Andere verplichtingen blijven volgens de bestaande planning van kracht: de transparantieverplichtingen gelden sinds 2 augustus 2026, en de verplichte AI-geletterdheid al sinds 2 februari 2025. Werknemers die met AI werken, moeten basiskennis hebben van AI, inzicht in de risico's en kennis van verantwoord gebruik in de praktijk.
AI op de werkvloer is hoog risico
Een AI-systeem geldt als hoog risico wanneer het gevolgen kan hebben voor de gezondheid, veiligheid of grondrechten van mensen. Daaronder valt AI op het werk, bijvoorbeeld voor werving, selectie, promotie, ontslag, het verdelen van taken of het volgen van werknemers, en AI die beoordeelt of iemand recht heeft op een lening of een uitkering. Cv-selectie en personeelsbeoordeling vallen onder de strikte eisen; emotieherkenning op de werkvloer is verboden. Hoog-risicosystemen moeten vooraf een conformiteitsbeoordeling doorstaan en voldoen aan eisen rond risicobeheersing, data zonder vooroordelen, technische documentatie met logbestanden, uitleg voor gebruikers, beveiliging en menselijk toezicht. Dat laatste betekent dat AI mag ondersteunen, maar niet zelfstandig mag bepalen: een medewerker moet de uitkomsten kritisch kunnen bekijken en kunnen ingrijpen. Bij biometrische systemen moeten altijd minimaal twee personen meekijken en instemmen.
Transparantie, ook bij ingekochte AI
Werkgevers moeten duidelijk maken wanneer iemand communiceert met een AI-systeem zoals een chatbot, vermelden wanneer AI deepfakes of andere realistisch ogende teksten en beelden maakt, en betrokkenen informeren wanneer AI wordt gebruikt om emoties te herkennen of biometrische kenmerken zoals leeftijd, geslacht en huidskleur in te delen. In bepaalde gevallen moet erbij staan dat publieke content grotendeels met AI is gemaakt. Deze verplichtingen gelden ook wanneer een organisatie AI-oplossingen van een externe leverancier gebruikt.
Toezicht bij AP en RDI
Nederland kiest voor een hybride toezichtmodel met meerdere toezichthouders, elk binnen het eigen expertisegebied. De Autoriteit Persoonsgegevens krijgt een belangrijke rol bij het toezicht op AI voor onder meer werving en selectie en op de transparantieverplichtingen; samen met de Rijksinspectie Digitale Infrastructuur krijgt de AP een coördinerende rol. Risicovolle systemen die niet onder andere EU-wetgeving vallen, moeten vóór de marktintroductie worden geregistreerd in een openbare Europese databank. Aanbieders moeten het functioneren na lancering blijven volgen en ernstige fouten of schendingen van grondrechten melden.
Lees het volledige artikel bij Arbo-online.
