Een HR-adviseur bij een woningcorporatie krijgt een bericht van de leverancier van het sollicitatiesysteem: er is een nieuwe functie die binnengekomen sollicitaties op volgorde van geschiktheid zet. Dezelfde ochtend vraagt een collega of de chatbot waarmee ze afwijzingsbrieven schrijft nu ook onder "hoog risico" valt, want dat heeft ze ergens gelezen.
Het eerste is hoog risico, het tweede niet, en het verschil zit niet in de techniek. De AI Act noemt een AI-systeem hoog risico als het beoogde doel ervan in bijlage III staat, of als het een veiligheidscomponent is in een product dat al onder Europese productregels valt. Sollicitaties rangschikken staat in bijlage III. Een brief schrijven niet.
Wat bepaalt of een systeem hoog risico is?
Artikel 6 geeft twee routes. De eerste loopt via bestaande productwetgeving (bijlage I): AI als veiligheidscomponent in een machine, een lift of een medisch hulpmiddel. Die route speelt alleen voor wie zulke producten maakt.
De tweede route is bijlage III: acht gebieden met daarin concrete doelen. Staat het doel waarvoor een systeem is bedoeld op die lijst, dan is het hoog risico. Het woord dat alles draagt is "bedoeld": de aanbieder legt het beoogde doel vast in de documentatie, en daar hangt de classificatie aan. Een eenvoudig scoremodel dat cv's sorteert is hoog risico. Een groot taalmodel dat een vacaturetekst opstelt is dat niet.
Welke toepassingen raken een werkgever?
De acht gebieden zijn biometrie, kritieke infrastructuur, onderwijs en opleiding, werk, toegang tot essentiële diensten, rechtshandhaving, migratie en grensbeheer, en rechtspraak. Vier daarvan komt een gewone werkgever tegen.
| Gebied in bijlage III | Wat eronder valt, in gewone taal | Wie het tegenkomt |
|---|---|---|
| Werk (punt 4) | Vacatures gericht plaatsen, sollicitaties filteren, kandidaten beoordelen; beslissen over promotie, ontslag en taakverdeling op basis van gedrag of persoonskenmerken; prestaties en gedrag volgen en beoordelen | Elke werkgever met een wervings-, rooster- of beoordelingssysteem |
| Onderwijs en opleiding (punt 3) | Toelating bepalen, leerresultaten beoordelen, het passende niveau bepalen, verboden gedrag tijdens toetsen opsporen | Onderwijsinstellingen, opleidingsafdelingen met toetsing |
| Essentiële diensten (punt 5) | Recht op uitkeringen en publieke diensten beoordelen, kredietwaardigheid bepalen, risico en prijs bij levens- en zorgverzekeringen, noodoproepen beoordelen | Gemeenten, uitkeringsinstanties, banken, verzekeraars |
| Biometrie (punt 1) | Biometrische identificatie op afstand, categorisering op gevoelige kenmerken, emotieherkenning | Organisaties met toegangscontrole of klantherkenning |
Bij biometrie hoort een kanttekening: emotieherkenning op de werkplek en in het onderwijs is geen hoog risico maar verboden (artikel 5), behalve om medische of veiligheidsredenen. Een tool die "enthousiasme" scoort in een videosollicitatie zet je niet onder toezicht, die zet je uit. Wat de verboden praktijken verder voor werkgevers betekenen staat in de EU AI Act voor werkgevers.
Punt 4 is breder dan werving. "Prestaties en gedrag volgen en beoordelen" dekt ook software die uit werkdata van individuele medewerkers een oordeel afleidt: een roostersysteem dat productiviteit scoort, een tool die e-mailgedrag beoordeelt. Wie zo'n functie in een bestaand pakket heeft zitten, gebruikt een hoog-risicosysteem zonder het als AI te hebben gekocht.
Wanneer is een toepassing uit bijlage III toch geen hoog risico?
Artikel 6 lid 3 kent een uitzondering, en die is smaller dan ze in leveranciersgesprekken vaak klinkt. Een systeem uit bijlage III is geen hoog risico als het geen significant risico voor de gezondheid, veiligheid of grondrechten van mensen oplevert, onder meer omdat het de uitkomst van een beslissing niet wezenlijk beïnvloedt. Dat geldt alleen in vier situaties:
- Het systeem voert een smalle procedurele taak uit, zoals ongestructureerde gegevens omzetten in een gestructureerd bestand.
- Het verbetert het resultaat van een menselijke activiteit die al is afgerond, zoals de taal van een al geschreven beoordeling.
- Het spoort patronen of afwijkingen op in eerdere beslissingen, zonder de menselijke beoordeling te vervangen of te beïnvloeden zonder behoorlijke menselijke toetsing.
- Het voert een voorbereidende taak uit voor een beoordeling, zoals zoeken, indexeren of vertalen.
En dan de zin die de uitzondering begrenst: een systeem dat natuurlijke personen profileert, is altijd hoog risico. Profilering is het geautomatiseerd beoordelen van persoonlijke aspecten van iemand, in de zin van de AVG. Een tool die kandidaten een score geeft op basis van hun eigenschappen profileert, en valt dus nooit onder de uitzondering, hoe voorbereidend de leverancier de taak ook noemt.
De aanbieder die meent dat zijn systeem onder lid 3 valt, legt die beoordeling vast. Als gebruiksverantwoordelijke mag je ernaar vragen, en het antwoord hoort meer te zijn dan "wij zijn geen hoog risico". De AI Act draagt de Europese Commissie op om richtsnoeren met praktijkvoorbeelden voor deze uitzonderingen te publiceren; vergelijk de beoordeling van een leverancier met die voorbeelden.
Is ChatGPT voor een vacaturetekst dan hoog risico?
Nee. Tekst schrijven, samenvatten en vertalen staat niet in bijlage III, en een algemeen taalmodel heeft geen beoogd doel dat op die lijst past. Voor dat gebruik gelden de AVG, de AI-geletterdheid uit artikel 4 en het eigen beleid.
Het verandert op twee manieren. Een organisatie die zo'n model koppelt aan de sollicitantenadministratie en het laat bepalen wie op gesprek komt, heeft een hoog-risicosysteem gemaakt en wordt daarvan volgens de AI Act zelf aanbieder. Subtieler is de recruiter die een chatbot vijftig cv's laat rangschikken: in de zin van de wet gebruikt hij geen hoog-risicosysteem, want het systeem is daar niet voor bedoeld. Maar hij neemt wel een beslissing over mensen met een hulpmiddel dat daar niet voor is beoordeeld, en daar gelden de AVG en het beleid. Hoe dat in HR uitpakt staat in veiliger werken met AI in HR.
Drie vragen lopen hier door elkaar: wat is het systeem (de classificatie, van de aanbieder), wat doe je ermee (het gebruik, van jou), en wie is verantwoordelijk (voor gebruik in de organisatie altijd jij). De leverancier beantwoordt de eerste.
Wat betekent hoog risico voor jou als gebruiksverantwoordelijke?
De zware plichten liggen bij de aanbieder. Voor de organisatie die het systeem gebruikt staat een kortere lijst in artikel 26: gebruiken volgens de instructies, menselijk toezicht beleggen bij mensen met de kennis en de bevoegdheid om in te grijpen, de werking volgen en logs bewaren, werknemers en hun vertegenwoordigers vooraf informeren, en de informatie van de aanbieder gebruiken voor de DPIA. De pijler over de AI Act voor werkgevers werkt die lijst uit.
Voor systemen uit bijlage III gelden die plichten vanaf 2 december 2027. Die datum komt uit de Digital Omnibus voor AI, die de oorspronkelijke datum van 2 augustus 2026 heeft verschoven; voor AI in gereguleerde producten is het 2 augustus 2028. Wat wel en niet is opgeschoven staat in de tijdlijn van de AI Act na de Digital Omnibus.
Hoe ziet dat er in de praktijk uit?
Terug naar de woningcorporatie. HR zet de rangschikfunctie uit tot duidelijk is wie het toezicht doet en wat de leverancier over de werking heeft vastgelegd. De chatbot voor afwijzingsbrieven blijft in gebruik, met één afspraak erbij: geen cv's erin plakken om ze te laten vergelijken. Bij het inventariseren blijken naast Copilot ook Perplexity, een transcriptietool en een tool die huurdersvragen voorsorteert in gebruik. Geen daarvan staat in bijlage III, twee hebben nog geen besluit.
Dat is geen incident. Het laat zien dat de hoog-risicovraag een klein deel van het AI-gebruik raakt, en dat je hem pas kunt stellen als je weet welke AI er in gebruik is. BeeSensible koppelt een catalogus van AI-tools aan het gebruik dat in de organisatie wordt waargenomen: alleen het domein, hooguit één keer per dag per apparaat, zonder gebruikers-id. Elke tool in de catalogus heeft een EU AI Act-duiding als hulp bij de eerste sortering; de beoordeling van jouw concrete gebruik blijft bij de organisatie, die zelf de status per tool zet in de AI Tools-module.
