Een beleidsadviseur moet voor het college een notitie schrijven over een nieuwe subsidieregeling en wil weten hoe vijf andere gemeenten dat hebben aangepakt. Copilot geeft een net antwoord zonder bronnen. In een tweede tabblad opent ze Perplexity, krijgt vijf links, en werkt daarmee verder. Op de IT-afdeling staat Copilot te boek als "de AI-tool van de gemeente".
Zo werkt het bij vrijwel elke gemeente die Copilot heeft uitgerold. De uitrol heeft één tool geregeld. De andere tools zijn niet weggegaan; ze draaien ernaast, meestal op een gratis account, en er is over geen van die tools iets besloten. Dat is shadow AI, en het is geen lijst van overtredingen. Het is een lijst van besluiten die nog genomen moeten worden.
Wat draait er naast Copilot?
De lijst verschilt per gemeente, maar een aantal tools komt bijna overal terug. Ze zijn er om een reden: Copilot is op dat moment niet de vanzelfsprekende route voor het karwei. Waarom dat zo werkt, staat in we hebben Copilot, waarom gebruiken medewerkers toch andere AI-tools.
| Wat er wordt geopend | Waarom mensen het kiezen | Wat de gemeente ervan moet weten |
|---|---|---|
| Perplexity of een andere AI-zoekmachine | Onderzoek met bronnen, voor een raadsvraag of een beleidsnotitie | Gratis of zakelijk account, en wat er in de zoekvraag staat |
| ChatGPT op een gratis account | Herschrijven in begrijpelijke taal, samenvatten, een mail | Of de invoer voor training wordt gebruikt, en of er een BSN in de tekst zat |
| Transcriptie van vergaderingen | Notulen van een teamoverleg of een raadscommissie zonder typwerk | Waar de opname wordt verwerkt, en wie er in het gesprek werd genoemd |
| Vertaaldiensten | Balie en wijkteams, een brief in het Arabisch of Pools | Of de brief persoonsgegevens bevatte |
| AI-functies in bestaande software | De tekstverwerker of het zaaksysteem kreeg een assistent bij een update | Geen nieuw domein, geen nieuw inkoopbesluit, wel een nieuwe verwerking |
De laatste rij is de lastigste. Er is niets nieuws geïnstalleerd, dus niemand heeft iets aangevraagd, en toch wordt er tekst naar een model gestuurd die daar vorig jaar niet heen ging.
Waarom telt dit bij een gemeente zwaarder?
Omdat de tekst die wordt geplakt zelden neutraal is. Een brief over een uitkering bevat een BSN. Een gespreksverslag van een wijkteam bevat een gezinssituatie. Een bezwaarschrift bevat een naam, een adres en het verhaal erachter. In een gemeente is de standaardinhoud van een werkdag persoonsgegevens, en een deel daarvan is bijzonder of zeer gevoelig.
Die gegevens in een gratis account zetten is iets anders dan in een omgeving die de gemeente heeft ingericht. Bij een persoonlijk account kan de invoer worden gebruikt om het model te verbeteren, tenzij de gebruiker dat zelf uitzet, en er is geen verwerkersovereenkomst. Het verschil per accounttype staat in gratis versus zakelijk AI-account. De Autoriteit Persoonsgegevens meldde meerdere datalekmeldingen waarbij medewerkers persoonsgegevens in een AI-chatbot hadden gezet, en adviseert organisaties afspraken te maken over of het mag en met welke gegevens.
De BIO vraagt van een gemeente om classificatie van gegevens, beheer van leveranciers en bewustzijn bij medewerkers. Een AI-dienst waarover niets is besloten, valt buiten alle drie. Hoe de BIO zich tot AI-gebruik verhoudt, staat in BIO en NEN 7510: AI en privacy in overheid en zorg.
Waarom loopt een inventarisatie per kwartaal achter?
Een gemeente heeft Copilot toegestaan. In maart doet de CISO een uitvraag bij alle afdelingen. Naast Copilot blijken Perplexity, ChatGPT en drie gespecialiseerde tools in gebruik: een vertaaldienst bij de balie, een transcriptietool bij het sociaal domein, en een AI-functie in de tekstverwerker. Twee daarvan staan nog nergens in het register. Dat is geen incident. Het laat zien dat het register de werkdag niet bijhoudt.
In juni is de lijst van maart alweer achterhaald. Het zaaksysteem heeft bij een update een samenvattingsfunctie gekregen. Een team is overgestapt van de ene transcriptietool op een andere, want die integreerde beter met Teams. En een medewerker communicatie is een beeldgenerator gaan gebruiken voor de nieuwsbrief, die in maart nog niet bestond. Niemand heeft iets fout gedaan. De uitvraag beschreef maart.
Dit is geen kwestie van vaker uitvragen. Elke uitvraag is een foto, en waarom een AI-toolcatalogus veroudert beschrijft de mechanismen erachter: er komen dagelijks tools bij, AI verschijnt in software die je al hebt, en tools wisselen van eigenaar. Welke methoden er zijn om gebruik te vinden en wat elke methode mist, staat in hoe ontdek je welke AI-tools medewerkers echt gebruiken. Bij een gemeente komt daar nog iets bij: de proxylogs zien het stadhuis, niet de laptop van de wijkteammedewerker die vanuit huis werkt.
Hoe houd je het bij zonder medewerkers te volgen?
Door alleen vast te leggen wat het besluit nodig heeft. De vraag is: welke AI-diensten worden er in onze gemeente geopend, hoe vaak, en is daar een besluit over. Voor dat antwoord is het domein van de dienst genoeg. Wie het opende, welke pagina en wat erop stond, veranderen het besluit niet en veranderen de meting wel: van een telling van diensten in een registratie van personen. Dat onderscheid, en wat het betekent voor de AVG en de ondernemingsraad, staat in AI-monitoring versus medewerkersmonitoring.
Bij BeeSensible legt de extensie daarom alleen het registreerbare domein vast, hooguit één keer per dag per apparaat, zonder gebruikers-id, zonder pad en zonder pagina-inhoud. De waargenomen domeinen worden gekoppeld aan een catalogus van 865 AI-tools, met per tool de leverancier, het land, het trainingsbeleid en een risicoscore. Een beheerder ziet welke tools nog geen besluit hebben en legt dat besluit vast; BeeSensible kiest nooit zelf.
