Gemeenten zijn voorzichtig met generatieve AI. De een kiest voor een verbod, maar wil blijven experimenteren. De ander gaat voortvarender van start. Maar allemaal willen ze de controle niet verliezen. Voorne aan Zee, Goes en Maastricht vertellen.
Voorne aan Zee op het Zuid-Hollandse eiland Voorne-Putten koos vorig jaar voor SafeGPT. In een pilot beproeven ambtenaren het AI-vernuft onder meer met het maken van samenvattingen van verslagen en het vereenvoudigen van teksten naar een toegankelijker taalniveau.
Dat laatste is beslist nuttig, stelt wethouder Robert van der Kooi van 's lands jongste gemeente, januari 2023 ontstaan uit een fusie van Brielle, Hellevoetsluis en Westvoorne. 'Sommige ambtenaren neigen naar lange zinnen met moeilijke constructies. Dat zijn ze zo gewend. Ze worden enthousiast, als ze zien dat een tekst dankzij AI veel begrijpelijker is geworden. In de pilot stoeien we met AI, zodat iedere ambtenaar kan achterhalen of het voor het werk handig zou kunnen zijn.'
Tussen omstreden generatieve AI-tools als ChatGPT is SafeGPT bedoeld als veilig alternatief. 'De AI leert niet van onze data. Alle gegevens blijven bij ons. We hebben er meer grip op, maar beschikken zo over een veilige en toegankelijke AI-toepassing,' licht Van der Kooi toe.
Kanaliseren
De gemeente probeert het gebruik van AI te kanaliseren met gebruiksvoorwaarden. 'Ambtenaren mogen ermee aan de slag, maar ze blijven zelf verantwoordelijk voor wat ze opschrijven. Ze mogen niet klakkeloos plakken en knippen en ze moeten transparant zijn over het gebruik van SafeGPT,' zegt Van der Kooi.
Van der Kooi meent dat gemeenten hun ogen niet voor AI moeten sluiten. 'De vraag is niet óf je AI gaat gebruiken, maar hoe je het op een goede manier gaat toepassen. Jongeren zijn hier al volop mee bezig, ook op school, meer dan wij dat als ambtelijke organisatie doen. Wij zijn ons meer bewust van de risico's, maar we moeten ook met de tijd meegaan. Het hebben van een tool als SafeGPT geeft een stukje uitstraling naar buiten toe voor de werving van nieuw personeel. Je laat zien dat je meegaat met nieuwe ontwikkelingen en geen suffige gemeente bent.'
OpenAI
In Goes is november vorig jaar AI-chatbot Guus live gegaan, bedoeld om 24/7 vragen van inwoners op te vangen. Via haar botplatformleverancier Spotler kwam de Zeeuwse gemeente bij OpenAI uit, het bedrijf achter ChatGPT. Vragen aan Guus gaan direct door naar OpenAI, dat een antwoord formuleert. Met de nadrukkelijke eis dat voor de analyse van vragen uitsluitend informatie van de gemeentelijke website zelf wordt gebruikt. 'We willen juist dat het niet hetzelfde werkt als Chat-GPT,' benadrukt beleidsadviseur dienstverleningRutger den Toom. 'Dat kan immers gaan hallucineren, ook kunnen datasets niet up-to-date zijn. Voor Guus wordt alleen informatie ontsloten die we zelf geschreven hebben.'
Via zijn leverancier heeft Goes met OpenAI afgesproken dat het bedrijf de data van de gemeente niet gebruikt om het eigen taalmodel te trainen en dat het de antwoorden na 30 dagen verwijdert. Ook worden geen persoonsgegevens gebruikt. 'Guus wijst er bij de start van de chat nadrukkelijk op dit soort gegevens niet in te voeren. Binnenkort implementeren we een filter dat, als dat onverhoopt toch gebeurt, de chat meteen stopt', zegt Den Toom.
Arbeidsintensief
Guus levert Goes efficiencywinst op, weet Den Toom. 'We hadden al een scripted chatbot, die voorgeschreven antwoorden geeft. Daarvoor moesten we honderden voorbeeldvragen bedenken, wat behoorlijk arbeidsintensief is. Nu hebben we een chatbot die vragen slim analyseert en de antwoorden genereert. Dus hoeven we al die teksten niet meer te maken, AI doet het werk voor ons.' Guus kan 60 procent van de vragen beantwoorden, de scripted bot kwam maximaal tot 30 procent. 'Dat is een flinke stap vooruit, ook al is het niet perfect.' Dagelijks wordt Guus zo'n 25 keer geraadpleegd.
Voorne aan Zee kijkt ook naar een AI-chatbot, laat Van der Kooi weten. 'Inwoners zijn dat al gewend bij webshops en hun verzekeringsmaatschappij. Waarom zouden wij als gemeente dan achterblijven? Het dwingt ons er tevens toe de informatie op de gemeentesite actueel te houden. Daarmee kan het ons helpen onze dienstverlening te verbeteren.'
Algoritmeregister
Den Toom geeft aan dat Goes dankzij Guus ook het maken van de verplichte DPIA in de vingers heeft gekregen (kort voor Data Protection Impact Assessment). Ook staat de AI-chatbot op het Nationaal Algoritmeregister. 'Met Guus hebben we hier mooi ervaring in op kunnen doen.'
De meerderheid van de gemeenten is overigens nog niet zo ver met de publicatie van risico-algoritmen in het landelijke register.
Werkafspraken
Net als Voorne aan Zee heeft Goes werkafspraken gemaakt over het gebruik van generatieve AI door ambtenaren, zoals geen persoonsgegevens en vertrouwelijke informatie delen, en goed naar de gegenereerde tekst kijken. 'We geven trainingen in hoe je generatieve AI moet gebruiken', vertelt Den Toom.
Toch is Goes voorzichtig met eventuele uitbreidingen. 'We onderzoeken of we met AI onze kennisbank kunnen ontsluiten, maar alleen voor intern gebruik. Voor ons is Guus een nuttig project om op een veilige manier ervaring op te doen met AI. De chatbot valt in de laagrisico-categorie. Als je AI ook gaat inzetten om beslissingen te nemen en processen af te laten handelen, wordt het meteen een stuk spannender. Die kant willen we nog niet opgaan. We willen de controle niet verliezen.'
Verbieden
Maastricht besloot eind vorig jaar het gebruik van ChatGTP en andere AI-tools tot nader order te verbieden. 'We zijn zeker enthousiast over de potentie van generatieve AI, maar toepassingen gelden nog altijd als risicovol, omdat ze niet voldoen aan de wet- en regelgeving,' legt Pascal Hermans, coördinator media en productie op de communicatieafdeling, uit. 'Ook zijn er zorgen over de bronnen van trainingsdata voor generatieve AI. Teksten kunnen niet waardenvrij en zelfs discriminerend zijn. Het is essentieel dat het gebruik van AI onze eigen waarden weerspiegelt en alle burgers rechtvaardig behandelt.'
Verantwoord experimenteren
Ondanks het verbod wil de gemeente verantwoord met AI blijven experimenteren, geeft Hermans aan. Een team van collega's stelde een gedetailleerd plan op, dat binnenkort met de directie wordt besproken. Dit plan bevat leerdoelen om de vaardigheden van medewerkers te versterken als ook het bewustzijn van de ethische aspecten en de impact van AI op de organisatie te vergroten.
AI biedt immers aanzienlijke mogelijkheden, aldus Hermans. Als voorbeeld noemt hij de ondersteuning bij het redigeren van teksten en het creëren van nieuwe content, zoals het bewerken van ondertiteling of voice-overs in video's. 'AI kan bijzonder waardevol zijn voor het verhogen van de toegankelijkheid van onze communicatie, wat een significante verrijking van onze communicatiekanalen kan zijn. Bovendien kan AI ons ook helpen onze website te optimaliseren door inzichten te bieden in gebruikersgedrag, wat uiteindelijk onze dienstverlening aan burgers weer verbetert. De komende tijd willen we deze mogelijkheden gaan verkennen.'