Overheden moeten bij het gebruik van nieuwe technologische mogelijkheden altijd het algemeen belang dienen. Daarbij moeten ze ook de grenzen van de beperking van grondrechten respecteren. Zo niet, dan verandert de overheid in een 'algocratie', een bestuur gebaseerd op algoritmes en data. daarvoor waarschuwt de Raad van State in zijn jaarverslag.
Dit is te lezen in de algemene beschouwing van het jaarverslag van de Raad van State over 2023.
Gemeenten zetten meters, camera's en sensoren in om bijvoorbeeld luchtvervuiling te meten, gewelddadig gedrag op straat te signaleren en drukte in uitgaansgebieden te monitoren, schrijft het hoogste adviesorgaan van de regering. Soms dient dit echter ook 'het sturen van bepaald gedrag of het voorspellen van risico's.'
In de knel
'Niet alleen kunnen daardoor burgers in de knel komen, zoals op het terrein van uitkeringen en toeslagen inmiddels meermalen is gebleken, maar ook verdwijnt de (morele) autonomie van de mens naar de achtergrond'. Dat is uiteindelijk 'funest voor zowel de menselijke waardigheid als het democratisch proces,' aldus de Raad van State.
Reguleren en toezicht houden is volgens de RvS wenselijk als je AI en andere digitale technologieën verstandig wilt gebruiken. Inwoners moeten kennis kunnen nemen van de gegevens die de overheid van hen bewaart of gebruikt en deze op tijd en eenvoudig kunnen corrigeren. Onnodige gegevens moeten zij uit overheidssystemen kunnen laten verwijderen.
Recht op informatie
Ook is volgens de raad recht op informatie aan te bevelen, 'wat inhoudt dat in een besluit staat of gebruik wordt gemaakt van algoritmen en hoe daarover informatie kan worden verkregen'. De RvS adviseert ook om in de Algemene wet bestuursrecht bepalingen op te nemen over algoritmische besluitvorming.
Grondrechten
De overheid moet bij besluiten om technologie in te zetten altijd uitleggen en verantwoorden welke grondrechtelijke belangen in het geding zijn. En ook op welke manier wordt verzekerd dat mensen autonoom genoeg blijven en dat de grenzen van de grondrechtenbeperking in acht worden genomen. 'Dat draagt bij aan betrouwbaar en rechtvaardig bestuur,' volgens het adviesorgaan.
Adviezen en uitspraken uitgelicht
Nieuw in het jaarverslag van de Raad van State is de rubriek 'Adviezen en uitspraken uitgelicht'. Daarin staan een aantal interessante artikelen voor gemeenten en is onder meer te lezen hoe 'de Tweede Kamer de Spreidingswet uiteindelijk minder complex maakte', hoe de terugtrekking van de experimentenwet bijstand in het stemhokje tot stand kwam en waarom burgemeester van Amsterdam Femke Halsema een woning na de vondst van explosieven niet mocht sluiten.