Redactie, TPO, 16 oktober 2024 – Dit zegt Ewout Irrgang, lid van de Algemene Rekenkamer, naar aanleiding van een onderzoek van de Algemene Rekenkamer.
AI-systemen zijn niet handmatig geprogrammeerd, maar leren hun taken uit te voeren door gebruik te maken van grote hoeveelheden data. Hoewel dit veel voordelen kan bieden, waarschuwt Irrgang voor mogelijke problemen zoals privacyschendingen en discriminatie.
“Je kunt de risico’s alleen beheersen als je ze kent”, stelt hij. Zonder een gedegen inschatting kunnen deze gevaren ongemerkt optreden.
De meeste overheidsorganisaties maken gebruik van niet meer dan drie AI-systemen, maar er zijn uitzonderingen. Zo gebruikt uitkeringsinstantie UWV tien AI-systemen en de politie maar liefst 23. Bij het UWV worden deze systemen ingezet om bijvoorbeeld te voorspellen wie na afloop van een uitkering zonder inkomsten komt te zitten.
Dit laat volgens Irrgang zien dat AI-systemen met grote impact op burgers ook grotere risico’s met zich meebrengen.
In de gevallen waarin wél een risicoanalyse is gemaakt, schatten overheidsorganisaties de risico’s doorgaans als minimaal in. Toch waarschuwt de Rekenkamer dat zelfs bij laag ingeschatte risico’s er nog steeds kans bestaat op bijvoorbeeld privacyschendingen.
Sommige AI-systemen zouden zelfs onder toekomstige EU-regels verboden kunnen worden. Het is dan ook belangrijk dat de overheid alert blijft op de wet- en regelgeving rondom AI.
Hoe de risico’s precies worden ingeschat, varieert sterk tussen organisaties. Het kabinet heeft aangegeven de samenhang tussen deze benaderingen te willen verbeteren. Dit vindt de Algemene Rekenkamer een positieve ontwikkeling, maar er blijft volgens Irrgang werk aan de winkel om de controle en afweging van risico’s te stroomlijnen.
Naast de risico’s is ook de effectiviteit van AI-systemen bij de overheid niet altijd duidelijk. Van 42 van de 120 systemen is niet bekend of ze de verwachtingen waarmaken. Bij de overige systemen presteren de meeste wel naar behoren of zelfs beter.
Het onderzoek van de Rekenkamer is de eerste keer dat het gebruik van AI bij de overheid in kaart is gebracht. AI-systemen die ad hoc worden ingezet, zoals ChatGPT, zijn echter buiten beschouwing gelaten.
Bron: ANP
