“Ik weet nog goed dat ik in 1998 een mobiel nam en dat mijn vrienden me voor gek verklaarden.” Freek Vos, AI-expert bij het A&O fonds Gemeenten, bedoelt maar. Zo gaat dat met technologische ontwikkelingen en ook met artificiële intelligentie (AI). “AI is na de computer, mobiele telefoon en het internet de vierde grote disruptor van onze moderne tijd, die niet één aspectje van ons leven gaat veranderen, maar alles. Op zo’n manier dat de generatie die na ons opgroeit zich niet anders meer kan voorstellen.” Vos is een goede verteller en neemt gemeenten graag mee in de ‘wondere wereld’ van de kunstmatige intelligentie. Hij geeft lezingen en workshops, schrijft blogs en nam met andere experts webinars op en de podcast ‘Nieuwe skills voor werken met AI’.
Het A&O fonds organiseerde voor gemeenteambtenaren ook inspiratiebijeenkomsten over AI. De belangstelling in het land is groot. Overal experimenteren gemeenten met chatbots en tools die de administratiedruk verminderen. “Het besef dat dit een keerpunt is, is ook in gemeenteland doorgedrongen. Dit waait niet meer over en dat geeft meteen de reactie: ‘O jee, hoe gaan we dit goed doen?’ Op dat punt zijn we nu.”
Jubelverhalen
Informaticus Ilyaz Nasrullah, expert op het gebied van digitale technologie, columnist voor Trouw en maker van de podcast ‘Welkom in de AI-fabriek’ van Trouw en BNR Radio, is allergisch voor allerlei jubelverhalen. Hij waarschuwt voor het gebruik van AI in het sociaal domein. Zeker wanneer inwoners de dupe kunnen worden. Zoals bijvoorbeeld bij fraudedetectie, waarbij AI-voorspelsystemen worden ingezet. “Dat soort toepassingen zijn niet geschikt voor het sociaal domein, om de simpele reden dat sociale regels zich niet zo goed in data laten vangen. Deze technologie is eigenlijk ontwikkeld voor het voorspellen van mechanische of natuurkundige processen.” ‘Een mens is niet zo voorspelbaar als een baggerpomp’, zei hij eerder in een interview met De Correspondent. Hij noemt de toeslagenaffaire. Het algoritme voorspelde in feite geen fraude, maar de kans hoe vaak een aanvraag foutief was ingevuld. “Dat is iets heel anders. Het is maar hoe je die uitkomsten vervolgens interpreteert – en daar gaat het vaak mis.” Hij tempert de hooggespannen verwachtingen. “AI wordt enorm gehypet. Niemand wil de boot missen, maar waar gaat die boot heen?”
Chinese kamer
Wat is AI nu wel en wat niet? Met die vraag begint Vos zijn verhaal vaak. Het containerbegrip geeft aanleiding tot allerlei misverstanden. De titel van een van zijn lezingen is niet voor niets: ‘AI bestaat niet en gaat je leven veranderen’. Om duidelijk te maken wat kunstmatige intelligentie is, geeft Vos graag het voorbeeld van de Chinese kamer, een gedachte-experiment van filosoof John Searle over het nabootsen van het menselijk brein. Een persoon zit in een kamer met een heel grote wand met Chinese tekens en een handboek in het Engels. Steeds schuift iemand een papiertje onder de deur met Chinese tekens. Met de instructies uit het handboek weet de persoon hoe hij daarop moet reageren. Hij schrijft een antwoord in Chinese tekens en schuift dat weer onder de deur door. Begrijpen wat hij noteert, doet hij niet. “Dit is in een notendop hoe generatieve AI op dit moment werkt. Met een enorme database en complex handboek, zodat het lijkt alsof AI begrijpt wat je bedoelt.” Omdat de databank gevuld wordt met menselijke content en interacties, ontwikkelt het systeem ook sociaal wenselijk gedrag. Vos: “En dat is meteen een van de grootste valkuilen. Ik ben ervan overtuigd dat onze manier van werken totaal gaat veranderen, maar tegelijkertijd is de huidige techniek – de generatieve AI waar zoveel om te doen is – nog helemaal niet zo slim.”
Chatbot Nasrullah waarschuwt om diezelfde reden voor de inzet van chatbots. “Chatbots hebben geen besef van de context van het gesprek dat ze voeren. Maar zo lijkt het wel. Wanneer je met een chatbot praat, begin je te geloven dat je met een soort levende entiteit spreekt. Dat is menselijk, niet voor niets houden mensen van mascottes. Maar niemand denkt dat het Michelin-mannetje echt is.” Een chatbot die niets begrijpt of aanvoelt, maar op basis van een enorme historie van teksten en gesprekken wel áltijd antwoorden probeert te geven. “Plausibele antwoorden. Maar dat is niet goed genoeg. Vreemd genoeg accepteren we dat wel.”
En dan is er nog de bekende AI-bias: de systematische vooroordelen die kunnen ontstaan in AI-systemen – met grote gevolgen. Actueel voorbeeld is het algoritme dat DUO gebruikte om te controleren of studenten misbruik maken van de uitwonende beurs. De Autoriteit Persoonsgegevens concludeerde in november dat deze fraudeaanpak tot indirecte discriminatie leidt van studenten met een migratieachtergrond. Het kabinet besloot vervolgens om alle studenten te compenseren die een boete hebben gekregen. Kosten: 61 miljoen euro. Vos raadt gemeenten altijd aan om een aantal basisregels te formuleren en een duidelijk AI-beleid op papier te zetten. “Daar moet je over nadenken. Wij hebben hier bij het A&O fonds de spelregel dat we AI geen besluiten laten nemen; we laten AI niet autonoom z’n gang gaan. Be in control. En: zie dit niet als een IT- of communicatieproject. Neem het hele gemeentehuis mee.” Nasrullah: “Breng de risico’s goed in kaart. Zeker in het sociaal domein. Wat zijn de gevolgen als het misgaat? Een parkeervergunning is wat anders dan een uitkering.”
Disclaimers
Ondanks deze disclaimers en waarschuwingen weten de experts dat de ontwikkelingen niet te stoppen zijn. AI waait niet over en zal de samenleving en de arbeidsmarkt hoe dan ook veranderen. En er zijn ook zeker nieuwe toepassingen die het leven van ambtenaren makkelijker gaan maken. Of het nu gaat om het samenvatten van beleidstukken of het vertalen van teksten naar B1-niveau. Vos noemt de Mai Chatbot van de gemeente Montferland (zie pagina 20 in het magazine, red.). “Een mooi initiatief dat laat zien hoe je AI praktisch kunt inzetten. Er is daar goed nagedacht over de risico’s. De bot toont vooraf en nogmaals bij het antwoord een duidelijke disclaimer dat de bot ook fouten kan maken en dat je daarom zelf de informatie moet controleren. En doordat er ook altijd een link wordt gegeven naar de pagina waar de bot zijn informatie heeft gevonden, kun je dit meteen zelf controleren.”
Het gebruik van AI doet een stevig beroep op ons kritisch denkvermogen. En op onze kennis om AI- toepassingen te controleren. Vos: “We hebben op kantoor minder hands-on-kennis van bijvoorbeeld Excel nodig, maar wel specialisten om AI te controleren. AI dwingt ons alle werkprocessen zorgvuldig onder de loep te nemen. Waar kan welke toepassing helpen?” Dat vraagt heel wat van gemeenten, benadrukt hij. Een nieuwe mindset, een duidelijke visie én nieuwe functies. Zo moeten gemeenten zorgen voor schone en juiste datasets. “Niemand wil dat ChatGPT gaat struinen in verouderde of conceptbestanden van de organisatie. Iedereen is notoir slecht in het opschonen van zijn digitale werkomgeving, ook daar moeten we medewerkers in meenemen en opleiden. Sterker nog: het wordt een vak apart om afgebakende datasets voor AI te creëren.”
Bezuinigingsopdracht
Nasrullah vindt dat gemeenten vooral het eerlijke verhaal moeten vertellen. Waarom zijn zij zo hard op zoek naar technische oplossingen? Vanwege bezuinigingen en een tekort aan personeel. “Daar moeten ze niet omheen draaien. Het gaat niet om het verbeteren van de service of om meer tijd voor inwoners. Nee, ze zijn op zoek naar kostenbesparingen.” Het argument dat ambtenaren met hulp van allerlei AI-toepassingen of robots minder tijd kwijt zijn aan administratief werk en zich daardoor op het menselijk contact met inwoners kunnen richten, wuift hij weg. “We zoeken een oplossing in de techniek en gaan voorbij aan het fundamentele probleem: Waarom hebben we deze bureaucratie opgetuigd? Waarom moeten ambtenaren, sociaal werkers en leerkrachten zoveel tijd besteden aan administratie?” Hij vindt dat gemeenten transparant moeten zijn over hun experimenten met nieuwe toepassingen. Wat zijn de voor- en nadelen? “Meld deze toepassingen ook aan bij het Algoritmeregister van de overheid, zodat kritische nerds als ik kunnen meelezen.” Chatbot Mai van gemeente Montferland was het vijfhonderdste algoritme dat in november werd aangemeld.
Kloof
De ontwikkelingen gaan hard, heel hard. Ook daar maken de experts zich zorgen over. Vos: “De snelheid van de technologische ontwikkelingen is eigenlijk te hoog voor ons aanpassingsvermogen, blijkt ook uit onderzoek. Dat is gevaarlijk. Niet alleen voor de overheid, maar ook voor de samenleving. Hoe voorkomen we polarisatie tussen de digibeten en digivaardigen? Dat wordt een belangrijke opgave voor de toekomst. Mensen die nu al moeite hebben om een smartphone of computer te bedienen, zullen nog verder achteropraken.” Techniek maakt het leven vaak niet eenvoudiger, benadrukt Nasrullah. “Dat is een groot misverstand. Ja, ik kan nu sneller een recept voor boterkoek vinden, maar veel wordt moeilijker door het gebruik van technologie. Het maken van een chatbot is een project op zich. Je moet blijven testen, software moet geüpdatet worden: dat hele proces moet worden ingericht. Je moet weten waar de boot heen vaart.”
Lees ook het interview met hoogleraar interactieve intelligentie Catholijn Jonker: ‘Het doel van AI: de mens versterken, niet vervangen’ op sprankmagazine.nl.
Praktijkverhaal Montferland
Wie: Daan Verloop, AI-specialist
Wat: Chatbot Mai voor inwonersvragen
Je hebt de chatbot voor de gemeente Montferland ontwikkeld.
“Dat is een mooi verhaal. Ik woon in de gemeente en heb zelf een onderneming op het gebied van AI. Toevallig woonde ik een cursus bij over politieke betrokkenheid en de griffier vertelde dat de gemeente te maken heeft met gigantische hoeveelheden informatie. Daarna raakten we uiteraard in gesprek over AI. Zo is het balletje gaan rollen. Inmiddels werk ik als AI-specialist voor de gemeente. In gemeenteland is van alles gaande rondom chatbots. Ze zijn lang niet allemaal even goed. Als overheid wil je inwoners niet afschrikken. Als inwoner wil je op de site van de gemeente zo snel mogelijk antwoord op een breed spectrum van vragen. Van parkeren en trouwen tot Wmo-aanvragen en alles daartussenin. En al die vragen worden op allerlei verschillende manier gesteld, soms in dialect. Belangrijk is natuurlijk dat de chatbot geen dingen zegt of belooft die niet kunnen. Je moet het AI-systeem goed op de rails houden. Anders kan het heel erg fout gaan, daar zijn voorbeelden genoeg van. We hebben dan ook enorm veel getest en op 14 oktober ging Mai (Montferland AI) online. De reacties zijn heel positief.”
Wat zijn belangrijke lessen?
“De grote vraag is: waarom willen gemeenten AI inzetten? Het antwoord, in mijn ogen: omdat het moet. De loonkosten rijzen de pan uit en er gaan de komende jaren heel veel ambtenaren met pensioen. Dus we hebben automatisering, digitalisering, AI en robotisering – hoe je het ook wilt noemen – écht nodig. Dat is de realiteit en dat geldt niet alleen voor Montferland, maar voor heel Nederland. Daarbij moeten we voorkomen dat de digitale kloof in de samenleving groeit. Zelf zijn we voor onze chatbot nu ook oplossingen aan het bedenken voor oudere gebruikers. Denk aan speech-naar-tekst, waarbij bewoners hun vraag kunnen inspreken of video-oplossingen. Gemeenten moeten werken aan bewustwording. We hebben het hier niet over een nieuw softwarepakket, dit is een totale cultuurschok. Daar moeten we medewerkers in meenemen. Ik zie bij gemeenten namelijk een enorme wildgroei aan AI- applicaties die ambtenaren gebruiken: een serieus probleem. Je wilt niet dat allerlei beleidsdocumenten bijvoorbeeld worden gedeeld met ChatGPT. Het is belangrijk dat hierover intern duidelijke afspraken worden gemaakt. Als gemeente ben je misschien nog niet zo actief met AI, maar ambtenaren zitten niet stil.”
Tip?
“Als overheid moeten we veel meer samenwerken. Iedereen vindt het eigen wiel uit, zit op een eigen eiland. Dat kan en moet anders, zeker gezien de risico’s. De VNG en het ministerie van Binnenlandse Zaken zijn in ieder geval geïnteresseerd in onze chat- bot. Het zou mooi zijn als ons framewerk over het hele land wordt uitgerold.”
Praktijkverhaal WerkSaam
Wie: Stefan Hes, Projectleider
Wat: Ondersteuning coaches met AI (pilot VNG)
Wat hoopt WerkSaam Westfriesland met AI te bereiken?
“Onze digitale frontoffice zijn we al een aantal jaar aan het verbeteren. Veel aanvragen, bijvoorbeeld die voor een bijstandsuitkering, verlopen al volledig digitaal. Maar soms ontbreekt het nog aan een goede koppeling tussen het klantportaal en de systemen die onze werkcoaches gebruiken. Zij ervaren daardoor een hoge administratieve last. Ook kost het maken van gespreksverslagen hen veel tijd. We willen AI inzetten om bijvoorbeeld een samenvatting te maken van het dossier, zodat een coach in één oogopslag ziet wat belangrijk is. Tijdens of na het gesprek met een inwoner kan AI vervolgens helpen met de verslaglegging. Dat bespaart coaches veel tijd. Er moet nu eenmaal veel geregistreerd worden. Dat is belangrijk omdat we in de toekomst ook meer met data willen doen, zoals het inzichtelijk maken van de ontwikkeling van cliënten: welke tussenstapjes op weg naar werk worden er gezet?
Dankzij een subsidie van de VNG – in totaal zijn 15 van de 65 aangemelde projecten geselecteerd – kunnen we een mooie start maken. Inmiddels zijn we vier maanden onderweg en we hebben een jaar de tijd gekregen. In die tijd willen we iets neerzetten dat werkt in de uitvoering en hopelijk schaalbaar is voor andere gemeenten.”
Waar zijn jullie nu?
“De meeste winst is te behalen bij de voorbereiding en verslaglegging van gesprekken. Audio-opnamen van gesprekken worden omgezet in een transcript. Vanuit dat transcript genereert AI een uitgewerkt verslag. Het is nog een uitdaging om dit echt te testen met cliënten, vanwege wetgeving zoals de nieuwe Europese AI-verordening. Het doel van die wet is dat AI-systemen veilig zijn en fundamentele rechten respecteren. Tot nu toe werken we met fictieve gesprekken, maar binnenkort gaan we testen met echte gesprekken. Samen met onze functionaris gegevensbescherming zoeken we uit waarmee we daarbij allemaal rekening moeten houden. In de toekomst kan AI ook adviseren over de inzet van instrumenten of trajecten. Om een beeld te geven: wij hebben ongeveer 150 instrumenten om cliënten op weg naar werk te helpen. Van taallessen en werkstages tot een assertiviteitstraining. We zien dat coaches geneigd zijn om steeds hetzelfde instrument in te zetten voor bepaalde cliënten. AI kan dat soort blinde vlekken voorkomen.”
Wat vinden de medewerkers ervan?
“De reacties lopen uiteen. We zijn dit pilotjaar begonnen met een brainstormsessie met vijftien mensen uit de uitvoering en hebben hun gevraagd om mee te denken en te dromen. Sommigen waren in de ochtend nog sceptisch, maar werden enthousiaster naarmate ze meer hoorden over de mogelijkheden. Ik probeer zoveel mogelijk draagvlak te creëren in de organisatie. Mensen zijn bijvoorbeeld bang dat alles wordt geautomatiseerd en dat de afstand tot de inwoner alleen maar groter wordt. We benadrukken dat onze werkcoaches juist meer ruimte krijgen voor de menselijke kant, doordat we de administratieve lasten terugbrengen. De ontwikkelingen rondom AI gaan zo snel, we kunnen niet achterblijven. Ik ben ervan overtuigd dat we cliënten hiermee beter kunnen helpen en het werkplezier van de coaches kunnen vergroten.”
Tip?
“Begin klein, stapsgewijs met kleine applicaties buiten de kernsystemen om. En benadruk: AI helpt, de coach beslist.”
Praktijkverhaal Drechtsteden
Wie: Marije Klink, directielid Bestaanszekerheid & Zorg
Wat: Robotisering
Hoe heeft de robot zijn intrede gedaan bij de sociale dienst Drechtsteden?
“Wij voerden voor zeven gemeenten de energietoeslag uit. Het eerste jaar bracht dit hoge uitvoeringskosten met zich mee. We moesten veel extra personeel inhuren, het proces was volledig handmatig. Daarom zijn we gaan onderzoeken of we repeterende processen anders konden organiseren. Samen met een strateeg hebben we gekeken welke taken we konden robotiseren. Alles moesten we binnen anderhalve maand implementeren, maar dat is gelukt. En het heeft ons echt veel tijd en geld bespaard.”
Wat doet de robot nu?
“Die zetten we in aan de voorkant van het proces, waar de aanvragen binnenkomen. Aanvragen in het systeem zetten, documenten scannen, dossiers aanmaken en stukken verwerken: perfect om aan een robot over te laten, terwijl consulenten zich richten op het denk- en maatwerk, zoals het beoordelen van het recht op de toeslag. Dit geeft onze medewerkers veel lucht. Het werk is weer behapbaar en zij kunnen zich meer richten op complexere zaken.”
Wat zijn de volgende stappen?
“We bekijken nu of andere processen en aanvragen ook gerobotiseerd kunnen worden. Ik merk dat de organisatie als geheel scherper is gaan kijken: wat kan er nog meer anders? Ik verwacht dat deze nieuwe technologieën heel veel kansen bieden voor het sociaal domein. Er gebeurt ontzettend veel, dus het helpt als je dit soort tools in de rugzak hebt. De kern van het vak van onze consulenten is het helpen van inwoners. Als je de helft van de tijd kwijt bent aan administratie, is dat zonde. We hebben inmiddels ook een adviesteam in het leven geroepen, dat meedenkt, adviseert en spelregels heeft geformuleerd rondom nieuwe technologieën. We blijven kritisch en voorzichtig, we doen niets zonder gedragen businesscase.”
Tip?
“Laat je begeleiden door mensen met verstand van techniek. Het is niet nodig om zowel het sociaal domein als de techniek te begrijpen. Maar je moet wel weten hoe je processen tot in de details moet duiden. Het kost tijd aan de voorkant, maar het levert later veel op.”
Praktijkverhaal Katwijk
Wie: Steven Shukrula, ICT- en AI-adviseur
Wat: Copilot, AI-assistent van Microsoft
Hoe is het allemaal begonnen bij de gemeente Katwijk?
“Wij zijn een van de zeshonderd organisaties die Microsoft wereldwijd heeft gevraagd om mee te doen aan een early adopters-programma rondom AI-systeem Copilot. In Nederland nemen ongeveer twintig organisaties deel, waaronder twee gemeenten – Amsterdam en wij –, waardoor we nu een van de koplopers in het land zijn. Dat is mooi, maar het betekent ook dat we ons eerder kunnen stoten. Dit is toch sensitieve technologie die onder een vergrootglas ligt. Ook onze medewerkers én inwoners zijn kritisch. En terecht.”
Jullie gebruiken het Arenamodel. Wat is dat?
“Dit is géén feestje van ICT, dat was voor ons meteen helder. Nee, dit is een ontwikkeling die de hele organisatie treft. En we bepalen met z’n allen hoe we deze technologie gaan toepassen. Daarom heb ik een Arenamodel ontwikkeld, met spelers, toeschouwers en belangstellenden op de buitenste ring. De spelers gaan experimenteren. We nodigen ze uit de toepassingen uit te proberen, grenzen op te zoeken en bevindingen te delen. De toeschouwers – bijvoorbeeld de functionaris gegevensbescherming, de chief information security officer, HR, communicatie en de ondernemingsraad – volgen dat hele proces kritisch. Daarnaast zijn er de belangstellenden: collega’s die op de hoogte willen blijven. Juist omdat veel mensen toch wat huiverig zijn voor deze nieuwe ontwikkelingen, is het goed om te weten dat we hier niet ongecontroleerd mee aan de slag gaan.”
Welke toepassingen onderzoeken jullie nu?
“Inmiddels zijn dat er twintig. Een concrete toepassing is voor het klantcontactcentrum, waar collega’s worden gebeld met allerlei vragen. Zij maken bij het beantwoorden van die telefoontjes gebruik van een interne kennisbank. Met Copilot kun je een bot bouwen om aan die databank te koppelen. Deze bot kan dan snel de juiste antwoorden vinden en bewoners dus sneller helpen. Dat betekent ook dat je alleen de correcte informatie gebruikt die in die databank staat.
Een ander voorbeeld is de samenvatfunctie van AI. Handig voor medewerkers die veel stukken moeten lezen. De samenvatting moet dan natuurlijk wel kloppen; het moet duidelijk zijn welke bronnen AI kan gebruiken. Het kan niet zo zijn dat Copilot zomaar bij allerlei bestanden van andere collega’s kan komen. De informatiehuishouding en alle autorisaties voor de toegang tot bepaalde programma’s moeten dus op orde zijn. Dit is een belangrijke voorwaarde voor de inzet van deze toepassingen. Copilot legt goed bloot wat er nog verbeterd moet worden.”
Nog meer lessen?
“We moeten kritisch blijven. The human in the loop. Jij blijft verantwoordelijk, je kunt niet achterover gaan zitten. Een ander aspect is technologische afhankelijkheid. Het kan niet zo zijn dat we zelf straks niet meer weten hoe bepaalde handelingen uitgevoerd moeten worden.”
Tip?
“Maak AI integraal onderdeel van de bedrijfsvoering. Dit is niet iets wat je erbij doet: mensen moeten worden opgeleid en er moet capaciteit worden vrijgemaakt. Kijk naar de toekomst en alle uitdagingen in de samenleving en het sociaal domein. Er worden gigantische tekorten op de arbeidsmarkt voorspeld. AI-technologie biedt kansen en daar moeten we zorgvuldig mee omgaan.”
