“We willen open zijn over algoritmen en het gesprek hierover voeren.”

Maak kennis met het actiepunt Open Algoritmen

Van 2018 tot en met 2020 wordt het derde Actieplan Open Overheid uitgevoerd. In het nieuwe Actieplan, dat het ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK) coördineert, tref je een verscheidenheid aan onderwerpen en actiehouders. Wij spraken alle actiehouders om een beeld te krijgen van de actiehouders en hun actiepunten: wie zijn ze en wat willen ze bereiken?

Het negende interview uit onze interviewreeks gaat over het actiepunt Open Algoritmen. Hierover spraken we met actiehouders Maike Popma (Vereniging Nederlandse Gemeenten, VNG) en Gwen Wijman-Jansen (Rijkswaterstaat).

Waarom zijn jullie actiehouder geworden?
Omdat wij ontzettend nieuwsgierig zijn naar de invloed van algoritmen op de samenleving. Er zijn veel verschillende opvattingen over wat Open Algoritmen precies zijn. Vragen die spelen zijn bijvoorbeeld wat je onder algoritmen en onder open kunt verstaan. We gaan ervan uit dat mensen weten wat een algoritme is, maar dat is niet altijd zo.

We merken dat het landschap erg diffuus is. En ook het kennisniveau is heel divers. Velen vinden het verschijnsel algoritmen spannend. Zeker met de kwalificatie ‘open’. Met ons actiepunt hopen wij hier meer helderheid in te scheppen en het kennisniveau op te schalen. En dat doen wij niet alleen, maar samen met andere overheidsorganisaties. We onderzoeken het kennisniveau en de belevingswereld rondom algoritmen. Het gaat er niet om wat wij als actiehouders vinden en wat onze kennis over algoritmen is, maar om wat leeft in verschillende overheidslagen. Ook is het interessant om te onderzoeken wat er al gebeurt in de praktijk, zowel bij VNG als Rijkswaterstaat.

“Met ons actiepunt hopen wij meer helderheid te scheppen
en het kennisniveau op te schalen.”

Overigens zijn wij niet per se voorstander van verdere ‘veralgoritmisering’. Wij zien onszelf meer als de detectives van het onderwerp. Algoritmen gebruiken is prima, maar niet altijd gewenst als onderdeel van een autonoom beslissingssysteem. De context waarin een algoritme gebruikt wordt is dus heel erg belangrijk.

Kunnen jullie iets meer vertellen over het gebruik van algoritmen?
Je hebt verschillende niveaus van intelligentie in algoritmen. Een simpel model om te bepalen of een sluis open of dicht moet bij een bepaalde waterstand is al een algoritme. Daarnaast kun je een poging doen om menselijk handelen in te sluiten in het algoritme. Of juist het menselijk handelen nabootsen.

Algoritmen worden ingezet op onderwerpen die politiek gevoelig zijn. We kunnen nieuwe opvattingen ontwikkelen en de vraag is of een bepaalde technologie daar wel bij past. Door deze politieke gevoeligheid zit er een houdbaarheidsdatum aan algoritmen. We zouden dit in metadata kunnen aangeven, maar het is wel een aspect waar we over na moeten denken.

Een belangrijke vraag over het gebruik van algoritmen is: wat is de invloed van algoritmen op onze informatiesamenleving? We zien dat deze vraag veel verschillende reacties oproept. Diverse media besteedden aandacht aan wat er fout kan gaan met algoritmen, bijvoorbeeld het programma Tegenlicht (VPRO).

Waar gaat jullie focus naar uit bij het actiepunt Open Algoritmen?
Wij willen de maatschappelijke effecten van algoritmen graag bespreekbaar maken. Onze focus ligt daarbij op bewustwording, verantwoording en het openstellen. Dat je algoritmen open kunt stellen is leuk, maar geen doel op zich. Bij ons actiepunt gaat het daarom niet over de technische en functionele aspecten van algoritmen. Het gaat juist over hoe het algoritme landt binnen een organisatie en in de samenleving.

Er wordt op verschillende plekken geëxperimenteerd met algoritmen en data. Daarbij komt ook de ethische kant om de hoek kijken: wat gebeurt er precies en welke invloed heeft het op de samenleving? Kortom: wat is het effect van algoritmen? Je zou bijvoorbeeld een algoritme kunnen programmeren om een steen te gooien. Dat die steen dan vervolgens in het water belandt en daar een vis doodt, is het effect van het feit dat de steen is gegooid. En dus van het algoritme. Je hebt immers niet geprogrammeerd dat je een vis wil doden.

“Eigenlijk zou ons actiepunt ook Open over Algoritmen kunnen heten.”

Dan is er ook nog de gevoelskant. Mensen kunnen het gevoel hebben dat er over hun leven wordt beslist door algoritmen en dat voelt voor veel mensen onprettig. Wij vinden het belangrijk dat er aandacht is voor die gevoelskant. Wij denken dat transparantie essentieel is om de werking en effecten van algoritmen uit te leggen. Met transparantie werk je aan de uitlegbaarheid en aan verantwoording. In het kader van die transparantie denken we na over een soort bijsluiter over algoritmen.

Wat ons betreft gaat ons actiepunt dus niet over het open maken van algoritmen. We willen open zijn over algoritmen en het gesprek hierover voeren. Eigenlijk zou ons actiepunt daarom ook Open over Algoritmen kunnen heten. Want dat is wat we willen zijn.

Wat merken inwoners van Open Algoritmen?
Een algoritme kan consequenties hebben als er geen menselijke tussenkomst is. Redelijkheid kun je niet programmeren. Hierbij moet je vragen blijven stellen: kan een algoritmen alles vangen? Algoritmen schrikken daarom nog af. En dat is niet erg, want we moeten eerst het gesprek met elkaar voeren: een open gesprek over de verschillende aspecten die bij algoritmen horen. Wij hopen met dit actiepunt bewustwording binnen overheidsorganisaties te creëren en daardoor transparantie met betrekking tot algoritmen – bijvoorbeeld door meer informatie of verantwoording – bij de burger te brengen.

“De vraag die we onszelf moeten stellen, is of we onze overheid nog wel op de huidige manier willen inrichten.”

Waarom hoort dit actiepunt in het Actieplan Open Overheid?
In een samenleving die steeds meer digitaliseert is het is belangrijk dat de overheid eigentijds en responsief is. Het samenspel van deze twee aspecten vinden wij heel interessant.

Open Algoritmen is geen doel op zich, het is een onderwerp waar we het over hebben. We hebben regelingen voor alle details voor ons leven. Deze regelingen kunnen we transparant en open maken, maar misschien zijn ze ook toe aan een redesign? Het proces van nadenken over een herontwerp – en dus niet de implementatie in het huidige landschap – willen we transparant en open maken.

De vraag die we onszelf moeten stellen is of we onze overheid nog wel op de huidige manier willen inrichten. Want zelfs als een overheid volledig transparant is, dan is dat misschien nog niet voldoende. Wat willen we in de toekomst van de overheid? Hoe blijf je collectiviteit en solidariteit organiseren? Nu, maar ook in de toekomst. Kunnen we dat doen op de huidige manier of wordt er juist iets anders verwacht? Techniek heeft daar mogelijk wel een aanjagende, emanciperende rol in.

Wat hopen jullie de komende twee jaar te bereiken?
We hopen een zaadje te planten zodat mensen meer over het onderwerp nadenken. Gedurende de looptijd van het Actieplan Open Overheid willen we een bijdrage leveren aan de ethische digitalisering van de samenleving. En ontdekken wat de rol van de overheid daarbij is in relatie tot de markt en inwoners. Die ontdekking vindt plaats in samenwerking met onze collega’s van verschillende overheidsorganisaties.

Open Algoritmen in een notendop
Bekijk ook deze video waarin Gwen Wijman-Jansen in een notendop vertelt wat het actiepunt Open Algoritmen precies inhoudt:

—

Foto: Bart Versteeg
Video: Sebastiaan ter Burg