©2019 door Podium de Stadstaat

OPINIE: OPENBAAR OVERHEIDSALGORITMEN

 

 

Google heeft een pact gesloten met de duivel, schreef de Volkskrant op 31 mei. De duivel: het Amerikaanse ministerie van Defensie. Zij wil haar manier van oorlogvoeren moderniseren met kunstmatige intelligentie. Oorlogvoering op basis van algoritmen. Zodat niet een mens de trekker overhaalt, maar een computergestuurde drone.

 

Het is een buzzword, algoritmen. Er wordt van alles mee bedoeld, en vaak ook helemaal niets. ‘Hoe dit systeem werkt? Op een algoritme, hoezo?’ Einde discussie - alsof dat antwoord ook maar voor een deel bevredigend is.

Het ene algoritme is het andere niet. Soms kennen we ze, denk aan Spotify en Netflix. Hier is hun werking vrij obvious – ze zijn herleidbaar en tamelijk onschuldig. Je snapt de wiskundige logica erachter misschien niet, maar je snapt een beetje wat er gebeurt. De uitkomst is bovendien logisch en in jouw belang; de serie die wordt aanbevolen past waarschijnlijk in jouw straatje.

 

Maar die vermeende onschuld is niet zonder meer terecht. Denk aan YouTube, medeverantwoordelijk voor de teloorgang van televisie. Dat platform verwijdert maandelijks miljoenen video’s op basis van zelflerende algoritmen, zonder dat ooit een mens ze bekijkt. Gewoon, omdat ze niet binnen de voorwaarden passen. Wat doet dat met vrije informatievoorziening?

 

Maar er zijn ook algoritmen waarvan we het bestaan überhaupt niet kennen, laat staan de werking. Algoritmen die op belangrijke terreinen dienst doen.

 

Want ook gemeenten gebruiken ze om fout gedrag van hun burgers in de kiem te smoren. Dan gaat het bijvoorbeeld over het aanwijzen van risicobuurten: waar zitten de lage inkomens? Dan kan worden ingegrepen, nog voordat een strafbaar feit gepleegd is. Ook de Belastingdienst, de Sociale Verzekeringsbank of het UWV maken gebruik van algoritmen om te bepalen wie een potentiële fraudeur is. Uit de VS komen al verhalen van mensen die ontslagen zijn - niet door hun baas, maar door een algoritme. En wat te denken van no fly lists - mensen die door de computer ten onrechte als terrorist worden aangemerkt?

En dan gaat het ineens niet meer om muziek of series, maar om veiligheid, werkgelegenheid, ja, zelfs leven en dood: zie het ‘duivelspact’ tussen Google en het Amerikaanse ministerie van Defensie.

 

Fouten maken is ook een algoritme eigen. In 2015 werden door algoritmen in Google Photos mensen in afbeeldingen automatisch geclassificeerd als 'gorilla's'. Wat als algoritmen van overheden fouten maken? Algoritmen zijn niet ter verantwoording te roepen - en dat gebrek aan accountability is een groot probleem. Vraag een bedrijf naar het recept van hun algoritmen en zij dienen je van repliek met de woorden ‘bedrijfsgeheim’ of ‘te complex’.

 

Dat wringt. Als het om politieke besluitvorming gaat hebben we vaak de mond vol van transparantie - en terecht. Maar waar is nu de ophef? De barricaden blijven angstvallig leeg.

   

Wat soms vergeten wordt: ook algoritmen zijn mensenwerk. Achter elk schijnbaar objectief algoritme, zitten mensen. En dus ideeën, waarden en oordelen. Ook algoritmen zijn cultureel en moreel geladen - hoe objectief ze van de buitenkant ook lijken te zijn.

Het is ook niet voor niets dat staatssecretaris Raymond Knops onderzoek laat uitvoeren naar het gebruik van algoritmen binnen de overheid.

Dat onderzoek is toe te juichen. En laat Knops - of, in bredere zin: de overheid - dan ook zelf het goede voorbeeld geven. De voortekenen stemmen niet gunstig. Minister voor Rechtsbescherming Sander Dekker ziet weinig in openbaring van algoritmes, zei hij woensdag in de Tweede Kamer. Hij vreest calculerend gedrag van burgers en een grote werklast voor ambtenaren.

 

 Transparantie en accountability van onze overheid is cruciaal. En in het gebruik van algoritmen die helpen beslissen of voorspellen is dat niet anders. Wij moeten weten hoe de overheid die algoritmen inzet - algoritmen die zich onomkeerbaar in onze levens hebben genesteld, en waar wij dus meer over te zeggen zouden moeten hebben dan nu het geval is.

 

Op 13 juni vond het programma ‘#Hashtech: de Macht van het Algoritme’ plaats in TivoliVredenburg in Utrecht.

 

Please reload

Our Recent Posts

Podcast: #hashtech 2, de after

September 12, 2018

Dit stuk heeft de saaiste boodschap ooit

September 12, 2018

Wat de VVD kan leren van de houdbaarheid van plastic

September 6, 2018

1/1
Please reload

Tags