Nationale Algoritme Debat #2: het sfeerverslag

Nationale Algoritme Debat #2

Algoritmes bepalen onze Netflix-suggesties en Instagram-feed, maar dat is oud nieuws. Ze gaan steeds een stap verder. En dat zorgt voor discussie, ook tijdens de tweede editie van het Nationale Algoritme Debat. Wat moeten, kunnen én willen we met algoritmes?

De sprekers zijn Melanie Peters (directeur bij het Rathenau Instituut), Jan Middendorp (Tweede Kamerlid bij de VVD), Sandra van Heukelom-Verhage (advocaat bij Pels Rijcken) en Jitka Beukenkamp (Head of Digital Benelux bij Cognizant). Ruim een uur lang discussiëren zij over de kansen en bedreigingen van algoritmes. En het publiek doet mee.

Banen komen, banen gaan

Debatleider André Hendriks – partner van Verdonck, Klooster & Associates – introduceert de eerste stelling: ‘Over 10 jaar worden bijna al mijn beslissingen door algoritmes ondersteund’. Eerste reactie van de sprekers: dit gaat geen 10 jaar duren. ”Veel mensen hebben niet door dat algoritmes nu al invloed hebben op hun keuzes”. Tel daarbij op dat je tegenwoordig razendsnel vindt wat je zoekt in de online wereld. ”Maar zodra algoritmes het huidige gadgetstadium ontgroeien, wordt het serieuzer. Hierdoor gaan banen verloren, maar er komen ook weer nieuwe bij. Mensen moeten samenwerken met algoritmes”.

Big brother is watching… the algorithm?

Dit is een goed bruggetje naar de volgende stelling: ‘Als de overheid geen toezicht kan houden op geavanceerde algoritmes, mag de overheid deze niet gebruiken’. En laat dat nou nét de uitdaging zijn van de overheid: grip krijgen op algoritmes. ”Algoritmes worden belangrijker, dus we moeten kijken naar toezicht hierop. Een voorwaarde is wel dat de overheid voldoende weet over algoritmes”.

Heeft de overheid genoeg kennis over algoritmes? Aan technologische inzichten geen gebrek tegenwoordig, dus daar komen ze wel aan. Maar de overheid moet zich ook bezighouden met de vraag in hoeverre algoritmes ethisch verantwoord zijn. ”Het ethische kader is een belangrijk onderdeel binnen de algoritmediscussie, omdat onze normen en waarden zich hierin bevinden”.

Blijven innoveren

Maar is alleen de overheid verantwoordelijk voor de ethiek rondom algoritmes? Of spelen de makers van algoritmes – bijvoorbeeld data scientists – ook een rol? ”We kennen veel risico’s en neveneffecten van algoritmes nog niet. We focussen graag op ‘tech for good’, maar dan moeten we wel alle mogelijke gevolgen hiervan op een rijtje hebben”. Sommige organisaties zijn hier wel al mee bezig. Ze vragen zich bijvoorbeeld af wat de relatie is tussen mens en machine binnen hun business. ”Dat is goed, want we moeten vaker vanuit ons onderbuikgevoel redeneren”.

Gaan we niet veel te langzaam als we gevoelsmatig te werk gaan? ”We moeten inderdaad niet vergeten om voort te borduren op wat we al hebben. Wel terug naar de basis en de wet, maar niet vergeten wat we al op de planken hebben liggen”.

Investeren

Het volgende discussiepunt: ‘Overschotten op de begroting moeten naar AI, en niet naar zorg en onderwijs’. Als het aan de sprekers ligt, kan Artificiële Intelligentie bij de overheid een flinke boost gebruiken. ”Overheden lopen erg achter in vergelijking met commerciële organisaties. Het is gewoon gênant”. Hierdoor komt kunstmatige intelligentie met kansen, maar ook met bedreigingen. ”Onderwijs moet beter, dat vindt iedereen. Dit gebeurt door in digitalisering en AI te investeren, dus het is voor beide sectoren voordelig”. Een win-winsituatie dus.

Tijd voor actie

Dan komt er geluid uit het publiek: ”Leiderschap ontbreekt”, roept iemand. We rennen van brandje naar brandje, maar doen niets. ”Wat dacht je van een Minister van Artificiële Intelligentie?”.

De sprekers benoemen dat de overheid goed beseft welke bedreigingen AI met zich meebrengt. ”De mens is heel hypocriet als het gaat om technologie. Algoritmes eng vinden, maar wel met een Fitbit rondlopen”. De mate van regie ontbreekt dus nog bij ons. Maar moet – en kán – de overheid hier iets aan doen? De sprekers vinden van wel. ”De overheid moet zich op zijn minst beter informeren over de kwestie, en meer interesse tonen”.

Bewust, maar naïef

Dit discussiepunt sluit naadloos aan op de volgende stelling: ”Privacybescherming met bijvoorbeeld AVG is een achterhoedegevecht. Mensen leveren hun data graag”. Er volgt meteen bevestiging. ”Bijna iedereen vult enquêtes anoniem in, maar tegelijkertijd plaatst iedereen van alles op Facebook”. Daar worstelt de overheid mee. ”Als overheid kun je nóg zo veel sturing geven, maar mensen beslissen uiteindelijk zelf wat zij met hun data doen”.

Kun je die volledige zelfstandigheid van burgers verwachten? En roepen we inderdaad te snel dat de overheid verantwoordelijk is voor algoritmes? Vergelijk Artificial Intelligence eens met een rood stoplicht. ”Op een gegeven moment schat je zelf in wanneer je kunt oversteken, en hoe. Daar hebben burgers nu nog te weinig feeling voor”. Gelukkig lichten media ons steeds beter voor over kunstmatige intelligentie.

Kan gebeuren..?

Maar hoe zit het met de feeling die algoritmes hebben voor bepaalde vaardigheden? Mogen ze fouten maken? ”We vinden dat technologie perfect moet zijn. Maar wij ontwerpen het algoritme, dus we bepalen eigenlijk zelf hoe goed ‘ie is”. Neem de Citotoets. ”Is die toets een momentopname? Misschien wel, maar het eindoordeel over het kind hangt van meer af. Denk aan ouders, docenten en klasgenoten”.

Ditzelfde geldt voor beslissingen: die hangen van meer af dan algoritmes. Maar één ding moeten we onthouden: de techniek achter het algoritme is loepzuiver. ”Het algoritme maakt geen fouten, maar onze perceptie wel. Het gaat erom welke ‘fouten’ wij acceptabel vinden voor een algoritme en welke niet”.

What’s next?

Dit is de hamvraag van de avond. Aan maatschappelijke discussie over algoritmes ontbreekt het niet, maar aan kennis wel. We zijn bereid veel data weg te geven – wie accepteert cookies tegenwoordig niet binnen 5 seconden? We weten dus nog onvoldoende over kunstmatige intelligentie om onze beslissingen hier volledig op te baseren. ”We moeten daarom meer investeren in Artificial Intelligence en algoritmes, want er zijn genoeg kansen. Zonde als we die laten liggen”.

Posted on 26 november 2019

Share the Story

Back to Top