Eerlijkheid in algoritmes: het belang van transparantie en samenwerking

Lees hier meer over het ontstaan van de stichting.

Eerlijke algoritmes

Het creëren van eerlijke algoritmes is geen eenvoudige taak. Het vereist een breed scala aan expertise en een diepgaand proces van controle en toetsing. Algorithm Audit richt zich op zowel het technische als het ethische aspect van algoritmes. Ze brengen verschillende partijen samen – van ethici tot technici – om te bepalen wat ‘eerlijkheid’ betekent in verschillende contexten.

Een van de grootste uitdagingen is het vinden van balans tussen de technische kant en de ethische waarden. “Eerlijkheid in een algoritme gaat niet alleen over het uitsluiten van vooringenomenheid, maar ook over het opzetten van een proces waarin alle betrokkenen een stem hebben,” legt de Jurriaan uit. “We kijken naar de verantwoordelijkheid binnen organisaties: wie beslist wanneer een algoritme geïmplementeerd wordt en wie controleert of het algoritme eerlijk is? Dit governance-aspect is essentieel.”

Een kernactiviteit van Algorithm Audit is het ontwikkelen van wat zij noemen algoprudentie – een bottom-up benadering om gezamenlijk te bepalen wat eerlijk en verantwoord is in de context van algoritmes. Het idee hierachter is dat er veel open normen zijn binnen het recht die niet duidelijk ingevuld zijn door wetgevers of toezichthouders. Het platform helpt deze normen te verduidelijken door samen te werken met experts op het gebied van recht, ethiek en technologie, maar ook door samenwerking met andere belanghebbenden, zoals burgers en belangenvertegenwoordigers.

Ariën Voogt, medeoprichter Algorithm Audit: “Hoe we AI en algoritmes verantwoord willen inzetten is een cruciale vraag voor de samenleving. Dit kunnen we niet technocratisch oplossen door het over te laten aan een handvol technici achter gesloten deuren. We moeten gezamenlijk, op een democratische en transparante manier bepalen wat eerlijke AI concreet betekent.”

Gemeentes en Europese wetgeving

Daarnaast ontwikkelt het platform technische tools die deze juridische en ethische afwegingen ondersteunen, zoals de Joint Fairness Assessment Method (JFAM) en diverse open source-tools. Een goed voorbeeld hiervan is een recent project met de gemeente Amsterdam, waar hulpmiddelen worden gebouwd om de documentatie en transparantie rondom het gebruik van algoritmes te verbeteren.

Gemeentes staan onder toenemende druk om te voldoen aan nieuwe Europese regelgeving rond kunstmatige intelligentie, wat complex kan zijn. “De nieuwe AI-wetgeving introduceert nieuwe vereisten, die afgestemd moeten worden op Nederlandse kaders die al eerder zijn ontwikkeld,” legt Jurriaan uit. “Het identificeren van deze aanvullende vereisten is voor een middelgrote gemeente al snel overweldigend. Wij ondersteunen overheden door processen te ontwerpen die deze vereisten overzichtelijk en uitvoerbaar maken, zodat ze hun algoritmes kunnen controleren zonder in een administratieve wirwar te belanden.”

Mieke van Heesewijk, SIDN fonds: “Transparante en eerlijke algoritmes zijn essentieel in een wereld waarin technologie onze samenleving steeds meer vormt. Dankzij de ethische verantwoordelijkheid en de kracht van samenwerking en dialoog, zorgt Algorithm Audit voor eerlijke systemen die vrij zijn van vooringenomenheid. Dit is juist nu van groot belang, nu algoritmes steeds bepalender worden in ons dagelijks leven.”

Raad van Europa

De werkzaamheden van Algorithm Audit beperken zich niet tot Nederland. Jurriaan: “De Raad van Europa heeft ons geselecteerd om in de komende 2 jaar equality bodies, zoals het College voor de Rechten van de Mens, beter te ondersteunen bij het toezicht op kunstmatige intelligentie (AI) binnen publieke instellingen.”

Equality bodies zijn essentieel binnen de mensenrechtenstructuur van Europese landen. Ze houden toezicht op de overheid om te waarborgen dat de rechten van kwetsbare burgers beschermd worden, bijvoorbeeld bij demonstraties of politieoptreden. Jurriaan: “Het toezicht op nieuwe technologieën, zoals AI, is daarbij cruciaal. Door samenwerking met de Raad van Europa kunnen we onze expertise nu ook internationaal delen. Hier gaan we komende herfst en winter al mee beginnen. De lessen uit Nederland kunnen we hierdoor meenemen naar Europees niveau.”

Steun van SIDN fonds

Jurriaan: “Dankzij de financiering van SIDN fonds hebben we veel praktische stappen kunnen zetten, zoals het huren van een kantoor in Den Haag. De ondersteuning van SIDN fonds is vrij opgezet, wat betekent dat we de middelen breed konden inzetten, zonder dat we ons per se op specifieke projecten hoefden te richten. Dit gaf ons de ruimte om de organisatie in deze groeifase goed te ondersteunen. Zo konden we bijvoorbeeld financieel advies inwinnen, omdat de boekhouding te complex werd om zelf te doen. Deze flexibiliteit was ontzettend waardevol. Naast deze praktische zaken hielp de financiering ons ook bij de inhoudelijke groei. We konden onder andere onze technische tools verder ontwikkelen in samenwerking met ervaren softwareontwikkelaars en konden talent uit het bedrijfsleven aantrekken.”

Private sector

Naast de publieke sector werkt de organisatie ook samen met commerciële partijen. Een recent voorbeeld hiervan is een lopend project met een bedrijf dat deelauto’s aanbiedt in grote steden. Jurriaan: “Door middel van geavanceerde algoritmes wordt roekeloos rijgedrag bij deze voertuigen gedetecteerd. Er wordt data verzameld over het rijgedrag van gebruikers, zoals het nemen van scherpe bochten of plotseling hard remmen. Wij onderzoeken vervolgens of en hoe deze data op een eerlijke en verantwoorde manier kan worden gebruikt om patronen te analyseren en maatregelen te nemen om schade aan voertuigen te verminderen.”