Het algoritme kende alleen de patronen. En de patronen zeiden: topkandidaten waren meestal man, vaak wit, met een achtergrond in techniek of finance, en een cv vol keywords die het systeem als ‘high performer’-kenmerken had aangeleerd. Dus toen SAM een sollicitatie binnenkreeg van een vrouw met een master in psychologie, tien jaar ervaring in de non-profitsector en een cv zonder buzzwords, gaf het systeem haar een score van 46 op 100. “Niet aanbevolen voor selectie.”
Niemand in het HR-team had gezegd: “Geef mannen voorrang.”
Niemand had gezegd: “Sla soft skills over.”
Maar iemand had de data geleverd.
En de data vertelden een verhaal.
Bias in AI is zelden een kwestie van kwade wil. Het is eerder een spiegel van bestaande structuren, van oude aannames, van keuzes die onzichtbaar lijken totdat ze zich vertalen in echte gevolgen. En zoals elke goede spiegel, laat die reflectie niet alleen het systeem zien, maar ook degene die erin kijkt.
Misschien is dat wel het grootste misverstand rond kunstmatige intelligentie: het idee dat het objectief is. Dat een algoritme, in tegenstelling tot mensen, vrij is van vooroordelen. Maar AI leert niet in het luchtledige. Het leert van data. En data zijn geen neutrale grondstof; ze zijn een afdruk van het verleden.
AI — kunstmatige intelligentie — verwijst hier naar systemen die leren van grote hoeveelheden data. Algoritmes zoeken patronen, trekken conclusies en doen voorspellingen op basis van die gegevens. Maar als de input bevooroordeeld is, wordt de output dat ook.
Wanneer je een systeem traint op historische gegevens, leer je het precies dát verleden te herhalen. Als dat verleden scheef is, bijvoorbeeld doordat bepaalde groepen stelselmatig zijn uitgesloten of ondervertegenwoordigd, dan zal het systeem die scheefgroei reproduceerbaar maken. En vaak zelfs versterken, omdat optimalisatie in veel AI-modellen betekent: sneller, efficiënter, meer van hetzelfde.
SAM was niet kwaadaardig. SAM was logisch. En juist dát maakt het zo lastig.
De meeste bias in AI sluipt naar binnen via onzichtbare keuzes. Welke data gebruik je wel en welke niet? Wie bepaalt wat een ‘goede kandidaat’ is? Welke variabelen zijn relevant? Hoe wordt succes gedefinieerd? Dit zijn vragen die zelden hardop worden gesteld, laat staan beantwoord.
Veel ontwikkelteams focussen op prestaties en precisie. Begrijpelijk, zeker onder druk van deadlines, budgetten en klantverwachtingen. Maar juist in die technologische snelheid ontstaat er ruimte voor structurele blinde vlekken. Bias is geen uitzondering in AI, het is de default wanneer je het ethisch gesprek overslaat.
Misschien voel je als lezer nu een lichte weerstand. Want wat kun je hier als bedrijf eigenlijk aan doen? Het systeem werkt toch? En bedoelt het team het niet gewoon goed?
Dat zijn legitieme vragen. En ze verdienen ruimte. Ethiek is geen aanklacht; het is een uitnodiging tot verdieping. Het gaat niet om schuld, maar om verantwoordelijkheid. Niet om perfectie, maar om bewustzijn.
Zo paste LinkedIn een aantal jaar geleden het algoritme aan dat banen aanbeval aan gebruikers. Het systeem gaf vrouwen minder zichtbare vacatures in leidinggevende functies, simpelweg omdat hun eerdere klikgedrag verschilde van dat van mannen. Door expliciet te corrigeren voor dat gedrag, en diversiteit bewust mee te nemen in de optimalisatie, werden de aanbevelingen inclusiever. Niet perfect, maar wel bewuster.
In gesprekken met organisaties zie je vaak dezelfde reflex: we fixen het wel met betere data, meer diversiteit, een extra check. Maar bias laat zich niet vangen in vinklijstjes. Het vraagt om iets moeilijkers én belangrijkers: introspectie. De bereidheid om je eigen aannames te onderzoeken. En de moed om je processen opnieuw in te richten vanuit waarden in plaats van alleen efficiëntie.
In deze serie volg je SAM; een fictief AI-systeem dat echte vragen oproept. SAM wordt ingezet in verschillende contexten: van personeelsselectie tot kredietbeoordeling, van rechtspraak tot gezondheidszorg. In elke situatie onthult SAM iets anders. Niet omdat het systeem verandert, maar omdat de wereld eromheen SAM steeds anders vormt.
SAM is een spiegel. En jij kijkt erin.
Je hoeft geen ethicus te zijn om bias te herkennen. Maar je hebt er wél een ethische bril voor nodig. Begin klein:
Stel de ongemakkelijke vragen. Wie bepaalt wat succes is?
Kijk naar wie ontbreekt. In je data, je team, je perspectieven.
Betrek anderen. Niet alleen engineers, maar ook ervaringsdeskundigen, maatschappelijke stemmen, mensen die durven te vertragen waar snelheid blind maakt.
Soms is het waardevol om iemand van buiten je team uit te nodigen. Iemand die meekijkt, zonder oordeel. Iemand die de taal van technologie én van ethiek spreekt. Niet als controleur, maar als klankbord. Als spiegel of, als je wilt, als SAM.
In het volgende essay duiken we dieper in de wereld van data. Hoe ontstaan datasets eigenlijk? Wat betekent het om mensen te reduceren tot getallen? En wat doet het met een samenleving als we onze verschillen in systemen gaan coderen?
De urgentie wordt steeds zichtbaarder: in recente rapporten van onder andere de Europese Commissie en het World Economic Forum wordt bias in AI genoemd als een van de grootste ethische risico’s van deze tijd. Niet alleen in theorie, maar in tastbare systemen die invloed hebben op werk, zorg en rechtspraak.
Maar eerst: kijk nog eens goed in de spiegel.
Wat zie je?
En — durf je iets anders te kiezen?
Disclaimer: “Sommige situaties in deze reeks zijn fictief, maar niet verzonnen. Ze komen niet uit rapporten, maar uit de realiteit die daar net buiten valt. Ze zijn bedoeld om invoelbaar te maken wat vaak abstract blijft — en om ruimte te maken voor gesprek, verantwoordelijkheid en verandering.”