Het woord algoritme is inmiddels een woord geworden dat veel mensen angst inboezemt en dat is begrijpelijk sinds er steeds meer berichten in het nieuws komen over wat Facebook, Google en zelfs onze eigen belastingdienst doen met gegevens die ze over ons en van ons vergaard hebben.
Toch zou het woord niet zo’n zware lading moeten hebben. Immers computers zijn domme dingen die eigenlijk niets kunnen zonder dat wij hun vertellen wat ze moeten doen. De manier om hun duidelijk te maken wat ze moeten doen is door er software op te installeren. Deze kan de computer opdrachten geven en dat wordt gedaan door code te schrijven. De basis voor het schrijven van code zijn algoritmen. Een moeilijk woord voor iets wat eigenlijk een beslismodel is. Een simpel voorbeeld van een stukje code en het bijbehorende algoritme zou kunnen zijn: De programmeur heeft een afbeelding op het scherm gemaakt waar een aantal buttons getoond worden met een stukje tekst erin of eronder. Als de gebruiker nu op het knopje “printen” drukt zal het algoritme constateren dat er op die knop gedrukt wordt en er in dit geval een ander stukje code geactiveerd zal moeten worden dat er voor zorgt dat er iets naar de printer gestuurd wordt en uitgeprint wordt. Druk je op een van de andere knoppen dan zal het algoritme de opdracht uitvoeren die aan die knop gekoppeld is. Het algoritme is dus afhankelijk van de handeling/invoer door de gebruiker, zonder dat kan hij niets en doet hij ook niets.
Tot zover is een algoritme eigenlijk een onschuldig iets, een onderdeel wat essentieel is om goed functionerende software te maken. Het probleem is dat jij als gebruiker niet weet en kan zien wat er achter de schermen verder in de software gebeurt. Als de programmeur bijvoorbeeld in de software ingebouwd heeft dat als jij jouw postcode en jouw nationaliteit in invoervelden invult, hij een check laat doen of jouw postcode in de database een match oplevert met de lijst met verdachte postcodes en dit koppelt aan jouw nationaliteit waardoor jij een potentieel fraudegeval zou kunnen zijn, dan gaan er ethische kwesties een rol spelen. De gevolgen daarvan hebben wij ruimschoots in de media kunnen volgen met de kindertoeslag affaire.
Eenzelfde iets speelt bij de ontwikkeling van zelfrijdende auto’s. Deze auto’s worden vol gehangen met sensoren die afspeuren wat er zich buiten de auto afspeelt. Verkeerssituaties, verkeersborden en obstakels moeten herkend worden en de software zal door middel van algoritmes beslissingen moeten nemen wat er moet gebeuren. Een auto rijdt met 80 km/u op de weg en komt een gebodsbord met 50 erop tegen, het algoritme zal nu de auto vertellen om af te remmen en vervolgens 50 km/u te gaan rijden. Meer ingrijpend is de situatie als er plots een kind de weg op rent, de software bemerkt dat hij de auto niet tijdig tot stilstand kan brengen en dus uit moet wijken. De enige ruimte die de auto daarvoor heeft is de stoep op schieten waar helaas op dat moment een bejaarde loopt met een rollator. Nu moet het algoritme een ethische afweging maken; smoor ik het leven van een jong mens in wording of kies ik voor het aanrijden van de bejaarde? Deze laatste heeft immers al bijna een voltooid leven achter de rug, in deze tijd van Corona zouden sommigen zeggen “dor hout”. In deze huidige tijd zal men waarschijnlijk zeggen maak de keus voor het aanrijden van de bejaarde en niet voor het aanrijden van het kind. Dat klinkt logisch en wellicht ethisch juist. Maar wat nu als de programmeur het volgende gedacht heeft: “als dat kind blijft leven gaat het een veel grotere ecologische voetafdruk maken dan de bejaarde waarschijnlijk nog kan maken in de tijd die hem nog rest en daar houdt de ellende niet op, want het kind gaat zich waarschijnlijk voortplanten en de kinderen die daaruit voortkomen waarschijnlijk ook weer. Ik maak de keus voor het aanrijden van het kind. Jong hout moet je snoeien, anders gaat het woekeren”.
Dat is het probleem bij het instappen in een zelfrijdende auto, de vraag hoe goed is de software van de auto? Zal de software dezelfde keuzes maken die ik zou maken als ik zelf achter het stuur zou zitten? Je weet het niet.