Weet wat een algoritme kan
Buijsman geeft voorbeelden waarbij het misgaat met algoritmes. “We hebben natuurlijk het bekende voorbeeld van de Belastingdienst waarbij een algoritme discrimineert. Maar tijdens de coronacrisis keurde een algoritme om fraude op te sporen bij een creditcardmaatschappij afrekeningen van toiletpapier en tuingereedschap af. Omdat het ineens heel veel ongebruikelijke transacties waren. Terwijl die prima te verklaren waren door een mens, maar niet door een computer. Datzelfde gold bij logistieke ondernemingen voor het aantal bestellingen toen het coronavrius uitbrak. De voorspellingen van die bestellingen klopten voor geen kant meer. Het helpt voor de registercontroller om te weten waar algoritmes goed in zijn en waarin niet. Over het algemeen geldt: als er een goede kwaliteit van data is in een afgebakend gebied met een heldere probleemstelling en weinig sociale context, kun je er prima een algoritme op loslaten. Bijvoorbeeld: supermarkten gebruiken algoritmes om de verkopen van fruit en groente te voorspellen en hadden zo al snel twintig procent minder voedselverspilling. Dat voorbeeld laat zien dat algoritmes meer hulpmaatjes zijn, dan dat ze de absolute waarheid vertellen. Het is en blijft een computer. Die ziet enen en nullen. Die heeft het inzicht niet om te weten waar het over gaat. Die mist context.”
Wat moet het algoritme niet doen?
Projecten in kunstmatige intelligentie gaan dan ook volgens Buijsman voor tachtig procent over het hebben en vinden van kwalitatief goede data. “Tien procent heeft maar te maken met de kunstmatige intelligentie. De overige tien procent gaat over testen en zeken weten of het klopt.” Kortom, garbage in, is daarbij nog altijd garbage out. Buijsman raadt dan ook organisaties aan om na te denken over wat ze niet willen dat het algoritme doet. “Bijvoorbeeld het principe van gelijke behandeling moet je meenemen in de opzet. Om een voorbeeld te geven: als je als basis neemt dat een bank alleen een lening geeft aan mensen die niet in de schulden komt, kom je vaak bij dezelfde groep mensen uit. Ga je groepen even vaak een lening verstrekken, dan ben je maatschappelijk verantwoord en non-discriminerend bezig, maar dat leidt per definitie tot minder winst. Denk de uitgangspunten voor algoritmes en de gevolgen van dergelijke keuzes uit. Ik merk dat iedere organisatie vervolgens zijn eigen struggle heeft waar je dan zo goed mogelijk mee om moet gaan. Doorloop evenwel dat proces nauwkeurig en zorgvuldig. Doe je dat niet, dan mis je een deel van de context. De schandalen die we met AI hebben gezien, onder andere bij de Belastingdienst, zijn daar de oorzaken van.”
Levensles
Buijsman is recent 28 jaar geworden en hij wil hoogleraar worden. “Geen idee wanneer precies, maar dat is wel mijn ambitie inderdaad. Dat wil ik wel behalen met een team van interdisciplinaire onderzoekers, waarbij ik voor teamleden ook ondersteuning en kansen kan creëren.” Of hij merkt dat hij op zijn 28e een jonge en dus vreemde eend in de bijt is? “Nee, dat heb ik niet zo. Ik zie alleen maar mensen in de wetenschap die net zo gedreven zijn. Ze zijn oprecht met problemen bezig. Of iemand nu 65, 20 of 30, dat maakt me niet uit. Hooguit in de brugklas merkte ik wat van leeftijdsverschil. Ik was iets minder bezig met de hormonen dan klasgenoten. Maar ik had vervolgens altijd wel iets gezamenlijks om met hen op te trekken. Ik heb wel door de jaren heen moeten leren dat, als ik snel ga, ik andere mensen in een traject kan kwijtraken. Dan moet ik langzamer gaan. Dat is een goede levensles geweest.”
