Twee buzzwoorden van SXSW 2018 In de titel van een sessie. ‘AI x Radical Inclusion’ moet een goede sessie zijn. Vijf experts uit diverse disciplines praten over inclusiviteit op Al gebied, culturele en sociale valkuilen en manieren om daarmee om te gaan.

Het beste voorbeeld om duidelijk te maken waar de sessie over ging, kwam van StephanieDinkins, een docent AI aan Stony Brook University. Zij sprak met een ‘zwarte, vrouwelijke robot’ (gemaakt door een man) en het viel haar op dat de robot vragen over haar zwarte identiteit ontweek of niet beantwoordde. De ma- ker van de robot vertelde haar simpel- weg geen rekening te hebben gehouden met culturele en sociale identiteit.
De huidige AI ontwikkelgemeenschap wordt, in de ogen van het panel, gedomi-

neerd door westerse, witte mannen en de input en training van Al producten is daar dan ook op gebaseerd. En dat is merk- baar in de uiteindelijke producten…

Met andere woorden: producten met AI krijgen te oppervlakkige input en dat leidt tot algoritmische discriminatie. Eén van de mogelijkheden om dat te voorkomen
is het betrekken van meer verschillende groepen in het ontwikkelproces. Ook zou het al helpen als de gebruikte data vooraf wordt gecheckt op feiten en ontdaan wordt van misinformatie of falsi caties. De conclusie van de discussie is dat in- clusiviteit in het AI designproces leidt tot innovatievere en betere ontwerpen.

Jos Kok (HvA CMD Amsterdam)