Ontwerpen in een tijd van algoritmes. Bij alle websites of apps is er een “interface”, waarbij informatie wordt getoond aan de gebruiker die opties heeft voor interactie. Als de getoonde informatie uit een AI systeem komt, komen er een aantal extra dingen bij om aan te denken als je zo’n interface bouwt.

Een sessie ging over dat probleem: op welke manieren verandert een interface als het een AI systeem is? De spreker had daar een mooi lijstje van tien design principes voor. Ik licht er twee uit.

De eerste is “allow for ambiguity”. Een AI systeem komt maar al te vaak met 1 ant- woord, ook al is het systeem daar niet zeker van. Als ontwerper moet je daar rekening mee houden. Heeft de AI de foto maar met 25% zekerheid herkend? Laat dat dan ook zien, en niet alleen het gevonden resultaat. Een eerlijke interface.
De tweede is “make it easy to contribute accurate data”. Het voorbeeld hierbij is foto-herkenning van Facebook; ooit moesten wij vierkantjes om gezichten tekenen, daarna gingen we aangeven wie er op de foto stond, en nu kan Facebook dat zelfstandig. Hieruit volgt na het cliché “you’re the product” ook het ietwat cynische “you’re the training data”.

OK, nog een dan als uitsmijter. “Take responsibility”. Als ontwikkelaar en ontwerper ben je verantwoordelijk voor je tool, of bot. Jij geeft het de data waarop het werkt, en je hebt er voor te zorgen dat het eerlijk, goed en duidelijk werkt.

Michiel Berger (AIgency)