Een sessie met Chelsea Manning, die een jaar na haar vrijkomen uit de gevangenis – vanwege het lekken van militaire data naar Wikileaks- als een ‘free radical’ wordt neergezet. Het eerste stuk gaat over hoe dat is, weer in vrijheid leven, hoe lastig het is om alleen te zijn, hoeveel impact een jaar eenzame opsluiting heeft gehad, hoe ze de gezelschap van anderen is gaan waarderen. Lastig dat je niet om 1 u in de nacht op de muur kan bonken om te vragen hoe het met je buurman is. En hoe lastig het is, als je zoals zij van geslacht is veranderd, om zonder geldige identiteit uit de gevangenis te komen, met een ander geslacht. Geen toegang tot je geld, geen rijbewijs, ‘computer says no’, ook als de bankmedewerker echt wel weet wie je bent.
Al snel gaat het over het gevaar van algoritmes, over haar werk daarmee voor het leger en in Irak. Ze vertelt over het gebruik van algoritmes binnen de regering, over het nemen van beslissingen: de oplossing wordt altijd gezocht in het maken van een beter algoritme, de op- lossing wordt gezien als een wiskundige oplossing. ‘Math the crap out of it’. “The systems aren’t unbiased, we pick and choose the data that we want to believe and that we don’t want to believe”. Mensen die zich bezighouden met algoritmes die miljoenen mensen raken, die hebben een grote verantwoordelijkheid. Code wordt nooit maar één keer gebruikt maar je weet niet waarvoor het straks wordt toegepast. In Irak herbruikte Manning bijvoorbeeld de software om klantgedrag te voorspellen die ze eerder had geschreven.

Artsen hebben een code of ethics, dat zou ook moeten gelden voor software ontwikkelaars. Ze verwijst naar mensen als Kate Crawford van MIT, die ook pleit voor zo’n manier van denken (AI Now Institute). Maar wacht niet tot ze met een white paper komen, handel er nú zelf naar, denk aan de mogelijke implicaties van wat je nu schrijft. Denk net zoveel aan misbruik als aan gebruik van je code. Alle software kan misbruikt worden, je moet een buffer inbouwen om dat tegen te gaan.

Hoewel Manning naar eigen zeggen nogal brak was in de vroege ochtend was het voor mij een verrassend gesprek. Realiseerde dat ik eigenlijk niet goed wist wat ze deed, als program- meur, en haar motivatie om te doen wat haar gevangenisstraf opleverde. Een heftig leven dus, waarin uiteindelijk de wiskunde rust en troost geeft. ‘I find comfort and stability in math’. Bij stress gaat ze naar een computer om te programmeren, probleem oplossen en debugging geeft rust.

Spijt heeft ze niet, of maakt er geen ruimte voor: “I was placed in the hot seat, I couldn’t have done things differentently. A kind of military mindset, where you make very intense decisions.”

Gert Jan Kuiper (VPRO Digitaal)