Hi lezer 👋,

Deze weken geef ik extra aandacht aan praktische pioniers uit de wereld van ethiek en AI. Dit keer: Dasha Simons.

About last weeks

Vorige week introduceerde ik Oumaima Hajri. Zij leerde ons dat de meest besproken en geadresseerde AI principes vooral technisch van aard zijn. En waarom dat niet oke is.

De week ervoor was David Graus aan de beurt. Hij is een pleitbezorger voor het bewust en bedachtzaam ontwerpen en bouwen van AI systemen die positieve impact kunnen maken. Bij Randstad (zijn werkgever) onderzoekt hij onder meer de inzet van synthetische data voor het trainen van minder bevooroordeelde AI systemen.

A.s. maandag: AI for Good #2 - 31 oktober, Felix Meritis

Dasha, David en Oumaima spreken allen tijdens 'AI for Good #2'. Ze vertellen en tonen hoe ze werken aan verantwoorde AI-toepassingen voor IBM, Randstad en de Publieke Omroep.

Schrijver en dichter Aaron Mirck zal met een mede-door-AI gegenereerde bijdrage de avond samenvatten en afsluiten.

👉🏽 Er is ook veel ruimte voor jouw vragen. Dus kom naar Felix Meritis in Amsterdam en praat mee. Er zijn nog enkele kaarten beschikbaar.

🎁 Extra's deze week:

Een vooroordelenspel, waarbij jij mag bepalen of een AI-systeem iemand 'terecht' als potentieel draaideurcrimineel aanwijst. Plus: een set designrichtlijnen 'for Everyday Ethics & AI'.

Veel plezier met de brief - leestijd ⏲: 4 minuten - en wellicht zien we elkaar a.s. maandag. Groeten, Laurens.

Met design ethische AI en praktijk verbinden

Het is een van de gevaren waar Dasha Simons ons op wijst. Ik sprak haar begin dit jaar over haar AI-werk, voor het boek The Art of AI. In deze nieuwsbrief licht ik een paar passages uit van dat gesprek. (Het gehele interview lees je hier.)

Dasha is managing consultant bij IBM, gespecialiseerd in AI & AI ethics. Ze ziet het als haar doel om “mensen te inspireren en bewust te maken om technologie in te zetten voor maatschappelijke doeleinden, op een menselijke manier.”

Ethische AI is daar een van de onderwerpen voor. “Wat betekent het daadwerkelijk voor een data scientist als zij een niet-discriminerend AI-systeem gaat bouwen? Je merkt dat design daar goed bij kan helpen, om het tastbaar te maken.” Met een prototype bijvoorbeeld, waarmee je ideeën en uitwerkingen voor het implementeren van AI kunt testen.

Praktisch maken van ethische principes

Tijdens haar studie Industrieel Ontwerpen merkte Dasha dat het “AI-veld heel erg technisch gedreven was, en dat de menselijke maat weinig aanwezig was.”

Het praktisch maken van ethische principes bij de ontwikkeling van kunstmatig intelligente computersystemen leek haar als ontwerper wel interessant. “Er zijn veel principes voor AI, zoals ‘eerlijk zijn’, ‘transparant zijn’ en ‘niet-discriminerend’. Die hadden hun weg vrijwel niet gevonden in het dagelijks werk van AI- of data science teams. Dat vond ik wel een mooie uitdaging.”

CV & "Design for Fairness in AI"

Dasha heeft een bachelor Industrieel Ontwerpen uit Eindhoven en een bijbehorende master Strategic Product Design aan de TU in Delft. Daar studeerde ze in 2019 af als best graduate, op het onderwerp “Design for Fairness in AI”.

Sindsdien gebruikt ze haar creativiteit en menselijk perspectief om AI betrouwbaarder te ontwerpen. Dasha wil “mensen er bewust van maken dat als je dat niet doet, dat het dan ook heel erg mis kan gaan.”

In haar werk geeft ze onder andere trainingen op dit vlak en adviseert ze bedrijfsleven en overheden over het creëren van uitlegbare en eerlijkere artificiële intelligentie.

Uitlegbehoeften

Een van de dingen waar veel mensen bang voor zijn, is dat een AI-systeem zelf beslissingen neemt. Dasha: “Je wilt dat een mens daar onderdeel van uitmaakt. Dat betekent dat een mens en AI gaan samenwerken.” Ze geeft een voorbeeld uit de praktijk, waarbij de uitleg van het AI-systeem belangrijk is omdat verschillende soorten gebruikers verschillende niveaus van uitleg nodig hebben: ‘uitlegbehoeften’.

Ze noemt als voorbeeld het aanvragen van subsidie. Dat proces kan je efficiënter maken door er een advies van een AI-systeem aan te koppelen. Maar je wil wel dat dit ethisch en verantwoord gebeurt. Dan dien je het systeem uitlegbaar te maken. Daar zijn bestaande technische tools voor. Alleen: dan heb je een antwoord op technisch niveau. Handig en belangrijk voor de bouwer van het systeem, maar de subsidiebeoordelaar of de -aanvrager willen andere dingen weten over het functioneren van het systeem.

In sommige gevallen wil of kun je niet helemaal transparant zijn. Dasha: “Er bestaat de kans dat aanvragers het systeem manipuleren wanneer de uitleg te veel informatie prijsgeeft.”

Wat Dasha nog meer doet, en waar David en Oumaima mee bezig zijn, kom je o.a. te weten op maandagavond 31 oktober in Felix Meritis, Amsterdam.

🎁 EXTRA's

Speel 'Detect the bias'

Getipt door Dasha: 'AI models are only as fair as their training data. Follow along as different AI models predict whether a defendant will commit another crime, and tell us if you think each prediction is fair or unfair.'

Design guidelines 'Everyday Ethics for AI' (IBM)

'Our practice is built on our Principles for the AI Era as a resource for all designers and developers. This shared collection of ethics, guidelines, and resources ensures that IBM products share a unified foundation.'

-

Gebruik (of ken) jij zelf een handige tool of link? Deel 'm met me door te reply'en op deze mail.

✅ Dit was 'm weer. Zie ik je maandag de 31e in Felix Meritis?