Trustworthy AI, ethiek en verantwoorde AI met Dasha Simons

Wat betekent het om AI op een betrouwbare manier in te zetten? En welke rol spelen leiders daarin? In aflevering 5 van de podcast AI & Leiderschap gaan Aaron Mirck en Michiel Schoonhoven in gesprek met Dasha Simons, PhD Candidate AI Ethics en Managing Consultant Trustworthy AI bij IBM. In dit gesprek staat één gedachte centraal: ethiek is geen bijzaak, maar de kern van verantwoord leiderschap.

Trustworthy AI begint bij bewuste keuzes

Trustworthy AI draait om het waarborgen van principes als eerlijkheid, transparantie, uitlegbaarheid en privacy tijdens de ontwikkeling van AI-systemen. Dasha maakt duidelijk dat dit geen abstracte theorie is, maar iets wat organisaties dagelijks raakt. Ze haalt het voorbeeld aan van Cursor, een programmeertool waarbij AI-agents hallucineerden en gebruikers uit hun eigen systeem kickten. Het gevolg: massale opzeggingen van abonnementen. Een onbetrouwbaar AI-systeem is dus niet alleen een ethisch probleem, het is een zakelijk risico.

Veel van de beslissingen over hoe AI eerlijk en transparant werkt, liggen nu bij data scientists. Terwijl het strategische vragen zijn die op boardroomniveau thuishoren. Wil je de wereld verbeteren ten opzichte van hoe die nu is? Of spiegel je gewoon de bestaande praktijk? Dat zijn vragen voor leiders, niet voor technici.

Ethiek is niet zwart-wit

Een van de belangrijkste inzichten uit het gesprek: ethische waarden botsen met elkaar. Net zoals je geen klimaatpositief biefstuk kunt eten, kun je geen AI-systeem bouwen dat tegelijk maximaal privacyvriendelijk én maximaal eerlijk is voor alle groepen. Die wrijving tussen waarden is geen probleem om op te lossen, het is een keuze om te maken.

Dasha geeft hierbij een duidelijk voorbeeld. In de medische sector kan het juist wenselijk zijn om onderscheid te maken op basis van geslacht, omdat mannen- en vrouwenlichamen anders werken. In de bancaire sector wil je dat onderscheid juist vermijden. Dezelfde waarde, een andere afweging. Leiders die dat niet begrijpen, delegeren strategische keuzes onbewust naar de verkeerde plek in de organisatie.

AI inzetten voor productiviteit zonder kritisch denken te verliezen

Hoe zorg je dat medewerkers productiever worden met AI, zonder dat ze klakkeloos alles accepteren wat het systeem uitspuugt? Dasha pleit voor een aanpak waarbij je AI niet alleen inzet om processen sneller te maken, maar ook om mensen kritischer te laten nadenken. Dat kan zelfs betekenen dat je bewust wrijving inbouwt, prompts die medewerkers drie keer laten nadenken voordat ze verder gaan.

Daarnaast adviseert ze om niet alleen bestaande processen te automatiseren, maar ze fundamenteel opnieuw te bekijken. Wat wil je überhaupt automatiseren? En wat niet? Die vraag stellen is minstens zo waardevol als het antwoord.

Vertrouwen terugwinnen begint met eerlijkheid

Wat doe je als medewerkers of gebruikers het vertrouwen in AI kwijtraken? Dasha is duidelijk: verbloem het niet. Vertrouwen mag je alleen terugvragen als het systeem het ook verdient. Dat betekent open communiceren over wat AI wel en niet kan, en mensen niet het idee geven dat het onfeilbaar is. Een referentie die AI meelevert bij een antwoord kan er betrouwbaar uitzien, maar de titel kan kloppen terwijl de link nergens naartoe leidt. Dat soort nuance moet je als leider actief uitleggen aan je team.

Meer educatie over de mogelijkheden en de beperkingen van AI is daarbij de sleutel. Niet om mensen te ontmoedigen, maar om ze beter te laten werken met het gereedschap dat er is. Een team dat begrijpt waar AI goed in is en waar het mis kan gaan, is weerbaarder, kritischer en uiteindelijk effectiever dan een team dat blind vertrouwt of volledig afhaakt.

Wat kun je morgen al anders doen?

Dasha sluit af met twee tips. Zet je persoonlijke AI-instellingen zo dat je data niet wordt gedeeld met externe providers. En voeg aan je prompts toe dat je een inclusief en niet-discriminerend antwoord wilt. Dat laatste heeft meer effect dan je zou denken. Zonder die instructie maakt AI vaak automatisch aannames, over wie de dokter is, wie de verpleegster. Met die instructie verdwijnen die aannames grotendeels.

Aflevering 5 is te beluisteren op Spotify en YouTube.

Maak iedere week een sprong vooruit in je marketing AI transformatie

Elke vrijdag brengen wij je de meest actuele inzichten, nieuws en praktijkvoorbeelden over de impact van AI in de marketingwereld. Of je nu je marketing efficiency wilt verbeteren, klantbetrokkenheid wilt verhogen, je marketingstrategie wilt aanscherpen of je bedrijf digitaal wilt transformeren. ‘Marketing AI Friday’ is jouw wekelijkse gids.

Meld je gratis aan voor Marketing AI Friday.