Thijs van der Wal en Wouter Kalf over de morele aspecten van de technologieën van de toekomst

Op YouTube waarschuwde Barack Obama alweer zes jaar geleden hoe bedrieglijk echt AI-gegenereerde filmpjes kunnen zijn. Alleen was het niet Obama zelf, maar de comedian Jordan Peel die de deepfake maakte. Pasgeleden kregen vele Amerikaanse kiezers een telefoontje van Biden met het advies om vooral niet te gaan stemmen. Maar het was niet Biden aan de lijn, maar een kloon van zijn stem, ook gegenereerd door Artificial Intelligence. Ondertussen belooft Big Tech met diezelfde technologie een productiviteitswinst die zijn weerga niet kent.

Welke innovatieve kansen en welke bedreigingen brengt de ontwikkeling van generatieve AI met zich mee? Daarmee houdt Thijs van der Wal zich bezig als strategisch CIO-adviseur digitale transformatie en innovatie bij de Rijksdienst voor Ondernemend Nederland en als deelnemer van de leergang Visie op de Toekomst. Tijdens deze leergang wil hij meer inzicht krijgen in de ethische kanten van nieuwe technologieën, zoals generatieve AI. Een thema dat docent Futurisme en Filosofie Wouter Kalf ook zeer interesseert. Hoe actueel het onderwerp is blijkt uit de voorbeelden die Thijs uit zijn mouw schudt. Bijvoorbeeld over een medewerker van een groot bedrijf in Hong Kong die tijdens een videovergadering de opdracht kreeg van de financiële topman om in totaal meer dan 23 miljoen euro over te maken. Later kwam hij erachter dat hij was opgelicht met behulp van AI-technologie.

Leren omgaan met snelle veranderingen en een onzekere toekomst

Generatieve AI is slechts een voorbeeld van een technologie die de wereld razendsnel verandert. Wouter geeft zijn deelnemers handvaten om een visie te formuleren op hoe je als organisatie het beste kunt omgaan met snelle veranderingen en een onzekere toekomst. ‘Hoe zet je lijnen uit in een wereld die geen moment stilstaat? Welke kansen bieden nieuwe technologieën, maar ook welke bedreigingen? Daar kijken we naar vanuit twee perspectieven: die van de morele filosofie en het futurisme.

De filosofie komt terug als we het hebben over de vraag hoe je een ethisch verantwoorde lijn kunt uitzetten in een wereld die zo snel verandert, waarbij we steeds vanuit meerdere perspectieven naar vraagstukken kijken. Dat kan dan gaan over generatieve AI, maar bijvoorbeeld ook over de toekomst van de kinderopvang. Wat verandert er, wat hebben kinderen precies nodig, hoe gaan we daarmee om?

Futurisme gaat vooral over de vraag hoe we de toekomst kunnen voorspellen door te kijken naar patronen uit de geschiedenis, vervolgt Wouter. ‘Als je bepaalde patronen steeds ziet terugkomen, kun je er in je visie op de toekomst rekening mee houden dat zo’n patroon zich wellicht blijft herhalen. Maar niemand kan de toekomst volledig voorspellen. Wat doe je als er toch iets heel anders gebeurt? Heb je dan een plan B? Het gaat erom dat je een lijn bedenkt in een complexe wereld die je met redelijke argumenten kunt verdedigen. Daarbij houd je altijd in je achterhoofd dat er geen wiskundige formule bestaat om exact te voorspellen of de uitkomst straks 42 zal zijn. Ik geloof trouwens niet dat je helemaal geen grip hebt op wat er gaat gebeuren: met een stevige morele visie heb je altijd een lijn om op terug te vallen, waardoor je toch iets van structuur kunt aanbrengen in je strategie.’

Innovatie in de toekomst

Thijs wijst op de snoeppot op zijn bureau. ‘Al die technologieën, zoals AI en virtual reality, zijn lekkere snoepjes. Gave technologieën die je op tal van manieren kunt toepassen. Maar wat zit er precies in? Waar zijn ze van gemaakt? En wie heeft ze ontwikkeld? Daar hebben we het te weinig over. Deze leergang heeft me een loepje gegeven waardoor ik die snoepjes beter kan bestuderen en onderzoeken.’

Hoe onweerstaanbaar die snoepjes zijn, blijkt wel uit de razendsnelle opkomst van ChatGPT. Thijs: ‘Opeens gebruikte werkelijk iedereen dergelijke toepassingen om teksten te schrijven en plaatjes te genereren. Niet alleen privé maar ook op het werk. ICT’ers van de oude stempel denken dan te kunnen bepalen hoe zo’n nieuwe techniek mag worden gebruikt op het werk, maar dan ben je al te laat. Want iedereen gebruikt het al. Juist daarom vind ik het zo belangrijk om AI-toepassingen heel zorgvuldig te onderzoeken. Zijn die algoritmen wel op ethische manier tot stand gekomen? Passen ze wel bij de waarden van je organisatie? In hoeverre wil je iets gebruiken dat extern is ontwikkeld? En wat doe je als je merkt dat de mensen in je organisatie zo’n nieuwe technologie zonder nadenken hebben omarmd? Zoals het gaat met bijna elke nieuwe technologie: als de geest eenmaal uit de fles is, krijg je hem er niet meer in terug. Eerst zijn we er bang voor, dan gaan we het toch gebruiken omdat iedereen het doet. De relevante vraag is hoe je je er zelf toe verhoudt. Hoe wil je deze technologieën gebruiken en welke pijnpunten kunnen optreden? In mijn beleving zou de discussie daar veel vaker over moeten gaan: we kunnen heel veel, maar hoe gaan we ermee om?’

Kijken vanuit verschillende perspectieven

Wouter leert de deelnemers ook om vanuit meerdere perspectieven naar ontwikkelingen te kijken. Thijs: ‘Ik kijk van deze kant van de tafel op een bepaalde manier naar die pot snoepjes, maar de persoon tegenover mij heeft letterlijk een ander perspectief. Het gaat om dezelfde snoepjes, maar onze invalshoeken zijn verschillend. Als je je dat realiseert kun je met elkaar discussiëren over wat we allebei zien. Dan kun je argumenten wisselen over hoe iedereen kijkt naar deze nieuwe technologie en op welke manier we het kunnen en willen toepassen.’

Tijdens de leergang stimuleert Wouter die manier van denken en kijken. ‘Eigenlijk is deze leergang een grote oefening in het luisteren naar het perspectief van de ander, waarna je bij jezelf te rade gaat. Wat vind je hiervan, kun je er zelf iets mee en hoe dan?  Welke morele vragen komen bij je op als je nadenkt over de manier waarop bijvoorbeeld AI-toepassingen tot stand komen onder vreselijke omstandigheden in Kenia? Tijdens elke module hebben we het over de morele vragen die samenhangen met wat we zien gebeuren in de wereld en over de verschillende perspectieven die we daarbij hebben. Aan het einde van de zeven modules hoop ik dat de deelnemers weten welke vragen ze kunnen stellen, begrijpen welke geopolitieke en technologische veranderingen eraan zitten te komen en hoe ze zich daartoe kunnen verhouden. En dat ze de nodige argumenten kunnen aandragen voor de richting die ze willen nemen.’

Podcast

Als onderdeel van de opleiding maakte Thijs samen met Wouter een podcast over generatieve AI.

Beluister de podcast hier: