Technologie neemt een steeds belangrijker plaats in onze wereld in en het bepaalt steeds vaker hoe ons leven eruitziet. Volgens de bekende Canadese filosoof Marshall McLuhan vormen wij eerst technologie en daarna vormt het ons. Hoe de smartphone ons de laatste vijftien jaar gevormd heeft, is hiervan een mooie illustratie. Wordt deze technologie autonomer, dan dringen zich ook ethische vragen rondom verantwoordelijkheid en aansprakelijkheid aan ons op.
De laatste tien jaar ontwikkelt de technologie zich razendsnel. Voor een groot deel speelt zich dat af in het digitale domein waarbij kunstmatige intelligentie (artificial intelligence, AI) een technologie is waarover je steeds meer hoort. Het is lastig om precies uit te leggen wat AI nu eigenlijk is, omdat het niet gekoppeld is aan een specifiek product of een dienst, maar overal in zit. In het recente rapport Opgave AI van de Wetenschappelijke Raad voor het Regeringsbeleid (WRR) wordt AI daarom ook ‘systeemtechnologie’ genoemd. AI in de eenentwintigste eeuw is wat elektriciteit en de verbrandingsmotor waren in de twintigste eeuw, technologieën die zorgen voor veel ontwikkelingen op veel fronten.
AI in de eenentwintigste eeuw is wat elektriciteit en de verbrandingsmotor waren in de twintigste eeuw, technologieën die zorgen voor veel ontwikkelingen op veel fronten
Maar wat is AI nu precies? Wellicht helpen een goede definitie en enkele voorbeelden om deze vraag te beantwoorden. Een goede definitie van AI staat in het WRR-rapport: ‘AI-systemen zijn systemen die intelligent gedrag vertonen door hun omgeving te analyseren en – met enige graad van autonomie – actie te ondernemen om specifieke doelen te bereiken.’ Het zijn dus slimme, zelflerende systemen die zelfstandig kunnen handelen. Wij hebben hiermee dagelijks te maken in ons werk en privéleven. Goede voorbeelden van AI zijn je navigatiesysteem in je auto of op je telefoon, de slimme aanbevelingen die je krijgt van muziek- en videodiensten en de camera in je telefoon die deze voor jou ontgrendelt op basis van gezichtsherkenning.
Nieuwe olie
Een van de belangrijkste succesfactoren in AI is de overvloedige aanwezigheid van data. Data zijn de grondstoffen waaruit AI-algoritmes patronen leren herkennen. Op grond hiervan kunnen ze statistische voorspellingen doen die vaak erg nauwkeurig zijn. Dit krachtige mechanisme zorgt ervoor dat AI bijvoorbeeld in staat is te voorspellen welk onderdeel van een trein stuk zal gaan en vervangen moet worden, welke student voortijdig de opleiding gaat verlaten en op welke advertentie je zult gaan klikken.
Naast voorspellen, is AI een meester in het herkennen van patronen in data. Dit wordt veel toegepast, bijvoorbeeld in de zorg. Zo kunnen radiologen AI gebruiken om bijvoorbeeld sneller longontsteking op röntgenfoto’s te detecteren en kan AI al in een vroeg stadium symptomen van de ziekte van Alzheimer opsporen door het herkennen van bepaalde patronen in het woordgebruik.
Ook wordt AI steeds creatiever. Zo genereerde een AI-algoritme van Microsoft en de TU Delft in 2016 al een schilderij in de stijl van Rembrandt. Je kunt bovendien op www.thispersondoesnotexist.com door AI gegenereerde foto’s zien van mensen die niet bestaan, maar er wel levensecht uitzien. Data worden wel de nieuwe olie genoemd, omdat met behulp van AI allerlei slimme producten en diensten gemaakt kunnen worden die voor een beter leven gaan zorgen.
Maar zoals het gebruik van olie gezorgd heeft voor grote milieuproblemen, zo zit er ook een donkere kant aan het gebruik van data en AI. Een goed voorbeeld hiervan is de bekende toeslagenaffaire. Hierbij voorspelde het AI-model van de belastingdienst wie potentieel gefraudeerd zou hebben met toeslagen. Maar wat vooral naar voren kwam, was dat gewone mensen de dupe werden van een overheid die vertrouwde op een AI-model en daar ook rigoureus naar handelde. Het voorbeeld van de toeslagenaffaire laat vooral zien dat het gebruik van data en AI allesbehalve neutraal is en dat bestaande maatschappelijke vooroordelen juist versterkt en uitvergroot worden.
Autonoom
John McCarthy heeft in de jaren vijftig van de vorige eeuw de term AI bedacht. Hij onderzocht met een aantal wetenschappers of menselijke cognitieve eigenschappen ook zelfstandig door een computer konden worden uitgevoerd. Het zelfstandig uitvoeren van taken en nemen van beslissingen door AI neemt een steeds hogere vlucht. Zo zien we dat de AutoPilot van Tesla al volledig zelfstandig kan rijden op snelwegen, maar dat gelijksoortige algoritmes ook kunnen worden toegepast in autonome wapens. Er zijn, voor zover ik weet, nog geen volledig autonome wapens ingezet, maar we zien wel dat AI een steeds grotere rol speelt in bijvoorbeeld de oorlog tussen Rusland en Oekraïne. Zo worden er al semi-autonome drones gebruikt door het Oekraïense leger en is AI een belangrijk wapen dat gebruikt wordt in de parallelle cyberoorlog die uitgevochten wordt.
Dus: hoe autonomer AI wordt, hoe spannender de ethische vragen rondom verantwoordelijkheid en aansprakelijkheid. Als je dit zou doortrekken naar een wereld waarin autonome AI slimmer is dan de mens, gaan ethische vragen over in existentiële vragen. Veel wetenschappers zullen zich dan afvragen hoe we AI zo kunnen blijven controleren dat het ten dienste staat van de mens en niet andersom. In zijn boek Robot Theology laat de Amerikaanse theoloog Joshua Smith zien dat deze existentiële vragen zo oud zijn als de mensheid zelf. Hij schrijft dat in verschillende mythen uit de oudheid volken gebiologeerd zijn door het maken van kunstmatig leven. In de westerse cultuur zijn het verhaal van Frankenstein uit de roman van Mary Shelly of bijvoorbeeld sciencefiction films als Terminator en Ex Machina daarvan goede voorbeelden.
Spiegel
In Genesis 1:27 staat dat God de mens geschapen heeft naar zijn beeld. Verderop krijgt de mens de opdracht om de aarde te bewerken en te onderhouden. Er zijn veel boeken aan deze tekst gewijd en het is op verschillende manieren uitgelegd, maar een belangrijke lezing waarover veel theologen het eens zijn, is dat de mens een creatief wezen is, met andere woorden: de mens kan dingen maken.
De mens is een “created co-creator“
Philip Hefner
De Amerikaanse theoloog Philip Hefner noemt de mens een created co-creator: wat de mens creëert, is een afspiegeling van wie de mens is en indirect van wie God is. Hefners visie is veel bekritiseerd en de vele voorbeelden van misbruik, onrecht en roofbouw op de natuur laten zien dat niet alles wat de mens creëert ter eer en glorie van God is. Hefners visie houdt christenen wel een kosmologische spiegel voor als leidraad voor je leven: dat God alles gemaakt heeft en alles in zijn hand heeft (Psalm 8:4-5). Dit geldt dus ook voor AI; dit kan en mag gebruikt worden ter opbouw van Gods koninkrijk.
Maar AI houdt mensen ook een andere spiegel voor en reflecteert wie wij zelf zijn en wat wij doen. AI kan op veel terreinen al hetzelfde als wat mensen kunnen en vaak ook veel beter. De AI van Googles AlphaGo was bijvoorbeeld in 2016 al in staat om de wereldkampioen Go, het moeilijkste bordspel ter wereld, te verslaan. In 2010 dachten geleerden nog dat het minimaal vijftig jaar zou duren voordat dit mogelijk zou zijn. Kortom, AI zal op steeds meer fronten dingen beter, sneller en efficiënter taken kunnen uitvoeren dan mensen. Voor de langere termijn rijst de vraag in hoeverre mens en AI samen kunnen werken of dat AI banen zal gaan overnemen.
Vanuit theologisch oogpunt roept dit steeds meer antropologische vragen op: wie mag ik zijn als mens in deze wereld waarin AI een steeds prominentere rol speelt? Hoe moet ik mij verhouden tot robots en andere autonome, steeds slimmer wordende systemen? Zijn robots straks onze nieuwe naasten en krijgen zij ook rechten en verantwoordelijkheden of blijven we er met een instrumentele blik naar kijken als een tool die ons leven gemakkelijker maakt? Deze vragen worden des te verontrustender in tijden waarin de mens steeds minder als kroon van de schepping wordt gezien en waar niet-menselijke schepselen als dieren, rivieren en bergen steeds meer morele en juridische rechten krijgen. AI spiegelt ons wie wij zijn als mens en confronteert ons niet alleen met antropologische vragen maar ook met diepe, existentiële vragen over de zin van het leven. De christelijke theologie heeft goede papieren om juist aan deze discussie een zinvolle bijdrage te leveren.
Doel
Zoals we hiervoor zagen, is AI ten diepste religieus en niet, zoals vaak wordt gedacht, waardenvrij en religieus neutraal. AI vormt ons leven door het gemakkelijker, sneller, veiliger en efficiënter te maken. De frictie die aan ons leven eigen is, verdwijnt hiermee steeds meer. Wat zijn de onderliggende redenen en waarden hiervoor, met andere woorden, vanuit welk mens- en wereldbeeld wordt AI ingezet?
De Amerikaanse techniekfilosoof Evgeny Morozov noemt het mensbeeld dat alles maakbaar is en alle wereldproblemen met technische middelen op te lossen zijn ‘tech-solutionisme’. Voor sommigen is het ultieme doel van AI een wereld waarin mens en machine samensmelten tot een nieuwe Übermensch. Sommige visionairs uit Silicon Valley, zoals Googles Ray Kurzweil durven daarbij al te dromen dat de mens onsterfelijk wordt, oftewel met behulp van AI het eeuwige leven in de cloud beërft. Het geloof dat AI ons zal verlossen en ons zal leiden naar een hemel op aarde is gebaseerd op het beeld van de mens als machine. Maar wat zal uiteindelijk de rol van de mens zijn als alles is geautomatiseerd en wat is dan de zin van het leven?
Deze kritische houding vind je ook terug bij vele hedendaagse denkers als rabbi Jonathan Sacks, Hans Schnitzler en Miriam Rasch. In haar boek Frictie schrijft Miriam Rasch dat mensen steeds vaker worden gereduceerd tot de verzameling data die ze zijn en produceren, dataïsme genaamd, wat leidt tot gemak en frictieloosheid, maar juist ook tot voorspelbaarheid en zinloosheid. Juist in de frictie in het leven, het ongemak, de veelkleurigheid van het leven komt de waarde van het mens-zijn naar voren.
Recht en gerechtigheid
Vanuit de christelijke theologie is het vermogen om relaties met anderen te hebben een van de kenmerken van de mens. De gave om anderen lief te hebben en naar anderen om te zien is wat het leven waardevol maakt en zin geeft. Juist in een wereld waarin AI een steeds belangrijkere rol speelt, wordt het omzien naar anderen steeds belangrijker. Dit oeroude christelijke mensbeeld is een helder baken in de woelige AI-wereld. AI is niet meer weg te denken uit onze wereld en zal een steeds prominentere rol innemen in onze maatschappij. Ook als christenen mogen wij dit oeroude mensbeeld inzetten door, juist in een wereld waarin AI steeds belangrijker wordt, om te zien naar onze naasten en recht en gerechtigheid na te streven zoals beschreven staat in Micha 6:8 (NBV21): ‘Er is jou, mens, gezegd wat goed is, je weet wat de HEER van je wil: niets anders dan recht te doen, trouw te betrachten en nederig de weg te gaan van je God.’
Doorpraten over AI
Bovenstaand artikel wil je bewust laten worden van de rol die technologie, en dan met name AI, al speelt in ons leven. Het is nuttig om hierover verder na te denken en door te praten in bijvoorbeeld je bijbelstudiegroep of als kerkenraad. De volgende gespreksvragen kunnen daarbij behulpzaam zijn.
- Hoe werkt AI in jouw leven? Noem enkele positieve en negatieve voorbeelden.
- Hoe zou AI kunnen bijdragen aan recht en gerechtigheid in deze wereld?
- In hoeverre zouden we slimme, autonome robots in de toekomst als nieuwe naasten moeten zien?
- Waar moeten we de grens trekken qua autonomie? In hoeverre is het wenselijk om bijvoorbeeld AI te gebruiken in autonome wapens?
- Wat zijn goede manieren om te voorkomen dat je op social media een tunnelvisie ontwikkelt en welke rol speelt AI hierin?
Update naar aanleiding van ChatGPT
Eind 2022 werd het internet overspoeld door allerlei teksten die zijn gemaakt met de chatbot ChatGPT van het Amerikaanse bedrijf OpenAI. ChatGPT is een vorm van generatieve AI dat zelf in staat is om allerlei soorten teksten te genereren zoals krantenartikelen, gedichten, beleidsnota’s, schoolopdrachten, marketingplannen, samenvattingen tot en met kant en klare computercode. Er is door allerlei mensen mee geëxperimenteerd en het heeft ook de wereld van de theologie bereikt. Zo maakte voorganger en docent aan het Baptistenseminarium Marijn Vlasblom een preek hiermee waarvan collega’s niet doorhadden dat deze preek door ChatGPT was gemaakt.
Zojuist een stukje preek laten genereren door kunstmatige intelligentie. Resultaat is echt verbluffend goed Nederlands en ik theologisch inhoudelijk echt niet slecht. Ik bereid mijn studenten hier al jaren op voor. Nu is het zover! Roept natuurlijk veel spannende vragen op… pic.twitter.com/TMiBaEwLMC
— Marijn Vlasblom (@marijnvlasblom) December 5, 2022
ChatGPT is enorm populair en had binnen 6 dagen 1 miljoen gebruikers (ter vergelijking: bij de iPhone duurde dit 74 dagen) en deze hype kreeg veel aandacht in de media en is ook door diverse christelijke media opgepakt. In dit naschrift wil ik een korte reflectie geven over dit fenomeen door als eerste kort uit te leggen hoe het werkt, in te gaan op mogelijke toepassingen en als laatste een aantal gedachtes wat je hier als christen nou mee moet.
Hoe werkt ChatGPT
ChatGPT is een vorm van AI dat gebaseerd is op GPT-3. De afkorting GPT staat voor Generative Pretrained Transformer en is een taalmodel dat met behulp van slimme algoritmes in staat is om heel veel teksten te lezen en de verbanden tussen de woorden, zinnen, alinea’s etc. hierin te analyseren. Hierdoor ontstaat een heel groot voorgetraind model wat heel goed in staat is om te voorspellen wat het volgende woord is in een reeks gegeven woorden. Deze technologie bestaat al jaren maar de gebruikersvriendelijkheid, de overtuigende eindresultaten en het feit dat ChatGPT onthoudt wat je eerder gezegd hebt, maakt dat mensen die ermee werken er zeer van onder de indruk zijn. Zie hieronder een voorbeeld van een tekst die ChatGPT gemaakt heeft in antwoord op de vraag “Schrijf een opiniestuk van 200 woorden wat een christen moet vinden van generatieve AI technologie“
Ik zou iedereen uit willen dagen om eens met ChatGPT te gaan spelen om een gevoel te krijgen wat dit soort technologie allemaal kan. Ga hiervoor naar de ChatGPT website, maak een account aan en leef je uit. ChatGPT spreekt vele talen waaronder Nederlands.
Mogelijke toepassingen en bedenkingen
Velen zien allerlei mogelijkheden wat je met deze vorm van AI kan bewerkstelligen. Trendwatcher Jarno Duursma formuleert het als volgt “Geen twijfel: deze software markeert een nieuw tijdperk. Slimme software als creatieve assistent, als oneindige ideeën machine, als slimme/ domme content schrijver, creatieve denker en vraagbaak.” Tegelijkertijd roept deze technologie allerlei (ethische) vragen op omtrent copyright, plagiaat, fake nieuws, betrouwbaarheid en wie de waarheid bepaalt. ChatGPT is ontwikkeld door het commerciële Amerikaanse bedrijf OpenAI hetgeen inhoudt dat het voor de buitenwereld onbekend is hoe het model onder de motorkap werkt (“black box”) en dat zij daarmee ook de morele grenzen van het systeem bepalen. Critici zijn vooral kritisch op het feit dat ChatGPT zeer overtuigend kan overkomen maar werkelijkheid geen flauw benul heeft wat zij zegt, met andere woorden, ze kan dus ook zeer overtuigend onzin verkopen. Professoren noemen het ook wel een ‘stochastische papegaai’ en theoloog Stefan Paas vergelijkt het met een “een student die zich door een mondeling heen bluft. Je ziet alleen geen rood gezicht en zweetdruppels.” Trendwatchers Sander Duivestein en Thijs Pepping gaan nog een stap verder en zeggen in een opiniestuk in NRC dat “het grote gevaar is niet dat de machinale verzinsels voor waarheid worden aangenomen, maar juist dat het steeds moeilijker wordt om de waarheid te achterhalen.” en zij pleiten ervoor dat het gebruik van ChatGPT moet worden beperkt en dat misbuik strafbaar moet zijn. Kortom, deze tool doet heel wat stof opwaaien en het is ook terecht dat hier kritische vragen bij worden gesteld.
Christelijke reflectie
Het fascinerende aan AI is dat ik er als theoloog allerlei christelijke noties in kan herkennen. Van het verlossings-narratief waar AI de wereld gaat redden in de klimaatcrisis tot en met de mystieke ervaringen die AI onderzoekers hebben gehad die met GPT-4 1 gewerkt hebben. Naar aanleiding van ChatGPT gaan theologen Alain Verheij en Arnold Huijgen in de rubriek Theologisch Elftal in Trouw in op de vraag of AI een bedreiging voor ons godsbeeld is. Verheij’s conclusie is dat AI te vergelijken is met oude godsbeelden die een uitvergroting van de mens zelf zijn, en dat wel degelijk een ontwikkeling is die hem zorgen baart. Huijgen wijst erop dat wij als mensen relationele wezens zijn en verbonden zijn in een gedeelte kwetsbaarheid en sterfelijkheid hetgeen AI nooit zal kunnen voelen.
Al met al kun je dus wel concluderen dat ChatGPT veel los maakt en voor- en tegenstanders buitelen over elkaar heen met allerlei meningen en bespiegelingen hierover. Maar wat moet je hier nu mee als christen? Het is goed om te beginnen, zoals hierboven reeds is beargumenteerd, om na te gaan wat het doel is van ChatGPT. OpenAI, de eigenaar en ontwikkelaar van ChatGPT, is een Amerikaanse commercieel bedrijf dat als missie heeft “to ensure that artificial general intelligence benefits all of humanity.” waarbij zij met artificial general intelligence intelligente autonome systemen bedoelen die slimmer en beter zijn dan mensen in het uitvoeren van taken zoals bijvoorbeeld werk 2. Dit klinkt in eerste instantie veelbelovend, maar het is goed om je te beseffen dat AI nooit neutraal en waardenvrij is en het is derhalve verstandig om kritisch te reflecteren vanuit welke mens- en maatschappijvisie een product als ChatGPT ontwikkeld is en welke gevolgen dit heeft voor keuzes die gemaakt worden bij het ontwikkelen van dit product. De gevolgen bij het gebruik is te merken dat de normen voor wat wenselijk en niet wenselijk is, bepaald zijn door OpenAI.
ChatGPT is, denk ik, een voorbode van vele slimme AI oplossingen die de komende jaren een steeds belangrijkere rol in ons leven en in onze maatschappij gaan spelen. Het is daarom goed om hiervan kennis te nemen maar ook kritisch hierop te reflecteren dat dit soort tools nooit neutraal zijn en om na te gaan hoe dit kan gaan helpen om te zien naar onze naasten en recht en gerechtigheid na te streven. Ik hoop dat artikel je handvatten gegeven heeft die je hiermee kunnen helpen.
- GPT-4 is de opvolger van ChatGPT die gebaseerd is op GPT-3 en deze wordt in 2023 verwacht. Deze uitspraak wordt gedaan door de hosts van de podcast Hard Fork waarin zij letterlijk zeggen “Everyone who has seen GPT4 comes back like they have seen the face of God“
- Op de website van OpenAI staat het als volgt “OpenAI’s mission is to ensure that artificial general intelligence (AGI)—by which we mean highly autonomous systems that outperform humans at most economically valuable work—benefits all of humanity..”