Dit artikel verscheen eerder – in een iets gewijzigde vorm – in het blad Geruchten. Aanleiding hiervoor is de studiedag die Op Goed Gerucht op 23 juni organiseert. Meer informatie over deze studiedag is hier te vinden.
Massawerkloosheid, controleverlies over AI, robots of machines die zich tegen ons keren… Artificial Intelligence (AI) is omgeven door apocalyptische scenario’s. Doemdenkers voorspellen de ondergang van de mensheid. Techgelovigen verwachten een nieuwe wereld waarin kunstmatige intelligentie ons verlost van grote problemen als klimaat en ziekten. Zelfs eeuwig leven ligt in het verschiet als we in staat zijn ons brein te ‘uploaden’ in cyberspace.
Door Esther de Paauw
STRONG AI
Dat laatste vereist overigens wel de ontwikkeling van het zogenaamde strong AI ofwel Artificial General Intelligence. Tot nu toe is strong AI echter alleen een theoretisch concept. Wat we kennen aan kunstmatige intelligentie valt onder narrow of weak AI. Dat betekent dat het programma of algoritme beperkt is tot een duidelijke doelstelling of taak, zoals weersvoorspellingen, schaken, data-analyse, of de functie van een chatbot. Narrow AI bootst weliswaar menselijke intelligentie na en beschikt voornamelijk over meer rekenkracht dan het menselijk brein, maar ze kan niet meer dan waartoe ze is geprogrammeerd en heeft geen ‘mind of it’s own’. Strong AI zou een veel gelijkwaardiger equivalent moeten zijn van ons brein, een superintelligentie die zich onafhankelijk van haar oorspronkelijke programmering verder kan ontwikkelen en autonoom beslissingen nemen. Bij strong AI zou de mens dus de controle verliezen en AI zich in theorie tegen ons kunnen keren. Het is met name dit idee van strong AI dat angst oproept en de basis is van sciencefiction scenario’s waarin de mensheid door intelligente robots of machines wordt bedreigd.
FUTURISME EN APOCALYPTIEK
Eén van de bekendste gelovigen in strong AI is futurist en transhumanist Ray Kurzweil (1948). Zo voorspelt hij in zijn boeken The Age of Intelligent Machines (1990) en The Age of Spiritual Machines (1999) dat AI in 2029 de Turingtest zal doorstaan en het punt van technologische singulariteit, ofwel strong AI in 2045 bereikt zal zijn. Ook is hij een aanhanger van het Transhumanisme en meent hij dat we binnen een aantal decennia een deel van onze tijd zullen doorbrengen in virtuele werelden en dat de mens van de toekomst een hybride bestaan zal hebben van biologische en niet-biologische intelligentie in de vorm van nanobots die onze cognitieve prestaties verbeteren en ons lichaam behoeden voor degeneratie.
Hoewel dit behoorlijk futuristisch klinkt, herkent Robert Geracci in Apocalyptic AI: visions of Heaven in Robotics, Artificial Intelligence and Virtual Reality (2010) juist in deze toekomstverwachtingen rondom AI belangrijke aspecten van de klassieke joods-christelijke apocalyptiek. Wat het futurisme van Kurzweil en de klassieke apocalyptiek gemeen hebben is dat er in beide een vervreemding wordt ervaren van de wereld waarin men zich bevindt. Men verlangt van daaruit naar transformatie; naar een transcendente nieuwe wereld waarin men in een nieuwe gestalte eeuwig kan voortbestaan. Waar men vroeger hoopte op de hemel is het nu in cyberspace dat de verlossing van de fysieke beperkingen van ons temporele en materiële bestaan wordt gezocht.
DE DINGEN TEN EINDE DENKEN
Voor wie niet zo’n trek heeft in een hybride bestaan is het recent verschenen rapport van de Wetenschappelijke Raad voor het Regeringsbeleid (WRR) een geruststelling. In Opgave AI (2022) stelt de Raad dat zowel aan de rampscenario’s als aan de futuristische heilsverwachtingen nogal wat onterechte extrapolaties en discutabele aannames ten grondslag liggen. Zo heerst bij iedere grote technologische doorbraak de angst voor massawerkloosheid en hoewel de industriële revolutie, elektriciteit en de computer inderdaad banen deden verdwijnen, creëerden ze ook talloze nieuw sectoren. De valkuil waarop de doemscenario’s doorgaans berusten is dat ze lineair denken vanuit het verleden naar de toekomst en geen rekening houden met het nieuwe, en onverwachte.
MOLTMANN: FUTURUM EN ADVENTUM
Met Jürgen Moltmann zou je kunnen zeggen dat zich hier een diepere apocalyptische tendens onthult dan die van het doemscenario alleen. Moltmann maakt in Das Kommen Gottes (1995) een interessant onderscheid tussen apocalyptiek en eschatologie. Apocalyptiek denkt de dingen ten einde, ze vertrekt vanuit het verleden en denkt van daaruit naar het einde van de geschiedenis, waarbij ze uitkomt op scenario’s van eindstrijd en ondergang. Eschatologie gaat ook over het einde van de dingen, maar dan in de zin van hoe ze zich voleindigen, voltooien, herscheppen. In de eschatologie bevat het einde ook altijd een nieuw begin. Waar eschatologie zich kenmerkt als ‘adventum’, toekomst die inbreekt in heden en verleden, het nieuwe dat een ommekeer brengt, karakteriseert hij apocalyptiek als ‘futurum’; denken dat de toekomst begrijpt als een voortzetting van het verleden.
VOORUITGANGSGELOOF
Evenals de doemscenario’s is ook het futurisme van Kurzweil apocalyptisch in die zin dat zijn geloof in de ontwikkeling van strong AI een lineaire ontwikkeling van weak naar strong AI vooronderstelt. Het berust op een klassieke vorm van vooruitgangsgeloof (‘futurum’), zoals we dat sinds de Verlichting kennen. Daar valt niet alleen filosofisch en theologisch wat op af te dingen, maar het WRR rapport wijst erop dat ook in de wetenschap en de techniek die lineaire ontwikkeling er niet blijkt te zijn. Keer op keer moeten verwachtingen worden bijgesteld. Denk aan kankeronderzoek waar al diverse malen de verwachting dat we ‘over twintig jaar’ kanker kunnen genezen is opgeschoven, omdat het steeds opnieuw complexer blijkt dan zich aanvankelijk liet aanzien. Ook in de ontwikkeling van AI duiken er steeds nieuwe technische problemen en beperkingen op. Dacht men in de jaren ’90 dat een robot ons huishouden in 2020 zou doen, zo hebben we weliswaar een robotstofzuiger, maar geen huishoudster. Ook de ontwikkeling van de zelfrijdende auto blijkt moeizamer dan voorspeld, want waar AI sterk is in patroonherkenning, kan ze juist moeilijk omgaan met het onverwachte. De zelfrijdende auto presteert dan ook indrukwekkend op rechte wegen met voorspelbare situaties, maar waar het menselijk brein iets simpels als een omgevallen pion onmiddellijk herkent door haar te roteren kost het heel wat menselijke denkkracht en geld om dit technologisch op te lossen. Dat is eveneens één van de redenen waarom strong AI geen realistische optie lijkt. Zou het technologisch al mogelijk zijn, dan zou het zulke enorme investeringen vergen dat het ook in die zin niet reëel is.
ONTMYTHOLOGISERING
Het WRR rapport ziet het dan ook als één van de belangrijke taken van de overheid om zowel de doemscenario’s als de utopische verwachtingen rondom AI te ontmythologiseren. Dat we niet direct bang hoeven te zijn voor een superintelligentie die ons overneemt betekent echter niet dat kunstmatige intelligentie geen reële gevaren met zich meebrengt. Die bevinden zich echter vooral op het gebied van discriminerende algoritmes, deep fake, hallucinerende AI, politieke beïnvloeding, en de politieke, ethische en economische vragen rondom de technologie. Wie trekt hier aan de touwtjes? Waar ligt de macht? Wie profiteert en ten koste van wie en waarvan?
Theologie kan bijdragen aan het ontmythologiseren van AI en oog hebben voor de verborgen strijd tussen goed en kwaad, recht en onrecht, macht en onmacht, waarmee AI gepaard gaat op het gebied van politiek, economie en samenleven. Natuurlijk staat de theologie daarin niet alleen, maar trekt ze samen op met wie opkomen voor recht en humaniteit. Tegelijkertijd heeft de theologie ook eigen perspectieven in te brengen in de bezinning op wat humaniteit is en op AI in het licht van het transcendente.
AI EN ESCHATOLOGIE
Want kan AI openstaan voor het transcendente? Kan AI scheppend zijn? Creatief? Messiaans? Kan een algoritme dat functioneert via regels drager zijn van wat Moltmann ziet als het ‘adventum’, maar je ook met Caputo het ‘event’ kan noemen of met Walter Benjamin de ‘zwakke messiaanse kracht’? In eerste instantie lijkt een algoritme het ‘adventum’ uit te sluiten. Het kan immers niets meer produceren dan waartoe het is geprogrammeerd op basis van de data waarmee het is gevoed (en dat is juist ‘futurum’). Discriminerende algoritmes leggen dan ook op pijnlijke wijze onze menselijke vooroordelen bloot. Tegelijkertijd ligt daarin ook de mogelijkheid tot bevrijding, ofwel een zwakke messiaanse kracht. Het zichtbaar worden van discriminerende patronen maakt immers ook de correctie daarop mogelijk. Ik ben geen IT technicus, maar het lijkt mij dat algoritmes makkelijker kunnen worden gecorrigeerd op vooroordelen dan de menselijke blik. In de toekomst zou AI dan juist kunnen bijdragen aan het verminderen van discriminatie, bijvoorbeeld op de arbeidsmarkt.
Kan daarmee echter worden gezegd dat het AI is dat openstaat voor het transcendente of is het toch de menselijke creativiteit en het menselijk bewustzijn daarachter? Kan iets materieels überhaupt drager zijn van het ‘adventum’ of vereist ‘adventum’ menselijke interactie, creativiteit, spontaniteit en intuïtie? Of nog concreter gemaakt: Kan er in een door AI gegenereerd gebed iets plaatsvinden van het heilige, of kan dat alleen in het gebed van een mens? En als iemand thuis achter zijn computer wordt geraakt door een gebed dat door een chatbot voor hem wordt uitgesproken, is dat dan een illusie of een echte transcendente ervaring?
CREATIVITEIT EN ONTVANKELIJKHEID
Ik ben geneigd dat laatste niet uit te sluiten, alleen al omdat AI en menselijke creativiteit niet zo makkelijk van elkaar te scheiden zijn. AI komt niet alleen voort uit menselijke creativiteit, maar blijft daar in haar functioneren afhankelijk van. Een door AI gegenereerd gebed ‘leent’ immers uit vele door mensen geschreven gebeden en komt op grond daarvan tot een nieuwe samenstelling. Je kunt zeggen dat dit niet origineel is, maar menselijke originaliteit is evengoed beperkt. Ook wie spontaan bidt, maakt gebruik van een vooraf gegeven gebedstaal. In die zin put de chatbot uit soortgelijk repertoire als wij.
INNERLIJKHEID
Groot verschil tussen de chatbot en de mens is echter dat de chatbot geen innerlijkheid heeft en daarmee geen zelf heeft dat voor het transcendente of ‘adventum’ ontvankelijk is. Ervaart iemand iets van het heilige in een door AI gegenereerde tekst, gebed of kunstwerk dan is het nog altijd de mens die daar ontvankelijk voor is. Datzelfde geldt echter wanneer iemand een transcendente ervaring opdoet in de kunst of in de natuur. Als we ervan uitgaan dat materiële dingen zoals een kunstwerk of de natuur media kunnen zijn van het transcendente, dan geldt dat mijns inziens ook voor AI. AI kan een medium zijn waarin het transcendente tot ons komt bijvoorbeeld als een bemoedigend gebed, of als een messiaanse bevrijdende of helende mogelijkheid in bijvoorbeeld de medische wetenschap of in technieken die bijdragen aan humaniteit (zoals een niet-discriminerend algoritme), maar ze kan ook een medium zijn dat onze humaniteit bedreigt en verstoort.
CONCLUDEREND
Zoals iedere nieuwe technologie stelt AI ons voor vragen over onszelf en ons samenleven. Als nieuwste technologische ontwikkeling maakt AI deel uit van het creatieve proces van heel de schepping, en kan daarom medium zijn van zowel het messiaanse als het demonische. Voor een apocalyptisch einde van onze geschiedenis doordat robots ons gaan overnemen hoeven we niet te vrezen. Evenmin moeten we van AI ons heil verwachten. Zoals alle techniek vraagt AI om een zorgvuldige integratie in ons leven. In de mogelijkheden en bedreigingen die ze daarin met zich meedraagt kan theologie bijdragen aan de reflectie op humaniteit en rechtvaardigheid vanuit het licht van het transcendente en de mogelijkheid van het ‘adventum’.
Esther de Paauw is predikant van de Protestantse gemeente te Wassenaar en redacteur van Geruchten
LIBERAAL CHRISTENDOM 