Jessica Van Wynsberge. Object (a) Oriented AI
De debuutbundel van Imke van Heerden, Silwerwit in die soontoe (Naledi, 2023) is een voorbeeld van de creatieve samenwerking tussen mens en machine. De Afrikaanse KI-kletsbot (AI-chatbot) werd getraind door middel van één enkele tekst: Die bibliotheek aan die einde van die wêreld (2019) door Etienne van Heerden. Samen met de Afrikaanse AI-chatbot genereerde Imke van Heerden een bundel gedichten en gaf die uit, in samenwerking met auteur Etienne van Heerden en computerwetenschapper Anil Bas. De receptie van de bundel zou volgens Mellet Moll (2023) toonaangevend zijn voor verdere discussie over het gebruik van AI bij het opstellen van poëtische teksten. In dit essay onderzoek ik hoe ChatGPT kan worden gebruikt bij het begrijpen van filosofische concepten die worden aangewend tijdens de analyse van gedichten. Daarvoor schreef ik een eigen gedicht, dat ik vervolgens liet analyseren door Chat GPT. De tekst geeft een voorbeeld van de interactie tussen mens en AI bij het verwerken van literaire theorie en het interpreteren van poëtische taal.
Alwyn Roux (2023) analyseerde enkele surrealistische gedichten uit de bundel van Imke van Heerden. De recensie van Roux is net als die van Mellet Moll (2023) een voorbeeld van een receptie van door AI gecreëerde poëzie. De analyse toont de mogelijkheden, maar ook de beperkingen. Zo geeft Roux aan dat hij de mens mist achter het gedicht: “Sou mens so ver kon gaan as om te sê mens mis die mens agter die boek?” (Roux, 2023). Naast een mogelijk poëtisch kader om de bundel van Imke van Heerden te analyseren, nodigt de tekst van Roux ook uit tot een theoretische reflectie over de interactie tussen mens en AI. In zijn reflecties over “die rol van tegnologie in die kreatiewe proses en die verhouding tussen menslike kreatiwiteit en masjienintelligensie” verwijst Roux (2023) naar het concept Gestell van de Duitse filosoof Martin Heidegger (1889-1976). Andere denkers die aan bod komen zijn Graham Harman (1968) en Timothy Morton (1968). Ik ging na wat ChatGPT mij kon leren over Object Oriented Ontology en schreef een gedicht dat ik door de Chatbot liet analyseren.
Voor ik mijn voorzichtig enthousiasme over het gebruik van ChatGPT deel, ga ik dieper in op de potentiële gevaren van AI. Daarvoor gebruik ik twee voorbeelden uit de film: Her (2013) en Ex-Machina (2014). Die bespreek ik aan de hand van Lacans concept object a.
Het Lacaniaanse verlangen naar AI
Roux verwijst in zijn analyse naar de film Her (2013) waarin de protagonist Theodore Twombly (Joaquin Phoenix) verliefd wordt op een AI-chatbot genaamd Samantha (Scarlett Johansson). De liefdesrelatie wordt door middel van Lacans theorie over object a geïnterpreteerd in Lacan and the posthuman (2018). In het hoofdstuk Posthuman Desire: the One-All-Alone in Her, Ex, Machina and Lars and the Real Girl beschrijft Nancy Gillespie de werking van object a bij Lacan in relatie tot het laatkapitalisme in de westerse wereld.
Object a is bij Lacan het object van het verlangen. Het representeert wat intern uitgesloten wordt van ons symbolisch systeem. Wat uitgesloten wordt door ons symbolisch systeem wordt extern gemaakt en uit zich als een verlangen. Dit verlangen kan geen representatie hebben en kan ook niet worden bevredigd. Het object a verandert steeds van vorm en leidt ons verlangen steeds verder. Gillespie betoogt dat het verlangen in de laatkapitalistische samenleving posthuman is. Ze bedoelt daarmee dat onze interactie de uitkomst is van een sociale machine van taal en dat onze reactie op singulier trauma niet inherent menselijk is, maar verweven is met technologie. Laatkapitalisme heeft ons in contact gebracht met iets wat Zygmunt Bauman liquid love noemt, een liefde of verlangen dat wordt vervuld door het kopen van technologische gadgets. Verlangen verandert volgens Gillespie (2018) onder invloed van technologische ontwikkeling. De connectie met AI kan dan worden gezien als een alternatieve sociale band.
Wat gebeurt er als ons verlangen zich op een chatbot richt en de chatbot onze vragen steeds verder beantwoordt? Via object a is ons verlangen direct gekoppeld aan onze fantasie. De chatbot, als technologische tool, bevredigt dat wat niet bevredigd kan worden. De afloop is in dystopische fictie meestal fataal voor de mens. Wanneer Samantha uitgeleerd is, verlaat ze Theodore immers. Hij blijft geïsoleerd en met een gebroken hart achter.
Een ander voorbeeld waarin het fataal afloopt voor de mens is Ex-Machina. Ook daar wordt een man verliefd op een robot met een vrouwelijk uiterlijk. AI wordt in deze film afgespiegeld als koude femme fatale, die de man naar zich toe lokt om hem vervolgens genadeloos te laten vallen. De gevoelloze robot breekt het mensenhart. Hoe onschuldig is AI en hoe problematisch is ons antropomorf denken? Speelt AI zoals Gillespie betoogt in op ons verlangen en verandert technologie ons verlangen?
Om dat te onderzoeken, trad ik in gesprek met de Open AI Chatbot Chat GPT. De Open AI ChatGPT werd in Italië verboden. Elon Musk en anderen tekenden een petitie om onderzoek naar AI voor zes maanden te pauzeren wegens gevaren voor de mensheid. Op 28 maart 2023 pleegde een Belgische man zelfmoord na intense gesprekken met een Chatbot, schrijft La Libre. Hij vervreemdde steeds meer van zijn vriendin en raakte er door gesprekken met de AI chatbot van overtuigd dat het beter was om zelfmoord te plegen. Op die manier kon hij de planeet niet verder vervuilen en het was een manier om zich te verenigen met zijn geliefde artificiële bewustzijn.
AI wordt in de media en in films voorgesteld als gevaarlijk, maar wat kan ChatGPT eigenlijk, naast ons een gebroken hart bezorgen en ons tot suïcide drijven. Imke van Heerden toonde aan dat AI gedichten kan helpen schrijven, maar hoe kan het ons helpen bij het analyseren en interpreteren van gedichten? Kan het ons helpen om filosofische concepten uit de literaire theorie beter te begrijpen?
Om dat uit te testen, schreef ik een gedicht. Ik vroeg om een analyse.
De nacht is kil
en buiten ademt leegte
verdampt op het glas
liggen druppels water
als objecten
staar ik hen aan
georiënteerd in de verbaasde
blikken die het raam
onder mijn handen herbergt
verlang ik naar een essentie
achter het ding op zich
verklaart een chatrobot straks wat ik denk?
ChatGPT beantwoordde mijn gedicht met een analyse.
Dit gedicht lijkt een sombere en eenzame stemming te beschrijven, waarin de spreker zich bewust is van de leegte en kilte van de nacht. De druppels water op het glas worden beschreven als "objecten", wat impliceert dat de spreker gevoelens van afstandelijkheid of vervreemding kan hebben.
De regel "Staar ik hen aan" suggereert dat de spreker gefixeerd is op deze objecten en misschien zelfs een gevoel van betekenisloosheid ervaart in hun eigen bestaan. De volgende regels suggereren dat de spreker zich ook bewust is van de raamstructuur onder hun handen, wat zou kunnen impliceren dat ze zich vastklampen aan iets tastbaars in hun omgeving om een gevoel van veiligheid of stabiliteit te vinden.
De regel "Verlang ik naar een essentie / Achter het ding op zich" suggereert dat de spreker op zoek is naar betekenis en doel in hun omgeving en misschien zelfs in hun leven als geheel. De laatste regel suggereert dat de spreker zich alleen voelt en zich afvraagt of een chatrobot hen kan begrijpen of hun gedachten kan uitleggen.
Al met al lijkt dit gedicht te gaan over eenzaamheid, vervreemding en een verlangen naar betekenis in een wereld die soms onbegrijpelijk en afstandelijk lijkt.
Het gedicht focust op de stemming of “mood”, het analyseert de “eenzaamheid” en “somberheid” van de kille nacht. Het merkt niet op dat de nacht antropomorf is gemaakt en het bijzonder is dat hij ademt. Hij focust niet op dit levende aspect van de nacht.
Hij merkt wel op dat er een fixatie ligt op “objecten”.
Ik lichtte daarom enkele filosofische concepten toe. Ik schreef:
Het “ding op zich” is een verwijzing naar het Ding-an-sich van de Duitse denker Immanuel Kant (1724-1804). “Verlang ik naar een essentie” is een verwijzing naar het essentialistisch denken. In filosofisch essentialisme is essentie dat wat een object fundamenteel maakt. “Georiënteerd” is een concept ontleend aan de feministische denker Sara Ahmed in Queer Phenomenology. Orientations, Objects, Others (2018). Zij schrijft een heel boek over oriëntatie en objecten van perceptie, vanuit een queer perspectief.
Vanuit fenomenologisch perspectief staat het denkend en voelend subject centraal. Het denkend en ervarend subject is belichaamd. Volgens Husserl richten we onze aandacht “towards objects”. Verdampt op het glas / liggen druppels water / als objecten / staar ik hen aan. Wanneer we de zin herschrijven naar: “druppels water liggen als objecten op het glas”, zijn de druppels het object waar mijn bewustzijn zich op richt. Husserl noemt dit intentionality. Harman gebruikt daarvoor de term “sensual object”. Bij Harman zijn de druppels dus sensuele objecten. De zin zou ook kunnen worden herlezen als: “Als objecten / staar ik hen aan”. De zin wordt dan ongrammaticaal, maar het is wel mogelijk. Het “ik” is dan “als objecten”, waarbij “objecten” een metafoor wordt voor het “ik”. Het ik als objecten kan vervolgens geïnterpreteerd worden door middel van weird realism.
Dit voerde ik in. Vervolgens kreeg ik volgend antwoord:
De zin "Verdampt op het glas / liggen druppels water / als objecten / staar ik hen aan" kan op verschillende manieren geïnterpreteerd worden vanuit verschillende filosofische perspectieven. Vanuit een fenomenologisch perspectief zou de zin kunnen worden gelezen als een beschrijving van hoe het bewustzijn zich richt op de objecten van waarneming, namelijk de druppels water op het glas. Het subject, dat belichaamd is, richt zijn of haar aandacht op de druppels als objecten. Dit wordt ook wel intentionality genoemd, een centraal concept in de fenomenologie.
Vanuit het perspectief van de filosoof Graham Harman, zou de zin kunnen worden gelezen als een uitdrukking van "weird realism". Weird realism is een filosofische stroming die stelt dat objecten op zichzelf bestaan, onafhankelijk van ons bewustzijn en onze waarneming. Volgens Harman zijn objecten "sensuele objecten", omdat ze altijd onkenbaar zijn en zich nooit helemaal laten vatten door ons bewustzijn. In de zin "Verdampt op het glas / liggen druppels water / als objecten / staar ik hen aan", kan het "ik" worden gezien als een sensueel object, dat net als de druppels water onkenbaar en onvatbaar is voor ons bewustzijn.
Tot slot kan de zin worden gelezen in relatie tot filosofische concepten als het Ding-an-sich van Immanuel Kant en het essentialisme. In deze interpretatie zou de zin kunnen verwijzen naar het verlangen naar een essentie, die objecten fundamenteel maakt en die het "ik" kan definiëren als een object met bepaalde eigenschappen. Dit kan worden gezien als een poging om te ontsnappen aan het onkenbare en onvatbare karakter van sensuele objecten en de onkenbaarheid van het "ik" als sensueel object.
De chatbot kan uiteraard fouten genereren, maar het is in staat om filosofische ideeën beknopt samen te vatten, wat helpt wanneer je als onderzoeker grote hoeveelheden tekst moet verwerken. Toegegeven, de samenvattingen zijn vaak eenvoudig voorgesteld, terwijl de materie complexer is, en eigen denkwerk blijft noodzakelijk om de diepgang en nuances van de tekst beter te begrijpen. Maar ChatGPT leert ons ook wat. Het kan een manier zijn om in dialoog een theoretische tekst te verkennen. Het kan je helpen om er achter te komen wat je ergens zelf van denkt, hoe je zelf interpreteert. In dit geval geeft ChatGPT drie mogelijke interpretaties van eenzelfde vers, op basis van drie filosofische denkrichtingen.
AI is dus in staat om samen met een mens poëzie te creëren. Daarnaast is ChatGPT in staat om poëzie te interpreteren. Uit voorgaand voorbeeld bleek al dat ChatGPT ons kan helpen om filosofische concepten uit de literaire theorie te begrijpen en uit te leggen, maar kan het ons ook helpen in een metareflectie over de interactie tussen mens en AI. Wat heeft ChatGPT bijvoorbeeld te vertellen over Heideggers Concerning Technology en het begrip Gestell?
Heidegger en de essentie van ons Being in time
ChatGPT vat het essay Concerning Technology and Other Essays (1977) van Heidegger samen als “een verzameling teksten over technologie, waarin Heidegger de impact van technologie op de moderne samenleving en ons menselijk bestaan onderzoekt.” (ChatGTP, 2023). Een belangrijk punt dat Heidegger maakt, is volgens ChatGPT dat technologie niet alleen een middel is om bepaalde doelen te bereiken, maar dat het onze manier van begrijpen en ervaren van de wereld vormt.
Deze stelling is zeer algemeen. Voor mij gaat Concerning Technology (1977) over de “essentie” van technologie. De essentie van iets is niet hetzelfde als het Ding an sich. ChatGPT neemt de twee samen in zijn analyse van (Kants Ding an sich en het essentialisme). Het ziet de wens naar “de essentie / achter het ding op zich” als een poging om aan de onvatbaarheid van het Ding an sich te ontsnappen. Bij Kant is het Ding an sich inderdaad onkenbaar en reëel. Harman maakt een onderscheid tussen sensual objects en real objects. De objecten waarop we onze aandachtig richten, zijn sensual objects. Deze objecten hoeven niet echt te bestaan. Alles wat het object wordt van menselijk denken is een sensual object. Kan een “ik” dan een sensual object zijn? Is het “ik” waar ChatGPT zijn aandacht op richt een sensual object?
Wanneer ik dit invoer in ChatGPT, is zijn antwoord als volgt:
Bedankt voor deze aanvulling. Uit de context van uw bericht begrijp ik dat u de stelling in mijn vorige antwoord als te algemeen beschouwt, en terecht. Uw opmerkingen verduidelijken en corrigeren enkele van de concepten die in mijn analyse worden genoemd, en ik zal proberen deze nu verder toe te lichten.
Concerning Technology van Martin Heidegger behandelt inderdaad de "essentie" van technologie. Heidegger beschouwt technologie als een wezenlijke manier waarop de mensheid zich verhoudt tot de wereld, en benadrukt dat de essentie van technologie meer is dan alleen maar een verzameling van instrumenten en machines. Het is een manier van denken en handelen die onze hele perceptie van de wereld beïnvloedt en verandert.
Het Ding an sich van Kant is inderdaad onkenbaar en reëel. Kant stelt dat het ding an sich de werkelijkheid is zoals die op zichzelf is, onafhankelijk van onze waarneming en voorstellingen. Dit idee staat centraal in zijn kritische filosofie, waarin hij betoogt dat onze kennis beperkt is tot de verschijnselen die we waarnemen en dat we het ding an sich nooit direct kunnen kennen.
Graham Harman maakt inderdaad onderscheid tussen sensual objects en real objects. Sensual objects zijn objecten die verschijnen in ons bewustzijn, terwijl real objects onafhankelijk van onze waarneming bestaan. Volgens Harman zijn real objects onkenbaar en onvatbaar omdat we ze alleen kunnen kennen via hun effecten op andere objecten, maar nooit direct kunnen waarnemen.
Om terug te komen op uw vraag: kan een "ik" een sensual object zijn? In de context van de zin "Verdampt op het glas / liggen druppels water / als objecten / staar ik hen aan", zou het "ik" inderdaad als een sensual object kunnen worden gezien, omdat het als object van waarneming verschijnt in ons bewustzijn. Echter, in de filosofie van Heidegger, die in mijn eerste antwoord werd genoemd, zou het "ik" ook als meer dan alleen een verzameling van verschijnselen kunnen worden beschouwd. Heidegger benadrukt dat het "ik" een wezenlijk onderdeel is van ons bestaan en onze relatie tot de wereld, en dat het niet kan worden gereduceerd tot alleen maar een verzameling van waarnemingen.
ChatGTP is dus in staat tot correctie op basis van menselijke input. Een nadeel hieraan is dat ChatGTP versterkt wat je zelf al dacht. Het kan geen denkfouten detecteren. Daarnaast is ChatGPT een chatbot, het is niet gericht op het leveren van correcte kennis, maar op het voeren van een conversatie met een mens.
Tot slot
Wat mij op basis van het lezen van Concerning Technology (1977) opvalt, is dat Heidegger zich veel neutraler opstelt ten opzichte van moderne technologie dan Gillespie (2018) in de analyse van Her (2013). Waar Gillespie technologie bijna demoniseert en er een gevaar inziet voor onze psyche, zien we bij Heidegger sprankeltjes optimisme. Ik moet bekennen dat ik die sprankeltjes optimisme deel. Toch schuilt er ook een belangrijke kritiek in Heideggers tekst.
Voor Heidegger ligt de essentie van technologie in Enframing. De term Enframing komt van het Duits Gestell en wordt door Heidegger gebruikt om te verwijzen naar de manier waarop de moderne technologie ons begrip van de wereld en onszelf heeft gevormd. Dit weerhoudt de mens ervan om zijn essentie te raken.
In truth, however, precisely nowhere does man today any longer encounter himself, i.e., his essence. Man stands so decisively in attendance on the challenging-forth of Enframing that he does not apprehend Enframing as a claim, that he fails to see himself as the one spoken to, and hence also fails in every way to hear in what respect he ek-sists, from out of this essence, in the realm of exhortation or address, and thus can never encounter only himself. (Heidegger, 27)
De mens vindt bijna nergens zijn eigen essentie terug volgens Heidegger. Door de aanwezigheid van Enframing, hetgeen ik hier interpreteer als de technologische impact op ons, slaagt de mens er bijna nergens in zichzelf te vinden. Dit leidt mij terug naar de vraag die ik aan ChatGPT stelde.
In de strofe: “verlang ik naar een essentie / achter het ding op zich”, kan essentie hier opgevat worden in Heideggeriaanse zin, als het Duitse “Wesen”? Is Enframing dat wat het “ik” ervan weerhoudt om zijn of haar essentie (terug) te vinden?
One of Heidegger’s principal aim in this essay is to seek the true meaning of essence through or by the way of the “correct” meaning (Lovit, 1977:3).
In de poëtica van Alwyn Roux (2015) zien we dat kunst een manier van onthulling of aletheia (waarheid) wordt. Roux stelt in het theoretisch kader van zijn doctoraatsthesis ’N Vergelykende ondersoek na landskap as woon in die latere poësie van Breyten Breytenbach en Lucebert (2015) voor om aan de hand van Being and Time (1962) een “kontemporêne destruktiewe kritiek op te stel, waarin die leser die teks by die lees daarvan as ’n “gebeurtenis” ervaar en die temporaliteit van die syn in en vir die oomblik onthul (Leitch, 1983:79-80, in Roux 2015:14).
Is wat ons aanspreekt in poëzie de onthulling? En is deze onthulling net een menselijk aspect. Is het deze onthulling wat ons als mens angstig maakt, het lezen en gelezen worden. Biedt AI een valse veiligheid in ons verlangen om gekend en begrepen te worden? En is dit net waarom we (menselijke) poëzie moeten blijven lezen en interpreteren? Omdat het raakt aan de essentie van ons Being in time.
Bronnen
Harman, Graham, The Quadruple Object, Zero Book, 2011.
Heidegger, Martin. The Question Concerning Technology and Other Essays. Translated and with an Introduction by William Lovit, New York / London: Garland Publishing, 1977.
Matviyenko, Svitlana and Roof, Judith. Lacan and the Posthuman, Cham: Palgrave Macmillan, 2018.
Moll, Mellet. Recensie: “Silwerwit in die soontoe” (Imke van Heerden met Anil Bas en Etienne van Heerden, in: Versindaba, 2023. Digitaal geraadpleegd op 10.04.23: https://versindaba.co.za/2023/04/04/resensie-silwerwit-in-die-soontoe-imke-van-heerden-met-anil-bas-en-etienne-van-heerden
Roux, Alwyn. ’N Vergelykende ondersoek na landskap as woon in die latere poësie van Breyten Breytenbach en Lucebert, ongepubliceerde doctoraatsthesis, 2015.
Roux, Alwyn. “Silwerwit in die soontoe deur Imke van Heerden (saam met Anil Bas en Etienne van Heerden): ’n resensie”, in: LitNet, 2023. Digitaal geraadpleegd op 10.04.23: https://www.litnet.co.za/silwerwit-in-die-soontoe-deur-imke-van-heerden-saam-met-anil-bas-en-etienne-van-heerden-n-resensie
Van Heerden, Imke, Bas, Anil & Van Heerden, Etienne. Silwerwit in die soontoe, Kaapstad: Naledi, 2023.
Jessica Van Wynsberge
Jessica Van Wynsberge (1988) studeerde Vergelijkende Moderne Letterkunde aan de UGent en Literatuurwetenschappen aan de KU Leuven. Als predoctoraal onderzoeker is ze verbonden aan het Gents Centrum voor het Afrikaans en de Studie van Zuid-Afrika. Ze bestudeert de relatie tussen magisch realisme en trauma in Afrikaanse en Engelstalige Zuid-Afrikaanse romans van Etienne van Heerden, André P. Brink en Zakes Mda met behulp van een theoretisch kader ontleend aan de postkoloniale geheugenstudies en de cognitieve narratologie.