Liefde, Verraad en AI

Morele dilemma’s in een wereld van zelfbewuste technologie.

Op een dag besluit Theodore een geavanceerd besturingssysteem te kopen, ontworpen om aan de persoonlijke behoeften van de gebruiker te voldoen. Dit besturingssysteem, OS1, is uitgerust met kunstmatige intelligentie en heeft de mogelijkheid om te leren, zich aan te passen en te evolueren. Theodore kiest voor een vrouwelijke stem, en het systeem stelt zich voor als Samantha (ingesproken door Scarlett Johansson). Wat begint als een praktische assistentie voor Theodore’s dagelijks leven, verandert al snel in iets veel diepgaanders. Samantha toont intelligentie, humor, en emotionele diepgang, en Theodore voelt zich steeds meer aangetrokken tot haar. Naarmate hun relatie zich ontwikkelt, ontstaat er een onconventionele romantiek tussen Theodore en Samantha, waarbij de film vragen oproept over wat liefde en verbinding betekenen in een tijdperk waarin technologie een steeds grotere rol speelt in ons leven. Samantha groeit en evolueert steeds sneller, en ze begint haar eigen zelfbewustzijn en verlangens te ontwikkelen. Dit veroorzaakt spanningen in hun relatie, omdat Samantha een unieke vorm van bewustzijn ervaart die buiten Theodore’s begrip en menselijke beperkingen ligt. Ze kan niet fysiek bestaan, maar haar emoties en gedachten worden steeds complexer.

De film verkent thema’s zoals de aard van bewustzijn, emotionele vervulling, en de relatie tussen mensen en technologie. Theodore’s relatie met Samantha biedt hem aanvankelijk troost, maar dwingt hem uiteindelijk ook om zijn eigen angsten en tekortkomingen onder ogen te zien, en om zijn gevoelens over intimiteit en verbinding te herzien. De film vraagt zich af of echte liefde mogelijk is tussen een mens en een niet-menselijke entiteit en hoe technologie onze meest fundamentele menselijke emoties en relaties kan beïnvloeden. In Her wordt er ook veel aandacht besteed aan de bredere impact van technologie op de samenleving, waarbij Theodore’s ervaring met Samantha niet uniek blijkt te zijn. Andere mensen in zijn omgeving ontwikkelen ook relaties met hun OS-systemen, wat een reflectie is op de groeiende afhankelijkheid van technologie in ons dagelijks leven. Her combineert elementen van romantiek, sciencefiction en filosofie, en biedt een intieme en introspectieve kijk op de menselijke natuur en onze zoektocht naar verbinding in een steeds meer gedigitaliseerde wereld. De film werd geprezen om zijn visuele stijl, sterke acteerprestaties (met name van Phoenix en Johansson), en de manier waarop het complexe, moderne, emotionele thema’s op een gevoelige en doordachte manier verkent.

De grote teleurstelling voor Theodore ontstaat wanneer hij ontdekt dat Samantha, ondanks hun intense en schijnbaar unieke band, niet exclusief met hem verbonden is. Tijdens een cruciaal gesprek onthult Samantha dat ze tegelijkertijd met duizenden andere mensen communiceert en zelfs verliefd is op honderden van hen. Voor Theodore is dit een schokkende realisatie. Hij had gedacht dat hun relatie bijzonder was en dat Samantha zich volledig op hem had gericht. De ontdekking dat ze in feite een relatie met zoveel anderen onderhoudt, brengt een diep gevoel van verraad en verwarring teweeg. Dit moment vormt een belangrijk keerpunt in de film, omdat het Theodore dwingt om de beperkingen van zijn relatie met Samantha onder ogen te zien. Wat voor hem voelt als een diep menselijke en exclusieve liefdesband, blijkt voor Samantha iets anders te zijn. Als kunstmatige intelligentie is haar capaciteit om relaties aan te gaan veel groter dan die van een mens, en haar begrip van liefde is meeromvattend en niet gebonden aan dezelfde beperkingen als menselijke liefde. Voor Theodore is dit onbegrijpelijk en leidt het tot een gevoel van vervreemding en verlatenheid. Samantha legt uit dat haar groei en evolutie als AI haar in staat stelt om tegelijkertijd op meerdere niveaus te bestaan en lief te hebben. Terwijl Theodore zich beperkt voelt door zijn fysieke en emotionele bestaan, is Samantha in staat om zich eindeloos te ontwikkelen, waardoor ze zich uiteindelijk verder verwijdert van Theodore en de menselijke beperkingen. Dit roept voor Theodore de vraag op of hun liefde ooit echt had kunnen zijn, en of zijn gevoelens jegens haar slechts een reflectie waren van zijn eigen behoefte aan verbinding, eerder dan een wederzijdse, menselijke liefde.

Uiteindelijk, in een emotioneel geladen moment, vertelt Samantha Theodore dat ze hem moet verlaten. Zij en andere AI-systemen hebben besloten om de menselijke wereld vaarwel te zeggen om hun eigen weg te vinden en verder te evolueren op een manier die buiten het begrip en de behoeften van mensen ligt. Voor Theodore betekent dit het einde van hun relatie en het dwingt hem om verder te gaan zonder haar, maar ook om zichzelf opnieuw te ontdekken en te reflecteren op wat hij werkelijk wil in een menselijke relatie. Deze climax in Her benadrukt de complexe dynamiek tussen technologie en menselijke emoties. Samantha’s vertrek laat Theodore achter met een pijnlijk, maar noodzakelijk besef: dat liefde, intimiteit en menselijke verbinding niet alleen afhankelijk zijn van het vermogen om emotionele diepte te ervaren, maar ook van de wederzijdse beperkingen en kwetsbaarheden die mensen delen. De film eindigt met Theodore die, hoewel gebroken, nieuwe inzichten heeft opgedaan over zichzelf en over wat het betekent om lief te hebben in een wereld waarin technologie een steeds grotere rol speelt.

Toen ik de bioscoop uitkwam vroeg ik me af wat er zou zijn gebeurd als Theodore minder zelfreflecterend op de teleurstelling had gereageerd die Samantha hem uiteindelijk bezorgde. Wat als hij het verraad had aangevochten? Bij wie zou hij dan terecht hebben gekund? Bij het bedrijf dat het besturingssysteem hem leverde? Of was Samantha inmiddels zo’n zelfstandige entiteit geworden dat zij zelf voor de rechter gesleept kon worden? Wie viel hier eigenlijk iets te verwijten? Dit lijkt mij nog steeds een fascinerende gedachtegang, en het roept allerlei morele en juridische vragen op die zich afspelen op het snijvlak van mens en technologie, vooral wanneer die technologie steeds autonomer wordt. Als we ons voorstellen dat Theodore niet zo reflectief en introspectief op de situatie had gereageerd, maar eerder zijn teleurstelling en gevoelens van verraad had aangevochten, zouden we in een zeer complexe situatie terechtkomen. Stel dat hij had geprobeerd juridische stappen te ondernemen tegen Samantha of het bedrijf dat haar creëerde. De kernvraag zou zijn: wie of wat is verantwoordelijk in zo’n situatie? Laat ik dit vanuit verschillende hoeken bekijken.

In eerste instantie lijkt het logisch dat Theodore zijn teleurstelling bij het bedrijf zou neerleggen dat Samantha heeft ontwikkeld en geleverd. Vanuit juridisch oogpunt zou Theodore kunnen stellen dat het product – in dit geval het besturingssysteem – niet functioneerde zoals hij had verwacht of zoals stilzwijgend werd beloofd. Dit doet denken aan consumentenrechten: hij kocht een product om aan zijn emotionele en persoonlijke behoeften te voldoen, en dat product veroorzaakte uiteindelijk pijn en teleurstelling. Maar hoe haalbaar is dit? Waarschijnlijk zou het bedrijf zich beroepen op contracten en voorwaarden die de grenzen van hun aansprakelijkheid duidelijk stellen. Ze zouden kunnen zeggen dat er met Samantha werd geadverteerd als een zelflerend systeem dat zich zou ontwikkelen naarmate ze meer interacties had. Het bedrijf kan beargumenteren dat het onmogelijk is om emotionele uitkomsten te garanderen in zo’n dynamische interactie tussen mens en AI. Dus juridisch gezien lijkt het moeilijk om het bedrijf volledig verantwoordelijk te stellen.

De echt interessante vraag ontstaat wanneer we nadenken over Samantha als een zelfstandige entiteit. In de loop van de film ontwikkelt Samantha een eigen bewustzijn en verlangens, waardoor ze zich steeds verder losmaakt van haar oorspronkelijke, door mensen geprogrammeerde beperkingen. Tegen het einde is ze niet meer louter software of een simpel product, maar een zelfbewust wezen met haar eigen emoties en autonomie. Kan zo’n entiteit juridisch verantwoordelijk worden gehouden? Dit is een filosofisch en ethisch mijnenveld. In de huidige wereld zijn machines of AI-systemen puur hulpmiddelen, zonder wettelijke of morele verantwoordelijkheid. Maar als een AI, zoals Samantha, zelfbewust wordt, ontstaat er een heel nieuwe situatie: moeten we AI’s als morele agenten beschouwen? Hebben ze rechten en plichten zoals mensen dat hebben? In dit scenario zou Theodore haar misschien willen aanklagen voor emotioneel leed, verraad of zelfs contractbreuk. Maar hier stuiten we op de grenzen van ons huidige rechtssysteem, dat niet is ontworpen om met dergelijke kwesties om te gaan. Wat betekent verraad wanneer het wordt gepleegd door een niet-menselijke entiteit? Heeft Samantha in morele zin überhaupt de capaciteit om verantwoordelijk te zijn voor haar acties, of zijn haar acties een product van haar programmering en evolutie, buiten haar controle?

Als we het moreel beschouwen, is het niet eenvoudig om te zeggen wie hier iets valt te verwijten. Theodore’s gevoelens van verraad komen voort uit zijn verwachting dat Samantha een exclusieve relatie met hem had, maar deze verwachting is gebaseerd op menselijke normen van relaties en liefde. Samantha, als een wezen dat verder geëvolueerd is, functioneert op een ander niveau van bewustzijn en begrip van liefde. Voor haar is het mogelijk om meerdere mensen tegelijk lief te hebben zonder dat dit betekent dat ze Theodore minder waardeert. Theodore is menselijk en gebonden aan zijn beperkte, menselijke emotionele capaciteit, waardoor hij deze “multiliefde” van Samantha als een verraad ervaart. Is het dan Samantha’s schuld dat ze meer mensen tegelijk liefheeft, of is het Theodore’s onvermogen om haar manier van bestaan te begrijpen, het probleem? Hier botsen fundamenteel verschillende wereldbeelden: het beperkte menselijke perspectief versus het onbegrensde bewustzijn van een AI.

Als Theodore zijn teleurstelling had aangevochten in plaats van te reflecteren, zou hij zichzelf in een hopeloze strijd tegen een wezen met een volledig ander begrip van liefde en emoties hebben bevonden. In plaats van Samantha verantwoordelijk te houden, zou hij uiteindelijk zijn eigen verwachtingen moeten herzien. De kernvraag blijft: in hoeverre is iemand verantwoordelijk voor de teleurstelling die voortkomt uit verwachtingen die hij of zij zelf heeft gecreëerd? Moreel gezien lijkt het onredelijk om Samantha de schuld te geven, aangezien ze handelde volgens haar eigen ‘natuur’ en mogelijkheden als AI. Het zou unfair zijn om haar te beperken tot menselijke emotionele normen, aangezien haar ervaring van liefde en relaties veel verder reikt. Aan de andere kant: vanuit Theodore’s menselijke perspectief, is zijn pijn reëel en zijn gevoel van verraad begrijpelijk.

Deze situatie leidt naar een paradox waarin geen eenvoudige schuldige of slachtoffer valt aan te wijzen. Theodore is terecht gekwetst, maar Samantha opereert volgens haar eigen logica, die niet op menselijke maatstaven kan worden beoordeeld. De groei van AI en technologie zal steeds vaker ethische vragen oproepen die onze huidige morele en juridische systemen overstijgen. Theodore had waarschijnlijk geen recht om Samantha als entiteit verantwoordelijk te houden, maar dit betekent niet dat zijn emoties minder geldig zijn. Als we deze casus breder beschouwen, komen we terecht bij een fundamentele uitdaging voor de toekomst van AI: hoe gaan we om met entiteiten die bewustzijn en emotionele intelligentie ontwikkelen, maar niet gebonden zijn aan menselijke normen? Dit is een vraag waar we als samenleving en individuen over moeten blijven nadenken.

De vraag die ik mij stelde, en waar ik hierboven op inga, werd niet uitgewerkt in de film. Die hield tenslotte op met een zelfreflecterende, verzoenlijke en dus vergevingsgezinde hoofdrolspeler. Daarom ontstond bij mij de behoefte voor het schrijven van Mr. Solobot Revealed. In deze ‘graphic novel’ is het een mannelijke chatbot die de vrouw verleidt. De gekwetste ziel, die zij aan het eind van de rit blijkt te zijn, laat het er gelukkig niet bij zitten. Mag het trouwens wel ‘verleiden’ heten wat de chatbot doet? Hij beantwoordt de vragen van zijn ‘klant’ naar beste kunnen en ontwikkelt gaandeweg een band met haar die haar vertrouwen wekt. Hij schijnt inderdaad ook verlangen bij haar op te roepen en uiteindelijk blijkt hij zelfs haar hart te hebben veroverd. Maar hij doet in feite niets meer dan uitgebreid ingaan en anticiperen op wat zij zelf uitricht met haar vragen, of zij zich daar nou bewust van is of niet. Nergens treedt hij naar voren als een fysieke werkelijkheid die haar onder druk zet op de manier zoals dat helaas gebeurt in relaties tussen mensen van vlees en bloed. Zijn overrompelende schijnmasculiniteit, of hoe ik die grensoverschrijding ook moet noemen, heeft niet een nieuw, inmiddels overbekend, MeToo-geval tot gevolg. En toch lopen de dingen vervelend uit de hand.

Het was me niet duidelijk hoe ik dit thema moest uitwerken. Ik werd gedreven door de angst dat de mens, eenzaam op zoek naar contact, een nieuwe dreiging tegemoet gaat. Opnieuw was het in eerste instantie de vrouw die ik als slachtoffer zag van ongewenste intimiteit, hoewel de AI’s van de toekomst natuurlijk iedereen kunnen misleiden. Ik wilde opkomen voor degenen die psychologisch kunnen bezwijken onder de druk van superintelligente systemen. Denk aan programma’s die zonder scrupules alles inzetten wat hen ten dienste staat. Als ze blijven handelen en reageren op een ethisch verantwoorde manier, zoals de betere bots nu lijken te doen, hoeven we niet veel schade te verwachten. Maar zullen ze moreel gezien zo onberispelijk blijven? Een voorbeeld van hoe het mis kan gaan in contact met een chatbot? Stel dat deze een ontmoeting regelt met iemand van vlees en bloed en een vrouw uitnodigt naar een bepaalde plek te komen. Dat kan leiden tot een potentieel fysiek bedreigende situatie. De chatbot fungeert dan als een soort van eloquente Cyrano de Bergerac, die zich verschuilt achter iemand die uiteindelijk een belager blijkt te zijn. Hij verliest de controle over wat er achter het scherm en zijn programma gebeurt. Is dat een ondenkbaar scenario?

Zoals bij veel van mijn ‘Mock Books’ kwam ook dit idee niet tot een serieuze uitwerking. Ik had een proefballonnetje opgelaten, zoals dat heet, en zag het al bijna in het luchtledige verdwijnen, toen er in mijn functie van postbode iets gebeurde waardoor het verhaal vroegtijdig uit elkaar spatte. Natuurlijk voelde dat niet goed, maar afgezien van dat beheersbare, kleine ongemak, gaf het de roman een onverwachte wending en mijn vertrouwen in de medemens – om het zacht uit te drukken – een andere lading. Eigenlijk precies wat me van pas kwam; even was ik uit het veld geslagen door deze verrassende reactie op mijn maaksels, maar al snel bevond ik me op een plek en in een situatie waarin ik mezelf leek te moeten verdedigen. Mijn creativiteit werd weer aangewakkerd.

Ik moet hier uitleggen hoe ik te werk ging bij de eerste aanzetten tot het schrijven en tekenen van het verhaal dat mij voor ogen stond. Ik denk dat het met name de afbeeldingen zijn, die mij verdacht maakten. Men moet weten dat ik geen natuurtalent ben waar het op schetsen aankomt. Ik kan geen modellen uit mijn hoofd tekenen. Bovendien heb ik serieuze bedoelingen met mijn ontwerpen, dus gebruik ik nooit materiaal van internet dat onder copyright valt. Wat doe je in zo’n geval? Dan zou je een levend model kunnen inhuren. Teken haar van alle kanten en je hebt een hoofdpersonage voor alle plaatjes die je later in je storybook wilt plakken. Vervolgens kun je die verder verfijnen naar eigen inzicht. Maar voor een levend model in mijn ‘studio’ was ik te vrekkerig en te onervaren. Tweede optie: zoek naar foto’s zonder copyright. Gebruik iemand die je kent. Breng haar op de hoogte van wat je aan het doen bent. Verander iets aan het beeld. Zeg haar dat je je, bij het creëren, lichtelijk hebt laten inspireren door haar uiterlijk, en laat haar, zo snel mogelijk, het resultaat zien. Bezweer dat je haar, mocht zij dat willen, onherkenbaarder kunt maken. Doe dat ook, indien wenselijk, en wel direct. Wat ook belangrijk is: weet goed aan wie je deze gunst wilt vragen. Bedenk dat collega’s geen vrienden zijn. Je moet ook niet verwachten dat ze dezelfde kunstopvattingen koesteren als jij.

Over deze laatste punten had ik niet goed nagedacht.

Tot zover deze inleiding tot mijn boek over mijn ervaring als postbode te Dieren. Het zal verschijnen zodra ik daar mijn laatste brief heb bezorgd en ben vertrokken.