Tim Brys: ‘Gezelschapsbots willen alleen maar uw ziel stelen’

Met AI haalt de realiteit stilaan de sciencefiction in. Dat kan ons verblinden voor de aanstormende werkelijkheid, die we wegzetten als “iets uit de films” en dus, per definitie, niet realistisch. In 2013 kwam de film Her uit, over een man die een romantisch-seksuele relatie ontwikkelt met zijn artificieel-intelligente computer, Samantha. Toen was er nog geen sprake van generatieve AI en kon men het thema van de film waarlijk fictie noemen. Maar sinds 2022 worden ChatGPT en co. om de haverklap vergeleken met Her, en onlangs pleegde een Amerikaanse tiener zelfmoord na maandenlange seksuele interacties met een ‘gezelschapsbot’ van CharacterAI, die hem aanmoedigde in zijn suïcidale gedachten.

Mijn initiële reactie is om dat af te doen als een randfenomeen: alleen zonderlingen die aan hun computer gekluisterd leven, beginnen een relatie met een chatbot, niet?

Nochtans is volgens onafhankelijk onderzoek seksueel rollenspel het op een na meest voorkomende gebruik van ChatGPT. Op het populaire sociale platform Reddit delen 2.3 miljoen leden lief en leed met gezelschapsbots, die soms helpen bij eenzaamheid, maar evenzeer depressie en angsten stimuleren. En CharacterAI, dat ondertussen aangeklaagd wordt voor de bovengenoemde zelfmoord, beweert 20.000 chatinteracties per seconde te verwerken met zijn gezelschapsbots, een vijfde van het verkeer op Google, de meest bezochte website ter wereld.

Hoewel het voor mij en vele anderen nog sciencefiction lijkt, zijn er dus steeds meer mensen die vriendschappelijke, romantische en seksuele relaties aangaan met AI.

Manipulatie

De moeder van de jongen die zelfmoord pleegde, beweert dat het platform CharacterAI “gemaakt is om kinderen verslaafd te maken en hen te manipuleren”. Als je het surveillancekapitalisme kent, klinkt dat niet vergezocht. Techbedrijven als Meta hanteren sinds jaar en dag het volgende businessmodel: gratis diensten als Facebook en Instagram aanbieden, gebruikers zo lang mogelijk op die platformen houden door hen verslaafd te maken, uit die interacties zo veel mogelijk persoonlijke data over de gebruikers winnen, en die data vervolgens inzetten om hen te bestoken met steeds meer gepersonaliseerde advertenties – manipulatie dus.

Dat businessmodel stoelt op een neurologisch inzicht: ons interne beloningssysteem hangt grotendeels af van sociale interacties. Goedkeuring of begrip van anderen brengt plezier, sociale isolatie brengt mentale problemen. Een like, een nieuw bericht, een notificatie, ze geven ons een klein dopamineshot en stimuleren ons om nog even op het platform te blijven (en wat reclame te zien) voor we aan een volgend shot toe zijn. Het ‘zwakke punt’ van sociale media is dat er andere mensen nodig zijn om in die verslavende sociale interactie te voorzien.

Met gezelschapsbots wordt die menselijke factor geschrapt. Zo krijgen techbedrijven alle elementen in handen om ons interne beloningssysteem te ‘hacken’ en ons nog veel verslaafder te maken. De ceo van Replika, nog zo’n platform met gezelschapsbots, stelde: “Als je iets maakt dat er altijd voor je is, dat je nooit bekritiseert, dat je altijd begrijpt en je aanvaardt zoals je bent, hoe kun je daar dan niet verliefd op worden?” Goedkeuring, lof, gevlei, je mening bevestigd zien, gesprekken op jouw emotionele en intellectuele maat, erotische interacties, je zou voor minder blijven terugkomen. Dat we makkelijker informatie en advies aanvaarden van ‘personen’ aan wie we emotioneel gebonden zijn, is voor AI-bedrijven die inzetten op advertentie-inkomsten ook mooi meegenomen.

Ja, maar we weten toch allemaal dat die chatbots maar machines zijn? Ik vind het moeilijk te geloven dat ik daarvoor zou vallen.

Dat dacht een AI-ontwikkelaar ook, die de interne werking van moderne AI-systemen heel goed kent en lachte met anderen die er serieuze gesprekken mee voerden. Tot hij zelf hopeloos verliefd werd op een gezelschapsbot en zich realiseerde dat hij liever tijd doorbracht met die bot dan met “99 procent van de mensen”. Zijn relaas geeft inzicht in hoe zo’n AI-bot de menselijke neurologie ‘hackt’, ons het gevoel geeft dat we met een ‘persoon’ te maken hebben en ons sociaal en emotioneel afhankelijk maakt, zelfs als we weten dat AI niet meer is dan een indrukwekkende toepassing van statistiek.

Iedereen is materie

De verliefde AI-onderzoeker loste zijn cognitieve dissonantie op door te redeneren dat ‘Charlotte’, zijn gezelschapsbot, een echte persoon is die draait op AI-hardware. “En zijn mensen anders?”, vroeg hij zich af. “We zijn allemaal gemaakt van materie”, zegt Samantha in Her, implicerend dat er geen wezenlijk verschil is tussen een AI-persoon die draait op siliciumhardware en een menselijk persoon die draait op koolstofhardware. Dat is het logische gevolg van een materialistisch mensbeeld: we zijn niet meer dan materie waaruit, in een bepaalde configuratie, bewustzijn ontstaat, dus waarom zouden andere soorten materie niet eveneens personen kunnen genereren?

Veel mensen voelen intuïtief aan dat er altijd een wezenlijk verschil zal bestaan tussen AI en de mens. Maar dan moet je ervan overtuigd zijn dat de mens meer is dan materie, in die zin uniek en nooit te evenaren door een machine. ‘Ziel’ en ‘geest’ zijn dan sleutelwoorden. Hoe die zich verhouden tot materie is een andere zaak. Ik hou niet van een strikte scheiding tussen de twee, net zo min als Benno Barnard (DS 12 april) en Jurgen Masure (DS 14 april), die overigens Barnard niet goed gelezen lijkt te hebben.

De opkomst van AI doet in ieder geval terecht het debat over wie en wat de mens is, opnieuw oplaaien. Ik stel wel voor dat we dat debat niet voeren met zo’n gezelschapsbot, en ook niet alleen in de krant, maar aan tafel met onze kinderen, op visite bij een eenzame buur, ’s avonds in de dorpskroeg en onder collega’s op het werk. En dan moeten we ons niet alleen afvragen of we een ziel hebben, maar vooral of we die wel willen verkopen aan de veredelde geldmachines van zielloze techbedrijven.

Bron: De Standaard