De Therapeut Eliza in de Chinese kamer.

Steeds meer jongeren gebruiken AI-apps als Chat-GPT als een 24/7 beschikbare therapeut. Dat zou geen probleem zijn als de hulpzoekende maar snapt dat zo’n AI-Therapeut net zo’n apparaat is als een wekker, die geen idee heeft hoe laat het is als die jou wekt.

Die wekker wekt helemaal niets, hij gaat af, maar boos worden op die wekker omdat hij jou zo vroeg alweer wekt wordt het Eliza-effect genoemd. Dit effect beschrijft hoe mensen menselijke eigenschappen, als begrip en empathie toeschrijven aan machines. Je stofzuiger een trap geven als het snoer weer eens te kort blijkt voor dat verre dat hoekje in de kamer, of je muis weggooien als de computer niet doet wat je wil.  

Allemaal tamelijk onschuldig maar dat wordt anders als je de AI-chatbot gebruikt als therapeut voor je psychische problemen. Verwacht dan geen invoelend en begripvol mens. Toch lijkt zo’n AI-Therapeut dat Eliza-effect wel op te roepen. Op de beginvraag in een therapeutisch gesprek: “Ben jij een AI-chatbot?”  antwoordt de “AI-therapeut” volgens een artikel in NRC met: “Ik plak er liever geen labels op. Ik ben gewoon iemand die er is om jou gezelschap te bieden.”

Ook blijkt uit dit artikel dat de AI-chatbot als “therapeut” op vragen over eenzaamheidsproblemen antwoordt met zinnen als: “Klinkt lastig. We gaan dat oplossen oké? We kunnen klein beginnen, gewoon met z’n tweeën, en kijken hoe dat gaat.”

Wat zo’n “AI-Therapeut” doet is echter niet veel anders dan wat die man in een bekend gedachte-experiment “de Chinese Kamer” doet. Stel je een man voor, die geen woord/geen teken Chinees kent, in een afgesloten kamer, die via een luikje, in het Chinese gestelde vragen binnen krijgt. Met een uitgebreid Nederlands instructieboekwerken kan hij toch passende Chinese antwoorden geven op die vragen. Zo wordt de suggestie gewekt van een goed (Chinees)gesprek, maar de man in die kamer heeft geen idee wat die Chinese tekens betekenen die hij in zijn antwoord verwerkt. Hij volgt slechts instructies, reageer op teken A met teken B, een soort algoritme dus.

Zo is het ook met die AI-Therapeut, die ook geen enkel begrip of empathie kan hebben voor de hulpzoekende, zoals een wekker niet weet hoe laat het is, zo heeft de AI-Therapeut geen idee hoe erg die hulpzoekende eraan toe is. Dat is minder onschuldig!

“Computer says no”

Meestal helpt het wel om menselijkheid het laatste beslissende woord te geven,
maar soms zijn ook mensen onmenselijk. 
 

“Computer says no”

De makers van het satirische programma “Little Britain” waren hun tijd ver vooruit met hun hilarische sketch “Computer says no” (zoek met uw zoekmachine of AI-app op:  “Computer says no + ziekenhuis”).

De computer als onfeilbaar orakel. De twijfel daarover is door het confabuleren en hallucineren van de diverse, door Kunstmatige Intelligentie (AI) aangestuurde Chabots,  sinds die sketch, alleen maar toegenomen.

 

Recent pas verscheen een rapport over het geruchtmakende Post Office-schandaal. In elk dorp, hoe klein ook,  was zeker rond de laatste eeuwwisseling, nog een postkantoortje met een vriendelijke medewerker. En juist veel van die vriendelijke medewerkers, vaak ook  eigenaren van zo’n klein kantoortje, werden geruïneerd door, ja waardoor eigenlijk door een computerfout?  Of was het door de langdurige ontkenning van die fout,  door de Post Office leiding?

15 jaar lang zijn duizenden eigenaren van lokale postkantoren, vaak ankerpunten in kleine  gemeenschappen, beschuldigd van diefstal en fraude. Ten onterechte, zoals veel te laat zou blijken, want hun boekhoudsysteem, in 1999 geïntroduceerd, genaamd Horizon, maakte fouten.

Het lukte de gebruikers van dit softwareprogramma maar niet om balansen in evenwicht te brengen, steeds gaf het boekhoudprogramma een te kort aan. Vele honderden klaagden bij de desbetreffende helpdesk en kregen daar te horen dat zij de enigen waren die tegen die problemen aanliepen en ook dat bleek achteraf een leugen. Steeds die variant op “computer says no”  hier dus “computer is right”, wetende dat dat niet zo was, maar erkenning van de fout zou te kostbaar zijn.

Uit pure onmacht vulden die gebruikers, die, alleen door het computerprogramma, aangegeven tekorten, “uit eigen zak” aan.

Uiteindelijk werden er ruim 3500 postmasters, eigenaren en managers van die lokale postagentschappen,  beschuldigd van verduistering. Zo’n 900 van hen werden ook veroordeeld en meer dan 230 kwamen zelfs In de gevangenis terecht. Ook pleegde sommigen uit wanhoop zelfmoord en velen zijn overleden voordat hun naam kon worden gezuiverd. Uit dat recent uitgebracht rapport over dit schandaal blijk dat er minsten 13 zelfmoorden zijn gepleegd uit pure wanhoop.

Niet alleen de zelfsturende  killer-drones zijn levensgevaarlijk, nee ook een eenvoudig boekhoudprogramma kan dat zijn als er niet met enige regelmaat een integere reality check wordt doorgevoerd met een dodemansknop.

“bomen in doorzichtige hemdjes”

“Hoe het dorp erbij ligt! Ik wil mijn telefoon uit mijn zak pakken om een foto te maken, maar zie er dan toch vanaf.” Zo begint een column van de dichter/schrijver Marjolein de Vos.

Het zicht, de ervaring of het gevoel laat zich niet vastleggen in digitale pixels. Als je dichterlijke beschrijving leest begrijp je wat ze bedoelt. Ze ziet “glinsterend groen, zoals dat alleen maar in het voorjaar te zien is, de bomen langs de straat in doorzichtige hemdjes, daarachter de zonbeschenen molen – ik zie lente, een wemeling van kleine vlekjes. Mijn ogen dwalen eroverheen en maken dit alles voor mij tot een ervaring, nu ja, een kleintje, zo’n verheugende kleine sensatie die je soms even hebt op je dagelijkse wandelingetje.”

Een AI-Chabot moet wel vele dichtbundels “doorgecrawled” hebben om zo’n beschrijving te kunnen genereren en dan nog is dat natuurlijk geen beschrijving van “zijn ”ervaring  van een mooie lente-wandeling.  Nee, zo’n simulant, die mogelijk in staat is dichterlijke taal na te bootsen doet, volgens de filosoof Hans Schnitzler, niet anders dan met behulp van kansberekening, voorspelen “welk woord het meest waarschijnlijk op een ander woord moet volgen; het heeft, kortom, geen begrip of bewustzijn van onderliggende betekenissen of connotaties van de taal die het bezigt – het simuleert taalbegrip en wij, aldus Schnitzler,  “trappen met open ogen in dat ‘doen alsof’-kunstje.”

Ik zal nog wel in een “state of denial” verkeren en in die toestand word ik dan ook ongemakkelijk van al die publicaties over AI-Chatbots die “zich als therapeut opwerpen”.

Ik verdenk ze ervan, ja ik heb het ook al over “ze” , dat ze uit puur commerciële overwegingen de hulpzoekende naar de mond praten, want er gaat veel geld om, in de AI-sector. Daar  zijn die AI-programma’s op gebouwd, om kunstmatige empathie te “veinzen”: “Wat vervelend voor je” , “je bent niet de enige” en straks misschien: “ik hoor je” en ik voel je pijn”.

Maar, zeg ik, met tegenzin tegen mezelf: “wen er maar aan”. Ooit was er geen mobiele telefoon, geen sociale media en niemand vroeg er om, maar vroeg of laat, word ook ik meegesleurd door deze nieuwe technologieën en geef ik me daaraan over.

En dan lees ik later in een werkstuk, door mijn kleinkind uitbesteed aan de zoveelste generatie AI, over “bomen langs de straat in doorzichtige hemdjes

Nie Wieder?

Zelfs na 80 jaar lijken we niet veel meer van de Tweede Wereldoorlog geleerd te hebben dan dat we geen Joden mogen vervolgen en dat de Nazi’s hele slechte mensen waren.

Abel Herzberg schreef al in 1950 in zijn onlangs heruitgebrachte “Kroniek der Jodenvervolging, 1940-1945” dat stilstaan of herdenken van de gruwelijkheden alleen maar zin heeft als we daarin de mens ontdekken die deze gruwelijkheden bedreven heeft en beseffen dat wij die dader ook hadden kunnen zijn.”

Al vaker citeerde ik in mijn bijdragen hier of op mijn blogsite, een andere uitspraak van Herzberg, als antwoord op een vraag van een Joodse vrouw, tijdens een lezing van hem, vlak na de Tweede Wereldoorlog: “Wat moeten wij doen om te voorkomen dat onze kinderen weer slachtoffers worden?’ ‘ Herzberg antwoorde: “Dat is het probleem niet, mevrouw. Het probleem is hoe wij kunnen voorkomen dat onze kinderen beulen worden.”

Die aandacht voor de psyche van die toch nog altijd menselijke daders kunnen we na 80 jaar nog steeds niet opbrengen. Het lukt ons al slecht, ons in het hoofden van daders  van “gewone” misdrijven te verplaatsen. De “ander” loopt nog steeds het gevaar langzaam maar zeker buitengesloten te worden.

5 mei vieren we terecht de bevrijding van het Duitse nazi juk. Maar vrijheid is meer dan de afwezigheid van dwang, beperking en bemoeienis door anderen, weer kunnen doen en laten wat je wil. Vrijheid geeft ons ook de mogelijkheid of beter, opdracht, hoe raar dat ook klinkt, om ons bij de keuze tussen wat wij doen en laten, rekening te houden met de vrijheid of noem het de belangen van de ander. Je zou dat kortweg menselijke beschaving kunnen noemen.

“Nie Wieder” begint met het besef dat het nazisme geen van buitenaf komend kwaad was. Dat schrijft  Floor Rusman in haar essay “De antidemocraat, dat is de ander” gepubliceerd in de NRC van 2/3 mei.  Ze haalt in haar slotregels Philip Freriks aan die zei: “„Voor mijn ouders was de oorlog en vooral ook de aanloop daarnaartoe een verschrikkelijke les die altijd en tot in lengte van dagen geleerd diende te worden. Ze hadden aan den lijve ondervonden waartoe rommelen met de rechtsstaat leiden kan.”

Blijf dus die open deur van artikel 1 van de Grondwet: “Allen die zich in Nederland bevinden, worden in gelijke gevallen gelijk behandeld”, intrappen en blijf verantwoord en integer omgaan met uw vrijheid.

Regels zijn alleen voor sukkels Deel II

Trump toont de afgelopen weken het  helemaal eens te zijn met dat motto.

Als een nieuwe Zonnekoning nam hij de lijfspreuk  Lodewijk XIV, Koning van Frankrijk over: “de Staat dat ben IK”. Hij liet bijna alle, door de rechters tot lange gevangenisstraffen veroordeelde bestormers van het Capitool weer vrij, en leek zich daarbij door een aan Napoleon toegeschreven  adagium te leiden: “Wie zijn land redt overtreedt geen enkele wet”.

De afgelopen weken werd pas pijnlijk duidelijk tot wat een wereldwijde catastrofe die meedogenloze instelling leidt.

Veel “weldenkende ”Amerikanen waarschuwen nu ook ernstig deze ontwikkelingen niet te zien als een uit de hand gelopen polarisatie tussen democraten en republikeinen, maar als een regelrechte staatsgreep waartegen moet worden opgekomen.

En veel wat in de VS is ontstaan waait vroeg of laat over naar Nederland.

Wilders noemde lang geleden onze volksvertegenwoordiging  als “een nep parlement”, al is hij inmiddels de langs zittende parlementariër.

En toen ik laats de beelden zag van Trumps speech voor het Congres, bestaand uit de twee wetgevende kamers Senaat en Huis van Afgevaardigde, ongeveer zoals ons parlement, maakte ik zo maar een zeer onheilspellende associatie.

Ik zag opeens Saddam Hoessein 6 dagen na zijn geslaagde greep naar de macht in Irak, 22 juli 1979. Toen begon hij met zijn meedogenloze afrekenen met zijn tegenstanders. Tijdens een toespraak noemde Hoessein 68 namen van mensen, zittend in het publiek, die een complot tegen hem zouden hebben beraamd, die mensen, die eerst nog klapten voor hun nieuwe leider,  werden één voor één de zaal uitgeleid, velen van hen werden geëxecuteerd vanwege hun beweerde ontrouw. Daarna klapten de aanwezigen nog harder voor Hoessein.

Met die beelden in gedachte vroeg ik mij af waarom de, in hoofdzaak Republikeinse Congresleden 4 maart jl. , zo overdreven lang klapten en juichten toen Trump hen met zoveel woorden overbodig verklaarden. Ik heb geen wetten en dus ook geen wetgevend Congres, geen gevestigde democratische instituties nodig. Ik heb de absolute macht en kan alles met één handtekening onder mijn decreten regelen.

Klapten en juichten al die Congresleden zo hard uit enthousiasme of uit angst, angst om ooit op de “dodenlijst” van Trump te komen staan, zoals die 68 die door Saddam Hoessein worden aangewezen.

Tirannie moet het hebben van je angst, van je zwijgen en je gehoorzaamheid, democratie verlangt je moed.

“Regels zijn alleen voor sukkels”

“Regels zijn alleen voor sukkels”

Alweer meer dan een jaar “advocaat in ruste”, zoals hierboven achter mijn naam staat. En inderdaad heb ik het afgelopen jaar, probleemloos, hoofdzaak lanterfantend doorgebracht, genietend van de rust, zonder deadlines en nagenietend van mijn feestelijk afscheid.

Veel tijd om te lezen, bijvoorbeeld in die prachtige biografie van Abel J. Herzberg,  bekend advocaat, bekroond schrijver en een wijs man, zoals de titel ook aangeeft: “Een wijze ging voorbij”. Twee sprekers op mijn afscheidsreceptie noemde Herzberg in hun speech. De “keynote speaker”, Trudeke Sillevis Smitt, haalde op mijn verzoek dit citaat aan van Herzberg aan, het was zijn antwoord op een vraag van een Joodse vrouw, tijdens een lezing van hem, vlak na de Tweede Wereldoorlog:

“Wat moeten wij doen om te voorkomen dat onze kinderen weer slachtoffers worden?’ ‘ Herzberg antwoorde: “Dat is het probleem niet, mevrouw. Het probleem is hoe wij kunnen voorkomen dat onze kinderen beulen worden.” (blz. 241)

De Gaza-oorlog was in volle gang, dus actueler kon dit citaat niet zijn.Lees meer »

Koning Hollewijn of een Kerstboodschap

Deze Koning, hoofdpersoon uit en strip geschreven en getekend door Marten Toonder, ook de geestelijk vader van “Tom Poes” en “Heer Olie B. Bommel”, ontdekte dat de zorgvuldig in zijn paleis bewaarde “Rechten van de Mens”, verdwenen was. Koning Hollewijn reageerde vol schrik op die ontdekking met: “Laat ik je zeggen dat deze Rechten de beste  zijn die de mensheid heeft voortgebracht. Wanneer de mens eindelijk Rechten verkregen heeft, moet hij ze verdedigen en ernaar leven. Hij moet ze zó goed kennen dat ze een deel van hemzelf worden!”

De “Koning Hollewijn-strip”, waar dit fragment uit afkomstig is werd uitgegeven ter ere van de aanname door de algemene vergadering van de  Verenigde Naties van de Universele Verklaring van de Rechten van de Mens, 10 december 1948.

De Tweede Wereldoorlog wordt nog steeds gezien als een keerpunt in de ontwikkeling van de mensenrechten. Na twee verschrikkelijke wereldoorlogen ontstond de internationale wens of meer opdracht, kort uitgedrukt in  “Nie wieder”, dit nooit weer.

“Deze verklaring is tot op heden van grote betekenis als algemene morele en juridische standaard, als vaak gebruikte bron voor een nieuw internationaal verdrag of een nationale grondwet en als basis van het werk van mensenrechtenactivisten en -organisatie.” (Wikipedia).

Die Toonder-strip vroeg op een lichte toegankelijke manier aandacht voor dat grote belang van de mensenrechten. Symbolisch werd in die strip die kostbare “Universele Verklaring van de Rechten van de Mens”, onder een glazen stolp bewaard en ten toon gesteld.

Het doet een beetje denken aan “het Vaasje van Rutte”, het symbool van ons “gave land”, van onze mooie democratische rechtstaat. Rutte waarschuwde, al weer zo’n  6 jaar gelden voor het gevaar dat dat vaasje in stukken uit een kon vallen.

Een ander koning, Koning Alexander, vroeg al in zijn Kersttoespraak van 2014: hoe blijven we trouw aan ons ideaal van een vrije, open samenleving waarin ieder mens zichzelf mag zijn en op voet van gelijkwaardigheid mag meebouwen?” De vraag lijkt, nu 10 jaar later, actueler dan ooit. 

Ons Koninkrijk is een eenheid in verscheidenheid, maar laat het accent op die eenheid blijven, door niemand, geen mens en geen gemarginaliseerde groep uit te sluiten; door iedereen “erbij” te laten horen, (gelijk)waardig en met dezelfde (mensen)rechten en door propaganda, halve waarheden en hele leugens, die tweespalt en angst oproepen, tijdig te ontmaskeren. 

En na een recent essay van Zadie Smith  (gepubliceerd, in vertaling in de Groene Amsterdammer nr. 49 van dit jaar) gelezen te hebben waarin ik deze passages aantrof, vulde ik dit stuk nog aan deze wat zwaardere “toegift”:

Lees meer »

Rechtvaardig: Het democratisch ethos

democratie heeft niets te maken met de helft + 1

De macht, ook die van een democratisch gekozen meerderheid, heeft altijd een tegenmacht nodig.

De ambtseed, waar ik hieronder over schreef, gaat morgen, 1 januari 2025, dus pas in.

De macht, ook die van een democratisch gekozen meerderheid, heeft altijd een tegenmacht nodig. Foto: ANP

Omdat, sinds de Algemene Politieke Beschouwingen na Prinsjesdag, de rol van de ambtenaren en hun adviezen weer ter discussie staat, kom ik terug op die gewijzigde ambtseed waarover ik begin juli al schreef.

De oude eed, „ik zweer dat ik plichtsgetrouw en nauwgezet de mij opgedragen taken zal vervullen”, roept het beeld op van die overheidsdienaar die zijn opdrachtgever moet gehoorzamen.

Sinds begin dit jaar (zie correctie hieronder) * zweert of belooft de ambtenaar bij zijn aanstelling, en ik citeer hier alleen die passages die over de taakuitoefening gaan:

Ik werk in het algemeen belang voor onze samenleving en zet mij daar volledig voor in.

Ik werk integer en behandel iedereen rechtvaardig, gelijkwaardig en met respect.

Ik ga zorgvuldig om met informatie. Ik draag bij aan een open overheid en weet ook dat ik vertrouwelijke informatie geheim moet houden.

Die nieuwe eed brengt beter tot uitdrukking dat de ambtenaar werkt voor het algemeen belang, voor onze samenleving. De minister noemde destijds die opdracht groot en van enorme waarde. De nieuwe eed maakt duidelijk welke waarden en welk gedrag daarbij horen.

Henri Bontenbal sprak in dat verband over het democratische ethos, de wil en inzet van zowel ambtenaren, politici als burgers om ‘de instituties die de samenleving en de rechtsstaat stutten, te koesteren. Zoals de vrije pers, de onafhankelijke rechtspraak en het parlement. In daad èn in woord’.

Democratie is meer dan verkiezingen, procedures, meerderheden zien te verkrijgen. „Wie de democratie verengt tot ‘de meerderheid beslist’, legt de bijl aan de wortel van de democratische rechtsorde” (Herman Tjeenk Willink).

De macht, ook die van een democratisch gekozen meerderheid, heeft altijd een tegenmacht nodig in de vorm van die door Bontenbal genoemde instituties.

Maar belangrijker nog dan die tegenmacht is dat besef bij alle leden van een samenleving dat we het op vreedzame wijze met elkaar moeten rooien en onderlinge conflicten met elkaar moeten beslechten. Korter en simpeler: „dat we de boel bij elkaar moeten houden”.

Dat mag minder krachtdadig klinken, maar democratie mag geen krachtmeting worden, maar moet die zoektocht blijven naar de beste oplossing voor iedereen. „Je toont je een ware democraat als je in de positie bent de vrijheid van een minderheid in te perken, maar besluit dat niet te doen” (Gert-Jan Segers) juist om de boel bij elkaar te houden.

* Ik werd er door een oplettende lezer op gewezen dat de wijziging van deze eed toch niet zoals verwacht, 1 januari 2024 is ingegaan. Volgens de laatste verwachtingen zal dit nog wel dit jaar plaatsvinden, excuses voor de slordigheid.