Categorie: Geen categorie

De Therapeut Eliza in de Chinese kamer.

Eerde de VriesEen reactie plaatsen

Steeds meer jongeren gebruiken AI-apps als Chat-GPT als een 24/7 beschikbare therapeut. Dat zou geen probleem zijn als de hulpzoekende maar snapt dat zo’n AI-Therapeut net zo’n apparaat is als een wekker, die geen idee heeft hoe laat het is als die jou wekt.

Die wekker wekt helemaal niets, hij gaat af, maar boos worden op die wekker omdat hij jou zo vroeg alweer wekt wordt het Eliza-effect genoemd. Dit effect beschrijft hoe mensen menselijke eigenschappen, als begrip en empathie toeschrijven aan machines. Je stofzuiger een trap geven als het snoer weer eens te kort blijkt voor dat verre dat hoekje in de kamer, of je muis weggooien als de computer niet doet wat je wil.  

Allemaal tamelijk onschuldig maar dat wordt anders als je de AI-chatbot gebruikt als therapeut voor je psychische problemen. Verwacht dan geen invoelend en begripvol mens. Toch lijkt zo’n AI-Therapeut dat Eliza-effect wel op te roepen. Op de beginvraag in een therapeutisch gesprek: “Ben jij een AI-chatbot?”  antwoordt de “AI-therapeut” volgens een artikel in NRC met: “Ik plak er liever geen labels op. Ik ben gewoon iemand die er is om jou gezelschap te bieden.”

Ook blijkt uit dit artikel dat de AI-chatbot als “therapeut” op vragen over eenzaamheidsproblemen antwoordt met zinnen als: “Klinkt lastig. We gaan dat oplossen oké? We kunnen klein beginnen, gewoon met z’n tweeën, en kijken hoe dat gaat.”

Wat zo’n “AI-Therapeut” doet is echter niet veel anders dan wat die man in een bekend gedachte-experiment “de Chinese Kamer” doet. Stel je een man voor, die geen woord/geen teken Chinees kent, in een afgesloten kamer, die via een luikje, in het Chinese gestelde vragen binnen krijgt. Met een uitgebreid Nederlands instructieboekwerken kan hij toch passende Chinese antwoorden geven op die vragen. Zo wordt de suggestie gewekt van een goed (Chinees)gesprek, maar de man in die kamer heeft geen idee wat die Chinese tekens betekenen die hij in zijn antwoord verwerkt. Hij volgt slechts instructies, reageer op teken A met teken B, een soort algoritme dus.

Zo is het ook met die AI-Therapeut, die ook geen enkel begrip of empathie kan hebben voor de hulpzoekende, zoals een wekker niet weet hoe laat het is, zo heeft de AI-Therapeut geen idee hoe erg die hulpzoekende eraan toe is. Dat is minder onschuldig!

“Computer says no”

Eerde de VriesEen reactie plaatsen

Meestal helpt het wel om menselijkheid het laatste beslissende woord te geven,
maar soms zijn ook mensen onmenselijk. 
 

“Computer says no”

De makers van het satirische programma “Little Britain” waren hun tijd ver vooruit met hun hilarische sketch “Computer says no” (zoek met uw zoekmachine of AI-app op:  “Computer says no + ziekenhuis”).

De computer als onfeilbaar orakel. De twijfel daarover is door het confabuleren en hallucineren van de diverse, door Kunstmatige Intelligentie (AI) aangestuurde Chabots,  sinds die sketch, alleen maar toegenomen.

 

Recent pas verscheen een rapport over het geruchtmakende Post Office-schandaal. In elk dorp, hoe klein ook,  was zeker rond de laatste eeuwwisseling, nog een postkantoortje met een vriendelijke medewerker. En juist veel van die vriendelijke medewerkers, vaak ook  eigenaren van zo’n klein kantoortje, werden geruïneerd door, ja waardoor eigenlijk door een computerfout?  Of was het door de langdurige ontkenning van die fout,  door de Post Office leiding?

15 jaar lang zijn duizenden eigenaren van lokale postkantoren, vaak ankerpunten in kleine  gemeenschappen, beschuldigd van diefstal en fraude. Ten onterechte, zoals veel te laat zou blijken, want hun boekhoudsysteem, in 1999 geïntroduceerd, genaamd Horizon, maakte fouten.

Het lukte de gebruikers van dit softwareprogramma maar niet om balansen in evenwicht te brengen, steeds gaf het boekhoudprogramma een te kort aan. Vele honderden klaagden bij de desbetreffende helpdesk en kregen daar te horen dat zij de enigen waren die tegen die problemen aanliepen en ook dat bleek achteraf een leugen. Steeds die variant op “computer says no”  hier dus “computer is right”, wetende dat dat niet zo was, maar erkenning van de fout zou te kostbaar zijn.

Uit pure onmacht vulden die gebruikers, die, alleen door het computerprogramma, aangegeven tekorten, “uit eigen zak” aan.

Uiteindelijk werden er ruim 3500 postmasters, eigenaren en managers van die lokale postagentschappen,  beschuldigd van verduistering. Zo’n 900 van hen werden ook veroordeeld en meer dan 230 kwamen zelfs In de gevangenis terecht. Ook pleegde sommigen uit wanhoop zelfmoord en velen zijn overleden voordat hun naam kon worden gezuiverd. Uit dat recent uitgebracht rapport over dit schandaal blijk dat er minsten 13 zelfmoorden zijn gepleegd uit pure wanhoop.

Niet alleen de zelfsturende  killer-drones zijn levensgevaarlijk, nee ook een eenvoudig boekhoudprogramma kan dat zijn als er niet met enige regelmaat een integere reality check wordt doorgevoerd met een dodemansknop.

“bomen in doorzichtige hemdjes”

Eerde de VriesEen reactie plaatsen

“Hoe het dorp erbij ligt! Ik wil mijn telefoon uit mijn zak pakken om een foto te maken, maar zie er dan toch vanaf.” Zo begint een column van de dichter/schrijver Marjolein de Vos.

Het zicht, de ervaring of het gevoel laat zich niet vastleggen in digitale pixels. Als je dichterlijke beschrijving leest begrijp je wat ze bedoelt. Ze ziet “glinsterend groen, zoals dat alleen maar in het voorjaar te zien is, de bomen langs de straat in doorzichtige hemdjes, daarachter de zonbeschenen molen – ik zie lente, een wemeling van kleine vlekjes. Mijn ogen dwalen eroverheen en maken dit alles voor mij tot een ervaring, nu ja, een kleintje, zo’n verheugende kleine sensatie die je soms even hebt op je dagelijkse wandelingetje.”

Een AI-Chabot moet wel vele dichtbundels “doorgecrawled” hebben om zo’n beschrijving te kunnen genereren en dan nog is dat natuurlijk geen beschrijving van “zijn ”ervaring  van een mooie lente-wandeling.  Nee, zo’n simulant, die mogelijk in staat is dichterlijke taal na te bootsen doet, volgens de filosoof Hans Schnitzler, niet anders dan met behulp van kansberekening, voorspelen “welk woord het meest waarschijnlijk op een ander woord moet volgen; het heeft, kortom, geen begrip of bewustzijn van onderliggende betekenissen of connotaties van de taal die het bezigt – het simuleert taalbegrip en wij, aldus Schnitzler,  “trappen met open ogen in dat ‘doen alsof’-kunstje.”

Ik zal nog wel in een “state of denial” verkeren en in die toestand word ik dan ook ongemakkelijk van al die publicaties over AI-Chatbots die “zich als therapeut opwerpen”.

Ik verdenk ze ervan, ja ik heb het ook al over “ze” , dat ze uit puur commerciële overwegingen de hulpzoekende naar de mond praten, want er gaat veel geld om, in de AI-sector. Daar  zijn die AI-programma’s op gebouwd, om kunstmatige empathie te “veinzen”: “Wat vervelend voor je” , “je bent niet de enige” en straks misschien: “ik hoor je” en ik voel je pijn”.

Maar, zeg ik, met tegenzin tegen mezelf: “wen er maar aan”. Ooit was er geen mobiele telefoon, geen sociale media en niemand vroeg er om, maar vroeg of laat, word ook ik meegesleurd door deze nieuwe technologieën en geef ik me daaraan over.

En dan lees ik later in een werkstuk, door mijn kleinkind uitbesteed aan de zoveelste generatie AI, over “bomen langs de straat in doorzichtige hemdjes”

Je suis Soldaat van Oranje II, of echte Helden!

Eerde de VriesEen reactie plaatsen

Mijn blog “Je suis Soldaat van Oranje” ging uiteindelijk over de bereidheid te sterven voor je vrijheid, voor de rechtsstaat, voor je idealen. Die al oude vragen: Wat zou ik gedaan hebben in die-en-die-situatie. Zou ik een held geweest zijn? Wie zijn die helden die voor hun idealen willen sterven? Zijn het wel helden? 

Op zoek naar antwoorden werd ik, dit weekend, op mijn wenken bediend.

In de NRC van 3/4 augustus las ik voorbeelden van principiële idealisten of moet ik zeggen “helden”. Allereerst de twee deelnemers aan het “Zomeravondgesprek” , een rubriek in de zomereditie “Weekend” van de NRC, Vito Shukrula een advocaat, veel van zijn cliënten zijn verdachten van georganiseerde misdaad en Ulysse Elian, ook even advocaat geweest maar nu 2e kamerlid voor de VVD en hard tegen diezelfde georganiseerde misdaad.

Geloof in de rechtsstaat

Shukrula vertelt ergens in dat tweegesprek hoe hij ernstig werd bedreigd door zijn cliënt, nota bene in een gevangeniscel. Hij zag nog wel kans op een alarmknop te drukken. “Uiteindelijk kwam er een bewaker die vroeg: „Gaat alles goed hier?” Shukrula: „Ik zei: wat denk je zelf? Mijn klant liep weg en zei nog: ‘Als je niet weer vrijspraak regelt, dan maak ik je dood.’” Shukrula vervolgt met: “Dat zijn de momenten dat hij denkt: waarom doe ik dit vak? Toch gaat hij door. Ik vind het een belangrijk vak. En ik geloof dat ik de rechtsstaat uiteindelijk help door wat ik doe.”

Zijn gesprekspartner staat juist een keiharde aanpak van diezelfde georganiseerde misdaad

Zijn gesprekspartner, tijdens dat zomeravondgesprek, Elian, staat juist een keiharde aanpak, van diezelfde georganiseerde misdaad voor en schroomt niet daarbij ook man en paard te noemen (Taghi en zijn clan bijvoorbeeld) en wordt, mede om die reden, permanent beveiligd. Als voorbeeld van de gevolgen van zijn principiële houding en dus van zijn beveiliging noemt Elian een anekdote uit zijn gezinsleven: “Maar natuurlijk breekt mijn ouderhart soms. Mijn zoontje van twaalf zei laatst: ‘Ik wil graag met je voetballen, maar ik weet dat dat niet kan’.”

Lees meer »

Willen we meer of minder rechtsstaat?

Eerde de Vries1 reactie

Henri Bontebal (fractielleider CDA in de 2e Kamer) formuleerde het mooi in zijn brief aan de , toen nog, verkenner, Ronald Plasterk : “Is hij (Geert Wilders, edv) bereid om met zijn woorden, de manier waarop hij communiceert, de democratische rechtsstaat een beetje heel te houden. (…) Mijn punt is dat bij een democratische rechtsstaat ook een democratisch ethos hoort, namelijk dat je je op een bepaalde manier uitlaat. Je kan een democratische rechtsstaat ook kapot maken in woorden, daar begint het doorgaans mee.”

Inderdaad zo begint het en als je dit kritiekloos aanvaardt is die rechtsstaat die we voor zelfsprekend hielden, opeens kapot. Zie waar Trump mee bezig is. Voor dit gevaar wilde ik waarschuwen tijdens mijn afscheidsreceptie. U kunt in mijn onderstaande column lezen hoe ik dat deed (https://stellingwerf.nl/wolvega/Rechtvaardig-Een-eerste-terugblik-op-ruim-40-jaar-advocaat-28897839.html)

Stukje afscheid

In woorden kan de rechtsstaat langzaam maar zeker worden uitgehold. Door zoals Wilders doet, de Nederlandse onafhankelijke rechters ‘neprechters’ te noemen, het parlement waar hij sinds 1998 zelf inzit een ‘een nepparlement,’ vluchtelingen ‘gelukzoekers’, kunstenaars ‘subsidieslurpers’, journalisten ‘tuig van de richel’, klimaatactivisten ‘milieugekkies’, door hem voorgestelde belasting op hoofddoekjes: “kopvoddentax” te noemen.

Je kan ook in beleid en politieke daden, de grenzen zoeken en die overschrijden zoals Yesilgoz doet 1) door kansarme asielzoekers zonder wettelijke basis of rechterlijke toetsing gevangen te zetten; 2) door samen met haar formatiepartners van destijds in een motie de leden van de 1e kamer op te dragen tegen de spreidingswet te stemmen en 3) door het openbaar ministerie (OM) tot uitvoering van haar beleid te dwingen terwijl dat beleid vermoedelijk onwettig is en zij de onafhankelijk magistratelijke staat van dat OM daarmee negeert.

Orban uit Hongarije en de PiS-partij van de tweelingbroers Kaczyński in Polen kwamen ook democratisch aan de macht, om maar niet meteen met Adolf Hitler aan te komen. In Hongarije heeft de democratie Orban niet overleefd en in Polen is de democratische rechtsstaat op het nippertje gered.

Bij de parlementsverkiezingen van 2023 werd de extreem rechts-populistische PiS wederom de grootste partij, maar het was twijfelachtig of zij een meerderheidscoalitie zou kunnen vormen. Drie oppositiepartijen leken daar onder leiding van Donald Tusk meer kans toe te hebben. In december 2023 werd Tusk premier van Polen en werd PiS oppositiepartij.

Het is niet ondemocratisch om een ondemocratische partij die de grootste werd tijdens de verkiezingen toch uit te sluiten van de macht. Dat lijkt mij zelfs een democratische plicht. Wat in Polen kan kan in Nederland ook.

Goede voornemens

Eerde de Vries1 reactie

Mijn eerste column als ambteloos burger, nou ja misschien mag ik me nog columnist noemen, naast pensionado. Ik blijf jullie dus nog even bezighouden met wat mij bezighoudt.

Steeds vaker lijken relevante maatschappelijke discussies over bijvoorbeeld stikstof, de wolf, vuurwerk en al wat afgezwakt, Zwarte Piet,  en sinds 7 oktober, Hamas/Israël, gierend uit de bocht te vliegen.

Over en weer lijken mensen zichzelf  het recht te geven de andersdenkenden meedogenloos te attaqueren. Wat lijkt begonnen op de sociale media breidt zich meer en meer uit naar het echte leven.

Vanmorgen las ik in mijn plaatselijke krant over een 54-jarige Mountainbiker, of hoe noem je zo’n  “man in lycra on bike” die door de bossen scheurt, vaak in een luidruchtig peletonnetje soortgenoten. pexels-jose-ricardo-barraza-morachis-3642537Als ik deze krant mag geloven ging de man helemaal los op een BAO (een buitengewoon opsporingsambtenaar) die hem staande hield omdat daar niet gecrost mocht worden.

Was hier een Tik Tok filmpje van gemaakt dan zou het zeker “viral “ zijn gegaan. Vreselijk gedrag verspreidt door de (sociale) media is immers onweerstaanbaar en verslavend en roept even vreselijke reacties op.

Zo bekritiseerde een iets bekendere columnist, dan de schrijver van dit stukje, Eus zich op over, toevallig ook weer een BOA, die een arme hardwerkende pakjesbezorger op de bon slingerde omdat hij  zijn busje even had geparkeerd waar dat niet mocht. Die kritiek leidde ook onvermijdelijk weer tot een heftige discussie over BOA’s in het algemeen maar richtte zich ook tegen Eus. Zo gaat dat. Een Rotterdamse Wethouder reageerde meteen met “Als je niks kunt, word je columnist. Lekker zeiken vanaf de zijlijn, zonder iets toe te voegen aan de maatschappij.”

So far voor het nut van columnisten. Misschien moet ik het toch maar houden bij pensionado.

Maar ja, ik pretendeer toch iedere keer weer, wel iets toe te voegen aan dat maatschappelijk klimaat.

Daarom sluit ik af met een goed voornemen, verwoordt door weer een columnist, Bas Heijne van de NRC in zijn stuk over ophef en polarisatie:  Vraag jezelf steeds af voor je boos en verontwaardig wil reageren op een vermeende misstand:

“Voegt je emotie iets toe, leidt het tot iets beters? Is het goed voor het klimaat, of is gewoon nog meer olie op het vuur?”

Ik wens u weldoordachte en welwillende discussies toe in 2024.

Nemen we nu eindelijk die Rode Pil

Eerde de VriesEen reactie plaatsen

Wanneer ontdekken wij dat wij, al consumerend en zinloze spullen vergarend, weinig brengende vliegreizen boekend, buffelend in bullshit jobs of in banen waar jezelf de maatschappelijke relevantie niet van ziet, dat we uitgezogen worden door “the Matrix” die Herbert Marcuse al in 1964 zag (“De eendimensionale mens”). Nadat wij die rode pil hebben doorgeslikt?

Marcuse

https://stellingwerf.nl/wolvega/Rechtvaardig-De-blauwe-of-de-rode-pil-28411624.html

Beter goed gejat dan slecht bedacht.

Eerde de VriesEen reactie plaatsen

Soms lees je een column en die is zo vanzelfsprekend, zo’n open deur en toch zo noodzakelijk! Vandaag hoorde ik op de radio

20221113_160752
Prenten van Titi Zaadnoordijk http://www.titi.nl/

weer het zoveelste item over die “filterbubbel”. Een heuse mediapedagoog, Berber Broekstra, heeft met haar Mediateam een installatie in de bibliotheek in Utrecht geplaatst om mensen bewust te maken van hun eigen filterbubbel. De polarisatie tegengaan met “mediawijsheid”. Dat lijkt mij niet de weg. Natuurlijk is het goed om jong en oud te leren hoe de algoritmen van de meeste sociale netwerken werken. Je wil, gezien je “surfgedrag”, kennelijk dit zien, nou dan krijg je dit te zien. Maar ik ben het met mijn favoriete columniste Floor Rusman (NRC) eens, die schreef  in haar column van 5 november jl.dat het cliché dat echokamers of filterbubbels de polarisatie versterken, niet klopt. 

floor-rusman2
Profielfoto NRC

Eerder is het zo dat het contact met andersdenkenden, uit andere filterbubbels, de polarisatie juist verkleint Met een beroep een aantal wetenschappelijke onderzoeken concludeert zij dat het van de setting afhangt hoe een ontmoeting met andersdenkenden verloopt. Hangt er een buurthuissfeer of een stadionsfeer? Gaat het om contact maken of om winnen? En het gaat de laatste tijd te vaak om winnen, zelf in de politiek, waar eigenlijk eerder een sfeer van het buurthuis zou moeten gelden, in de zin van “we moeten er samen als buurt maar ook als samenleving samen uitkomen” is alles een wedstrijd geworden, helaas aangewakkerd door de op goede kijkcijfers jagende media. Met als dieptepunt de “strijd” tussen de zittend Kamervoorzitter en de oud Kamervoorzitter. Dat lijkt door de media tot een wedstrijd te zijn gemaakt.

Niets “mediawijsheid”, we moeten blijven oefenen “de ander” te accepteren, is de simpele oplossing van die andere favoriete columnist van mij, ook NRC, mijn echokamer? Kiza Magendane.

magendane-kiza02700-202111
Profielfoto NRC

Hij eindigt zijn column van 11 november jl.  met deze wijze maar ook wel vanzelfsprekende conclusie:

“De acceptatie van verschillen in onze samenleving begint met de erkenning dat wij anderen niet kunnen veranderen (zij kunnen het zelf niet of nauwelijks). Sterker nog, wij zouden anderen niet moeten veranderen. In plaats daarvan hebben wij juist vaardigheden nodig die ons in staat stellen om anderen te begrijpen, en vredig met hen te co-existeren.Lees meer »