“Computer says no”

De makers van het satirische programma “Little Britain” waren hun tijd ver vooruit met hun hilarische sketch “Computer says no” (zoek met uw zoekmachine of AI-app op:  “Computer says no + ziekenhuis”).

De computer als onfeilbaar orakel. De twijfel daarover is door het confabuleren en hallucineren van de diverse, door Kunstmatige Intelligentie (AI) aangestuurde Chabots,  sinds die sketch, alleen maar toegenomen.

Recent pas verscheen een rapport over het geruchtmakende Post Office-schandaal. In elk dorp, hoe klein ook,  was zeker rond de laatste eeuwwisseling, nog een postkantoortje met een vriendelijke medewerker. En juist veel van die vriendelijke medewerkers, vaak ook  eigenaren van zo’n klein kantoortje, werden geruïneerd door, ja waardoor eigenlijk door een computerfout?  Of was het door de langdurige ontkenning van die fout,  door de Post Office leiding?

15 jaar lang zijn duizenden eigenaren van lokale postkantoren, vaak ankerpunten in kleine  gemeenschappen, beschuldigd van diefstal en fraude. Ten onterechte, zoals veel te laat zou blijken, want hun boekhoudsysteem, in 1999 geïntroduceerd, genaamd Horizon, maakte fouten.

Het lukte de gebruikers van dit softwareprogramma maar niet om balansen in evenwicht te brengen, steeds gaf het boekhoudprogramma een te kort aan. Vele honderden klaagden bij de desbetreffende helpdesk en kregen daar te horen dat zij de enigen waren die tegen die problemen aanliepen en ook dat bleek achteraf een leugen. Steeds die variant op “computer says no”  hier dus “computer is right”, wetende dat dat niet zo was, maar erkenning van de fout zou te kostbaar zijn.

Uit pure onmacht vulden die gebruikers, die, alleen door het computerprogramma, aangegeven tekorten, “uit eigen zak” aan.

Uiteindelijk werden er ruim 3500 postmasters, eigenaren en managers van die lokale postagentschappen,  beschuldigd van verduistering. Zo’n 900 van hen werden ook veroordeeld en meer dan 230 kwamen zelfs In de gevangenis terecht. Ook pleegde sommigen uit wanhoop zelfmoord en velen zijn overleden voordat hun naam kon worden gezuiverd. Uit dat recent uitgebracht rapport over dit schandaal blijk dat er minsten 13 zelfmoorden zijn gepleegd uit pure wanhoop.

Niet alleen de zelfsturende  killer-drones zijn levensgevaarlijk, nee ook een eenvoudig boekhoudprogramma kan dat zijn als er niet met enige regelmaat een integere reality check wordt doorgevoerd met een dodemansknop.