Trouwe lezer,

In het essay “De vraag die de blaas vulde” legde ik de mens naast het taalmodel (AI). Vandaag een vervolg met een scherpere vraag: wat gebeurt er met een gokker die niet hoeft te betalen als hij verliest? Het taalmodel is zo’n gokker. Steeds meer bestuurders ook.

Ik begin in de ring en eindig in een loopgraaf aan het westfront, waar soldaten zonder vergadering of beleidsnota iets voor elkaar kregen wat hun generaals vervolgens kapotmaakten. Onderweg ontsnap ik zelf niet aan een reflex die ik meestal bij anderen afkeur.

Peter Koopman

Voormalig sportdocent, maar vooral amateur-antropoloog van de menselijke illusie — gespecialiseerd in de kruising tussen biologie, gedrag, macht, zelfbedrog en ons absurde verlangen naar validatie.

 

De risicoloze gokker

De ring

In de ring raadt iedereen. Waar komt de hoek vandaan. Wanneer zakt de dekking, en zakt hij links of rechts. Niemand heeft daar tijd om het uit te rekenen; het lijf gokt op wat het eerder zag en beweegt al voordat er een gedachte klaarstaat. Wie verkeerd raadt, hoort dat binnen een halve seconde, en hij hoort het met zijn kaak.

Het Nederlandse woord gokken heeft twee betekenissen, en in de ring vallen ze samen. Gokken is raden: ik gok dat het een rechtse wordt. Gokken is ook wedden: ik zet iets in op die uitkomst. De vechter doet beide in één beweging. Hij raadt, en de inzet is hijzelf. Zo is het geweest voor het grootste deel van de geschiedenis van het leven op aarde. Het hert dat verkeerd inschat waar de wolf staat, gokt niet met andermans hachje. De aap die een tak verkeerd taxeert, valt zelf.

Buiten de ring zijn de twee betekenissen langzaam uit elkaar geschoven. Er wordt nog volop geraden, misschien meer dan ooit. Gewed wordt er steeds vaker door een ander. Daarover gaat dit stuk: over de gokker die raadt zonder in te zetten, en over de vraag waarom wij hem keer op keer over ons lijf en onze leden laten beslissen.

Zo vertellen we het onszelf

Eerst het verhaal zoals we het gewoonlijk vertellen, want dat verhaal is het startpunt van bijna elk gesprek over verantwoordelijkheid.

Er is een probleem. Iemand moet een beslissing nemen. Die iemand verzamelt informatie, zo veel als redelijkerwijs mogelijk is. Hij laat zich adviseren door deskundigen, weegt de voors en tegens, overziet de gevolgen en kiest. Gaat het goed, dan heeft hij wijs besloten. Gaat het mis, dan wordt hij ter verantwoording geroepen. Op dit verhaal draaien kabinetten, raden van bestuur en ziekenhuizen, en de meeste huishoudens zodra het over de vakantie gaat.

Ik geloof er weinig van, en wie eerdere stukken van mij las, weet dat. Er zit geen stuurman in het hoofd die opties uitstalt en er één aanwijst. Er is een organisme dat reageert op wat het tegenkomt, en een verteller die achteraf uitlegt waarom het zo moest. Toch laat ik het verhaal voorlopig staan. Het is de taal waarin we over beslissen praten, en wie een taal wil ontmantelen, moet hem eerst spreken. Ik kom er later op terug, in een loopgraaf, waar blijkt dat niemand daar iets “nam”.

Eén ding valt in het verhaal nu al op. De verantwoording komt pas aan het eind, als aparte stap, ná de uitkomst. In de ring bestaat die stap niet. Daar is de uitkomst de verantwoording.

De gokker zonder inzet

In een eerder essay legde ik de mens naast het taalmodel, het type programma waarmee je tegenwoordig een gesprek kunt voeren. Zo’n model doet in de basis één ding: het raadt het volgende woord. Het heeft miljarden zinnen gezien en schat welk woord waarschijnlijk volgt op de woorden die er al staan, en dan het woord daarna, en dan het woord daarna. Raden, alleen maar raden. Er staat niets op het spel. Een fout antwoord kost het model niets; het voelt geen kaak, verliest geen baan, wordt niet uitgelachen in de kleedkamer.

Het verhaal is iets subtieler, en die subtiliteit doet ertoe. Na die eerste fase van woorden raden worden zulke modellen bijgeschaafd met menselijke oordelen. Mensen krijgen twee antwoorden te zien en geven aan welk ze beter vinden. Uit duizenden van die oordelen leert een tweede programma voorspellen wat mensen prettig vinden, en het taalmodel wordt vervolgens in die richting geduwd. Het gevolg is gemeten. Zulke modellen buigen mee met de mening van de vrager, ook als die vrager ongelijk heeft. Ze geven vaker gelijk dan juist is, en trekken een goed antwoord in zodra de gebruiker twijfel laat blijken [1].

Dat betekent dat het taalmodel tijdens zijn training wel degelijk iets te verliezen had. Alleen betaalde het in een andere munt dan de waarheid. Het werd bijgestuurd als de beoordelaar ontevreden was, niet als het antwoord fout was. Er was dus een inzet, maar bij de verkeerde bank.

Onthoud dat beeld, want het komt terug. De risicoloze gokker is zelden helemaal risicoloos. Meestal loopt hij wel risico, alleen bij een partij die niet de partij is die de schade draagt.

Over de rand

Westfront, 1915. Tussen de Britse en de Duitse loopgraven ligt soms niet meer dan honderd meter modder. Het bevel om aan te vallen, om “over the top” te gaan, komt van een staf die ver achter de linie zit. Na de oorlog raakte er een etiket aan vast dat nooit meer losliet: leeuwen geleid door ezels. De soldaat gokte met zijn leven, de generaal met het leven van de soldaat.

Dat beeld is te simpel, en eerlijkheid gebiedt dat te zeggen. Ruim zeventig Britse generaals kwamen in die oorlog om, door granaten, sluipschutters en mitrailleurvuur [4]. Het kasteel ver achter het front is voor een deel mythe. Maar de verhouding blijft scheef. De kans dat een generaal sneuvelde, was een fractie van de kans die een infanterist liep in de eerste golf van een aanval die de generaal had uitgetekend. Wie het plan maakte, betaalde zelden de prijs als het plan niet deugde.

Wat er in diezelfde loopgraven gebeurde, is interessanter dan de verontwaardiging. Op veel stukken van het front ontstond iets wat niemand had bevolen en niemand had ontworpen. Soldaten aan beide kanten schoten bewust te hoog. Tijdens het eten werd er niet gevuurd. De artillerie sloeg in op vaste tijden en vaste plekken, zodat iedereen wist waar hij op dat uur beter niet kon staan. Een historicus die het decennia later uitzocht aan de hand van dagboeken en regimentsverslagen, noemde het het live-and-let-live-systeem [2]. Leven en laten leven, met een geweer in de hand.

Hoe kan dat? Vijanden die elkaar sparen, midden in de bloedigste oorlog die Europa tot dan had gekend. Een politicoloog werkte het later uit met speltheorie, de wiskunde van situaties waarin wat jij wint afhangt van wat de ander doet [3]. Het kernidee laat zich met een eenvoudig voorbeeld uitleggen.

Stel: twee soldaten, elk in een eigen loopgraaf, kunnen raakschieten of misschieten. Schiet de ander mis en jij raak, dan heb je een vijand minder en een kleine overwinning. Schieten jullie allebei raak, dan hebben jullie allebei een slechte dag, of geen dag meer. Schieten jullie allebei mis, dan leven jullie allebei. Bij een eenmalige ontmoeting is raakschieten de verleidelijke zet: wat de ander ook doet, jij staat er beter voor als je raak schiet. Maar de loopgraaf is geen eenmalige ontmoeting. Dezelfde mannen liggen weken, soms maanden tegenover elkaar. Wie vandaag raak schiet, krijgt morgen het antwoord. In een herhaald spel met dezelfde tegenstander loont het om te beginnen met sparen en te vergelden wat niet gespaard wordt. Dat evenwicht ontstond zonder vergadering, zonder nota, zonder iemand die het uitdacht. Het eigen lijf zat in het spel, elke dag opnieuw, en dat bleek genoeg.

Wie maakte er een eind aan? De staf. Hogerop zag men de stille afspraken als slapheid. Er kwamen verplichte overvallen op de vijandelijke loopgraaf, waarbij de patrouille bewijs moest meebrengen: een gevangene, of een lijk. Eenheden werden vaker gerouleerd, zodat er geen vaste paren tegenover elkaar meer lagen. Er kwamen loopgraafmortieren, wapens waarvan de inslag de overkant provoceerde en de stille afspraak ondermijnde. Allemaal maatregelen die precies het herhaalde spel kapotmaakten. De mannen met hun huid in het spel hadden een evenwicht gevonden dat de overlevingskans vergrootte. De mannen zonder huid in het spel braken het af, omdat hun inzet ergens anders lag: in terreinwinst, in rapporten, in de waardering van de staf daarboven. Ook zij liepen risico, net als het taalmodel. Bij de verkeerde bank.

Ruïne is iets anders dan risico

Hier moet een misverstand uit de weg. De gedachte ligt voor de hand dat wie zelf betaalt, voorzichtig wordt; dat huid in het spel leidt tot het mijden van risico. Dat klopt half. De vechter in de ring neemt voortdurend risico: hij stapt in, hij gooit, hij laat zich raken om zelf te kunnen raken. De soldaat die naast schiet, ligt nog steeds in een loopgraaf aan het front. Wat huid in het spel afdwingt, is iets preciezers, namelijk het mijden van ruïne.

Het verschil laat zich zien met een voorbeeld dat de schrijver die het meest over dit onderwerp publiceerde, graag gebruikt [5]. Neem honderd mensen die elk één dag naar het casino gaan, met hetzelfde bedrag op zak. Een paar verliezen alles, een paar winnen flink, de meesten komen met wat minder thuis. Je kunt het gemiddelde uitrekenen en weet dan wat het casino gemiddeld kost. Neem nu één persoon die honderd dagen achter elkaar gaat. Verliest hij op dag achtentwintig alles, dan is er geen dag negenentwintig. Het gemiddelde van de groep zegt niets over zijn lot. Wat voor de groep een kostenpost is, is voor hem het einde.

Russische roulette maakt het nog scherper. Een revolver met zes kamers, één kogel. Wie de trekker overhaalt en leeft, krijgt een miljoen. Vijf op de zes keer ben je rijk; gemiddeld een uitstekende deal. Toch speelt niemand die nog iets te verliezen heeft een tweede potje, en een derde al helemaal niet. Natuurkundigen die dit probleem formeel uitwerkten, noemen het het verschil tussen het gemiddelde over een groep en het gemiddelde over een leven [6]. Een organisme heeft één leven. Het groepsgemiddelde is voor hem een abstractie; ruïne is concreet.

Het organisme dat zelf betaalt, neemt dus gerust risico, zolang dat risico hem niet kan wegvagen. De vechter laat zich raken, maar niet zo dat hij niet meer opstaat. De soldaat blijft liggen, maar steekt zijn hoofd niet boven de rand op het uur dat de sluipschutter wakker is. Hetzelfde idee zit achter wat in de financiële wereld een barbell-strategie heet, naar de halter met aan elk uiteinde een gewicht en niets in het midden. Het grootste deel van je bezit zet je uiterst veilig weg. Met een klein deel neem je wilde gokken waarbij je hooguit die inzet verliest en soms veel wint. Het gevaarlijke midden, de gok die redelijk oogt maar je kan ruïneren, laat je liggen.

En nu de bestuurder. Hij is niet roekeloos in het algemeen; met zijn eigen positie is hij doorgaans uiterst voorzichtig. Wat hij wel doet, is ruïnerisico’s nemen namens anderen. Een beleid dat negen jaar soepel loopt en in het tiende jaar duizenden gezinnen kapotmaakt, ziet er op papier uit als een redelijke gok. Het gemiddelde is gunstig. De staart van de verdeling, het zeldzame rampscenario, valt bij mensen die niet aan tafel zaten. Wie het plan maakt, int in de goede jaren de premie. De ramp schuift door.

Druk en geen druk

Er is nog een as die meetelt: tijd.

Onder acute druk wordt er nauwelijks gewogen. Een onderzoeker die jarenlang brandweercommandanten volgde, ontdekte dat zij bij een brand vrijwel nooit opties naast elkaar zetten [7]. Ze herkenden een patroon, deden de eerste handeling die werkbaar leek en stelden bij als het niet werkte. Er was geen lijst met voors en tegens. Er was geen moment van kiezen. Er was een lijf met ervaring dat al in beweging was. Precies zoals in de ring, en precies zoals bij de soldaat die zijn hoofd laag houdt zonder dat iemand het hem op dat moment opdraagt.

Zonder druk krijg je het omgekeerde. De vakantiebestemming is het schoolvoorbeeld: weken vergelijken, recensies lezen, prijzen naast elkaar leggen, en achteraf een verhaal dat het de juiste keus was. Hier floreert het verhaal van de beslisser, omdat er tijd is om het op te voeren. Het risico is begrensd; een tegenvallende week in de Algarve ruïneert niemand.

Zet de twee assen tegen elkaar, druk tegenover geen druk, eigen huid tegenover andermans huid, en er ontstaan vier hokjes. De vechter en de soldaat zitten in druk en eigen huid: snelle feedback, hoge inzet, en de inzet is van henzelf. De vakantieganger zit in geen druk en eigen huid: veel tijd, lage inzet, en de rekening op de eigen mat. Het derde hokje, druk en andermans huid, is dat van de chirurg of de piloot, en daar is niet toevallig een hele cultuur van protocollen, nabesprekingen en tuchtrecht omheen gebouwd. De bestuurder zit in het vierde hokje, het hokje dat het slechtst uitpakt. Er is geen tijdsdruk, dus alle ruimte voor het ritueel van informatie en advies. De inzet is hoog, maar ligt bij anderen. En de feedback komt jaren later, verdund, opgevangen door een collectief.

Figuur 1. Tijdsdruk tegenover wiens huid op het spel staat.

Dat laatste weegt zwaarder dan het lijkt. Een onderzoeker die zo’n twintig jaar lang voorspellingen van deskundigen verzamelde over politieke en economische ontwikkelingen, vond dat zij op de lange termijn nauwelijks beter scoorden dan toeval, en slechter dan simpele rekenregels die de trend gewoon doortrokken [8]. Hij maakte er de grap bij van een chimpansee die met pijltjes gooit, en heeft daar later spijt van gehad, want de grap reisde verder dan de bevinding. Die bevinding was subtieler. Deskundigen die veel in de media optraden en alles vanuit één groot idee verklaarden, deden het het slechtst. En in een later project bleek dat sommige mensen wel degelijk consistent goed voorspellen, mits ze getraind worden en snel te horen krijgen of ze ernaast zaten [9].

Twee psychologen die het lange tijd oneens leken over de waarde van intuïtie, de een een notoire scepticus, de ander de man van de brandweercommandanten, schreven samen op waar ze het wél over eens waren [10]. Betrouwbare intuïtie ontstaat alleen in een omgeving die regelmatig genoeg is om patronen in te leren, en die snel en ondubbelzinnig laat weten of je goed zat. Schaken, branden blussen, de hoek zien aankomen. Wie die terugkoppeling mist, ontwikkelt geen expertise. Hij ontwikkelt zelfvertrouwen.

Daarmee verschuift wat huid in het spel eigenlijk is. Het is minder een morele eis dan een terugkoppelkanaal. De klap leert. Zonder klap geen les, en zonder les een deskundige die met elk jaar zekerder wordt en niet beter.

Het ritueel en de vele handen

Terug naar het verhaal van de beslisser die informatie verzamelt. Het is verleidelijk dat verhaal als naïef af te doen, maar het verdient een andere lezing. Twee organisatiewetenschappers keken al in 1981 naar hoe organisaties met informatie omgaan [11]. Ze vonden dat organisaties stelselmatig meer informatie verzamelen dan ze gebruiken, informatie opvragen nadat de koers al vaststaat, en klagen over gebrek aan informatie terwijl de rapporten ongelezen op de stapel liggen. Hun verklaring: informatie verzamelen is een signaal. Het laat zien dat er zorgvuldig gehandeld is. Het dossier is minder een hulpmiddel bij het raden dan een verzekering voor als het misgaat.

Dan klopt het verhaal van de beslisser opeens, alleen anders dan bedoeld. De informatie dient om het wedden af te schuiven. Ging het mis, dan was het advies verkeerd. Dan had de uitvoerende dienst moeten signaleren. Dan had de Kamer scherper moeten vragen. Een politiek filosoof gaf het verschijnsel in 1980 een naam: het probleem van de vele handen [12]. Hoe meer mensen aan een uitkomst bijdragen, hoe lastiger het wordt er één van aan te wijzen. Een Nederlandse bestuurskundige werkte het uit voor complexe organisaties en liet zien hoe verantwoordelijkheid daarin oplost, zonder dat er kwade wil aan te pas hoeft te komen [13]. Iedereen deed een deel. Niemand deed het geheel.

Een Nederlands voorbeeld hoeft niet gezocht te worden. Een parlementaire commissie concludeerde in december 2020 dat duizenden ouders bij de kinderopvangtoeslag ongekend onrecht was aangedaan [14]. Het kabinet trad in januari 2021 af. In maart 2021 werd de partij van de premier bij de verkiezingen opnieuw de grootste, en de premier bleef premier. In 2024 nam hij afscheid en een functie als secretaris-generaal van de NAVO. Geen van die feiten vraagt om een bijvoeglijk naamwoord. De gezinnen die hun huis, hun huwelijk of hun kinderen kwijtraakten, zaten jaren later nog in een herstelregeling die maar niet af kwam.

Het is niet de domste zet van een systeem, als je het systeem ziet als iets wat zichzelf in stand houdt. Economen beschreven in de jaren zeventig de verhouding tussen een eigenaar en degene die namens hem handelt, de principaal en de agent [15]. Hun probleem: de agent heeft eigen belangen, en zolang zijn beloning en straf niet gekoppeld zijn aan wat de eigenaar ervaart, volgt zijn gedrag die eigen belangen. In de democratie is de burger de eigenaar en de bestuurder de agent. Maar de beloning van de bestuurder, zijn volgende functie, zijn plek op de lijst, zijn aanzien onder collega’s, komt van de groep bestuurders en niet van de burger. De groep vangt de gokker op die verloor, omdat elk lid van de groep weet dat het volgende keer zijn eigen gok kan zijn. Wie vangt, wordt gevangen. Wie gevangen wordt, vangt later zelf.

Waarom we erin blijven trappen

Dan de vraag die ik het raadselachtigst vind. Dat de risicoloze gokker bestaat, verbaast me niet; elk organisme dat de kosten van zijn fouten bij een ander kan leggen, zal dat gedrag vertonen zolang het loont. Wat me verbaast, is dat wij het laten lonen. Waarom geven we ons lijf en onze leden, ons huis en onze kinderen, keer op keer in handen van mensen die niet meebetalen als het misgaat, en laten we hen daarna ongestraft weglopen?

Een deel van het antwoord is goedkoop, en dat is precies het punt. Uitbesteden bespaart energie. Wie zelf over elke regeling, elk beleid en elke oorlog zou moeten oordelen, kwam aan niets anders meer toe. Een taalkundige formuleerde in de jaren veertig een principe van de minste moeite, dat net zo goed opgaat voor organismen als voor woorden [16]. Volgen is goedkoper dan leiden. Iemand anders laten raden is goedkoper dan zelf raden. Ik heb elders betoogd dat de mens een hang heeft naar afhankelijkheid, naar volgen; dit is daar de economische kant van. We kopen rust, en de rekening komt later, bij een ander loket.

Een tweede deel zit in wat we als bekwaamheid lezen. Onderzoek naar status in groepen liet zien dat mensen met overdreven zelfvertrouwen hoger in aanzien komen, ook als ze niet beter presteren, omdat anderen dat zelfvertrouwen aanzien voor competentie [17]. Een gokker die niet betaalt, kan zich zekerheid permitteren; hij heeft er geen last van als hij ongelijk krijgt. En juist die zekerheid maakt hem aantrekkelijk als leider. In de loopgraaf twijfelde de soldaat; op de staf twijfelde niemand. De twijfel ligt bij wie de kogel krijgt.

Een derde deel is technischer, en het interessantst. Mensen zijn uitstekend in het herkennen van valsspelers. Een klassieke reeks experimenten liet zien dat proefpersonen die slecht zijn in abstracte logica, ineens feilloos redeneren zodra dezelfde puzzel gaat over iemand die een voordeel neemt zonder de bijbehorende prijs te betalen [18]. Dat wantrouwen hoeft niemand te prediken; het zit diep. Maar het werkt alleen onder voorwaarden. Je moet de valsspeler kunnen zien, je moet de schade aan zijn gedrag kunnen koppelen, en je moet hem opnieuw tegenkomen. In de loopgraaf wist je wie er schoot. In Den Haag niet. De schade is diffuus, traag en verdeeld over duizenden mensen die elkaar niet kennen. De valsspelersdetector staat aan, alleen komt er geen signaal binnen.

Daar zit een ironie die ik niet wil overslaan. Antropologen die jager-verzamelaars bestudeerden, beschreven hoe kleine groepen hun leiders klein hielden [19]. Wie te veel macht naar zich toe trok, werd uitgelachen, genegeerd, verstoten, en in het uiterste geval gedood. De groep was klein genoeg om iedereen te kennen, en de schade van een slechte leider kwam direct terug bij de groep die hem had laten begaan. Huid in het spel op groepsniveau. Er is een bovengrens aan het aantal mensen met wie een mens stabiele banden kan onderhouden, ergens rond de honderdvijftig volgens de bekendste schatting [20]. Daarboven werkt dat mechanisme niet meer. Een premier lach je niet uit bij het kampvuur. Wat in de kleine groep vanzelf ging, moet in de grote groep worden ingericht, met verkiezingen, commissies en rechters. En wat moet worden ingericht, kan ook worden omzeild.

De vraag die ik eigenlijk niet mag stellen

Hier betrap ik mezelf. Tijdens het schrijven van de vorige alinea’s voelde ik een duidelijke neiging opkomen. Zulke mensen moeten verantwoordelijk worden gehouden. Ze moeten meebetalen, mee lijden. Ze verdienen ons wantrouwen.

Dat zijn morele zinnen, en wie mijn eerdere stukken las, weet dat ik die categorie wantrouw. Verantwoordelijk houden veronderstelt iemand die anders had kunnen handelen. Het veronderstelt de stuurman die ik aan het begin al opzijzette. Als er geen bestuurder zit in het hoofd van de minister, wat valt er dan te straffen?

Toch is de neiging zelf interessant, want ook zij is gedrag. In een bekend experiment kregen proefpersonen de kans geld in een gezamenlijke pot te stoppen, waarna de opbrengst over iedereen werd verdeeld [21]. Sommigen legden niets in en profiteerden van wat de anderen inlegden. Toen de deelnemers de mogelijkheid kregen zulke profiteurs te straffen, gebeurde dat massaal, ook als straffen hun zelf geld kostte en ze de profiteur nooit meer zouden tegenkomen. Het organisme straft dus, en betaalt er zelfs voor. Mijn verontwaardiging is geen argument; ze is een datapunt.

Laat ik de vraag dan stellen als vraag, zonder het antwoord alvast in te kopen. Wat zou het betekenen om de risicoloze gokker mee te laten betalen?

De oudste vorm van het antwoord staat in steen gebeiteld. Een bekende bepaling uit het wetboek van Hammurabi schrijft voor dat een bouwer wiens huis instort en de eigenaar doodt, zelf ter dood wordt gebracht [5]. Huid in het spel in zijn rauwste vorm. Het effect laat zich raden: huizen die blijven staan, en vermoedelijk weinig bouwers die zich aan iets hoogs wagen.

Daar ligt het sterkste tegenargument. Risicoloosheid is ook een verworvenheid. Toen in het negentiende-eeuwse Engeland de beperkte aansprakelijkheid werd ingevoerd, werd het mogelijk in een onderneming te investeren zonder je huis en je toekomst op het spel te zetten [22]. Spoorwegen, fabrieken, grote ondernemingen: veel daarvan bestaat omdat iemand wel wilde gokken zolang hij hooguit zijn inleg kon verliezen. Hetzelfde geldt voor de zachte landing van een minister. Een baan waarin één verkeerde gok je carrière, je bezit of je vrijheid kost, trekt vooral mensen aan die niets te verliezen hebben, en dat zijn zelden de besten. De Babylonische bouwer is een prachtig beeld, maar een samenleving van Babylonische bouwers bouwt laag.

Waar ligt dan de grens? Niet bij de vraag of er risico wordt weggenomen, wel bij de vraag of de fout nog terugkomt bij wie hem maakte, in welke munt dan ook. De aandeelhouder met beperkte aansprakelijkheid verliest zijn inleg; de terugkoppeling is begrensd, maar ze bestaat. De soldaat in de loopgraaf kreeg morgen het antwoord. De bestuurder die na een catastrofe doorschuift naar een hogere functie, krijgt niets terug. Zijn terugkoppeling is niet verzwakt, ze is doorgeknipt.

En als er geen stuurman is, wat doet die terugkoppeling dan? Hier helpt de man van de casinovoorbeelden me verder dan hij misschien bedoelde. Systemen met huid in het spel leren volgens hem niet doordat de deelnemers lessen trekken, maar doordat de slechte gokkers eruit vallen [5]. De bouwer die slecht bouwde, bouwt niet meer. De vechter die slecht raadt, stopt met vechten of wordt gestopt. Het systeem leert door te filteren, en nauwelijks door te onderwijzen.

Als dat klopt, verandert de vraag. Verantwoordelijk houden gaat dan over iets anders dan straf, schuld en boetedoening, de woorden waar ik van huiver. Het gaat over wie de volgende keer nog mag gokken. De minister die een ramp aanrichtte en daarna een hogere functie krijgt, is dan geen moreel schandaal. Hij is een kapot filter. Het systeem heeft de gokker die verloor niet verwijderd maar bevorderd, en een filter dat de slechte gokkers doorlaat en beloont, selecteert op den duur op precies het verkeerde: op mensen die uitblinken in verliezen zonder te betalen.

Is dat een morele conclusie in vermomming? Misschien. Ik laat de vraag staan. Ze is te glad om haar dicht te timmeren.

Over de rand, opnieuw

Kerstmis 1914, op een aantal plekken langs het front. Soldaten klimmen uit hun loopgraven, ruilen sigaretten, begraven samen hun doden, en hier en daar wordt een bal getrapt. Het is het bekendste moment uit de geschiedenis van het live-and-let-live-systeem, en het enige dat iedereen kent. De staven van beide legers reageerden voorspelbaar. Verbroedering werd verboden. Het jaar erop werd er met kerst grotendeels gewoon geschoten.

Voor wie in het verhaal van de beslisser gelooft, ligt hier een raadsel. Niemand in die loopgraven had een beslissing genomen. Er was geen overleg geweest, geen mandaat, geen informatieverzameling. Er waren organismen die al weken tegenover elkaar lagen, die elkaars ritme kenden, en die met hun eigen lijf betaalden voor elke fout. Uit dat herhaalde, kostbare raden groeide iets wat op wijsheid leek. Bij de staf, waar wel vergaderd werd, waar kaarten lagen en rapporten binnenkwamen, groeide iets anders.

Het verschil zat niet in de mensen, maar in waar de kogels vielen.

Ergens achter het front verschoof die ochtend iemand een speld op een kaart. Een paar kilometer verderop moest een jongen van negentien zijn hoofd boven de rand steken om te zien of die speld klopte.

 

Literatuur en verwijzingen

1. Sharma, M., Tong, M., Korbak, T. e.a. (2023). Towards Understanding Sycophancy in Language Models.arXiv:2310.13548.
2. Ashworth, T. (1980). Trench Warfare 1914-1918: The Live and Let Live System.Londen: Macmillan.
3. Axelrod, R. (1984). The Evolution of Cooperation.New York: Basic Books. Zie hoofdstuk 4, over het live-and-let-live-systeem.
4. Davies, F. & Maddocks, G. (1995). Bloody Red Tabs: General Officer Casualties of the Great War, 1914-1918.Londen: Leo Cooper.
5. Taleb, N.N. (2018). Skin in the Game: Hidden Asymmetries in Daily Life.New York: Random House. Bron voor het casino- en roulettevoorbeeld, Hammurabi en het filterargument.
6. Peters, O. (2019). The ergodicity problem in economics. Nature Physics, 15, 1216-1221.
7. Klein, G. (1998). Sources of Power: How People Make Decisions.Cambridge, MA: MIT Press.
8. Tetlock, P.E. (2005). Expert Political Judgment: How Good Is It? How Can We Know?Princeton: Princeton University Press.
9. Tetlock, P.E. & Gardner, D. (2015). Superforecasting: The Art and Science of Prediction.New York: Crown.
10. Kahneman, D. & Klein, G. (2009). Conditions for intuitive expertise: A failure to disagree. American Psychologist, 64(6), 515-526.
11. Feldman, M.S. & March, J.G. (1981). Information in organizations as signal and symbol. Administrative Science Quarterly, 26(2), 171-186.
12. Thompson, D.F. (1980). Moral responsibility of public officials: The problem of many hands. American Political Science Review, 74(4), 905-916.
13. Bovens, M. (1998). The Quest for Responsibility: Accountability and Citizenship in Complex Organisations.Cambridge: Cambridge University Press.
14. Parlementaire ondervragingscommissie Kinderopvangtoeslag (2020). Ongekend onrecht.Den Haag: Tweede Kamer der Staten-Generaal, 17 december 2020.
15. Jensen, M.C. & Meckling, W.H. (1976). Theory of the firm: Managerial behavior, agency costs and ownership structure. Journal of Financial Economics, 3(4), 305-360.
16. Zipf, G.K. (1949). Human Behavior and the Principle of Least Effort.Cambridge, MA: Addison-Wesley.
17. Anderson, C., Brion, S., Moore, D.A. & Kennedy, J.A. (2012). A status-enhancement account of overconfidence. Journal of Personality and Social Psychology, 103(4), 718-735.
18. Cosmides, L. (1989). The logic of social exchange: Has natural selection shaped how humans reason? Studies with the Wason selection task. Cognition, 31(3), 187-276.
19. Boehm, C. (1999). Hierarchy in the Forest: The Evolution of Egalitarian Behavior.Cambridge, MA: Harvard University Press.
20. Dunbar, R.I.M. (1992). Neocortex size as a constraint on group size in primates. Journal of Human Evolution, 22(6), 469-493.
21. Fehr, E. & Gächter, S. (2002). Altruistic punishment in humans. Nature, 415, 137-140.
22. Micklethwait, J. & Wooldridge, A. (2003). The Company: A Short History of a Revolutionary Idea.New York: Modern Library.