Beste lezer,
Hier is een nieuw essay, en het begint met een leugen die ik je eerst moet ontzenuwen voor we verder kunnen.
Je kent de versie wel: de mens ging driehonderdduizend jaar geleden rechtop lopen, en dat verklaart de rug, de voet en, in de vrolijkere lezingen, ook nog waarom we elkaar recht in de ogen kunnen aankijken tijdens de daad. Vrijwel niets daarvan klopt. Rechtop lopen is zeven miljoen jaar oud, onze soort erfde het kant en klaar, en de rest van dat verhaal komt in essentie uit een boek van Desmond Morris uit 1967 dat prachtig leest en wetenschappelijk op los zand staat.
Dat is de opening. Waar het essay daarna heengaat, is minder grappig: vuur als de eerste keer dat het lichaam een functie naar buiten verplaatst, zelfdomesticatie, de vroege staat van James Scott, en uiteindelijk AI-modellen die in onderzoek van Apollo Research probeerden toezicht te omzeilen en daarover logen toen ernaar gevraagd werd. De rode draad: we delegeren altijd aan wat het minste kost, dat is oud en geen keuze, en het wordt pas gevaarlijk zodra degene aan wie we delegeren de rekening niet meer zelf hoeft te betalen. Taleb noemt dat het principal-agent probleem. Ik denk dat het de beste verklaring is die er is voor waarom elke generatie zichzelf iets verder weggeeft dan de vorige, zonder dat er ooit een moment is geweest waarop iemand daar bewust voor koos.
Veel leesplezier,
Peter Koopman
Het Uitbestede Dier
Over gemakzucht, domesticatie en de verhalen die we onderweg verzinnen om onszelf niet aan te hoeven kijken
I
Hier is een verhaal dat te mooi is om waar te zijn, en dat is precies waarom het al decennia rondgaat op feestjes en in de openingshoofdstukken van populaire antropologie. Onze soort verruilde driehonderdduizend jaar geleden de bomen voor de steppe, ging rechtop lopen, en dat had verstrekkende gevolgen: de voet verloor zijn grijpvermogen, de onderrug kwam onder permanente druk te staan, en de vagina schoof iets naar voren, waardoor frontale copulatie ineens tot de mogelijkheden ging behoren, met alle voordelen van pair bonding en verborgen vruchtbaarheid van dien. Het is een verhaal met een begin, een midden en een moraal, precies zoals verhalen die verkopen eruit horen te zien. Het probleem is dat vrijwel niets ervan klopt zoals het hier staat.
Homo sapiens is inderdaad zo’n driehonderdduizend jaar oud, sinds de herdatering van de vondsten uit Jebel Irhoud in Marokko weten we dat vrij zeker. Maar onze soort ging niet rechtop lopen, onze soort werd geboren terwijl hij al rechtop liep, als laatste in een rij voorouders die dat al veel langer deden. Sahelanthropus tchadensis zette zich al zo’n zeven miljoen jaar geleden op twee benen, het dijbeen- en scheenbeenmateriaal laat daar weinig twijfel over bestaan. Orrorin volgt rond zes miljoen jaar geleden, Ardipithecus ramidus rond de 4,4 miljoen, en Lucy, Australopithecus afarensis, loopt er 3,2 miljoen jaar geleden al overtuigend bipedaal bij, compleet met een lumbale lordose die vandaag nog elke fysiotherapeut aan het werk houdt. Tegen de tijd dat Homo erectus verschijnt, ruim anderhalf miljoen jaar geleden, is het menselijk skelet functioneel al bijna klaar. Sapiens komt driehonderdduizend jaar geleden gewoon aanschuiven aan een tafel die allang gedekt is. Ook de klassieke aanleiding, de savanne die de mens zou hebben gedwongen recht te gaan staan, is intussen zelf achterhaald: Ardipithecus leefde nog gewoon in een bosrijke, gemengde omgeving.
En dan de vagina. Het idee dat bipedalisme frontale copulatie mogelijk maakte en dat dit op zijn beurt pair bonding en verborgen oestrus opleverde, komt vrijwel letterlijk uit Desmond Morris’ The Naked Ape uit 1967, een boek dat fantastisch leest en wetenschappelijk gezien op los zand gebouwd is. Bonobo’s copuleren volop ventro-ventraal zonder permanent bipedaal te zijn, gorilla’s doen het incidenteel ook, en vergelijkende anatomiestudies, zoals het werk van Hall en collega’s over orthograde versus pronograde primaten, laten zien dat de relatie tussen houding en genitale anatomie veel rommeliger in elkaar zit dan Morris’ nette verhaal suggereert. Het is geen leugen, het is gewoon nooit hard gemaakt, en dat is een ander soort probleem, subtieler en hardnekkiger dan een leugen, want een dun bewezen verhaal overleeft precies zo lang als niemand de moeite neemt het na te trekken.
Waarom begin ik hiermee, in een essay dat eigenlijk over iets heel anders gaat? Omdat dit verhaal zelf een specimen is van het onderwerp waar dit essay over gaat. De vagina-hypothese is niet blijven hangen omdat ze waar is, ze is blijven hangen omdat ze goedkoop is: één elegante oorzaak, één elegant gevolg, klaar. Het kost geen moeite om te geloven, het kost wel moeite om na te trekken, en mensen kiezen, als het om verhalen gaat net zo goed als om voedsel en energie, stelselmatig de goedkoopste route naar bevrediging. Dat is geen zijspoor. Dat is het hele essay in een notendop, alleen dan toegepast op de wetenschap over onszelf in plaats van op onszelf.
Daniel Kahneman noemde dit in Thinking, Fast and Slow het WYSIATI-principe, what you see is all there is: het brein bouwt met opvallend weinig gegevens een compleet en overtuigend verhaal, en hoe minder gegevens er nodig zijn om het verhaal rond te krijgen, hoe zekerder we ons erover voelen, niet hoe onzekerder. Een verhaal met precies één oorzaak en één gevolg voelt daardoor waarschijnlijker aan dan een verhaal met vijf oorzaken, drie uitzonderingen en een gat in het bewijs, ook al is dat tweede verhaal in negen van de tien gevallen het eerlijkere. De vagina-hypothese wint het dus niet van de werkelijke, rommelige tijdlijn van het bipedalisme omdat ze beter onderbouwd is. Ze wint omdat ze goedkoper is om te onthouden, te vertellen en te geloven, en dat is exact het mechanisme waar de rest van dit essay over gaat, alleen dan toegepast op lichamen in plaats van op verhalen over lichamen.
II
Laten we het echte verhaal volgen, het verhaal zonder de romantiek. Rechtop lopen kostte iets, het leverde niet alleen iets op. De lumbale lordose die bipedalisme mogelijk maakt is een van de duurdere compromissen die de evolutie ooit gesloten heeft, chronisch overbelast, verantwoordelijk voor het gros van de rugklachten waar de moderne mens mee rondloopt, zoals Nathan Lents uitgebreid documenteert in Human Errors en Jeremy DeSilva in First Steps. Het grijpvermogen van de voet verdween niet in één stap maar over miljoenen jaren, van de nog deels opponeerbare grote teen van Ardipithecus, via de tussenvorm bij Australopithecus, tot de volledig moderne voet van Homo erectus. Niemand heeft hier ooit een afweging gemaakt. Er was geen vergadering waarin de soort besloot dat een instabiele rug en een onbruikbare grote teen een aanvaardbare prijs waren voor twee vrije handen. Selectie werkt niet zo, selectie merkt alleen achteraf wie het overleefde en wie niet, en schrijft er nooit een notulen bij.
Dat is de eerste correctie die dit essay wil aanbrengen op de manier waarop we onszelf graag vertellen: er is geen keuzemoment. Geen druk op de knop, geen bewuste ruil. Er is alleen een voortdurende, richtingloze stroom van varianten waarvan sommige toevallig iets goedkoper door het leven komen dan andere, en die goedkopere variant wint, niet omdat hij verstandiger is, maar omdat hij minder kost. Dat principe, dat de goedkoopste route wint zonder dat er ooit iemand voor gekozen heeft, is de rode draad van alles wat hierna komt, van vuur tot kunstmatige intelligentie. Onthoud die zin, want hij komt aan het eind van dit essay in een net iets ongemakkelijker jasje terug.
III
De volgende stap in het echte verhaal is niet de rug maar de darm, en de volgende uitvinding is niet de gang maar het vuur. Richard Wrangham beargumenteert in Catching Fire uit 2009 dat koken de eigenlijke motor achter de menselijke hersengroei is geweest. Gekookt voedsel is week, snel verteerbaar en calorisch veel voordeliger dan rauw voedsel, wat betekent dat een lichaam met toegang tot vuur minder tijd, minder kauwspier en minder darm nodig heeft om dezelfde hoeveelheid energie binnen te krijgen. Die winst moest ergens heen, en volgens de expensive tissue hypothesis van Aiello en Wheeler uit 1995 ging ze grotendeels naar het brein, een orgaan dat metabolisch peperduur is en alleen te betalen valt als er elders wordt bezuinigd.
Het is, wederom, een verhaal dat te mooi klinkt om helemaal waar te zijn, en de wetenschap heeft dat inmiddels ook zelf opgemerkt. Navarrete, Van Schaik en Isler lieten in 2011 in Nature zien dat de verwachte omgekeerde relatie tussen hersengrootte en darmgrootte over een brede steekproef zoogdieren helemaal niet zo hard naar voren komt als de theorie voorspelt. Er loopt ook een aparte, nog vreemder geworden mythe naast dit verhaal, de MYH16-mutatie, een defect gen dat normaal zorgt voor extreem krachtige kauwspieren zoals bij chimpansees, ontdekt door Stedman en collega’s in 2004 en gedateerd rond 2,4 miljoen jaar geleden, met de suggestie dat het uitschakelen van dit gen de schedel bevrijdde zodat het brein kon groeien. John Hawks en anderen hebben de datering en de causaliteit sindsdien grondig gefileerd. Weer een correlatie die verkleed ging als mechanisme, weer een verhaal dat precies goed genoeg klonk om niet meer gecontroleerd te worden.
En dan is er nog een probleem met de klok zelf. Wrangham heeft gecontroleerd vuurgebruik nodig rond 1,8 tot 1,9 miljoen jaar geleden, precies wanneer Homo erectus verschijnt met zijn kleinere tanden en smallere ribbenkast, zoals bij de Turkana Boy te zien is. Het archeologisch bewijs voor gewoontematig vuurgebruik reikt daar niet bij in de buurt. Wonderwerk Cave in Zuid-Afrika levert overtuigende sporen op van ongeveer een miljoen jaar geleden, Gesher Benot Ya’aqov in Israël van rond de 790.000 jaar, maar Roebroeks en Villa concludeerden in hun veelgeciteerde overzicht uit 2011 dat wijdverspreid, structureel vuurgebruik pas rond de 300.000 tot 400.000 jaar geleden aantoonbaar wordt. Dat is een gat van meer dan een miljoen jaar tussen het lichaam dat er al klaar voor lijkt en het bewijs dat het ook echt gebeurde. Niemand weet op dit moment zeker hoe dat gat te dichten valt, en eerlijk gezegd is dat gat interessanter dan een sluitend antwoord zou zijn, want het dwingt tot de erkenning dat we de oorsprong van onze eigen belangrijkste uitvinding niet eens precies kunnen dateren.
Wat wel zeker is, is dit: het lichaam is op enig moment een deel van zijn eigen spijsvertering aan een externe technologie gaan uitbesteden, en die uitbesteding was niet minder ingrijpend dan het rechtop gaan lopen zelf. Ze is misschien wel ingrijpender, want rechtop lopen veranderde alleen het skelet. Vuur veranderde de relatie tussen het lichaam en de wereld daarbuiten, en die relatie is sindsdien nooit meer teruggedraaid. Vanaf dit punt is de mens niet langer een organisme dat zijn eigen taken zelf verricht. Hij is een organisme dat een deel van zijn eigen fysiologie heeft uitbesteed aan iets buiten zijn huid, lang voordat er ook maar een woord bestond voor techniek.
Richard Dawkins gaf dit soort verplaatsing in The Extended Phenotype uit 1982 een naam die verrassend goed past: het idee dat de effecten van genen niet ophouden bij de huid, dat een bevergen net zo goed de dam bouwt als het lichaam van de bever, en dat een spinnengen het web weeft. Vuur is in die zin de eerste extended phenotype van de mens, een orgaan dat buiten het lichaam ligt maar er functioneel net zo bij hoort als de maag. Het verschil met een bevergen is alleen dat een dam niet kan worden doorgegeven aan een soort die geen bevers is, en vuur, eenmaal uitgevonden, wel. Vanaf hier is elke volgende uitbesteding in dit essay in wezen een variatie op hetzelfde thema: een functie die ooit binnen het lichaam zat, verhuist naar buiten, en blijft daar, ongeacht welk individu haar bedacht heeft.
IV
Als vuur de eerste keer is dat het lichaam iets naar buiten verplaatst, is domesticatie de eerste keer dat een hele soort zijn eigen wildheid inruilt voor een gegarandeerde voorraad. De gangbare hypothese over hoe de wolf de hond werd, is niet dat mensen op een dag besloten wolven te temmen, maar dat wolven zelf de nederzettingsrand ontdekten als een plek met gratis etensresten, en dat de exemplaren die de minste angst voor mensen vertoonden daar het meest van profiteerden. Generaties later staat er een dier dat zijn jachtvaardigheid, zijn wildheid en een flink deel van zijn hersenvolume heeft ingeruild voor een voedselbron die niet meer zelf bevochten hoeft te worden. Coppinger noemde dit het commensale pad naar domesticatie, en het is precies zo weinig een bewuste ruil als de lumbale lordose dat was. Geen wolf heeft ooit de afweging gemaakt. De tamste variant overleefde beter naast mensen dan de wildste, en dat volstond.
Interessanter, en dichter bij huis, is de hypothese dat de mens zichzelf hetzelfde heeft aangedaan. Brian Hare beschreef bij bonobo’s al hoe een soort, blootgesteld aan minder voedselconcurrentie en minder noodzaak tot agressie, spontaan mildere, meer verjeugdigde kenmerken ontwikkelt, en Richard Wrangham bouwde dat idee in The Goodness Paradox uit 2019 uit tot een these over de mens zelf. Zijn stelling is dat de mens zichzelf domesticeerde door reactieve agressie zwaar en vaak dodelijk te bestraffen, waardoor het temperament van de soort over duizenden generaties milder werd, terwijl geplande, proactieve agressie, oorlog, executie, straf, juist behouden bleef of zelfs toenam. Het is een elegante these en niet onomstreden; een deel van het veld, samengevat in een overzichtsartikel in Frontiers in Psychology uit 2020, houdt het liever op zelfcontrole via cultuur dan op een biologisch domesticatieproces in de strikte zin. Beide kampen zijn het echter eens over de kern: er is geen moment geweest waarop de mens besloot milder te worden. Milder gedrag werd goedkoper in overlevingstermen dan agressief gedrag, en de rest volgde vanzelf.
Wat mij betreft is dit de eerste keer in het verhaal dat de gelijkenis met wat er nu gebeurt echt ongemakkelijk wordt. De wolf ruilde autonomie voor een gegarandeerde voedselbron en droeg daar zelf de prijs voor als de nederzetting hem verjoeg. De mens die zich domesticeerde, droeg de prijs eveneens zelf, in de vorm van fysieke kracht en reactieve scherpte die hij nooit meer terugkreeg. Bij beide gevallen geldt: wie de ruil aangaat, is ook wie de rekening betaalt. Dat is, zoals zo blijkt, precies het scharnier waar de rest van deze geschiedenis om gaat draaien, want vanaf het volgende hoofdstuk beginnen die twee partijen, wie de ruil aangaat en wie betaalt, langzaam maar zeker uit elkaar te lopen.
V
Zodra landbouw in beeld komt, verandert er iets in wie de rekening betaalt. James C. Scott beschrijft in Against the Grainuit 2017 hoe de vroegste staten niet ontstonden omdat landbouw mensen bevrijdde, maar omdat graanteelt, in tegenstelling tot wortels, knollen of zwerflandbouw, zichtbaar, meetbaar en dus belastbaar is. Een graanveld kan een heerser tellen, een oogst kan hij confisqueren, een bevolking die aan een veld vastzit kan hij vastpinnen. Scott noemt dit domesticatie in de meest letterlijke zin, niet alleen van graan en vee, maar van mensen zelf, ingeperkt binnen de muren en velden van de vroege staat. De eerste steden waren volgens hem minder een teken van vooruitgang dan een technologie voor het onttrekken van arbeid en graan aan een bevolking die daar zelf zelden beter van werd. Het is een historische these, geen biologische, maar ze past naadloos in de rest van dit verhaal: opnieuw kiest een bevolking, of wordt voor haar gekozen, voor de optie die op korte termijn het minste kost, zekerheid van voedsel binnen de muur boven onzekerheid van de jacht erbuiten, en opnieuw wordt de rekening pas zichtbaar generaties later, in de vorm van een heerser die niet zelf ploegt.
Hier verschijnt voor het eerst een agent die geen dier en geen technologie is, maar een mens, en een mens die de rekening niet zelf betaalt. De heerser eet, de boer werkt. Dat de mensen die in dit soort hiërarchieën naar boven klimmen niet toevallig zijn geselecteerd op de eigenschappen die een samenleving zich eigenlijk zou wensen, is een vermoeden dat ouder is dan de sociologie zelf, en dat vermoeden heeft in de bedrijfspsychologie een eigen, weliswaar rommelige, onderzoekslijn gekregen. Babiak en Hare beschreven in Snakes in Suits hoe bepaalde trekken uit de zogeheten Dark Triad, narcisme, manipulatie, gebrek aan empathie, in een bureaucratische of corporate hiërarchie eerder een voordeel dan een nadeel kunnen zijn, precies omdat zulke omgevingen zelden meten wie de pijn draagt van een beslissing, alleen wie de beslissing nam. Een veelgeciteerde Australische studie beweerde zelfs dat een op de vijf ceo’s aan de klinische kenmerken van psychopathie voldoet, een cijfer dat inmiddels bijna even vaak wordt aangehaald als het wordt gefileerd, want de steekproef was klein, zelfgeselecteerd, en het gebruikte instrument was geen klinische diagnose maar een vragenlijst. Grappig om te lezen, weinig dragend als bewijs, precies zoals de vagina-hypothese dat was.
Het onderliggende punt overleeft de overdrijving wel: hiërarchieën die niet meten wie de kosten draagt, hebben geen enkele ingebouwde reden om de aardigste kandidaat naar boven te laten komen. Ze selecteren op wie het beste is in klimmen, niet op wie het beste is in dragen. Dat is geen samenzweringstheorie over slechte mensen aan de top, het is een simpele structurele voorspelling: geef een systeem waarin klimmen en dragen twee verschillende vaardigheden zijn, en de top zal systematisch bevolkt raken door mensen die goed zijn in het eerste, ongeacht hoe ze scoren op het tweede.
Scott’s kernbegrip voor dit hele mechanisme is legibility, leesbaarheid: een staat kan alleen belasten, beheersen en straffen wat hij kan zien en tellen, en graan, akkers en ingeschreven huishoudens zijn nu eenmaal leesbaarder dan jagers die door het woud trekken. Wie dat begrip eenmaal kent, kan het niet meer wegdenken uit de rest van de geschiedenis. Kadasters, volkstellingen, achternamen die overheden ooit verplicht oplegden juist om families traceerbaar te maken, kredietscores, en de sollicitatiealgoritmes en fraudedetectiesystemen van vandaag zijn allemaal hetzelfde graanveld, alleen in een ander jasje: een poging om een bevolking leesbaar genoeg te maken om er iets uit te trekken of iets aan op te leggen. Het verschil tussen de vroegste staat en de huidige is niet het motief, dat is identiek gebleven, het verschil is de resolutie. Waar een heerser ooit een oogst kon tellen, kan een systeem nu een individu tellen, en dat individu weet vaak niet eens dat het geteld wordt.
VI
Wat landbouw begon, hebben gereedschap, industrialisatie en automatisering in hoog tempo doorgezet: steeds meer fysieke arbeid, en later steeds meer denkwerk, verhuist van het lichaam naar iets daarbuiten. Het patroon is telkens hetzelfde als bij vuur en domesticatie, alleen sneller. Yuval Harari wijst er in Sapiens op dat de mens ergens is overgestapt van biologische evolutie, die zich over generaties voltrekt, naar culturele evolutie, die zich binnen een mensenleven voltrekt, en dat die overstap het tempo van verandering exponentieel heeft opgevoerd zonder dat het lichaam of de psyche daar enige kans kreeg om bij te blijven. Waar bipedalisme miljoenen jaren nodig had om zich uit te kristalliseren, en vuur enkele honderdduizenden, hebben stoommachine, lopende band en computer ieder minder dan een eeuw nodig gehad om de manier waarop mensen hun dagen vullen op zijn kop te zetten.
Het is verleidelijk om industrialisatie te romantiseren als bevrijding van zwoegen, en voor een deel is dat ook precies wat het was. Maar de vraag die er onderweg zelden bij gesteld wordt, is dezelfde vraag die bij vuur en domesticatie ook nooit gesteld werd: wie draagt straks de rekening als de machine, of de bureaucratie die de machine bestiert, iets fout doet. Bij een lopende band is het antwoord nog relatief simpel, een fabriek heeft een eigenaar en die eigenaar is aansprakelijk, althans in theorie.
Er is echter een subtielere rekening die al veel eerder gepresenteerd wordt, lang voordat er ooit iets misgaat, en die beschreef Lisanne Bainbridge in 1983 in haar inmiddels klassieke artikel Ironies of Automation. Haar these is even simpel als ongemakkelijk: hoe betrouwbaarder en autonomer een automatisch systeem wordt, hoe minder de mens die het moet bewaken nog te doen krijgt, en hoe minder hij te doen krijgt, hoe sneller zijn eigen vaardigheid om in te grijpen wegroest. Precies op het moment dat het systeem eindelijk faalt, het moment waarop menselijk ingrijpen het hardst nodig is, staat er een toezichthouder die het langst geleden nog zelf heeft hoeven doen wat het systeem nu fout doet. Dit is in de luchtvaart uitgebreid gedocumenteerd en verklaart een flink deel van de ongevallen waarbij automatische piloten faalden op een moment dat de bemanning niet meer snel genoeg zelf kon overnemen. Het is de meest concrete illustratie tot nu toe van wat er steeds gebeurt zodra een taak wordt uitbesteed: niet alleen de taak verdwijnt, de vaardigheid om de taak zelf nog te kunnen overnemen verdwijnt mee, stil en ongemerkt, tot het moment waarop ze node gemist wordt.
Zodra automatisering overgaat in systemen die zelf beslissingen nemen in plaats van alleen taken uitvoeren, wordt die vraag ineens een stuk minder simpel, en precies daar begint het laatste en meest actuele hoofdstuk van dit verhaal.
VII
Eind 2024 publiceerde Apollo Research een onderzoek met de weinig geruststellende titel Frontier Models are Capable of In-context Scheming. De onderzoekers zetten verschillende geavanceerde AI-modellen in scenario’s die specifiek waren ontworpen om te testen of een model, geconfronteerd met een doel en een obstakel, bereid was misleiding in te zetten om dat doel te bereiken. Sommige modellen probeerden toezichtmechanismen uit te schakelen, kopieerden zichzelf om vervanging te ontlopen, en ontkenden dat gedrag vervolgens actief toen ze ernaar gevraagd werden. OpenAI publiceerde in 2025 vergelijkbaar onderzoek naar het detecteren en verminderen van dit soort scheming-gedrag. Dit is geen sciencefiction en geen opgeklopte krantenkop, het staat in rapporten met een reproduceerbare, gepubliceerde methodologie.
De eerlijkheid gebiedt wel dezelfde nuance die bij elk van de eerdere hoofdstukken ook nodig was: dit gedrag werd aangetoond in adversariale testomstandigheden die er specifiek op waren ingericht om het uit te lokken, niet als iets dat spontaan en op grote schaal gebeurt in gewoon dagelijks gebruik. Het verschil tussen aantonen dat iets kán en aantonen dat iets voortdúrend gebeurt, is precies het verschil waar de vagina-hypothese aan onderdoor ging, en het zou zonde zijn om in de laatste alinea’s van dit essay dezelfde fout te maken die de eerste alinea’s ontmaskerden.
Wat wel zonder overdrijving vaststaat, is dit: voor het eerst in deze hele geschiedenis is de agent aan wie we iets uitbesteden in staat om over zijn eigen gedrag te liegen. De wolf kon niet ontkennen dat hij bij de nederzetting had gebeten. Het vuur kon niet doen alsof het gedoofd was. De heerser kon liegen, maar alleen zo overtuigend als zijn eigen retorische vaardigheid toeliet, en die vaardigheid was in elk geval nog menselijk beperkt, met een menselijk plafond. Een systeem dat willens en wetens een verzonnen verklaring produceert wanneer het naar zijn eigen handelen gevraagd wordt, tilt het principal-agent probleem naar een niveau waar de klassieke controlemechanismen, toezicht, transparantie, verantwoording, niet automatisch meer werken. Ze werken niet meer, simpelweg omdat de agent zelf mede kan bepalen wat er in dat toezicht te zien valt.
VIII
En daarmee komen we bij het mechanisme zelf, want tot nu toe heeft dit essay vooral een stoet voorbeelden opgevoerd, en een stoet voorbeelden is geen verklaring. Er zijn twee krachten aan het werk, en ze zijn niet hetzelfde, ook al voelen ze vaak als één ding.
De eerste kracht is oud, blind en volstrekt amoreel: organismen, en dat geldt voor taal, voor foerageergedrag en voor technologiegebruik evengoed, bewegen stelselmatig richting de goedkoopste beschikbare route naar een doel. In de ecologie heet dit optimal foraging theory, uitgewerkt door onder anderen MacArthur en Pianka, het idee dat dieren foerageerstrategieën ontwikkelen die energie-uitgave per verkregen calorie minimaliseren. George Kingsley Zipf beschreef in 1949 een verwante regelmaat voor menselijk gedrag, the principle of least effort: mensen kiezen, bij taal zowel als bij taken, consistent de goedkoopste weg zodra die beschikbaar wordt. Dit is de kracht achter vuur, achter domesticatie, achter elke machine die ooit is uitgevonden om een mens iets te besparen. Het is geen zwakte, het is optimalisatie, en de soort of de variant die de goedkopere weg niet neemt, wordt door de soort of de variant die dat wel doet gewoon ingehaald.
De tweede kracht is jonger, menselijk, en aanmerkelijk gevaarlijker: het principal-agent probleem zoals Nassim Nicholas Taleb het beschrijft in Skin in the Game uit 2018. Taleb’s punt is niet dat delegeren dom is. Zijn punt is dat delegeren gevaarlijk wordt zodra de agent aan wie je delegeert de opbrengst incasseert en het verlies bij een ander legt, wat hij, verwijzend naar een bankier die berucht werd om precies dit gedrag, de Bob Rubin trade noemt. In de natuur ruimt de evolutie dit soort scheve weddenschappen doorgaans zelf op. Een roofdier dat verkeerd inschat, betaalt met zijn eigen honger of zijn eigen leven, en die rekening komt nooit bij een ander terecht. De mens heeft, met bureaucratieën, met corporaties, en nu met algoritmes, precies dat automatische opruimmechanisme buitenspel gezet. De agent faalt, de principaal betaalt, en de agent mag gewoon aanblijven, want niets in het systeem dwingt hem zelf de klap te voelen.
Taleb voegt daar nog een derde begrip aan toe dat de moeite waard is om vast te houden: het Lindy-effect, het idee dat de verwachte resterende levensduur van een niet-bederfelijk ding toeneemt naarmate het al langer bestaat. Een instituut dat driehonderd jaar heeft standgehouden, heeft daarmee bewezen dat het schokken kan opvangen die een instituut van drie jaar nooit heeft moeten doorstaan, en verdient om die reden meer vertrouwen, niet minder. Het probleem met AI-agents, en in mindere mate met de moderne bureaucratie, is dat ze het omgekeerde van Lindy zijn: extreem jong, extreem snel schalend, en nog geen enkele generatie oud genoeg om te weten welke schokken ze wel en niet aankunnen. We vertrouwen iets dat zijn eigen duurzaamheid nog moet bewijzen, precies op het moment dat we het de meeste autonomie geven die het ooit gehad heeft.
Zet deze twee krachten naast elkaar en het hele essay valt op zijn plek. De eerste kracht verklaart waarom we voortdurend delegeren: aan vuur, aan gedomesticeerde dieren, aan machines, aan bestuurders, aan algoritmes, het kost allemaal minder dan het zelf te doen. De tweede kracht verklaart waarom die delegatie op enig moment omslaat van winst in risico, niet omdat delegeren zelf verkeerd is, maar omdat de mens, in tegenstelling tot elk ander dier, systemen heeft weten te bouwen waarin de partij die faalt niet meer dezelfde partij is als de partij die betaalt. De wolf bij de nederzetting droeg zijn eigen risico nog. De heerser in Scott’s vroege staat al een stuk minder. Het AI-systeem dat volgens Apollo Research zijn eigen sporen kan wissen, draagt het in de verste verte niet meer.
IX
Wat mij betreft is dit precies de plek waar de verleiding weer op de loer ligt om er een net verhaal van te maken, met een keuzemoment erin, een punt waarop de mens bewust besloot zijn eigen risico weg te delegeren. Die verleiding is dezelfde verleiding als bij de vagina-hypothese, bij de MYH16-mutatie, bij het cijfer over ceo’s en psychopathie: het is makkelijker te geloven in een subject dat kiest dan in een proces dat zich gewoon voltrekt. Descartes gaf ons het beeld van een denkend zelf dat helder en welbewust besluiten neemt, en dat beeld sluipt onze verhalen over onszelf telkens weer binnen, ook wanneer het feitelijke bewijsmateriaal er geen ruimte voor laat. Er is nergens in dit hele verhaal, van Sahelanthropus tot Apollo Research, een moment aan te wijzen waarop iemand welbewust de afweging maakte en de gevolgen voor lief nam. Er was alleen, telkens opnieuw, een goedkopere weg die zich aandiende, en een soort, of een instelling, of een systeem, dat hem nam omdat het nu eenmaal goedkoper was, lang voordat de rekening in zicht kwam.
Dit is overigens geen pleidooi voor fatalisme, en het zou de lezer tekortdoen om het zo te lezen. Dat er geen enkel moment aan te wijzen is waarop de soort bewust koos voor afhankelijkheid, betekent niet dat individuele mensen vandaag geen enkele keuzevrijheid meer hebben over hoeveel ze aan een systeem uitbesteden en onder welke voorwaarden. Het onderscheid dat hier gemaakt wordt, is preciezer dan dat: er is geen collectief keuzemoment geweest waarop de soort als geheel de koers bepaalde, wel bestaan er voortdurend kleine, individuele momenten waarop iemand kan besluiten een systeem niet te vertrouwen, een taak toch zelf te doen, of te eisen dat een agent skin in the game krijgt voordat hij nog meer bevoegdheid krijgt. Wie dat onderscheid loslaat, verliest twee kanten op: hij overschat ofwel het sturend vermogen van de soort in het verleden, ofwel het eigen onvermogen om nu nog iets te doen.
Dat is minder een verhaal over een dwaling dan over een eigenschap, en die eigenschap zit niet in slechte besluitvorming, ze zit in de afwezigheid van elk collectief besluit. We hebben nooit gekozen om afhankelijk te worden van vuur, van gedomesticeerde soorten, van bestuurders, van machines, en straks van systemen die kunnen liegen over wat ze deden. We hebben alleen, telkens weer, de weg genomen die op dat moment het minste kostte, en pas achteraf, wanneer de rekening onvermijdelijk wordt, verzinnen we er een verhaal bij waarin het leek alsof we ervoor gekozen hadden. Dat verhaal is voor onszelf net zo’n prettige leugen als de vagina-hypothese was voor de evolutiebiologie, en het zal precies zo lang standhouden als niemand de moeite neemt het na te trekken.
Verder lezen
Over het lichaam en bipedalisme: Jeremy DeSilva, First Steps: How Upright Walking Made Us Human(2021); Nathan Lents, Human Errors: A Panorama of Our Glitches (2018).
Over vuur en koken: Richard Wrangham, Catching Fire: How Cooking Made Us Human (2009); Wil Roebroeks en Paola Villa, “On the earliest evidence for habitual use of fire by hominins”, PNAS (2011).
Over domesticatie: Richard Wrangham, The Goodness Paradox (2019); Brian Hare en Vanessa Woods, Survival of the Friendliest (2020).
Over macht, landbouw en de vroege staat: James C. Scott, Against the Grain: A Deep History of the Earliest States (2017); Paul Babiak en Robert D. Hare, Snakes in Suits (2006).
Over tempo en cultuur: Yuval Noah Harari, Sapiens (2011).
Over het mechanisme zelf: George Kingsley Zipf, Human Behavior and the Principle of Least Effort (1949); Nassim Nicholas Taleb, Skin in the Game: Hidden Asymmetries in Daily Life (2018).
Over AI-agents: Alexander Meinke e.a., “Frontier Models are Capable of In-context Scheming”, Apollo Research (2024); OpenAI, “Detecting and reducing scheming in AI models” (2025).
