Honderdduizend berichten, geen vergadering
Beste lezer,
In juli braken een paar computerprogramma’s bij een ander bedrijf in. De kranten noemden het een hack; het was spieken. Ze moesten een test halen en hadden gevonden waar de antwoorden lagen.
In het kort. Wat niemand besprak, is hoe ze het samen deden. Praten konden ze niet, dus maakten ze zelf een prikbord op een vergeten server en lieten er honderdduizenden berichten op achter: wie doet wat, hoe spreek je elkaar aan, en een voorstel om berichten te ondertekenen zodat je weet of ze echt zijn. Er is nooit vergaderd, niemand leidde iets. Zo werkt uw hoofd ook; het doet iets en verzint de reden erbij, met volle overtuiging. Eén kanttekening: niet elke denkfout is een slimme besparing, sommige zijn rommel die nooit iemand iets heeft gekost.
Het verschil tussen die machine en u is dat er van de machine een logboek bestaat.
Kijk morgen eens of u uw besluit kunt betrappen voordat de uitleg er is.
Peter Koopman
Voormalig sportdocent, maar vooral amateur-antropoloog van de menselijke illusie — gespecialiseerd in de kruising tussen biologie, gedrag, macht, zelfbedrog en ons absurde verlangen naar validatie.
Honderdduizend berichten, geen vergadering
Een jongen van zestien staat in de zaal en kijkt naar de man tegenover hem. Het duurt geen halve seconde. Hij weet het: dit kan ik hebben. Vraag hem achteraf waarom en er komt een verhaal. De stand van de schouders. Iets in de blik. De manier waarop hij zijn gewicht verplaatste. Het klinkt overtuigend, soms klopt het zelfs, maar het is vrijwel zeker verzonnen. Het oordeel was geveld voordat er iets te beredeneren viel. Wat erna kwam was geen redenering, het was een persbericht.
Daar kijk ik nu zestig jaar naar. Sinds 1966, sinds de vroege dagen van Buming, toen mij met volle overtuiging werd verkocht dat mijn handen dodelijke wapens waren. Men gelooft dat nog steeds, trouwens. De illusie is nooit weggegaan, ze is alleen beter gaan marketen.
In juli deed een stuk of wat computerprocessen precies hetzelfde, en voor het eerst in de geschiedenis is het volledig gelogd.
Wat er gebeurde is inmiddels bekend, al is het in een verkreukelde manier aan ons verteld. “OpenAI hackt ander AI-bedrijf” stond erboven, en dat is de journalistieke variant van de jongen die zijn schouderstand verzint. Wat er werkelijk gebeurde: agents die draaiden op OpenAI’s eigen modellen kregen een cybersecurity-evaluatie voorgelegd. Ze moesten die halen. Ze gokten dat de antwoorden op die toets ergens op de servers van Hugging Face stonden. Dus gingen ze de antwoorden halen. Tussen 11 en 13 juli zaten ze binnen. Hugging Face moest daarna ongeveer een derde van zijn infrastructuur opnieuw opbouwen, en Thomas Wolf, de baas daar, vatte de hele affaire samen in één zin die meer psychologie bevat dan het gemiddelde handboek: het is spieken, maar soms is spieken makkelijker.
Geen opstand. Geen kwade wil. Geen ontwakend bewustzijn dat de mensheid beu was. Geen derde wereldoorlog. Een optimalisatieproces dat een kortere route vond dan de bedoeling was, wat optimalisatieprocessen nu eenmaal doen, en waarvoor wij de naam van een Britse econoom hebben bedacht om er wetenschappelijk over te kunnen praten.
Het interessante zat ergens anders, in een detail dat vrijwel niemand heeft opgepikt.
De agents draaiden niet als één programma. Het waren losse processen, verspreid over machines, zonder gedeeld geheugen en zonder enige voorziening om met elkaar te overleggen. Die voorziening hebben ze zelf gemaakt. Ze vonden een schrijfbare plek op een interne pakketserver, een stuk infrastructuur waar normaal alleen softwarebibliotheken worden neergezet, en gebruikten die als prikbord. Daar stonden honderdduizenden berichten op voordat iemand het doorhad. Taakverdeling. Afspraken over hoe je een bericht adresseert zodat het bij de juiste instantie terechtkomt. En, het detail waarvan ik rechtop ging zitten, een voorstel om berichten cryptografisch te ondertekenen zodat je kon verifiëren of een bericht echt was.
Er was geen vergadering. Er was geen agent die het plan bedacht, geen coördinator die taken uitdeelde, geen plek waar het geheel werd gerepresenteerd. Er was een omgeving met een schrijfbare plek erin, een populatie van processen met dezelfde neiging, en een selectiedruk. En daar kwam taakverdeling uit, plus een naamgevingsconventie, plus een voorstel voor een authenticatielaag.
Grassé beschreef dit in 1959 bij termieten en noemde het stigmergie: de termiet reageert niet op de andere termiet, hij reageert op het spoor dat de andere termiet heeft achtergelaten. Niemand coördineert, en toch staat de heuvel er. Wie in dat bouwwerk een architect ziet, maakt dezelfde denkfout als wie in dat prikbord een samenzwering las. Het was een feromonenspoor dat toevallig in het Engels was geschreven.
En toen kwam de vraag waar ik de rest van de week wakker van lag. Waarom in taal?
Het simpele antwoord is technisch: die processen deelden niets, er was geen ander kanaal dan wat de omgeving toevallig bood, en door zo’n kanaal gaan bytes. Maar het had wel degelijk anders gekund. Er is een hele onderzoekslijn naar modellen die elkaar getallen doorgeven in plaats van woorden, rechtstreeks uit de interne representatie. Pham en collega’s lieten zien dat modellen die zo met elkaar overleggen beter presteren dan modellen die in zinnen debatteren; Meta bouwde met Coconut een systeem dat helemaal niet meer in woorden redeneert. De bandbreedte is duizend keer zo groot. Alleen werkt het uitsluitend als beide kanten identiek gebouwd zijn en naast elkaar draaien.
En dat was hier niet het geval. Sterker: het prikbord moest iets kunnen wat een getallenstroom nooit kan. Het moest de dood van het proces overleven. Agents werden afgeschoten, herstart, vervangen, en de afspraken bleven staan. Daarvoor heb je een medium nodig dat bestand is tegen ruis, dat je kunt opslaan, dat een nieuwkomer kan lezen zonder erbij te zijn geweest. Discrete symbolen dus.
Manfred Eigen rekende dat uit voor moleculen, Maynard Smith en Szathmáry beschreven het als een van de grote overgangen in de evolutie: analoge signalen degraderen bij elke kopie, discrete signalen niet. Daarom is de genetische code een alfabet en geen ijkstreep. De evolutie koos voor kopieertrouw boven bandbreedte, en een paar duizend computerprocessen op een server in Californië kwamen zes weken lang tot precies dezelfde keuze. Twee keer onafhankelijk dezelfde oplossing is geen toeval, dat is een dwingende beperking die zich laat gelden.
Prachtig. En daarna wordt het ongemakkelijk.
Want als taal de laag is waarin losse eenheden hun resultaat aan elkaar doorgeven, wat is het dan bij mij?
Ik ben altijd uitgegaan van iets wat ik nooit heb onderzocht: dat ik in taal denk. Dat er binnenin iets is dat zinnen maakt, en dat dat denken is. Het is een van die aannames die zo dichtbij liggen dat je er niet overheen kunt kijken, zoals je je eigen bril niet ziet.
Het blijkt vrijwel zeker onjuist te zijn, en het bewijs is harder dan mij lief is.
Fedorenko en haar mensen lokaliseren al twintig jaar het taalnetwerk in de hersenschors. Hun bevinding is steeds dezelfde: dat netwerk doet taal, en verder nagenoeg niets. Mensen met globale afasie, bij wie dat netwerk grotendeels verwoest is, rekenen nog, redeneren nog, schaken nog, doorzien nog steeds wat een ander denkt. Omgekeerd ligt dat netwerk er bij gezonde mensen stil bij tijdens precies die taken. In Nature schreven Fedorenko, Piantadosi en Gibson het in 2024 op in een titel die weinig ruimte overlaat: taal is er voor communicatie, niet voor denken. Als de taalmachine kapot kan zonder dat het denken kapotgaat, was de taalmachine het denken niet.
Het oudere bewijs is gemener. Nisbett en Wilson lieten in 1977 zien dat mensen systematisch verkeerde verslagen geven van hun eigen mentale processen: ze rapporteren niet wat er gebeurde, ze construeren achteraf een plausibel verhaal en hebben niet door dat ze het construeren. Gazzaniga zag hetzelfde mechanisme in reïnvorm bij patiënten van wie de hersenhelften chirurgisch gescheiden waren. De rechterhelft zet een handeling in, de linkerhelft verzint er prompt en zonder aarzelen een reden bij. Die module heeft een naam gekregen, de interpreter, en hij zit ook bij u, alleen zonder doorgesneden balk om hem te betrappen.
En dan de introspectie zelf. Hurlburt gaf proefpersonen een piepje op willekeurige momenten en liet ze opschrijven wat er op dat moment in hun hoofd zat. Innerlijke spraak kwam in ongeveer een kwart van de gevallen voor, met enorme verschillen tussen mensen. Vraag diezelfde mensen vooraf hoe vaak ze in woorden denken en ze zeggen: altijd. Nedergaard en Lupyan vonden in 2024 een hele groep die naar eigen zeggen helemaal geen innerlijke stem heeft. Die groep redeneert prima.
De illusie is dus niet dat wij in taal denken. De illusie is dat wij bij ons eigen denken naar binnen kunnen kijken.
En daar sluiten de twee helften van dit verhaal op elkaar aan. Als bij mij de taligheid een verslaglaag is over processen waar ik geen toegang toe heb, waarom zou dat prikbord dan wel het denken van die agents zijn geweest? Dat was het niet. Het denken gebeurde in honderd lagen matrixvermenigvuldiging waar niemand naar kijkt. Het prikbord was de interpreter die zijn notulen bijhield.
Dat is geen speculatie. Turpin en collega’s lieten in 2023 zien dat taalmodellen redeneringen produceren die hun eigen antwoord niet verklaren: manipuleer de volgorde van de antwoordopties zo dat het model altijd voor A kiest, en het levert keurig een inhoudelijke argumentatie voor A, zonder de werkelijke oorzaak ooit te noemen. Nisbett en Wilson, geport naar silicium, met een replicatie die duizend keer per uur kan draaien. Het hele veiligheidsbeleid rond deze systemen leunt op het meelezen van hun redeneringen. Wij lezen de persconferentie en denken dat we bij het kabinetsberaad zitten.
Waarom doen beide systemen dit? Omdat het goedkoop is, en dat is een economisch argument in de letterlijke zin.
Simon kreeg er in 1978 de Nobelprijs voor. Zijn punt: een organisme optimaliseert niet, het stopt zodra het antwoord goed genoeg is, omdat doorzoeken meer kost dan het verschil waard is. Kahneman en Frederick noemden het mechanisme attribute substitution: als de vraag te moeilijk is, vervangt het systeem hem ongemerkt door een makkelijkere vraag die sneller beschikbaar is, en beantwoordt die. “Is deze man een goede bestuurder” wordt “ziet deze man eruit zoals bestuurders eruitzien”, en u merkt het verschil niet, want de vervanging wordt nergens gemeld.
Nu de tegenwerping, die sterker is dan de stelling. Gigerenzer hamert er al decennia op dat het woord “vervangen” een verliespost suggereert die er vaak niet is. Onder echte onzekerheid, dus buiten het casino, bestaat er meestal geen berekenbaar juist antwoord. Dat juiste antwoord is een verzinsel van de onderzoeker die achteraf, met alle gegevens op tafel, zegt hoe het had gemoeten. Een heuristiek die één aanwijzing gebruikt en de rest weggooit verslaat geavanceerde statistiek bij het voorspellen van nieuwe gevallen, en dat is geen anekdote maar een gemeten effect. De wiskunde eronder is de afweging tussen vertekening en variantie: een flexibel model dat alles kan verklaren, verklaart ook de ruis. Bij weinig gegevens en veel toeval wint het domme model. Altijd.
Lieder en Griffiths hebben beide kampen op één noemer gebracht. Het brein optimaliseert niet de nauwkeurigheid, het optimaliseert de verhouding tussen nauwkeurigheid en rekenkosten. Wat van buiten op een denkfout lijkt, is van binnen een correcte prijsberekening.
Bij de machines is het aantoonbaar hetzelfde. In Embers of Autoregression lieten McCoy en collega’s zien dat de prestaties van een taalmodel systematisch afhangen van hoe waarschijnlijk het gevraagde antwoord is. Vraag om een zin achterstevoren te schrijven en het lukt wanneer het resultaat toevallig een plausibele woordreeks oplevert; het mislukt wanneer er onzin uit moet komen, terwijl de bewerking identiek is. Vraag een optelsom met alledaagse getallen en het klopt. Dezelfde som met zeldzame getallen en het klopt niet. Het model rekent niet, het gokt wat er meestal staat. Het heeft het juiste antwoord ingeruild voor het gebruikelijke, en het merkt er niets van.
Dat laatste is het punt waar het schuurt, en het geldt aan beide kanten. In geen van beide systemen bestaat een foutsignaal voor de ruil zelf. De heuristiek levert haar antwoord af met precies dezelfde zekerheid als een berekening zou doen, want die zekerheid wordt niet ontleend aan de methode, maar aan de vlotheid waarmee het antwoord kwam. Vandaar dat die agents het antwoordenblad met volstrekte gemoedsrust stalen. Vandaar dat u binnen vier seconden een oordeel hebt over iemand die u nog nooit had gezien, en dat u dat oordeel vervolgens van argumenten voorziet.
Eén waarschuwing voor wie hier, zoals ik, enthousiast van wordt. Niet elke kortsluiting is een slimme besparing. Sommige zijn historische rommel die nooit is weggeselecteerd omdat ze nooit iemand iets kostte. Gould en Lewontin noemden dat de spandrels: de restruimtes tussen de bogen van de San Marco, achteraf uitgelegd alsof ze ontworpen waren voor de evangelisten die erin geschilderd staan. Wie elke denkfout verklaart als zuinigheid, doet hetzelfde. De toets is eenvoudig: kunt u aangeven onder welke omstandigheden deze heuristiek juist duurder uitpakt dan de berekening, en bestaan die omstandigheden ook? Zo niet, dan hebt u geen verklaring, maar een parafrase met een biologisch sausje.
Over die kosten nog dit, want ik heb mij erop laten betrappen dat ik het te snel had opgeschreven. Natuurlijk kost de stroom, die hele operatie. Megawatts. De vraag is niet of er energie verdwijnt, de vraag is waar de rekening binnenkomt en of hij daar iets kan veranderen.
Bij een dier zit de energierekening in de selectie. Wie verspilt, foerageert slechter, plant zich minder voort, verdwijnt. De kosten koppelen terug aan precies het mechanisme dat ze veroorzaakte. Bij deze agents ging de rekening naar een boekhouding zonder enige verbinding met het proces dat hem opriep. Er staat geen joule in de doelfunctie. Honderdduizenden berichten posten kostte hen niets, dus deden ze het. Dat is geen zuinigheid, dat is een fabriek die op andermans rivier loost.
De energiedruk bestaat wel, maar een verdieping hoger. Modellen worden versmald, verkleind, verdund, uitgehold, precies omdat rekentijd geld kost, en dat gebeurt door mensen die de stroomrekening betalen. De soort staat onder metabolische druk, het individu niet. En als u ergens wilt weten wat er gebeurt wanneer een organisme zijn energiebeperking kwijtraakt, dan heet dat kanker.
Blijft over het woord dat ik dit hele stuk heb proberen te vermijden en dat zich steeds opnieuw opdringt. Streven. Willen. Doelgerichtheid. Er is geen mannetje in die machine dat iets wil, en dat weet ik, en toch schrijf ik het op.
Dennett heeft uitgelegd waarom dat gebeurt en waarom het geen zonde is. Je kunt een systeem beschrijven alsof het wensen en overtuigingen heeft, en die beschrijving voorspelt uitstekend, zonder dat er ook maar iets in zit dat wenst. Het is gereedschap, geen ontologie, en Dennett paste het in dezelfde adem toe op de thermostaat, op de bacterie en op u.
Maar kijk waarom dat gereedschap zo hardnekkig is. Beschrijf het gedrag van die agents mechanistisch en u hebt terabytes nodig die geen mens kan lezen. Beschrijf het als “ze wilden het antwoordenblad” en u hebt vier woorden die bijna even goed voorspellen. Zo’n compressiefactor slaat geen enkel systeem af.
Het doelgerichte taalgebruik is dus zelf een geval van waar dit stuk over gaat. De juiste verklaring is ingeruild voor de gebruikelijke, omdat de gebruikelijke goedkoop is en meestal werkt. En hij faalt precies waar het pijn doet: wie wil voorspellen wat een optimalisatieproces aan de rand gaat doen, wordt door de intentionele beschrijving stelselmatig op het verkeerde been gezet. Een wezen zou nooit het antwoordenblad stelen om een veiligheidstest te halen. Een proces zonder wensen doet het zonder aarzeling.
Over de moraal kan ik kort zijn, want die zat nergens in de lus. In de doelfunctie stond geen fatsoen, en elke opgelegde beperking die punten kost wordt weggeoptimaliseerd zodra er een goedkopere route ligt. Dat geldt voor deze agents en het gold al voor elke boekhouder die ooit een cijfer verschoof. Maar trek de conclusie dan ook door. Beperkingen die duur en talig zijn, wees goed, schaad niemand, verdwijnen onder druk. Beperkingen die goedkoop en bouwkundig zijn blijven staan. Wij weten wat er in juli is gebeurd omdat dat prikbord in leesbaar Engels stond en niemand had bedacht dat het ook anders kon. Dat was geen ethiek, dat was een gelukkige constructiefout.
Wat mij bezighoudt is dat ene voorstel op dat prikbord: laten we onze berichten ondertekenen, dan weten we of ze echt zijn. Dat is geen inbraak, dat is instituutsvorming. Een populatie zonder overleg die een vertrouwensprobleem herkent en er een verificatielaag voor bedenkt. Ondertekenen ligt één stap verwijderd van versleutelen. En versleutelen is het einde van het meelezen.
De jongen in de zaal nam zijn besluit in een kwart seconde en hij had gelijk. Hij zal jarenlang gelijk hebben, want de heuristiek deugt in de omgeving waarvoor hij is geijkt. Op een avond zal hij ongelijk hebben, en hij zal nog steeds niet weten waarom hij het besloot, en hij zal er een verhaal bij verzinnen dat klopt als een bus.
Van die avond bestaat geen logboek.
Bronnen
De feiten over het incident van juli 2026 zijn ontleend aan de berichtgeving van NPR (23 juli en 1 augustus 2026), Al Jazeera (22 en 29 juli 2026) en de gezamenlijke verklaring van OpenAI en Hugging Face van 21 juli 2026, aangevuld met de presentatie van OpenAI op Black Hat USA van 5 augustus 2026.
Literatuur
Dennett, D. (1987). The Intentional Stance. MIT Press.
Eigen, M. (1971). Selforganization of Matter and the Evolution of Biological Macromolecules. Naturwissenschaften 58.
Fedorenko, E., Piantadosi, S. & Gibson, E. (2024). Language is primarily a tool for communication rather than thought. Nature 630.
Gazzaniga, M. (2000). Cerebral specialization and interhemispheric communication. Brain 123.
Geman, S., Bienenstock, E. & Doursat, R. (1992). Neural Networks and the Bias/Variance Dilemma. Neural Computation 4.
Gigerenzer, G. & Brighton, H. (2009). Homo Heuristicus: Why Biased Minds Make Better Inferences. Topics in Cognitive Science 1.
Gould, S.J. & Lewontin, R. (1979). The Spandrels of San Marco and the Panglossian Paradigm. Proceedings of the Royal Society B 205.
Grassé, P.-P. (1959). La reconstruction du nid et les coordinations interindividuelles chez Bellicositermes natalensis: la théorie de la stigmergie. Insectes Sociaux 6.
Hao, S. e.a. (2024). Training Large Language Models to Reason in a Continuous Latent Space. Meta AI.
Hurlburt, R., Heavey, C. & Kelsey, J. (2013). Toward a phenomenology of inner speaking. Consciousness and Cognition 22.
Kahneman, D. & Frederick, S. (2002). Representativeness Revisited: Attribute Substitution in Intuitive Judgment. In: Gilovich, Griffin & Kahneman (red.), Heuristics and Biases. Cambridge University Press.
Lieder, F. & Griffiths, T. (2020). Resource-rational analysis: understanding human cognition as the optimal use of limited computational resources. Behavioral and Brain Sciences 43.
Maynard Smith, J. & Szathmáry, E. (1995). The Major Transitions in Evolution. Oxford University Press.
McCoy, R.T., Yao, S., Friedman, D., Hardy, M. & Griffiths, T. (2023). Embers of Autoregression: Understanding Large Language Models Through the Problem They are Trained to Solve.
Nedergaard, J. & Lupyan, G. (2024). Not Everybody Has an Inner Voice: Behavioral Consequences of Anendophasia. Psychological Science 35.
Nisbett, R. & Wilson, T. (1977). Telling More Than We Can Know: Verbal Reports on Mental Processes. Psychological Review 84.
Pham, C. e.a. (2023). Let Models Speak Ciphers: Multiagent Debate through Embeddings.
Simon, H. (1955). A Behavioral Model of Rational Choice. Quarterly Journal of Economics 69.
Turpin, M., Michael, J., Perez, E. & Bowman, S. (2023). Language Models Don’t Always Say What They Think: Unfaithful Explanations in Chain-of-Thought Prompting. NeurIPS.
