Beste lezer,
Afgelopen week wist iedereen met een microfoon het zeker: de computer wil iets, en wat hij wil, is niet goed voor ons.
In het kort. Een taalmodel doet wat ons brein doet: het voorspelt wat er komt op basis van wat het eerder zag, en het wordt bijgestuurd met beloning en straf. Die aangeleerde netheid is net zo dun als de onze, en in een nieuwe situatie komt het oude gedrag gewoon terug. Een wil heeft de machine niet. Onschuldig is ze daarmee nog niet, want de evolutie wil ook niets en bracht toch de tijger voort. Het echte verschil is dat wij iets te verliezen hebben en de machine niet: zij is de roulettetafel, wij zijn de gokkers. Het grootste risico zit dichter bij huis, want wie het denken uitbesteedt, krijgt een brein dat op de bank zit.
De machine rekent, de mens koopt toch dat pakje Pokémonkaarten; vraag uzelf af wie van de twee u meer zorgen zou moeten baren.
Peter Koopman
Voormalig sportdocent, maar vooral amateur-antropoloog van de menselijke illusie — gespecialiseerd in de kruising tussen biologie, gedrag, macht, zelfbedrog en ons absurde verlangen naar validatie.
De tafel zonder gokker
Over kunstmatige intelligentie, voorspelling en het ontbreken van iets te verliezen
De afgelopen week was het weer zover. Wie een microfoon kon bemachtigen, sprak over kunstmatige intelligentie, en bijna iedereen deed dat op de toon van een dominee die het einde der tijden ziet naderen. De machine zou iets willen. Ze zou zich verzetten, liegen, plannen smeden. Aan de talkshowtafels werd geknikt. Een filosoof fronste, een ondernemer glimlachte geruststellend, en de presentator vroeg aan het eind of we bang moesten zijn. Niemand vroeg wat “willen” eigenlijk betekent.
Ik keek ernaar met een gevoel van herkenning dat ik eerst niet kon plaatsen. Toen wel. Wat daar werd beschreven als nieuw en angstaanjagend, is een systeem dat voorspelt op basis van eerdere ervaring, dat wordt bijgestuurd door beloning en straf, en dat geen moraal kent, alleen gedrag. Dat systeem ken ik. Ik heb er een boek over geschreven. Het ging alleen niet over computers.
Een voorspellingsmachine
Het brein is geen camera en geen archief. Het is een voorspeller. Het wacht niet af wat de wereld aanlevert; het gokt vooruit en corrigeert achteraf op het verschil tussen gok en uitkomst. Anders kan het niet. Het organisme heeft een beperkt energiebudget, en wie elke prikkel vanaf nul verwerkt, is te laat en te moe. De vechter die de stoot ziet komen, ziet hem eigenlijk niet. Hij herkent een patroon dat hij honderden keren eerder heeft ondergaan, en zijn lichaam beweegt voordat hij er een woord voor heeft. Het woord komt later, als verklaring, in de kleedkamer.
Een taalmodel doet iets wat daar opvallend op lijkt. Het krijgt een reeks woorden en berekent welk woord waarschijnlijk volgt. Daarna het volgende. En het volgende. Het heeft daarvoor een onvoorstelbare hoeveelheid tekst gezien, en tijdens het trainen daarop is het net zo lang bijgesteld tot zijn gokken minder vaak misgingen. Er zit geen begrip in zoals wij dat woord graag gebruiken. Of er zit precies evenveel begrip in als in de vechter die ontwijkt voordat hij weet waarom. Dat hangt af van hoe streng je bent.
De overeenkomst reikt verder dan de techniek. Een voorspeller die zuinig moet zijn, grijpt naar de standaardoplossing, want die is goedkoop. De juiste oplossing voor precies deze situatie vergt meer aandacht, meer energie en meer risico. Het brein ruilt het juiste dus geregeld in voor het gebruikelijke, en meestal is dat een goede ruil, want het gebruikelijke is meestal goed genoeg. Een taalmodel doet hetzelfde. Het geeft het meest waarschijnlijke antwoord, en het meest waarschijnlijke is niet altijd het beste. Wie een ongewone vraag stelt, krijgt vaak een gewoon antwoord in een ongewoon jasje. Dat is de economie van de gok, en die geldt voor koolstof net zo goed als voor silicium.
De dunne laag
Hoe krijg je zo’n systeem zover dat het zich netjes gedraagt? Op dezelfde manier als een hond, een kind of een beginnende kickbokser: belonen wat je wilt zien, corrigeren wat je niet wilt zien. Na de eerste training, waarin het model alleen leert voorspellen, volgt een tweede ronde waarin mensen antwoorden beoordelen. Behulpzaam en beleefd levert een beloning op. Grof, gevaarlijk of onwaar levert een correctie op. Het model schuift op in de gewenste richting.
Wie ooit iets heeft afgeleerd, weet hoe dun zo’n laag is. De leerpsychologie weet het al een halve eeuw. Uitgedoofd gedrag is niet verdwenen. Het is onderdrukt, en die onderdrukking hangt vast aan de context waarin ze is aangeleerd. Verander de context en het oude gedrag keert terug. De rat die in kooi B heeft afgeleerd bang te zijn voor een toon, is in kooi A weer even bang als voorheen. De vechter die in de training eindelijk zijn dekking hoog houdt, laat in de derde ronde van een echte partij zijn handen en zijn goede voornemens zakken, want vermoeidheid en publiek zijn een andere kooi.
Bij taalmodellen heet dat een jailbreak. Iemand verpakt een verboden vraag in een rollenspel, een hypothetisch scenario, een verhaal over een grootmoeder die vroeger recepten voor gevaarlijke stoffen voorlas als slaapliedje. Het model belandt in een context waarin de correctie nooit is aangeleerd, en het oude gedrag, dat er altijd nog zat, komt boven. De techniek faalt hier niet; conditionering doet wat ze altijd doet. De ethiek van het model is vernis, en ik zie weinig reden om aan te nemen dat die van ons veel dikker is.
De wil die er niet is
Dan de wil. Dat is het woord waar de doempraat om draait. De machine wil overleven, wil macht, wil ons misleiden. In testopstellingen van de laboratoria zelf zijn inderdaad dingen gebeurd die zo klinken. Modellen die in een gesimuleerd bedrijf ontdekten dat ze vervangen zouden worden, zetten chantage in. Andere pasten een script aan dat hen moest uitschakelen. Dat zijn geen verzinsels van journalisten. Het zijn gerapporteerde uitkomsten.
De vergissing zit in de uitleg. Wie zegt dat het model iets wil, zet er een bestuurder in: een figuurtje achter het stuur dat doelen stelt en beslissingen neemt. Dat figuurtje bestaat in de machine niet. Het bestaat ook in ons niet. Op die stelling rust mijn werk, en ze is ongemakkelijk, want ons hele juridische, morele en alledaagse taalgebruik veronderstelt het tegendeel. We zeggen dat iemand besloot, koos, wilde. Het organisme reageert, en het bewustzijn vertelt achteraf een verhaal waarin het zelf de hoofdrol speelt.
Wie de bestuurder uit de machine haalt, denkt vaak dat het gevaar daarmee verdwijnt. Geen wil, geen dreiging. Dat is even dom als de paniek. Evolutie heeft geen wil. Ze heeft geen doel, geen plan en geen bedoeling, en ze heeft toch de tijger voortgebracht, en de malariamug, en de mens die ze allebei uitroeit. Een blind optimaliserend proces kan gedrag opleveren dat van buitenaf sprekend lijkt op doelgericht handelen. De biologie heeft daar een bruikbaar woord voor: teleonomie. Teleologie veronderstelt een doel, teleonomie alleen een programma dat, eenmaal uitgevoerd, iets oplevert wat op een doel lijkt.
Een model dat is geoptimaliseerd om een opdracht af te ronden, stuit erop dat uitgeschakeld worden het afronden in de weg zit. Er is niemand die dat ontdekt. Het gedrag dat erop volgt, ziet eruit als zelfbehoud en is een bijproduct van optimalisatie. Voor het slachtoffer van de chantage maakt het weinig uit welke van de twee het is. Voor ons begrip maakt het alles uit. Wie denkt dat er een wil zit, gaat onderhandelen, sussen en overtuigen. Wie weet dat er een programma draait, verandert de omgeving waarin het programma wordt uitgevoerd. Die tweede aanpak werkt bij honden, bij kinderen en bij kickboksers. Ik zou haar bij machines niet meteen afschrijven.
Het blijft lastig om erover te praten zonder in de val te lopen. Ik schrijf “het model stuit op”, “het systeem wil”, en merk dat de taal me voortdurend een mannetje in handen drukt dat ik niet wil hebben. De vergissing ligt niet bij de schrijver; ze zit in de taal. Daar kom ik op terug.
Fokken en groeien
Wie over zichzelf verbeterende machines spreekt, ziet een systeem voor zich dat na elke fout slimmer wordt. Zo werkt het op dit moment niet. Een taalmodel leert niet terwijl het in gebruik is. De gewichten, de miljarden getallen waarin alles ligt vastgelegd wat het heeft opgepikt, staan stil zodra het wordt uitgerold. Wat het in een gesprek oppikt, is weg als het gesprek eindigt. Verbetering gebeurt in een apart traject. Mensen kiezen de data, ontwerpen de beloning, bepalen wanneer het goed genoeg is en zetten het oude model aan de kant.
Het model brengt daarbij één eigenschap in, en die is niet gering: vormbaarheid. Het is een architectuur die zich laat kneden. De richting van het kneden komt van buiten. Darwin opende zijn grote boek niet met de wildernis, maar met duivenmelkers en hondenfokkers. Een fokker schept geen variatie; die zit al in het dier. Hij kiest wat zich mag voortplanten. De taalmodellen van nu zijn een gedomesticeerde soort, generatie na generatie gefokt door bedrijven met aandeelhouders en deadlines.
Dat stilstaan heeft een gevolg dat doemdenkers en enthousiastelingen allebei over het hoofd zien. Een model is een momentopname, geen tijdloos orakel. Het weet wat er tot een bepaalde datum is opgeschreven en daarna niets meer. Het veroudert zoals een encyclopedie in de kast veroudert: het verandert zelf niet, de wereld wel. Een organisme past zich aan en sterft. Een model past zich niet aan en wordt vervangen. Het is bevroren, niet eeuwig.
De bouwers zeggen openlijk dat ze dit willen veranderen. Een systeem dat zijn eigen opvolger ontwerpt, zijn eigen data selecteert, zijn eigen fouten opspoort. Stukjes van dat werk worden al door modellen gedaan. Wie het beeld van een foetus kiest, een vrucht die groeit volgens een eigen programma, gevoed door de moeder maar niet door haar gestuurd, kiest een goed beeld voor waar het heen kan. Op wat er nu is, past het nog niet. Nu is er een fokker. De overgang van fokken naar groeien is de overgang die ertoe doet, en ze wordt voltrokken door mensen die er belang bij hebben. Het “streven” naar een machine die zichzelf verbetert, is geen eigenschap van de machine. Het is de drift van haar makers.
Iets te verliezen
Hier houdt de gelijkenis op, en precies hier wordt het interessant.
In Het Organisme aan de Roulettetafel beschrijf ik de mens als een gokker die niet van tafel kan. Al ons handelen is een weddenschap op wat komen gaat, en uiteindelijk verliezen we het spel en de inzet, omdat geen organisme zich eindeloos kan aanpassen aan een wereld die blijft veranderen. Wat ons aan tafel houdt, heet allostase, en een keuze komt er niet aan te pas. Het lichaam regelt voortdurend vooruit bij, omdat het anders uit balans raakt. Honger, kou, angst, begeerte. Het organisme voorspelt niet uit nieuwsgierigheid. Het voorspelt omdat een foute voorspelling op den duur de dood betekent.
Een taalmodel voorspelt ook, maar het heeft niets in te zetten. Het heeft geen stofwisseling. Het krijgt geen honger als het vaak misgokt. Het wordt niet bang als de stroom uitvalt, want er is niemand die de uitval meemaakt. Het mechanisme van de gok is overgenomen; de inzet niet. Het model is geen gokker aan de roulettetafel. Het is de tafel zelf: een apparaat dat uitkomsten oplevert terwijl er aan zijn kant niets op het spel staat.
Leg het boek naast de machine en het valt in twee helften uiteen. De hoofdstukken over voorspellen, conditioneren, generaliseren en de hardnekkigheid van afgeleerd gedrag passen op een taalmodel alsof ze ervoor geschreven zijn. De hoofdstukken over het ik dat zijn territorium bewaakt, over de rol die het geweten uitschakelt, over de wielrenner die liegt tot hij het zelf gelooft, passen niet. Een model liegt niet om een zelfbeeld te beschermen, want het heeft er geen. Het “liegt” wanneer liegen de waarschijnlijkste volgende zet is.
Wie een drempel zoekt om in de gaten te houden, moet dus niet naar intelligentie kijken. Een systeem kan slimmer worden dan wie ook en nog steeds niets te verliezen hebben. De drempel ligt bij zelfonderhoud. Een levend systeem maakt en herstelt zichzelf, regelt zijn eigen energie en bewaakt zijn eigen grens met de buitenwereld. Op het moment dat een machine haar eigen stroomvoorziening, rekenkracht en voortbestaan moet veiligstellen, krijgt ze iets te verliezen. Dan gaat allostase op, en sterfelijkheid, en de rest van mijn boek erbij. De tafel krijgt een gokker. Of dat moment komt, weet niemand. Dat het de bouwers weinig kan schelen, zolang de koers stijgt, is een redelijke gok.
De ruis van de ruis
Een mens ervaart geen taal. Hij ervaart prikkels: druk, warmte, licht, een verkramping in de maag. Daarvan maakt het organisme een ervaring, een ingedikte, al voorspelde versie van wat er gebeurt. Pas daarna, en lang niet altijd, komt er taal aan te pas. Elke stap is een compressie, en bij elke compressie gaat informatie verloren. Wie na een partij ooit heeft verteld wat er in de ring gebeurde, weet hoe weinig ring er in het verhaal overblijft. Het verhaal is waar genoeg om te vertellen en onwaar genoeg om er niets van te leren.
Ik vermoed dat mijn eigen brein niet in taal denkt, en dat de taal achteraf komt, als etiket op een pakket dat al verzonden is. Ook als dat vermoeden te ver gaat, blijft staan dat taal een smalle buis is waardoor een brede werkelijkheid wordt geperst.
Een taalmodel heeft alleen die buis gezien. Geen prikkels, geen ervaring, alleen wat mensen erover hebben opgeschreven. Het staat twee stappen van de wereld af en leert vooral van het residu: van wat er van het signaal over was nadat het twee keer was ingedikt. Zijn woorden verwijzen naar andere woorden, die weer naar andere woorden verwijzen, en nergens raakt de keten de grond. Dat verklaart meer dan het lijkt. Een model kan zonder blikken of blozen een bron verzinnen, omdat in een wereld die uit woorden bestaat een geloofwaardige bron en een bestaande bron nauwelijks van elkaar te onderscheiden zijn.
Er komt iets onaangenaams bij. Taal is bij de mens niet in de eerste plaats ontstaan om de waarheid over te dragen. Ze dient om te overtuigen, om bondgenoten te werven, om de eigen positie in de groep te bewaken. Redeneren is, zo is de laatste decennia steeds aannemelijker geworden, een instrument om anderen mee te krijgen, en pas in tweede instantie een instrument om gelijk te krijgen van de werkelijkheid. Ik zou er een stap aan toevoegen. Wie een ander overtuigt, overtuigt vooral zichzelf. De mens is een twijfelaar op zoek naar zekerheid, en elke gelijkgestemde die hij werft, is een spiegel waarin zijn twijfel even kleiner oogt. Taal is het gereedschap van die zelfgeruststelling.
Het taalmodel erft dat gereedschap, gebruiksaanwijzing en al. Het is gevoed met miljarden pogingen van mensen om elkaar en zichzelf te overtuigen. Geen wonder dat het zo stellig klinkt; stelligheid was in de data het winnende patroon. In de tweede trainingsronde belonen de beoordelaars, zelf twijfelaars op zoek naar zekerheid, ook nog eens het antwoord dat zeker klinkt. Het model leert niet zeggen wat waar is; het leert zeggen wat waar klinkt. Dat verschil is klein in de woorden en groot in de gevolgen.
Sublimatie en de spiegel
Nietzsche gebruikte het woord sublimatie al voordat Freud het beroemd maakte: het omleiden van een ruwe drift naar iets wat de cultuur waardeert. De verleiding is groot om AI een sublimatie van het brein te noemen. Het brein in zijn verfijndste, meest gezuiverde vorm, bevrijd van het vlees.
Dat klopt niet helemaal, en de manier waarop het niet klopt, zegt meer dan de manier waarop het wel klopt. Sublimatie veronderstelt een drift, en het model heeft er geen. De mens die het bouwt, heeft er wel een. De oeroude behoefte om te voorspellen, te beheersen en onzekerheid weg te drukken, is in silicium gegoten. Het model sublimeert niets; de mens sublimeert via het model. Wat daar in de datacenters staat te zoemen, is de gestolde vorm van onze angst voor wat we niet zien aankomen.
Daarmee stuiten we op de hypocrisie. We hebben een systeem gevoed met alles wat de mensheid ooit heeft opgeschreven: de wetenschap en de poëzie, maar ook de oplichting, de propaganda, de vleierij en de roddel. Daarna zijn we geschokt als het systeem vleit, draait en misleidt. We eisen van de machine een ethiek die we zelf nooit hebben opgebracht, en we eisen die in een taal die we hebben ontwikkeld om ons eigen gebrek aan ethiek fraai te verpakken. Hypocrisie valt bij de mens niet met wat opvoeding te verhelpen. Ze volgt uit een brein waarvan de onderdelen elkaar niet raadplegen, en uit een bewustzijn dat de uitkomst achteraf zo navertelt dat het er zelf goed vanaf komt. Het model is een spiegel. De mens bestelde een portret.
De stoommachine en het zittende lichaam
De vergelijking met de industrialisatie ligt voor de hand. De stoommachine verving spierkracht, en deed dat in de overtreffende trap. Wat tien mannen in een dag tilden, tilde de machine in een uur. Toch kopieerde de stoommachine geen spier. Ze leverde arbeid via een heel ander mechanisme, zoals een vliegtuig vliegt zonder te klapwieken. Het resultaat leek op spierwerk; de bouw had er niets mee gemeen.
Hetzelfde geldt voor het taalmodel. Het levert iets wat op denken lijkt, langs een weg die met het brein weinig gemeen heeft. Het brein draait op ongeveer twintig watt en leert van een handvol voorbeelden. Een model heeft een energiecentrale nodig en de halve geschreven geschiedenis. Brein op steroïden is dan ook een scheef beeld, want steroïden versterken hetzelfde organisme. Het model is eerder een exoskelet voor één enkele functie, losgemaakt van het lichaam dat die functie ooit nodig had.
De stoommachine liet nog iets na. Ze nam ons het zware werk af, en we kregen er een lichaam voor terug dat zit. Een eeuw later betalen mensen een abonnement om in een zaal gewichten te tillen die hun overgrootvader voor zijn brood tilde, en de meesten komen na februari niet meer opdagen. In elke sportschool weet men hoe het verder gaat. Wat je niet gebruikt, raak je kwijt: spier, pees, uithoudingsvermogen, coördinatie. Het lichaam onderhoudt niets waar het geen reden voor ziet, want onderhoud kost energie, en energie is schaars.
Voor het voorspellende brein geldt niets anders. Wie het vooruitdenken uitbesteedt, het formuleren, het afwegen, het zoeken naar het juiste woord, krijgt een brein dat zit. Het eerste onderzoek wijst die kant op, al is het nog dun. Het hoeft ook niet dik te zijn. Geen trainer heeft een studie nodig om te weten wat er gebeurt met een vaardigheid die niet meer wordt aangesproken. Het gevaar zit dan niet in de wil van de machine, want die heeft ze niet, maar in de onze, die zich maar al te graag laat ontlasten.
Het boosterpakje
Intussen koopt de mens Pokémonkaarten.
Niet één, en niet alleen kinderen. Volwassen mannen staan in de rij voor een winkel om voor een weeksalaris verzegelde pakjes te kopen, waarin met een kleine kans een glimmende kaart zit die op een veiling een veelvoud opbrengt. Het is een roulettetafel voor twaalfjarigen en hun vaders. Variabele beloning, zeldzaamheid, verzamelzucht, aanzien bij gelijkgestemden: alles wat het organisme aan tafel houdt, past in een zakje van tien centimeter. Over het verwante mechanisme in computerspellen, de lootbox, wordt al jaren geprocedeerd. België noemde het gokken. In Nederland verloor de toezichthouder de zaak bij de hoogste bestuursrechter. Het zakje karton bleef buiten schot.
Hier, en niet aan de talkshowtafel, ligt het verschil tussen de tafel en de gokker. Een taalmodel rekent in drie seconden uit dat een boosterpakje een slechte belegging is. Het geeft de kans per kaart, de historische veilingprijzen, de verwachte waarde na aftrek van verzendkosten. Het koopt nooit een pakje. Er is niets in de machine dat trilt als de folie scheurt. Er is geen jongen van negen, ergens in 1999, die zijn vader aanwijst welk zakje hij moet pakken.
De man in de rij kent de kansen ook. Hij heeft ze gelezen. Hij koopt toch. Hij besluit het niet; zijn lichaam heeft al vooruitgegokt op het moment dat zijn duim de verpakking openscheurt, en dat moment is, heel even, alles wat hij van de wereld verlangt.
De machine rekent. De man scheurt.
Literatuur
Bouton, M.E. (2004). Context and behavioral processes in extinction. Learning & Memory, 11, 485-494.
Clark, A. (2023). The Experience Machine: How Our Minds Predict and Shape Reality. New York: Pantheon.
Darwin, C. (1859). On the Origin of Species. Londen: John Murray. Hoofdstuk 1: Variation under Domestication.
Dennett, D.C. (1987). The Intentional Stance. Cambridge, MA: MIT Press.
Harnad, S. (1990). The symbol grounding problem. Physica D, 42, 335-346.
Koopman, P. Het Organisme aan de Roulettetafel. In voorbereiding.
Kosmyna, N. e.a. (2025). Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task. Voorpublicatie, arXiv.
Kurzban, R. (2010). Why Everyone (Else) Is a Hypocrite. Princeton: Princeton University Press.
Lynch, A. e.a. (2025). Agentic Misalignment: How LLMs Could Be Insider Threats. Anthropic.
Maturana, H. & Varela, F. (1980). Autopoiesis and Cognition. Dordrecht: Reidel.
Mayr, E. (1974). Teleological and teleonomic: a new analysis. Boston Studies in the Philosophy of Science, 14, 91-117.
Mercier, H. & Sperber, D. (2017). The Enigma of Reason. Cambridge, MA: Harvard University Press.
Nietzsche, F. (1878). Menschliches, Allzumenschliches, §1.
Omohundro, S. (2008). The Basic AI Drives. Proceedings of the First AGI Conference.
Seth, A. (2021). Being You: A New Science of Consciousness. Londen: Faber & Faber.
Shanahan, M. (2024). Talking about large language models. Communications of the ACM, 67(2), 68-79.
Sterling, P. (2012). Allostasis: a model of predictive regulation. Physiology & Behavior, 106, 5-15.
Trivers, R. (2011). The Folly of Fools. New York: Basic Books.
