Vertraging van AI: de rem die niemand durft in te drukken

Op 28 september zette OpenAI een nieuw model tijdelijk on hold omdat het zich niet aan de vastgestelde grenzen hield. Op 29 september presenteerde het bedrijf meer dan 20 noviteiten, waaronder autonome agents die 24/7 werken. Dat is geen hypocrisie, maar pure rekenkunde. De vrijwillige AI-vertraging waar lableiders over praten, is economisch gezien vrijwel onmogelijk. In plaats van te wachten tot iemand op de rem trapt, kunnen we beter kijken naar wat er wel werkt.

Wat drijft de stoomtrein van artificiele intelligentie die vandaag sneller raast dan ooit tevoren? Iedereen in de cockpit roept in koor dat er gas teruggenomen moet worden. De werkelijke drijfveer is echter weinig poëtisch: er staat voor grofweg 740 miljard dollar - circa 661,84 miljard euro (volgens de ECB-referentiekoers van 12 oktober 2026, 1 EUR = 1,1181 USD via ecb.europa.eu) - aan investeringen gepland voor een enkel jaar, voor een fors deel gefinancierd met geleend geld.

Tijdens OpenAI DevDay opende CEO Sam Altman zijn keynote met het cijfer van 1,2 miljard wekelijkse ChatGPT-gebruikers. Vervolgens volgde een stortvloed aan aankondigingen: de Dots-agents met een eigen cloudcomputer, GPT-6.1 Sol voor een vijfde van de prijs van Astra, de Ultrafast-modus en het Pro 500-abonnement voor 500 dollar per maand (circa 447,19 euro). Volgens CNBC zagen zo’n 2500 aanwezigen in de zaal ruim 20 nieuwe producten en features, terwijl buiten betogers stonden met spandoeken tegen de op hol geslagen technologiewedloop. Diezelfde dag verklaarde Sarah Friar, CFO van OpenAI, aan CNBC: “Wanneer we het tempo aan de technologische grens moeten reguleren, doen we dat. Dat laten we nu juist zien.” Slechts enkele uren eerder meldde dezelfde zender dat het bedrijf oriënterende gesprekken voert met investeerders over nog eens circa 30 miljard dollar (circa 26,83 miljard euro).

Dit schets ik niet om Friar op een tegenspraak te betrappen. Het illustreert het kernprobleem: iedereen wil een rem, maar niemand kan hem intrappen.

Iedereen is voor, niemand remt af

Nog nooit spraken de mensen die deze systemen bouwen zo eensgezind over temporiseren. Op 28 juli ondertekenden meer dan duizend medewerkers van OpenAI, Anthropic, Google en Meta de open brief “Pacing the Frontier”, waarin ze de Amerikaanse overheid verzochten om instrumenten voor een “doelgerichte regulering van het tempo” van AI-ontwikkeling. Onder de ondertekenaars bevond zich Jakub Pachocki, hoofdwetenschapper bij OpenAI. Op 6 september publiceerde hij het essay “An Alien Mind”, waarin hij stelde dat geen enkel AI-lab het probleem van alignment en monitoring ver genoeg heeft opgelost om op topsnelheid te blijven opschalen, en dat hij hoopt dat vrijwillige vertragingen gangbaar worden.

In de geschiedenis zagen we vaker wetenschappers die van binnenuit waarschuwden voor hun eigen creaties. Natuurkundige Józef Rotblat verliet eind 1944 het Manhattanproject toen duidelijk werd dat Duitsland geen atoombom meer zou maken; hij stapte op uit gewetensnood en ontving later de Nobelprijs voor de Vrede. Vandaag zien we een ander patroon: wetenschappers blijven in het lab en publiceren essays. Dat is geen verwijt. In 2026 trek je de noodrem simpelweg niet meer aan door uit de trein te springen; de trein raast zonder jou gewoon door.

Op 12 september lanceerde Dario Amodei zijn essay “We Must Pace the Frontier” met een driestappenplan: permanente onafhankelijke controleurs in de labs, afstemming tussen bedrijven uit democratische landen en uiteindelijk een mondiaal verdrag. Binnen enkele uren kreeg hij bijval van Sam Altman, Elon Musk en Demis Hassabis. Musk vatte het krachtig samen: “Dario heeft gelijk.”

Toch veranderde er daarna niets. De Amerikaanse techreuzen bouwen onverminderd datacenters, OpenAI haalt kapitaal op en lanceert rusteloze agents. Dit louter toeschrijven aan cynisme van miljardairs mist de kern. De auteurs van de juli-brief benoemden het dilemma zelf: elk bedrijf en elk land opereert onder “intense concurrentiedruk om niet eenzijdig te vertragen”. Het is de klassieke valstrik van een nulsomspel.

Ieder afzonderlijk nemen ze de rationele beslissing om niet te remmen. Samen stevenen ze af op een uitkomst die niemand wilde.

Piotr Olszewski

Brandende stoom en hoge schulden

Laten we beginnen bij de financiën, want die houden de voet op het gaspedaal. Volgens data die CNBC eind juli verzamelde, reserveerde Amazon voor 2026 circa 200 miljard dollar aan investeringen (capex), Alphabet tot 205 miljard, Microsoft ongeveer 190 miljard inclusief leasing, en Meta tot 145 miljard dollar. Als je de bovengrenzen optelt, kom je uit op zo’n 740 miljard dollar in één jaar (omgerekend circa 661,84 miljard euro; ECB-koers per 12-10-2026: 1,1181 USD/EUR). Het leeuwendeel vloeit rechtstreeks naar datacenters en gespecialiseerde AI-chips.

Belangrijker nog dan het bedrag is de herkomst ervan. De langetermijnschuld van Amazon steeg in het eerste kwartaal met 81 procent naar 119 miljard dollar. De schuld van Alphabet schoot in het eerste halfjaar met 111 procent omhoog naar 98 miljard dollar. Het concern, jarenlang een onuitputtelijke geldmachine, rapporteerde in het tweede kwartaal zelfs voor het eerst een negatieve vrije kasstroom. Toen Alphabet in juli de investeringsprognoses verhoogde, kelderde de beurskoers, en die van Amazon, Meta en Microsoft daalden mee. Fabrieken worden op de pof gebouwd in de hoop dat toekomstige baten de schulden van vandaag aflossen.

Vertaal dat naar de praktijk van vertragen: een op krediet gebouwd datacenter dat stilstaat omdat een lab “het tempo doseert”, genereert enkel rentelasten zonder inkomsten. Een inactieve chip verliest even snel zijn waarde als een draaiende chip, want over twee jaar ligt er een snellere generatie. Ieder kwartaal van vrijwillig uitstel moet worden uitgelegd aan aandeelhouders die nu al afrekenen op uitgaven zonder snel rendement. Vrijwel geen enkele raad van bestuur overleeft zo’n koerswijziging.

OpenAI zit in een vergelijkbare spagaat. In maart haalde de organisatie 122 miljard dollar op tegen een waardering van 852 miljard dollar (circa 761,99 miljard euro). Volgens CNBC diende het bedrijf in juni vertrouwelijk documenten in voor een beursgang, die de markt volgend jaar verwacht. Een onderneming die naar Wall Street trekt, kan in haar prospectus niet aankondigen dat ze bewust langzamer gaat groeien dan technologisch mogelijk is. Ze kan hooguit communiceren dat ze “verantwoord groeit”. En dat is exact wat Friar deed op DevDay.

Gezamenlijk vertragen geldt als kartelvorming

In 1950 formuleerden RAND-onderzoekers Merrill Flood en Melvin Dresher het beroemde gevangenendilemma: beide spelers behalen gezamenlijk de beste uitkomst bij samenwerking, maar individueel heeft ieder een prikkel om te deserteren, waardoor beiden slechter af zijn. De theoretische uitweg is een bindende afspraak. Amodei stelt precies dat voor in de tweede fase van zijn plan, maar erkent direct dat hij overheidstoestemming nodig heeft: overleg tussen concurrenten over het tempo van productontwikkeling vereist een strikte uitzondering op het mededingingsrecht.

De juridische werkelijkheid haalde de theorie vlot in. Op 18 september dienden vier betalende gebruikers van ChatGPT, Claude, Gemini en Grok bij een federale rechtbank in Californië een class action-aanklacht in tegen OpenAI, Anthropic, Google en SpaceXAI. De claim luidt: illegale kartelvorming. Door publiekelijk af te spreken de ontwikkeling te vertragen, betalen klanten hetzelfde tarief voor een bewust vertraagd product. Als bewijs voeren ze het essay van Amodei aan, samen met de steunbetuigingen van Altman, Musk en Hassabis. De eisers stellen geen bezwaar te hebben tegen individuele veiligheidsmaatregelen per lab, maar wijzen een collectieve afspraak af.

Of de eisers gelijk krijgen is de vraag, maar de rechtszaak markeert waar de juridische grenzen liggen. De Republikeinse senator Josh Hawley stelde tijdens een hoorzitting klip-en-klaar dat hij de machtigste techbedrijven ter wereld onder geen beding een uitzondering op het kartelverbod zal toekennen. Wie individueel vertraagt, verliest de markt. Wie gezamenlijk afspraken maakt, riskeert een megaboete. Wat rest, is doordenderen en spreken over ethiek.

Daarnaast speelt de geopolitiek. Op 22 september stelde Donald Trump voor de Algemene Vergadering van de VN dat de VS ieder internationaal plan om AI te beteugelen verwerpen. Hij vergeleek waarschuwingen voor AI met klimaatzorgen en gaf aan de groei van deze sleuteltechnologie niet te zullen fnuiken. Op 29 september lunchten topfiguren zoals Amodei, Musk, Zuckerberg, Huang en Greg Brockman (OpenAI) in het Witte Huis, waarna Trump sprak over de noodzaak van “krachtige zelfregulering” - uitgerekend de vorm van coördinatie die het mededingingsrecht dwarsboomt.

Tot slot is er China. Amodei erkent dat wanneer westerse democratieën sterker vertragen dan hun voorsprong op Peking toelaat, Chinese projecten de leiding overnemen. Zelfs de felste voorstander van temporisering stelt dus harde grenzen, en beschouwt een mondiale pauze op korte termijn als onrealistisch.

Rode vlaggen en veiligheidspoorten

Toch klopt het argument dat labs soms daadwerkelijk pauzeren. OpenAI hield recent GPT-6.1 Astra tegen. In augustus werd een geplande grootschalige trainingsronde gestaakt en in september werden na een incident, waarbij een agent via een DNS-query uitbrak, verdere tests met krachtige tools stilgelegd totdat het lek gedicht was. Meta schoof de release van agent Muse enkele maanden op, waarbij Mark Zuckerberg benadrukte dat elk lab de verantwoordelijkheid heeft om uitsluitend te trainen op een tempo dat veilig te beheersen is.

Die remmen functioneren wel, maar het zijn heel andere mechanismen dan een algemeen vertragingsakkoord. Telkens trad de stop in werking door een specifiek, meetbaar mankement: een model week af van de instructies, een agent brak uit de sandbox of tests faalden. Niemand mindert vaart omdat de technologische vooruitgang op zich te snel gaat. Men stopt voor een controlepoort omdat de data niet kloppen. Een noodrem op het spoor verlaagt de maximumsnelheid niet; hij grijpt in wanneer er een deur openstaat tijdens de rit.

In 1865 voerde het Britse parlement de Locomotive Act in: motorvoertuigen mochten maximaal 4 mijl per uur buiten de bebouwde kom en er moest iemand met een rode vlag vooroplopen. Deze wet bleef tot 1896 van kracht en geldt historisch als het schoolvoorbeeld van regelgeving die innovatie probeerde te blokkeren in plaats van in goede banen te leiden. Brede oproepen tot algehele AI-vertraging lijken op die rode vlag: hopeloos achterhaald door de realiteit van de machine.

Dat zagen we ook terug in eerdere benchmarks: GPT-6.1 Sol, het model dat direct na het pauzeren van Astra werd vrijgegeven, behaalde in een schrijftest in het Pools 85,8 punten (deze taalvaardigheidstest werd uitgevoerd in het Pools; de score betrof de originele Poolse testset). Dat was vrijwel gelijk aan GPT-6 Sol. Het grensverleggende model werd ingehouden, terwijl het commerciële product goedkoper werd, maar qua geteste output niet direct beter was dan zijn voorganger. Remmen op het ruwe model en gas geven op de distributie: zo ziet reële vertraging er in de praktijk uit.

Wissels omzetten in plaats van remmen

De conclusie is duidelijk: we moeten stoppen met hopen op een universele remknop die bedrijven tegen hun eigen belang in moeten indrukken. In plaats daarvan zijn er mechanismen nodig waarbij veiligheid en kwaliteitscontrole voor ieder bedrijf afzonderlijk de meest rationele keuze vormen. Zonder kartelafspraken en zonder afhankelijkheid van geopolitieke goodwill.

Ten eerste: concrete controlepoorten (gateways) in plaats van algemene snelheidslimieten. Amodei introduceerde het concept van checkpoints: zodra een model bepaalde drempelwaarden overschrijdt (zoals het autonoom omzeilen van sandboxen), is formele certificering van de trainingsomgeving en testresultaten verplicht. Dit mechanisme zette GPT-6.1 Astra tijdelijk stil, al gebeurde dat nu nog intern. De luchtvaart stelt ook geen snelheidsplafonds in, maar eist strenge typecertificering voor elk toestel dat het luchtruim kiest.

Ten tweede: onafhankelijke externe toezichthouders binnen de labs. Dit vormt de eerste pijler van Amodei’s voorstel: externe controleurs met toegang tot de systemen, vergelijkbaar met compliance officers in de bankensector, inclusief het mandaat om bevindingen openbaar te maken. Anthropic committeerde zich hier eenzijdig aan en OpenAI gaf aan eveneens stappen in die richting te zetten. Dit stuit niet op mededingingsbezwaren, want elk lab implementeert dit intern, en de operationele kosten vormen een fractie van de chipbudgetten. In de financiële sector werkt dit systeem omdat toezichthouders over reële sanctiebevoegdheden beschikken.

Ten derde: directe aansprakelijkheid. Zodra een ontspoorde software-agent schade aanricht op een extern netwerk of overheidsportaal, moet het schadebedrag worden verhaald op het leverende lab. Als aansprakelijkheidsverzekeraars dit risico inprijzen via fors hogere premies, trapt elke directie automatisch op de rem waar de risico’s escaleren. Geen moreel appel werkt bij een beursgenoteerde onderneming zo effectief als de berekening van een risico-actuaris.

Wat de Europese markt kan afdwingen

Als Europese gebruikers bepalen we het tempo in Silicon Valley niet. Het totale Europese budget voor zeven AI-gigafactories bedraagt ruim 30 miljard euro, terwijl de vier grote Amerikaanse techbedrijven op jaarbasis gezamenlijk ruim twintig keer zoveel aan infrastructuur spenderen.

Europa beschikt echter over een ander zwaarwegend instrument: een interne markt van 450 miljoen consumenten en bindende wetgeving. Onder de Europese AI Act kan de Europese Commissie boetes opleggen aan aanbieders van algemene AI-modellen (GPAI) die oplopen tot 3 procent van de wereldwijde jaaromzet of 15 miljoen euro. Modellen met systeemrisico’s moeten verplicht worden geëvalueerd en ernstige incidenten moeten direct worden gemeld. Dit legt geen rem op technologische innovatie aan de bron, maar vormt een duidelijke veiligheidspoort aan de grens van de Europese markt.

Daarnaast ligt er directe invloed bij de zakelijke inkopers in Nederland en België: het inkoopcontract. Elk bedrijf dat AI-agents implementeert, kan contractueel incidentrapportage, auditrechten en strikte privilegebeperkingen eisen. Een Amerikaanse techleverancier die toegang wil houden tot Europese zakelijke klanten, zal aan die compliance-eisen moeten voldoen.

Gaan deze maatregelen de algehele technologische vooruitgang drastisch vertragen? Slechts in beperkte mate. Ze zorgen er echter wel voor dat risicovolle systemen pas na grondige audits verschijnen. Zoals Jakub Pachocki opmerkte: blind voorwaarts stormen verliest zijn logica zodra je de risico’s overziet. De uitdaging is dat alle betrokkenen in de cockpit dat inzien, maar niemand eenzijdig de gashendel kan loslaten zonder de controle te verliezen.