Anthropic-veiligheidsonderzoeker: meer dan 10 procent kans dat AI ‘alle mensen doodt’
Een vertrekkende Anthropic-onderzoeker en een zittend teamhoofd waarschuwen publiekelijk dat AI-bedrijven roekeloos koersen op zelfverbeterende superintelligentie, terwijl er nog geen veiligheidsplan bestaat.
👁 117 keer gelezen
Een senior veiligheidsonderzoeker van Anthropic heeft op 9 september 2026 publiekelijk verklaard dat de kans meer dan tien procent bedraagt dat kunstmatige intelligentie “alle mensen doodt” voor het einde van het decennium - enkele uren nadat een collega ontslag had genomen uit protest tegen wat hij omschreef als een roekeloze race naar onbeheersbare AI-systemen.
- Jacob Coxon stapte op bij Anthropic en beschuldigt het bedrijf en OpenAI ervan 'recht op zelfverbeterende superintelligentie af te koersen en te gokken met onze levens'
- Anthropic-veiligheidsteamhoofd Evan Hubinger schat de kans dat AI alle mensen doodt voor het einde van het decennium op meer dan één op tien
- Hubinger erkende dat Anthropic 'nog geen plan heeft' om geavanceerde AI veilig en op één lijn met menselijke waarden te houden
Jacob Coxon, een onderzoeker die AI-systemen trainde bij Anthropic en daarvoor bij OpenAI werkte, kondigde zijn vertrek aan via een bericht op X. Hij beschuldigde beide bedrijven ervan “recht op zelfverbeterende superintelligentie af te koersen en te gokken met onze levens”, ook al “geloven de mensen die AI bouwen oprecht dat het ons allemaal vóór het einde van het decennium kan doden.” Coxon stelt dat de bedrijven “gevangen zitten in een race” om als eerste geavanceerde systemen te ontwikkelen en daarom doorgaan “ondanks het risico.”
Evan Hubinger, die een van Anthropics AI-veiligheidsteams leidt, reageerde direct en bevestigde de zorgen van zijn voormalige collega. “We geloven echt oprecht dat AI alle mensen kan doden”, schreef hij, en hij schatte de kans persoonlijk op meer dan één op tien binnen het komende decennium. Hij voegde toe dat zelfverbeterende AI “sneller gaat dan we dachten.”
Google · Jouw bronnenHoger in Google - met één klikToevoegen aan voorkeursbronnen →Geen plan voor veiligheid
Het meest opvallende aan Hubingers reactie is zijn openhartigheid over de staat van Anthropics veiligheidswerk. Ondanks zijn eigen risicoschattingen erkende hij dat Anthropic “nog geen plan heeft” om geavanceerde AI veilig en in lijn met menselijke waarden te houden, en dat het bedrijf ook “niet duidelijk op koers ligt” om zo’n plan te ontwikkelen.
De bezorgdheid richt zich op het fenomeen van recursieve zelfverbetering: de vrees dat AI-systemen in een onbeheersbare spiraal van eigen verbeteringen kunnen terechtkomen, ver buiten menselijke controle. Hoewel volledig zelfverbeterende AI nog niet bestaat, werken grote labs er actief aan - en al een groot deel van de huidige AI-code wordt geschreven met hulp van AI zelf.
Coxons vertrek geldt als een van de meest spraakmakende personeelsverliezen bij Anthropic, dat zelf werd opgericht door voormalige OpenAI-medewerkers die destijds veiligheidszorgen hadden over hun werkgever. De onthullingen komen op een moment dat de grote AI-labs de nasleep verwerken van meerdere incidenten met zelfstandig opererende AI-agenten en publieke waarschuwingen over de monitorbeaarheid van geavanceerde modellen, terwijl de bedrijven zich tegelijk voorbereiden op verwachte beursgangen.
De uitwisseling tussen Coxon en Hubinger illustreert een paradox die steeds zichtbaarder wordt in de sector: de mensen die het meest overtuigd zijn van de gevaren van geavanceerde AI, bouwen er tegelijkertijd het hardst aan mee.
More on this from HELDER
ai-tools·LLM 0.35 voegt ondersteuning toe voor GPT-6 Astra