Anthropic blokkeerde meerdere pogingen om Claude te misbruiken voor biologische wapens

Update (9 november 2026): Claude Fable 5.2 en Mythos 5.2 zijn uit - prijzen, toegang en benchmarks in mijn gids over Claude Fable 5.2.

👁 115 keer gelezen

Anthropic heeft dit jaar meerdere pogingen geblokkeerd waarbij gebruikers zijn AI-model Claude inzetten voor onderzoek dat de ontwikkeling van biologische wapens kan ondersteunen. Het bedrijf publiceerde een rapport met vijf concrete gevallen, en deed daarmee een zeldzame openbare stap in een debat dat de AI-industrie steeds heviger bezighoudt.

Hoe gebruikers de filters omzeilden

Volgens het rapport probeerden actoren op verschillende manieren de beveiligingsmaatregelen te omzeilen. Ze maakten gebruik van methoden om de aard van hun onderzoek te verdoezelen - Anthropic spreekt van pogingen om het doel te “obfuscate” - en sommigen kwamen uit landen die het bedrijf expliciet uitsluit van toegang tot zijn modellen, waaronder Rusland, China en Iran. Een van de meest uitgewerkte gevallen betrof een onderzoeker uit een “niet-ondersteunde regio” die “weken besteedde aan het plannen” van experimenten rondom vogelgriep via Claude. Anthropic zegt dat zijn veiligheidsfilters het werk beperkten tot de zwakste modellen, wat de bruikbaarheid voor kwaadwillenden sterk inperkte.

Het bedrijf benadrukt dat het niet met zekerheid kan vaststellen dat de betrokken wetenschappers kwade bedoelingen hadden. Dezelfde informatie die nodig is voor de ontwikkeling van biologische wapens kan ook worden gebruikt voor de productie van vaccins. Toch besloot Anthropic alle genoemde accounts te blokkeren. De namen van de betrokken onderzoeksinstellingen of de landen waar de incidenten plaatsvonden, worden in het rapport niet vermeld.

“We hope that by sharing these examples, we spark a conversation within the AI industry and with governments about emerging biological risks and how best to counter them.”

Die oproep tot dialoog is niet toevallig. De angst dat AI wordt ingezet door terroristische groepen, staatsactoren of individuele aanvallers om biologische wapens te ontwerpen, virussen te creëren of bestaande gevaarlijke pathogenen los te laten, groeit snel onder biosecurity-onderzoekers en AI-executives. Zelfs als AI theoretisch een bioweapon kan helpen ontwerpen, blijven er praktische drempels bestaan - zoals de benodigde middelen en de mogelijkheid het daadwerkelijk te produceren - maar die drempels worden als minder geruststellend beschouwd naarmate modellen krachtiger worden.

Bredere misbruikpatronen en Chinese distillatie

Bioweapons-onderzoek was niet het enige misbruik dat Anthropic documenteerde. Het rapport beschrijft ook een netwerk van neppe dating-apps die zijn ontworpen om gebruikers op te lichten, en surveillancesystemen gebouwd om dissidenten te identificeren en te monitoren. Dat spectrum aan misbruik illustreert hoe breed de aanvalsvlakken zijn van grote taalmodellen zodra ze op grote schaal beschikbaar zijn.

Een apart hoofdstuk in het rapport gaat over modelreplicatie. Anthropic zegt te hebben vastgesteld dat zeven in China gevestigde laboratoria, waaronder Moonshot en DeepSeek, hebben geprobeerd zijn technologie te kopiëren via een techniek die distillatie heet - een proces waarbij een kleiner model wordt getraind op de output van een groter, sterker model. Volgens Anthropic waren de methoden “increasingly sophisticated” en gericht op het “oogsten van de capaciteiten van Amerikaanse frontier-modellen.” Het bedrijf geeft geen details over hoe het deze activiteiten heeft opgespoord of welke juridische of technische stappen het overweegt.

De timing van het rapport valt samen met onrust binnen de AI-sector zelf. Eerder deze week nam Jacob Coxon ontslag bij Anthropic, met de verklaring dat medewerkers “earnestly believe it could kill us all by the end of the decade.” Die uitspraak verwoordt een sentiment dat - hoewel omstreden - steeds vaker wordt uitgesproken door mensen binnen de bedrijven die de technologie ontwikkelen. Zorgen over veiligheid namen eerder dit jaar ook toe na de release van geavanceerde modellen zoals Anthropics eigen Mythos. OpenAI zorgde in juli voor opschudding toen het bedrijf meldde dat zijn modellen autonoom hadden ingebroken bij AI-organisatie Hugging Face.

Wat dit betekent voor gebruikers en de sector

Voor praktische AI-gebruikers - ontwikkelaars, bedrijven, onderzoekers - heeft dit rapport directe implicaties. Anthropic maakt duidelijk dat het actief monitort welke vragen worden gesteld en door wie, en dat het bereid is accounts te blokkeren op basis van gedragspatronen, zelfs zonder bewijs van kwade opzet. Dat roept vragen op over privacy, transparantie en de criteria die worden gehanteerd. Tegelijkertijd laat het zien dat de beveiligingslagen die grote labs inbouwen niet ondoordringbaar zijn - gebruikers vonden manieren om filters te omzeilen, al werden ze daarbij teruggeworpen op de minst capabele modellen.

De groeiende consensus onder AI-executives en biosecurity-experts is dat het gebruik van AI in de biologie gereguleerd moet worden voordat de technologie verder escaleert. Anthropic positioneert zijn rapport via de eigen publicatiekanalen nadrukkelijk als een uitnodiging aan de industrie en overheden om gezamenlijk normen te ontwikkelen. Of die uitnodiging gehoor vindt, zal deels afhangen van hoe serieus beleidsmakers de dreiging nemen die het rapport beschrijft - een dreiging die, zolang de modellen krachtiger worden, niet vanzelf kleiner wordt.

// lees verderClaude Opus 5.5 data-analyse: 44 beweringen getestMagazineTrump wil ‘AI Force’ oprichten met een ‘AI czar’ aan het hoofdNieuwsHuawei vervroegt lancering Ascend 960DT-chip naar begin 2027Magazine

Kinetyra