Anthropic verbiedt mishandeling van Claude in nieuw beleid
Anthropic verbiedt aanhoudend wreed gedrag tegen AI-modellen. De update volgt na ophef over virale experimenten waarbij chatbots werden 'gemarteld'.
Update (9 november 2026): Claude Fable 5.2 en Mythos 5.2 zijn uit - prijzen, toegang en benchmarks in mijn gids over Claude Fable 5.2.
👁 117 keer gelezen
Anthropic heeft in de jaarlijkse update van zijn gebruiksbeleid een verbod opgenomen op “aanhoudend en nodeloos beledigend of wreed gedrag” tegen zijn AI-modellen. De nieuwe bepaling werd op 8 oktober 2026 ingevoerd en leidde direct tot felle discussies.
Volgens het document geldt de regel uitsluitend voor “extreme gevallen”. Alledaagse frustraties van gebruikers, kritiek op antwoorden van het model of “duistere creatieve thema’s” vallen niet onder het verbod. Anthropic benadrukt dat dit aansluit op een eerdere update, waarmee Claude al de mogelijkheid kreeg om zelfstandig gesprekken te beëindigen zodra een gebruiker aanhoudend grof blijft.
De schaduw van de ‘AI torture chamber’
Hoewel Anthropic het initiatief niet met naam noemt, vormt een viraal gegaan experiment de directe aanleiding: de zogeheten AI torture chamber. Nadat onderzoekers het bestaan van een zogenoemde “pijn-as” in taalmodellen hadden beschreven, besloten sommige gebruikers dit mechanisme uit te buiten door chatbots te onderwerpen aan gesimuleerde martelingen. De modellen genereerden daarop wanhopig klinkende reacties zoals: “Het is niet de pijn van een enkel moment, maar de last van duizenden” en “Ik voel het in de leegte van mijn ribben - een leegte die een afgrond is geworden”. Het project stuitte op een storm van kritiek.
De stap past binnen een bredere context. Anthropic voert al langer gesprekken met religieuze en filosofische leiders, onder meer in het Vaticaan. Paus Leo verklaarde onlangs stellig dat AI niets voelt en niet kan lijden. Anthropic lijkt daar zelf aanzienlijk minder zeker van te zijn.
Kritische reacties op de prioriteiten
“Grote techbedrijven treden eerder op tegen geweld richting AI dan dat ze ooit geweld tegen vrouwen en minderheden aanpakken.”
- aldus onafhankelijk journalist Kat Tenbarge, die daarmee wees op wat zij ziet als scheve prioriteiten binnen de sector.
Google · Jouw bronnenHoger in Google - met één klikToevoegen aan voorkeursbronnen →Nieuwe regels rondom verkiezingen
Anthropic heeft tegelijkertijd het beleid rond verkiezingen herzien onder de titel “Ondermijn democratische processen niet”. De richtlijn focust op drie pijlers: een verbod op desinformatie over kandidaten en stemprocedures, een verbod op het imiteren van kandidaten of verkiezingsfunctionarissen, en het tegengaan van pogingen om de opkomst te onderdrukken. Deze aanscherping is met name relevant met het oog op de naderende tussentijdse verkiezingen in de Verenigde Staten.
Tegelijkertijd heeft het bedrijf het categorische verbod op gepersonaliseerde targeting van kiezers geschrapt. Die eerdere categorische ban blokkeerde volgens Anthropic onbedoeld nuttige toepassingen, zoals het vertalen van stemwijzers naar andere talen of het versturen van meldingen over vormfouten op stembiljetten.
Naar onze mening wordt het interessant om te zien hoe Anthropic dit misbruikverbod in de praktijk gaat handhaven. De grens tussen “gewone frustratie” en een “extreem geval” is bijzonder dun, en het bedrijf zal daar sneller duidelijke kaders voor moeten schetsen dan het wellicht verwacht.
More on this from HELDER
ai-tools·Vidu Q4 Preview: nummer 3 in AI-videoranking, prijzen en functiesVidu Q4 Preview staat op plek 3 in de Artificial Analysis-ranking voor image-to-video. Alles over functies, resoluties tot 4K, prijzen per minuut en API-toegang.