› Anthropic heeft dit jaar meerdere pogingen geblokkeerd waarbij gebruikers zijn AI-model Claude inzetten voor onderzoek dat de ontwikkeling van biologische wapens kan ondersteunen.
› Het bedrijf publiceerde een rapport met vijf concrete gevallen, en deed daarmee een zeldzame openbare stap in een debat dat de AI-industrie steeds heviger bezighoudt.Hoe gebruikers de filters omzeildenVolgens het rapport probeerden actoren op verschillende manieren de beveiligingsmaatregelen te omzeilen.
› Ze maakten gebruik van methoden om de aard van hun onderzoek te verdoezelen - Anthropic spreekt van pogingen om het doel te "obfuscate" - en sommigen kwamen uit landen die het bedrijf expliciet uitsluit van toegang tot zijn modellen, waaronder Rusland, China en Iran.
› Een van de meest uitgewerkte gevallen betrof een onderzoeker uit een "niet-ondersteunde regio" die "weken besteedde aan het plannen" van experimenten rondom vogelgriep via Claude.