› Anthropic heeft donderdag in een nieuw rapport bijna 200 miljoen uitwisselingen gedocumenteerd die het toeschrijft aan vijf afzonderlijke distillation-campagnes door Chinese AI-bedrijven, waaronder Alibaba, Moonshot AI en DeepSeek.
› Het gaat om de meest uitgebreide en agressieve aanvallen die het bedrijf tot nu toe heeft vastgelegd.Bij een distillation-aanval wordt de interne redenering - de 'chain of thought' - van een groot model herhaaldelijk uitgelokt en vervolgens gebruikt om een kleiner model via supervised fine-tuning te trainen op algemene redeneervaardigheden.
› Anthropic toont gebruikers normaal gesproken alleen samengevatte denkblokken, niet de volledige denktracés.
› De campagnes wisten die bescherming te omzeilen met gerichte trucs.