NSA, CISA en FBI beschuldigen zes Chinese AI-bedrijven van grootschalige modeldiefstal
De NSA, CISA en FBI beschuldigen zes Chinese AI-bedrijven - waaronder DeepSeek, Alibaba en Moonshot AI - van industriële distillatie van Amerikaanse frontiermodellen zoals Claude, GPT, Gemini en Grok.
👁 123 keer gelezen
De Amerikaanse NSA, CISA en FBI beschuldigen zes Chinese AI-bedrijven - DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun en Z.AI - van grootschalige diefstal van capabilities uit Amerikaanse frontiermodellen, zo blijkt uit een gezamenlijke verklaring die dinsdag werd gepubliceerd. De bedrijven zouden al sinds ten minste eind 2024 actief zijn en handelden waarschijnlijk met medeweten van de Chinese overheid, aldus de agencies.
- NSA, CISA en FBI noemen zes Chinese bedrijven - DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun en Z.AI - die Amerikaanse frontiermodellen zouden distilleren sinds ten minste eind 2024.
- De aanvalsmethoden omvatten het massaal aanmaken van nep-accounts voor API-queries van duizenden tot miljoenen verzoeken per domein, plus prompt-injecties om verborgen chain-of-thought-redenering bloot te leggen.
- Als tegenmaatregelen raden de agencies aan om identiteitsverificatie te verscherpen, verdachte abonnementen te flaggen en modelantwoorden te versimpelen - wat legitieme gebruikers kan raken.
De aanvallen richten zich op varianten van Claude, GPT, Gemini en Grok. Volgens de verklaring leveren dergelijke praktijken de Chinese partijen aanzienlijke voordelen op: China-based AI companies that conduct industrial-scale distillation against US AI models see significantly shorter AI development timelines and reduced financial expenditures in training a frontier model.
De beschreven methoden zijn concreet en technisch. Aanvallers kopen in bulk nep-accounts via een grijze markt van proxies om geografische beperkingen te omzeilen. Die accounts sturen vervolgens sterk gecoördineerde queries - identiek of vrijwel identiek qua prompttekst - met volumes die lopen van duizenden tot miljoenen per domein. Dat onderscheidt ze duidelijk van legitiem onderzoeksgebruik, stellen de agencies. Een tweede methode is prompt-injectie om modellen te jailbreaken. Als voorbeeld noemen de agencies DeepSeek, dat instructies gebruikte om modellen hun interne chain-of-thought-redenering stap voor stap te laten uitschrijven.
De aanbevolen tegenmaatregelen zijn ingrijpend. AI-bedrijven wordt gevraagd identiteitsverificatie te versterken, enterprise-abonnementen nauwer te monitoren op verdachte gebruikspatronen en nieuwe accounts die direct het maximale gebruik bereiken te markeren. Ook moeten modelantwoorden worden versimpeld - een maatregel die de agencies zelf erkennen mogelijk ook legitieme gebruikers te raken.
Praktisch gevolg voor dagelijkse AI-gebruikers en bouwers: wie werkt met API-abonnementen of enterprise-licenties van grote Amerikaanse modellen, kan te maken krijgen met strengere accountverificatie, gebruikslimieten en mogelijk minder gedetailleerde modeloutput. Die veranderingen zijn een direct gevolg van de aanbevelingen die de Amerikaanse overheid nu richting aanbieders stuurt.
Google · Jouw bronnenHoger in Google - met één klikToevoegen aan voorkeursbronnen →
More on this from HELDER
nieuws·Man klaagt OpenAI aan nadat ChatGPT zijn waanidee versterkte dat hij Jezus was