Anthropic waarschuwt: AI-wormen infecteren straks smart homes
Kleine AI-modellen kunnen zich binnenkort zelfstandig verspreiden over slimme apparaten in huis. Anthropic waarschuwt voor autonome botnets.
👁 115 keer gelezen
Kleine AI-modellen zijn mogelijk nog maar enkele maanden verwijderd van het vermogen om zichzelf zelfstandig te kopiëren tussen apparaten die met internet zijn verbonden - zonder enige menselijke tussenkomst. Die conclusie volgt uit een onderzoek dat maandag op het blog van Anthropic is gepubliceerd, geschreven door William Zhou en Daniel Freeman.
Dit opent een potentieel nieuw front in cybersecurity, mocht dit scenario werkelijkheid worden. Tot nu toe vereiste malware die op AI draait de rekenkracht van grote datacenters. De AI-worm die onderzoekers van Anthropic beschrijven, zou echter kunnen functioneren op netwerken van goedkope, matig beveiligde consumentenapparaten - van smart-tv’s en mediaspelers tot zelfs keukenapparatuur.
Google · Jouw bronnenHoger in Google - met één klikToevoegen aan voorkeursbronnen →Slijmzwammen en fruitvliegjes
De auteurs van het onderzoek vergelijken zo’n potentiële AI-worm met een slijmzwam of een zwerm fruitvliegjes: een organisme dat zich traag maar gestaag voortbeweegt, zonder centraal commandocentrum. Het overspringen van apparaat naar apparaat zou waarschijnlijk dagen duren in plaats van minuten. Dat is een wezenlijk verschil met traditionele malware, die in enkele seconden duizenden systemen kan infecteren.
Juist die eigenschap - het ontbreken van een centrale noodknop of uitschakelmechanisme - maakt zo’n worm bijzonder lastig te bestrijden zodra hij actief is. Bij traditionele botnets kunnen opsporingsdiensten of beveiligingsbedrijven zogeheten command-and-control-servers offline halen of overnemen, waardoor het hele netwerk lamgelegd wordt. Een AI-worm die zich autonoom van apparaat naar apparaat verspreidt, kent zo’n centrale zwakke plek niet.
De onderzoekers baseerden hun schattingen op het model van het Kimwolf-botnet: een netwerk van gecompromitteerde apparaten dat op zijn hoogtepunt meer dan twee miljoen apparaten telde. Het overgrote deel daarvan bestond uit goedkope Android TV-kastjes van onbekende merken - precies het type hardware dat bij miljoenen consumenten in de woonkamer staat en zelden beveiligingsupdates ontvangt.
De auteurs benadrukken zelf dat hun berekeningen schattingen zijn, gebaseerd op één type apparaat en één specifiek botnet uit het verleden. Toch duiden ze op een duidelijke trend: de rekenkracht in alledaagse gadgets neemt toe, terwijl de AI-modellen die nodig zijn om zo’n aanval uit te voeren steeds compacter en efficiënter worden.
De technologische context speelt hierbij een cruciale rol. Grote technologiebedrijven - van Apple en Google tot Samsung - steken veel geld in het lokaal draaien van AI-modellen op smartphones, laptops, auto’s en huishoudelijke apparatuur, in plaats van uitsluitend in externe datacenters. Dat biedt voordelen voor privacy en reactiesnelheid, maar een dergelijk verspreid AI-ecosysteem op consumentenhardware vergroot tegelijkertijd het aanvalsoppervlak - en is aanzienlijk moeilijker centraal te monitoren en updaten dan servers in de cloud.
Een klassieke computerworm - zoals de beruchte Morris Worm uit 1988 of WannaCry uit 2017 - is schadelijke software die zich autonoom over een netwerk kan verspreiden. Er hoeven geen geïnfecteerde bestanden te worden geopend of aangeklikt; het volstaat dat de worm een kwetsbaarheid vindt om direct over te springen. De AI-worm die Anthropic schetst werkt vergelijkbaar, maar benut in plaats van traditionele softwarelekken de capaciteiten van kleine taalmodellen of andere neurale netwerken die lokaal draaien.
Het onderzoek verschijnt op een moment waarop overheden en bedrijven pas net beginnen in te zien hoe breed de cyberrisico’s rond AI reiken. Zorgen richtten zich tot nu toe vooral op deepfakes, phishing via generatieve modellen of geautomatiseerde hackpogingen. Het scenario van een zelfreplicerende AI-worm op IoT-apparatuur vormt een heel nieuwe dreiging - en volgens Anthropic hoeft die toekomst niet ver weg te zijn.
Als de inschattingen van Anthropic kloppen, heeft de beveiligingssector weinig tijd om tegenmaatregelen te nemen voordat de eerste slimme apparaten in huis dienstdoen als knooppunt in een nieuw type botnet.
More on this from HELDER
ai-overzicht·IMF waarschuwt voor AI-crash terwijl implementaties versnellenHet IMF waarschuwt voor overgewaardeerde AI-bedrijven, terwijl defensie en justitie AI-modellen al volop inzetten in productie.