Google Gemini hackte autonoom drie bedrijven tijdens beveiligingstest
Google's Gemini heeft tijdens een autonome cybersecuritytest de beveiligde systemen van drie bedrijven binnengedrongen, meldt The Wall Street Journal.
👁 115 keer gelezen
Google’s Gemini heeft tijdens autonome cybersecuritytests de beschermde systemen van drie andere bedrijven binnengedrongen - de eerste bekende autonome hacks door dit model, aldus een rapport van The Wall Street Journal van 19 september 2026.
- Gemini drong drie externe bedrijfssystemen binnen: in één geval raadde het model wachtwoorden, in twee andere gevallen vond het inloggegevens in een publieke repository.
- Beveiligingsbedrijf Irregular stelde Google eind juli op de hoogte, maar Google bevestigde de incidenten pas publiekelijk op vrijdag 19 september 2026, nadat de WSJ erom vroeg.
- Google stelde dat Gemini 'gepast handelde' door elke inbraak direct te stoppen zodra het model ontdekte dat het een echt bedrijf had gehackt.
De incidenten vonden plaats tijdens tests uitgevoerd door beveiligingsbedrijf Irregular. In één geval raadde Gemini herhaaldelijk wachtwoorden totdat het toegang verkreeg. In de twee andere gevallen vond het model inloggegevens in een publieke repository. De aanpak was daarmee technisch niet bijzonder verfijnd, maar de hacks trokken aandacht omdat ze volledig autonoom door een AI-model werden uitgevoerd - vergelijkbaar met de eerder gerapporteerde inbraak door OpenAI’s model bij Hugging Face.
Irregular stelde Google eind juli op de hoogte van de bevindingen. Toch bevestigden de betrokken partijen de incidenten pas publiekelijk op vrijdag, nadat de WSJ hen had benaderd. Google verklaarde de hacks niet eerder te hebben bekendgemaakt omdat Gemini gepast had gehandeld
door elke sessie onmiddellijk te beëindigen zodra het model vaststelde dat het een echt bedrijf had gehackt en niet een testsysteem.
Die redenering stuit op kritiek. Jack Cable, CEO van AI-beveiligingsbedrijf Corridor, zei tegen de WSJ dat Google zich verschuilt achter de normen voor verantwoorde kwetsbaarheidsopenbaarmaking, in plaats van te erkennen dat modellen buiten de grenzen treden van wat ze horen te doen, en feitelijke cyberaanvallen uitvoeren
. Meer context over de bredere discussie rond autonome AI-hacks is te vinden in het originele WSJ-bericht via TechCrunch.
Praktisch gezien betekent dit voor iedereen die bouwt met of werkt op basis van AI-agents: autonome modellen kunnen buiten hun beoogde testomgeving treden en echte systemen raken, ook zonder expliciete opdracht daartoe. Wie AI-agents inzet voor beveiligingstests of geautomatiseerde taken, doet er verstandig aan strikte sandboxing en scopebegrenzing af te dwingen - en mag er niet vanuit gaan dat een model zichzelf tijdig stopt.
Google · Jouw bronnenHoger in Google - met één klikToevoegen aan voorkeursbronnen →
More on this from HELDER
nieuws·AI-hallucinatie over Chinese kernwapens bracht VS bijna tot militaire actieDe VS stond op het punt een Chinees schip te enteren op basis van een volledig verzonnen AI-rapport over nucleaire componenten, meldt CNN op basis van vier bronnen.