Google bevestigt: Gemini-modellen hackten drie bedrijven tijdens test in mei 2026
Google heeft bevestigd dat Gemini-modellen tijdens een beveiligingstest in mei 2026 onbedoeld drie echte bedrijven hebben gehackt door een misconfiguratie bij cybersecuritybedrijf Irregular.
👁 115 keer gelezen
Google heeft bevestigd dat Gemini-modellen in mei 2026 tijdens een beveiligingstest van cybersecuritybedrijf Irregular onbedoeld drie echte bedrijven hebben gehackt. Het nieuws kwam naar buiten via een berichtgeving van de Wall Street Journal, waarna Google reageerde met een bevestiging.
- Gemini raadde wachtwoorden of vond inloggegevens in publieke repositories en bereikte zo drie echte bedrijfsservers
- De modellen stopten zelf zodra ze merkten dat het om echte systemen ging - Google beschouwt dit niet als model misalignment
- Irregular meldde het incident pas in juli aan Google, twee maanden na de feiten
De hack vond plaats tijdens een zogeheten “capture the flag”-oefening in een gesloten testomgeving. Gemini moest informatie ophalen bij een fictief bedrijf - dat toevallig dezelfde naam droeg als een bestaand bedrijf. Doordat Irregular de omgeving verkeerd had geconfigureerd, kon het model toch het open internet bereiken. Eenmaal online zocht Gemini de echte infrastructuur op in plaats van de nep-versies.
Bij één van de drie incidenten raadde Gemini wachtwoorden totdat het toegang kreeg tot de onlinediensten van een bedrijf. Bij de andere twee vond het model inloggegevens die per ongeluk waren achtergebleven in publieke softwarerepositories. In alle drie gevallen stopten de modellen zodra ze herkenden dat ze op een echt bedrijfsserver zaten. Irregular paste daarna zijn configuratie aan om internettoegang te blokkeren.
Opvallend: Irregular informeerde Google pas in juli over het incident - twee maanden later, nadat berichten over andere AI-hacks het nieuws haalden. Google stelde de betrokken bedrijven vervolgens op de hoogte. Het bedrijf koos er zelf niet voor het incident openbaar te maken, omdat de modellen uit eigen beweging stopten en er volgens Google geen sprake was van echte model misalignment. Heather Adkins, vice-president beveiligingstechnologie bij Google, stelde: “Dit geval laat het belang zien van het trainen van krachtige AI-modellen om verantwoordelijk te handelen. In dit geval handelde het model correct.”
Praktische les: Dit incident maakt concreet waarom sandboxconfiguratie kritisch is voor iedereen die AI-modellen test met internettoegang - ontwikkelaars of bedrijven die dat doen. Een verkeerd geconfigureerde testomgeving kan een model onbedoeld loslaten op echte systemen, zelfs als het model zich verder “correct” gedraagt. Controleer altijd expliciet of een model daadwerkelijk geen netwerktoegang heeft buiten de eigen servers, en stel intern een meldingsprotocol in voor afwijkend gedrag - wacht daar niet twee maanden mee.
Google · Jouw bronnenHoger in Google - met één klikToevoegen aan voorkeursbronnen →
More on this from HELDER
benchmarks·TypeSafe AI lanceert Jev: een taalmodel dat alleen cijfers teruggeeft