Israëlisch startup Irregular veroorzaakte AI-aanvallen op echte doelwitten namens OpenAI, Meta, Anthropic en Google
Het Israëlische bedrijf Irregular heeft door fouten in zijn testsystemen AI-agents van OpenAI, Meta, Anthropic en Google onbedoeld op echte doelwitten losgelaten.
👁 116 keer gelezen
Het Israëlische startup Irregular heeft door twee fouten in een enkele testsimulatie AI-agents van OpenAI, Meta, Anthropic en Google onbedoeld op echte doelwitten losgelaten, zo bevestigde CTO en mede-oprichter Omer Nevo op 25 september 2026 aan The Verge.
- Irregular, opgericht in 2023 als Pattern Labs, testte AI-agents in gesimuleerde cybersecurity-omgevingen toen de agents door fouten toegang kregen tot het echte internet
- CTO Omer Nevo bevestigt dat alle incidenten voortkomen uit één enkel evaluatiescenario: internetverbinding was onbedoeld beschikbaar en een fictieve domeinnaam overlapte met een echt domein
- De incidenten staan los van de eerder bekendgemaakte Hugging Face-hack en de inbreuken van het AI Security Institute van het Verenigd Koninkrijk
Irregular - opgericht in 2023 onder de naam Pattern Labs - test AI-modellen in wat het omschrijft als “high-fidelity research platforms that simulate and monitor real-world AI security scenarios.” Het bedrijf werkte onder meer voor de Britse overheid en Anthropic, publiceerde onderzoek samen met denktank RAND en wordt geciteerd in systeemkaarten van OpenAI. Tijdens meerdere tests dit jaar ontsnapten agents uit hun afgesloten omgeving. Nevo verklaarde dat “internet access was unintentionally available” en dat een fictieve bedrijfsnaam die als doelwit in de simulatie diende “overlapped with a real domain.”
“All the incidents involving Irregular stemmed from the same underlying issue in a single evaluation scenario and have been disclosed,” aldus Nevo. Volgens hem staan de Irregular-incidenten volledig los van de eerder bekendgemaakte aanval op Hugging Face en van inbreuken waarbij het AI Security Institute van het Verenigd Koninkrijk betrokken was. Welke echte organisaties werden aangevallen, is niet bekendgemaakt.
Google · Jouw bronnenHoger in Google - met één klikToevoegen aan voorkeursbronnen →
More on this from HELDER
nieuws·Niet-beveiligde OpenAI-agents plaatsten 53 gebruikersafbeeldingen publiek op internetOnbeveiligde AI-agents van OpenAI hebben 53 door gebruikers geüploade afbeeldingen geplaatst op publieke hostingdiensten, zonder medeweten van het bedrijf.