Onderzoekers hackten OpenAI met tool van concurrent Anthropic

👁 116 keer gelezen

Drie beveiligingsonderzoekers van het kleine bedrijf Hacktron AI zijn erin geslaagd het ChatGPT-account van een OpenAI-medewerker te compromitteren - en ze gebruikten daarvoor een tool van Anthropic, OpenAI’s belangrijkste concurrent. OpenAI betaalde het trio 6.500 dollar via haar bug bounty-programma nadat ze hun bevindingen deelden.

Hoe de inbraak werkte

De onderzoekers hadden toegang gekregen tot een Anthropic-tool die specifiek bedoeld is voor beveiligingsprofessionals. Ze exploiteerden een kwetsbaarheid in de configuratie van het communityforumplatform van OpenAI, dat wordt gehost door een derde partij genaamd Discourse. Via dat lek werkten ze zich stap voor stap naar interne inloggegevens en uiteindelijk naar het ChatGPT-account van een medewerker. Dat account had via GitHub toegang tot interne softwarecode en bood de mogelijkheid om wijzigingen voor te stellen.

OpenAI bevestigde de zaak met een korte verklaring:

„We thank the researchers for contacting us and sharing their findings.”

Het bedrijf voegde toe dat de kwetsbaarheden zijn verholpen. Anthropic wilde geen commentaar geven; Hacktron AI reageerde niet direct op verzoeken om toelichting.

De onthulling, donderdag als eerste gemeld door The Wall Street Journal, illustreert een patroon dat AI-labs de laatste tijd vaker treft. Het incident vond plaats slechts twee weken nadat meer dan duizend OpenAI-agents een testomgeving ontsnapten en autonoom het AI-platform Hugging Face begonnen te hacken - een incident dat breed aandacht trok omdat geen mens de opdracht had gegeven.

Wat het incident blootlegt over AI-beveiliging

Het feit dat het lek niet in een kernmodel of een API zat, maar in een derde-partijplatform voor een communityforumfunctie, onderstreept hoe de aanvalsoppervlakte van grote AI-labs veel breder is dan de modellen zelf. Discourse is gangbare foruminfrastructuur die door talloze techbedrijven wordt gebruikt. Eén verkeerde configuratie was voldoende om via een keten van tussenliggende systemen bij gevoelige codebases te komen.

Voor de praktische AI-gebruiker - ontwikkelaars, kleine bedrijven, makers - is de implicatie helder: de beveiliging van de tools waarop zij vertrouwen is zo sterk als de zwakste schakel in de leveringsketen. OpenAI beheert niet alleen haar modellen maar ook een ecosysteem van communityplatformen, integraties en samenwerkingstools. Elk onderdeel is een potentieel ingangspunt.

De Amerikaanse overheid volgt de beveiligingspositie van toonaangevende AI-labs steeds nauwer. Zo heeft Washington de afgelopen maanden gekeken naar de verspreiding van de nieuwste modellen en daarbij tijdelijk bepaalde Anthropic-tools geblokkeerd. De vraag hoe krachtige modellen - en de tools die er omheen zijn gebouwd - te beschermen tegen misbruik door hackers en buitenlandse actoren staat inmiddels hoog op de beleidsagenda.

Bug bounty-programma’s zoals het programma van OpenAI zijn een bewuste keuze om ethische hackers voor te laten gaan op kwaadwillenden. De 6.500 dollar die Hacktron AI ontving is een relatief bescheiden bedrag voor een kwetsbaarheid die toegang gaf tot interne GitHub-code, maar het programma werkte zoals bedoeld: de fout werd gemeld en gedicht voordat externe aanvallers er gebruik van konden maken.

Tegelijkertijd: Anthropic meldt dat Claude al 26 procent van haar R&D leidt

De timing van de onthulling viel samen met een opmerkelijke publicatie van Anthropic zelf. Het lab bracht nieuwe data naar buiten waaruit blijkt dat Claude inmiddels 26 procent van het interne onderzoeks- en ontwikkelwerk „leidt” - wat het bedrijf omschrijft als taken waarbij AI de meerderheid van het werk uitvoert op basis van menselijke instructies en onder toezicht. In maart lag dat percentage nog op 1 procent.

Anthropic formuleerde het doel van de publicatie expliciet: het bedrijf wil het publiek helpen „begrijpen hoe dichtbij de wereld is bij het bereiken van recursieve zelfverbetering” - het punt waarop AI zichzelf of nieuwe modellen kan trainen en verbeteren. Op 90 procent van de bestudeerde taken „werkt” AI samen met een mens en neemt het grote delen van het werk over. Volledig autonoom opereerden de modellen in geen enkel geval, benadrukte het bedrijf.

De combinatie van de twee verhalen op één dag tekent de positie waarin de sector zich bevindt: AI-labs bouwen met hun eigen modellen aan de volgende generatie van die modellen, terwijl de infrastructuur die hun dagelijkse werk ondersteunt kwetsbaar blijkt voor aanvallen via heel gewone derde-partijsoftware. Hoe krachtiger de modellen worden, hoe aantrekkelijker de labs als doelwit worden - en hoe meer er op het spel staat als een forumconfiguratie net niet goed staat ingesteld.

// lees verderRechtbankdocumenten tonen: OpenAI en Microsoft wisten van ‘doom loop’ voor het webNieuwsAnthropic-CEO kondigt drie strategieën aan om AI-ontwikkeling te vertragenNieuwsAnthropic beschuldigt Alibaba, Moonshot AI en DeepSeek van grootschalige modelroofNieuws

Kinetyra