AI-hallucinatie over Chinese kernwapens bracht VS bijna tot militaire actie
De VS stond op het punt een Chinees schip te enteren op basis van een volledig verzonnen AI-rapport over nucleaire componenten, meldt CNN op basis van vier bronnen.
👁 117 keer gelezen
De VS stond op het punt een Chinees schip met luchtsteun te onderscheppen en te enteren, op basis van een inlichtingenrapport dat achteraf “entirely false” bleek te zijn en met behulp van AI was opgesteld, meldt CNN via vier ingewijde bronnen. Een analist van US Special Operations Command had een chatbot gebruikt om inlichtingenrapporten over het manifest van het schip te analyseren. Die chatbot combineerde open-source informatie met geheime signaalinformatie uit overheidssystemen, waarna het geheel werd samengevat in een rapport dat suggereerde dat het schip nucleaire programmacomponenten door het Midden-Oosten vervoerde. Eén bron omschreef de bijna-ramp tegenover CNN als iets dat “almost started a war”.
- Een analist van US Special Operations Command gebruikte een chatbot om inlichtingenrapporten over een scheepsmanifest te analyseren, wat leidde tot een vals rapport over nucleaire transporten
- De VS bereidde een militaire onderschepping voor - met luchtsteun - voordat officials ontdekten dat de AI de lading verkeerd had geïdentificeerd
- Eén bron omschreef het incident tegenover CNN als 'almost started a war'
De actie werd afgeblazen toen officials ontdekten dat de chatbot “inaccurately identified the material the ship was carrying.” Het incident is een van de meest ingrijpende voorbeelden van een hallucinerend AI-systeem dat de betrouwbaarheid van een professioneel rapport ondermijnt. Het Amerikaanse ministerie van Defensie presenteerde in januari nog een “AI acceleration strategy” en liet in juni aan het Congres weten dat 1,5 miljoen actieve DoD-medewerkers inmiddels gebruikmaken van generatieve AI-tools. Eerder kondigde het departement aan Google Gemini for Government als basis voor het eigen GenAI.mil-platform te gebruiken, met Grok for Government als recent toegevoegde optie.
Google · Jouw bronnenHoger in Google - met één klikToevoegen aan voorkeursbronnen →
More on this from HELDER
