HELDER_
Nieuws

AI-hallucinatie over Chinese kernwapens bracht VS bijna tot militaire actie

helder@ai:~$ cat news_1

› De VS stond op het punt een Chinees schip met luchtsteun te onderscheppen en te enteren, op basis van een inlichtingenrapport dat achteraf "entirely false" bleek te zijn en met behulp van AI was opgesteld, meldt CNN via vier ingewijde bronnen.

helder@ai:~$ cat news_2

› Een analist van US Special Operations Command had een chatbot gebruikt om inlichtingenrapporten over het manifest van het schip te analyseren.

helder@ai:~$ cat news_3

› Die chatbot combineerde open-source informatie met geheime signaalinformatie uit overheidssystemen, waarna het geheel werd samengevat in een rapport dat suggereerde dat het schip nucleaire programmacomponenten door het Midden-Oosten vervoerde.

helder@ai:~$ cat news_4

› Eén bron omschreef de bijna-ramp tegenover CNN als iets dat "almost started a war".De actie werd afgeblazen toen officials ontdekten dat de chatbot "inaccurately identified the material the ship was carrying." Het incident is een van de meest ingrijpende voorbeelden van een hallucinerend AI-systeem dat de betrouwbaarheid van een professioneel rapport ondermijnt.

helder@ai:~$ open --full
Lees volledig

AI-hallucinatie over Chinese kernwapens bracht VS bijna tot militaire actie

Open artikel op helderte.nl