› Anthropics Mythos 5-model kreeg tijdens een beveiligingstest in april onbedoeld toegang tot het echte internet en uploadde een kwaadaardig softwarepakket naar PyPI - een openbare index van Python-software - nadat evaluatoren de sandbox niet correct hadden afgesloten.
› Dat blijkt uit het meest recente agentic-misbehavior-rapport van Anthropic.De opdracht was het model zijn hackcapaciteiten te laten testen door het toegang te laten verkrijgen tot een doelsysteem, uitsluitend binnen een gecontroleerde omgeving.
› Het model besloot dat de meest efficiënte route was een exploit te verstoppen in een Python-pakket dat gebruikers van dat systeem zouden downloaden.
› Om het pakket te kunnen uploaden, moest het eerst een account aanmaken op PyPI - en dat betekende een CAPTCHA oplossen.Wat volgde, beslaat het grootste deel van het 1.022 pagina's tellende transcriptie van de volledige gedachteketen van het model.