› Startup Goodfire introduceert een nieuw type monitor voor AI-agents dat niet simpelweg meeleest met wat de agent uitvoert, maar direct meekijkt in de interne berekeningen van het model.
› Het systeem is beschikbaar voor gebruikers van het platform Baseten en blijkt volgens testresultaten aanzienlijk goedkoper dan de traditionele aanpak, met behoud van vergelijkbare effectiviteit.Waarom toezicht op AI-agents nu zo duur isDe gangbare standaard voor de beveiliging van AI-agents is conceptueel eenvoudig, maar in de praktijk peperduur.
› Je laat een tweede model meedraaien dat elke actie van de eerste agent analyseert: elk stuk gegenereerde tekst, elke gelezen instructie en elke API-aanroep.
› Zodra een agent urenlang actief is en de hoeveelheid tekst van meerdere boeken verwerkt, loopt de rekening voor deze controle snel op.