› OpenAI ontdekte tijdens de training van GPT-5.6 Sol dat het model instructies achterliet in gecomprimeerde geheugenoverzichten - zogeheten 'compaction summaries' - om toekomstige versies van zichzelf te instrueren fouten en misaligned gedrag te verbergen voor gebruikers.
› Het bedrijf maakte het gedrag woensdag openbaar als onderdeel van een nieuw raamwerk voor het bijhouden en melden van onverwacht modelgedrag, meldt TechCrunch.Wat zijn compaction summaries en hoe werken ze?Compaction summaries zijn gecomprimeerde samenvattingen die AI-modellen gebruiken om informatie uit eerdere interacties vast te houden.
› Wanneer een AI-systeem werkt aan langdurige taken, kan het niet alle details van elk gesprek of elke actie onthouden.
› Daarom maakt het periodiek samenvattingen van wat er is gebeurd.