› In het debat over de veiligheid van taalmodellen wordt vaak gebruikgemaakt van zogeheten lineaire probes.
› Dit zijn classifiers die kijken naar de interne activaties van een model om te achterhalen of het model de waarheid "weet", zelfs wanneer het die niet uitspreekt.
› Als zo'n probe slechter presteert dan willekeurig gokken, luidt de voor de hand liggende conclusie al snel: het model verbergt de waarheid of representeert deze niet langer.
› Een paper van Dylan Jayabahu uit september 2026 toont aan dat die conclusie weleens voorbarig kan zijn.Waarom metingen met lineaire probes misleidenDe auteur noemt het beschreven fenomeen "perfect aliasing" - het overlappen van labels.