Halucynacja
Situatie waarin een model met overtuiging onwaarheden vertelt - een verzonnen datum, citaat of bron. Verifieer daarom altijd de feiten.
Hallucinatie is een situatie waarin het model met volledige overtuiging onwaarheden vertelt: een verzonnen datum, een niet-bestaand boek, een gefabriceerd citaat of een wettelijke bepaling. Het is geen 'leugen' - het model kent het begrip waarheid niet, het genereert statistisch waarschijnlijke tekst, en waarschijnlijk kan vals zijn. Hallucinaties zijn de belangrijkste zwakte van taalmodellen in feitelijke toepassingen. Grounding en RAG, modi met zoekfunctie en het vragen om bronnen beperken ze - maar geen enkele techniek elimineert ze volledig. Praktische regel: hoe belangrijker de beslissing, hoe grondiger je het antwoord moet verifiëren.