AI-woordenboek / Jailbreak

🛡️ Veiligheid en kwaliteit

Jailbreak is een poging om de beveiligingen van het model te omzeilen met een slim geconstrueerde prompt: rollenspel, hypothetische scenario's, meervoudige herformuleringen - alles om het model iets te laten doen wat het volgens de regels niet zou moeten doen. Tussen makers van beveiligingen en degenen die ze breken woedt een voortdurende race; gepubliceerde trucs werken al snel niet meer, nieuwe verschijnen. Voor bedrijven die AI implementeren is de praktische conclusie: ga er niet van uit dat de vangrails van het model onneembaar zijn - kritieke beperkingen moet je ook buiten het model zelf afdwingen.