AI-woordenboek / Alignment

🏗️ Modellen en training

Alignment (afstemming) is de verzamelnaam voor inspanningen om AI-doelen en -gedrag in lijn te brengen met menselijke intenties en waarden - zodat het model behulpzaam, eerlijk en onschadelijk is, ook in situaties die de makers niet voorzagen. In de praktijk is het een combinatie van trainingstechnieken (zoals RLHF), beveiligingen en robuustheidstests. In het debat over de toekomst van AI betekent alignment ook de bredere vraag: hoe zorgen we dat steeds krachtiger systemen doen wat we echt willen - en niet wat een slecht geformuleerd doel letterlijk voorschrijft.