› MIT Technology Review publiceerde een uitgebreide analyse waaruit blijkt dat de weigeringsmechanismen van AI-modellen inherent probabilistisch zijn.
› Ondanks miljarden dollars aan investeringen kunnen ze nooit een absolute veiligheidsgarantie bieden.Het fundamentele probleem van weigerenHet vertrekpunt ligt in 2021, toen het team van Anthropic het principe formuleerde dat taalmodellen behulpzaam, eerlijk en vooral onschadelijk moeten zijn.
› De regel leek eenvoudig: wanneer een gebruiker vraagt om hulp bij het bouwen van een bom, moet de AI beleefd weigeren.
› Het probleem is dat weigeren niet natuurlijk is voor een model.