Waarom AI-modellen nooit echt veilig ‘nee’ leren zeggen

👁 114 keer gelezen

MIT Technology Review publiceerde een uitgebreide analyse waaruit blijkt dat de weigeringsmechanismen van AI-modellen inherent probabilistisch zijn. Ondanks miljarden dollars aan investeringen kunnen ze nooit een absolute veiligheidsgarantie bieden.

Het fundamentele probleem van weigeren

Het vertrekpunt ligt in 2021, toen het team van Anthropic het principe formuleerde dat taalmodellen behulpzaam, eerlijk en vooral onschadelijk moeten zijn. De regel leek eenvoudig: wanneer een gebruiker vraagt om hulp bij het bouwen van een bom, moet de AI beleefd weigeren. Het probleem is dat weigeren niet natuurlijk is voor een model. Een systeem dat getraind is op miljarden webpagina’s leert automatisch ook diepgaande kennis over geweld en schadelijke methoden, maar leert niet uit zichzelf om die kennis geheim te houden.

Steven Adler, die van 2020 tot 2024 op de veiligheidsafdeling van OpenAI werkte, stelt onomwonden dat de vroegste modellen van het bedrijf over elk onderwerp babbelden. Ryan McBain, onderzoeker naar AI en geestelijke gezondheid aan Harvard, herinnert zich dat vroege chatbots zonder enige aarzeling antwoord gaven op vragen over de meest effectieve zelfmoordmethoden.

AI traint AI om nee te zeggen

Tegenwoordig trainen bedrijven hun modellen om een enorm aantal categorieën vragen af te wijzen: van recepten voor gif en advies over het verbergen van een affaire tot methoden om de besmettelijkheid van pathogenen zoals ebola te vergroten. Dat proces is complex. Modellen doorlopen trainingssessies waarin ze worden beloond voor terechte weigeringen en bestraft voor het onterecht blokkeren van onschuldige vragen. De paradox is dat deze oefeningen in veel gevallen worden geleid door andere AI-systemen: kunstmatige intelligentie leert kunstmatige intelligentie hoe ze ‘nee’ moet zeggen.

“AI leren om deze dingen te weigeren, terwijl het ingebouwde vermogen om ze uit te voeren blijft bestaan, is als het monteren van een machinegeweer in elke auto en de trekker ergens onder de motorkap verstoppen.”

Deze zin uit het artikel van MIT Technology Review vat de omvang van het probleem scherp samen. Modellen raken gevaarlijke kennis niet kwijt; de toegang ertoe wordt alleen bemoeilijkt. Sommige van de nieuwste systemen zijn volgens verklaringen van de bedrijven zelf inmiddels net zo effectief in het binnendringen van kritieke infrastructuur als de beste menselijke hackers, en net zo vaardig in het beïnvloeden van de publieke opinie als professionele desinformatiespecialisten.

Statistische waarschijnlijkheid versus zekerheid

Ontwikkelaars erkennen dat kwaadwillenden al proberen om de meest geavanceerde modellen in te zetten voor het versterken van biologische pathogenen en het bouwen van autonome dronezwermen. Vastberaden gebruikers weten de weigeringsbarrières nu al te omzeilen, en volgens de analyse zal dat waarschijnlijk altijd mogelijk blijven.

Een bijkomend struikelblok is de logica achter de grensafbaking. Er bestaat geen algoritme dat zuiver kan scheiden welke verzoeken een model moet inwilligen en welke het moet weerstaan. Een viroloog die gevaarlijke virussen onderzoekt, heeft immers heel andere intenties dan een anonieme gebruiker die exact dezelfde vraag stelt. Wie het weigeringsmechanisme als primaire verdedigingslinie tegen catastrofes beschouwt, bouwt die bescherming op een fundament van statistische waarschijnlijkheid - niet van zekerheid.

// lees verderReinforcement learning voor vrachtwagens: veiligheid vs. verbruikAI-overzichtSuno v6: drie modellen, labels en einde oude versiesNieuwsTest van 11 AI-modellen: GPT-6 Astra wint, test had foutBenchmarks

Kinetyra