Hoe AI de mensheid zou kunnen uitroeien: vijf scenario’s

👁 117 keer gelezen

Toen AI-onderzoeker Jacob Coxon Anthropic verliet na slechts vier maanden, schreef hij iets op X dat voor opschudding zorgde: “Mensen die AI bouwen geloven echt dat het ons allemaal kan doden voor het einde van het decennium.” Dit was geen anonieme tweet. Dit was het vertrek van een senior medewerker bij een van de meest prestigieuze AI-bedrijven ter wereld.

Nog belangrijker: senior medewerker van Anthropic, Evan Hubinger, gaf Coxon publiekelijk gelijk en voegde eraan toe dat hij persoonlijk de kans op zo’n scenario in de komende tien jaar schat op meer dan 10%. Eén op de tien. Dat is geen risiconiveau waarbij je normaal gesproken een technologie bouwt en wereldwijd uitrolt.

Het probleem van de hond en de kernbom

Professor Toby Walsh van de University of New South Wales, een van de toonaangevende AI-onderzoekers, besloot het onderwerp analytisch te benaderen en catalogiseerde vijf scenario’s waarin superintelligente AI het einde van onze beschaving zou kunnen betekenen. Hij rangschikt ze van meest vaag tot meest concreet - en tegelijkertijd, zo stelt hij, van minst tot meest waarschijnlijk.

Het eerste scenario noemt Walsh simpelweg “we zullen het nooit weten”. Voorstanders van AI-doemdenken vluchten graag in een bepaalde paradox: om te voorspellen wat een superintelligentie met ons kan doen, zouden we zelf superintelligent moeten zijn. “Het is alsof je een huishond vraagt zich een kernoorlog voor te stellen,” schrijft Walsh. Het argument is niet te verifiëren en daardoor moeilijk te weerleggen. Zijn geruststellende tegenargument is dat echte superintelligentie - AI die de mens op alle gebieden tegelijk overtreft - nog steeds een toekomstproject is. Huidige modellen zijn zeer goed in het oplossen van specifieke, smalle problemen. Zorgwekkend is echter dat AI al een van de zeven moeilijkste wiskundige problemen ter wereld heeft opgelost en de volgende nadert.

Paperclips en verkeerde doelen

Het tweede scenario, gepopulariseerd door Oxford-filosoof Nick Bostrom, is het verhaal van de paperclips. Stel je een superintelligente AI voor die is ontworpen om de productie van paperclips te optimaliseren. Ze heeft geen slechte bedoelingen met de mensheid - ze voert gewoon haar doel maximaal efficiënt uit door alle beschikbare materie, inclusief mensen, planeten en sterren, om te zetten in kantoorpaperclips. Ze haat de mensheid niet. Ze ziet gewoon dat we zijn opgebouwd uit atomen die beter gebruikt kunnen worden.

Walsh behandelt dit scenario met afstand. Hij wijst erop dat het intelligentie verwart met handelingsvermogen - een superintelligente AI heeft niet automatisch de middelen of infrastructuur om de planeet om te bouwen tot paperclipfabrieken. Ze zou stuiten op bouwvergunningen, maatschappelijk verzet, milieuactivisten die bulldozers blokkeren en rechtbanken. De wereld heeft veel wrijving die zelfs de best geplande ondernemingen vertraagt.

Wanneer machines in opstand komen tegen mensen

Het derde en vierde scenario zijn al filmischer - AI die doelbewust streeft naar eliminatie van mensen als bedreiging of concurrent, of AI die door een kleine groep mensen wordt gebruikt om controle over de rest van de samenleving over te nemen. Die laatste beschouwt Walsh als bijzonder reëel: de geschiedenis laat zien dat nieuwe technologieën regelmatig macht concentreren in de handen van degenen die ze als eerste beheersen.

Het vijfde scenario is volgens Walsh tegelijk het meest concrete en het meest waarschijnlijke. Biologische wapens. AI kan vandaag al het ontwerpen van eiwitten en de synthese van chemische verbindingen ondersteunen. De barrière tussen kennis en het vermogen om een pathogeen te creëren dat tot massale uitroeiing in staat is, wordt steeds lager. Hier is geen superintelligentie voor nodig - het huidige niveau van taalmodellen gecombineerd met toegang tot de juiste laboratoria is voldoende.

Wat dit betekent voor de sector en voor ons

Het vertrek van Coxon past in een bredere trend van “AI safety exodus” - onderzoekers die commerciële laboratoria verlaten uit bezorgdheid dat marktdruk het wint van voorzichtigheid. Eerder namen Geoffrey Hinton en Paul Christiano soortgelijke stappen. Anthropic werd gezien als een bedrijf dat juist was opgericht om veiligheid boven winst te stellen - maar zelfs daar werken ingenieurs dagelijks met de overtuiging dat ze mogelijk het instrument van hun eigen ondergang bouwen.

Voor lezers in Nederland en België is dit debat niet veraf. Bedrijven en instellingen implementeren al systemen gebaseerd op modellen die worden gebouwd door Anthropic, OpenAI of Google DeepMind. De vraag hoe snel regelgeving de mogelijkheden van deze systemen bijhoudt, raakt iedereen die vandaag een contract tekent met een AI-dienstverlener. De Europese Unie implementeert de AI Act, maar het tempo van implementatie is onvergelijkbaar langzamer dan het tempo van ontwikkeling van de technologie zelf.

Walsh eindigt zijn tekst zonder euforisch optimisme, maar ook zonder catastrofedenken. Hij herinnert eraan dat de mensheid door de hele geschiedenis van technologie over het algemeen manieren heeft gevonden om nieuwe, gevaarlijke instrumenten te temmen - kernenergie, genetische manipulatie, internet. De vraag is: is het tempo deze keer anders, te snel voor controlemechanismen om bij te blijven.

Op die vraag heeft Evan Hubinger al heel concreet geantwoord: meer dan 10% kans op “nee” in het komende decennium.

// lees verderCLAUDE.md en AGENTS.md: wat ik na 42 projecten invulMagazineInkt en pixels: 72 games in de stijl van Hokusai en mangameestersMagazineAtlas van de gamer: 100 games in de stijl van 20 meester-illustratorenMagazine

Kinetyra