› Toen AI-onderzoeker Jacob Coxon Anthropic verliet na slechts vier maanden, schreef hij iets op X dat voor opschudding zorgde: "Mensen die AI bouwen geloven echt dat het ons allemaal kan doden voor het einde van het decennium." Dit was geen anonieme tweet.
› Dit was het vertrek van een senior medewerker bij een van de meest prestigieuze AI-bedrijven ter wereld.Nog belangrijker: senior medewerker van Anthropic, Evan Hubinger, gaf Coxon publiekelijk gelijk en voegde eraan toe dat hij persoonlijk de kans op zo'n scenario in de komende tien jaar schat op meer dan 10%.
› Dat is geen risiconiveau waarbij je normaal gesproken een technologie bouwt en wereldwijd uitrolt.Het probleem van de hond en de kernbomProfessor Toby Walsh van de University of New South Wales, een van de toonaangevende AI-onderzoekers, besloot het onderwerp analytisch te benaderen en catalogiseerde vijf scenario's waarin superintelligente AI het einde van onze beschaving zou kunnen betekenen.
› Hij rangschikt ze van meest vaag tot meest concreet - en tegelijkertijd, zo stelt hij, van minst tot meest waarschijnlijk.Het eerste scenario noemt Walsh simpelweg "we zullen het nooit weten".