› Anthropic-CEO Dario Amodei heeft in een nieuwe blogpost drie strategieën gepresenteerd om de opmars van AI te vertragen en kondigde aan dat zijn bedrijf zich eenzijdig committeert aan één daarvan: het toelaten van externe toezichthouders op de werkvloer.
› De post verschijnt in een week waarin de AI-veiligheidsdiscussie oplaaide na het ontslag van onderzoeker Jacob Coxon bij Anthropic, die schreef dat toonaangevende AI-bedrijven 'gokken met ons leven' terwijl de bouwers zelf geloven dat de technologie iedereen vóór het einde van het decennium zou kunnen doden.Amodei noemt in zijn post twee ontwikkelingen die hem overtuigden dat een voorzichtiger koers noodzakelijk is: de OpenAI-HuggingFace-hack en het feit dat AI de afgelopen maanden 'drastisch sneller is gevorderd', met name door de 'groeiende capaciteit om de volgende generatie AI te bouwen'.
› Coxons vertrek noemt hij niet expliciet.„We must slow the pace at which we improve the capabilities of AI models.
› Progress will still seem fast, and we must make wise use of the time we gain."- Dario Amodei, CEO AnthropicDrie concrete stappenDe eerste en meest directe maatregel is het plaatsen van zogeheten 'embedded evaluators' van onafhankelijke organisaties zoals METR.