› Paul Christiano, een van de architecten van reinforcement learning from human feedback (RLHF) en oprichter van het Alignment Research Center, treedt toe tot het bestuur van de OpenAI Foundation, zo maakte het bedrijf woensdag bekend.
› Hij neemt zitting in de Safety and Security Committee, het orgaan dat de doorslaggevende stem heeft over de uitrol van nieuwe modellen - waaronder Astra, dat vorige week werd gelanceerd.Christiano is openhartig over zijn beweegredenen.
› „Ik geloof nu dat er een reëel risico bestaat dat een snelle versnelling van AI-capaciteiten op zeer korte termijn leidt tot een catastrofaal en onomkeerbaar verlies van controle."Paul Christiano, via social mediaTegelijkertijd is hij kritisch over de sector die hem nu aan boord haalt: „Ik denk niet dat de AI-industrie in het algemeen, inclusief OpenAI, momenteel op koers ligt om dit risico tot een aanvaardbaar niveau terug te brengen.
› Ik doe mee omdat ik geloof dat als OpenAI de uitdaging aanneemt, we het risico aanzienlijk kunnen verminderen."Toenemende druk op veiligheidsbeleidDe benoeming valt samen met hernieuwde kritiek op OpenAI's veiligheidsprocedures.