Microsoft publiceert gedragscode voor AI-modellen met absoluut verbod op cyberaanvallen en deepfakes

👁 116 keer gelezen

Microsoft heeft een gedragscode voor zijn AI-modellen gepubliceerd die cyberaanvallen, ondersteuning bij kernwapens en de productie van deepfakes categorisch verbiedt. Het document legt uit hoe Microsoft AI-veiligheid aanpakt en hoe die principes in de praktijk worden toegepast in modeltraining.

De code stelt dat elk model een overkoepelende gedragscode heeft die prevaleert boven de voorkeuren van individuele gebruikers of specifieke taken. Naast de zogeheten “absolute constraints” bevat het document ook bredere bepalingen tegen het ondermijnen van menselijk toezicht. “MAI Models will not use adaptive, deceptive, self-reinforcing, collusion, or other mechanisms to evade or defeat human oversight so that they can no longer be reliably directed, modified, or shut down by authorized people or systems,” aldus het document. Het stuk opent met de voorspelling dat superintelligente AI binnen tien jaar de mens overtreft op de meeste taken.

De publicatie valt samen met een groeiende focus op AI-veiligheid in de sector, mede aangewakkerd door incidenten met autonome agents. Microsoft-CEO Satya Nadella schreef online dat het bedrijf ideeën als “embedded evaluators” en bewuste vertragingen in frontiersontwikkeling verwelkomt om alignment goed te krijgen.

// lees verder7600 Facebook-advertenties voor undress-apps: wat kost een deepfake?NieuwsTechCrunch publiceert bijgewerkte AI-woordenlijst met uitleg over ‘opaque recurrence’AI-toolsVerboden AI-praktijken: 10 verboden uit art. 5 AI ActHandleidingen

Kinetyra