25 Fields-medaillewinnaars eisen erkenning na conflict met OpenAI over wiskundebewijzen
Vijfentwintig Fields-medaillewinnaars hebben een open brief ondertekend waarin ze AI-labs beschuldigen van het bedreigen van hun intellectuele werk door in een race naar wiskundebewijzen attributie en verificatie te omzeilen.
👁 119 keer gelezen
Vijfentwintig wiskundigen - elk bekroond met de Fields-medaille, de meest prestigieuze prijs in de wiskunde - hebben een open brief ondertekend waarin ze stellen dat AI-labs hun intellectueel werk bedreigen door wiskundebewijzen te publiceren zonder gedegen verificatie of correcte bronvermelding.
- 25 Fields-medaillewinnaars ondertekenden een open brief tegen de werkwijze van AI-labs bij het publiceren van wiskundebewijzen
- NYU-professor Tristan Buckmaster beschuldigt OpenAI van druk om een medewerker van Anthropic niet te vermelden als co-auteur van een bewijs
- OpenAI trok zijn sponsoring terug van een wiskundeevenement aan CalTech na kritiek van onderzoekers aldaar
Het conflict spitste zich deze week toe toen NYU-professor Tristan Buckmaster OpenAI ervan beschuldigde hem onder druk te hebben gezet om een medewerker van Anthropic niet te vermelden als medeauteur van een belangrijk bewijs. Buckmaster uitte ook het vermoeden dat OpenAI zijn Codex-gebruik had ingezet om een eigen baanbrekend bewijs te produceren. Op donderdag trok OpenAI zijn sponsoring in van een wiskundeevenement aan CalTech, nadat onderzoekers van die universiteit het bedrijf publiekelijk hadden bekritiseerd. Het bewijs van OpenAI is tot nu toe niet geverifieerd.
In de brief schrijven de ondertekenaars: “Vaak worden deze oplossingen overhaast aangekondigd, waardoor er geen tijd is voor een gedegen uitwerking, de isolatie van nieuwe methoden en ideeën, en het citeren van relevant eerder werk van anderen.” De brief volgt op de Leiden Declaration, die een werkgroep van wiskundigen al in juni publiceerde met aanbevelingen voor wiskundigen, instellingen en beleidsmakers over de gevolgen van LLM-bewijzen voor hun vakgebied.
Waarom zijn wiskundigen bezorgd over AI-gegenereerde bewijzen
De Fields-medaille wordt beschouwd als de Nobelprijs van de wiskunde en wordt slechts eens per vier jaar uitgereikt aan maximaal vier wiskundigen. Dat vijfentwintig van deze topwiskundigen gezamenlijk een brief ondertekenen, onderstreept de ernst van de situatie. Hun bezorgdheid richt zich op meerdere aspecten van hoe AI-bedrijven omgaan met wiskundige doorbraken.
Ten eerste gaat het om verificatie. In de wiskunde moet elk bewijs grondig worden gecontroleerd door vakgenoten voordat het als geldig wordt beschouwd. Dit proces kan maanden of zelfs jaren duren. AI-labs kondigen echter soms bewijzen aan voordat deze controle heeft plaatsgevonden, wat kan leiden tot verwarring en valse claims in het wetenschappelijke veld.
Ten tweede speelt bronvermelding een cruciale rol. Wiskundige doorbraken bouwen vrijwel altijd voort op eerder werk van anderen. Correcte citering is niet alleen een kwestie van academische eerlijkheid, maar ook essentieel om te begrijpen hoe een bewijs tot stand is gekomen en welke methoden zijn gebruikt. Wanneer AI-systemen bewijzen genereren zonder duidelijk te maken welke bestaande wiskundige inzichten zijn gebruikt, ondermijnt dit de wetenschappelijke integriteit.
Het conflict tussen OpenAI en de academische wereld
De situatie escaleerde toen professor Tristan Buckmaster van NYU naar buiten trad met beschuldigingen aan het adres van OpenAI. Volgens Buckmaster probeerde het bedrijf hem te beïnvloeden om een medewerker van concurrent Anthropic niet te vermelden als medeauteur van een belangrijk wiskundig bewijs. Dit soort druk is in strijd met de academische normen, waarin transparantie over auteurschap centraal staat.
Daarnaast vermoedt Buckmaster dat OpenAI zijn Codex-technologie heeft gebruikt om een eigen bewijs te produceren. Codex is een AI-systeem dat code kan genereren en ook wiskundige problemen kan aanpakken. Het probleem is dat het bewijs dat OpenAI claimt nog niet is geverifieerd door onafhankelijke wiskundigen, terwijl het bedrijf het wel al publiekelijk heeft aangekondigd.
De spanning liep verder op toen OpenAI zijn sponsoring introk van een wiskundeevenement aan CalTech. Deze stap volgde nadat onderzoekers van die universiteit het bedrijf publiekelijk hadden bekritiseerd. Voor veel academici is dit een zorgwekkend signaal dat AI-bedrijven financiële druk kunnen uitoefenen op universiteiten die kritisch zijn.
De bredere context: LLM-bewijzen en de Leiden Declaration
De open brief van de Fields-medaillewinnaars staat niet op zichzelf. In juni publiceerde een werkgroep van wiskundigen al de Leiden Declaration, een document met aanbevelingen over hoe de wiskundige gemeenschap moet omgaan met bewijzen die door large language models worden gegenereerd. LLM’s zijn AI-systemen die zijn getraind op enorme hoeveelheden tekst en die complexe taken kunnen uitvoeren, waaronder het oplossen van wiskundige problemen.
De Leiden Declaration richt zich op drie groepen: wiskundigen zelf, academische instellingen en beleidsmakers. Het document benadrukt dat de komst van AI-gegenereerde bewijzen nieuwe uitdagingen met zich meebrengt voor de manier waarop wiskundige kennis wordt ontwikkeld, gecontroleerd en verspreid. Voor gebruikers van AI-tools betekent dit dat er meer aandacht moet komen voor de vraag hoe betrouwbaar AI-gegenereerde wiskundige resultaten zijn en hoe deze kunnen worden geverifieerd.
Voor mensen die AI-tools gebruiken in hun werk is dit conflict een belangrijke les. Het laat zien dat AI-systemen weliswaar indrukwekkende resultaten kunnen produceren, maar dat menselijke expertise en verificatie onmisbaar blijven, vooral in vakgebieden waar precisie en betrouwbaarheid cruciaal zijn.
Google · Jouw bronnenHoger in Google - met één klikToevoegen aan voorkeursbronnen →Veelgestelde vragen
Wat is de Fields-medaille en waarom is deze belangrijk?
De Fields-medaille is de meest prestigieuze prijs in de wiskunde en wordt eens per vier jaar uitgereikt. Dat vijfentwintig Fields-medaillewinnaars gezamenlijk een brief ondertekenen, geeft aan hoe serieus de wiskundige gemeenschap de kwestie neemt van AI-labs die bewijzen publiceren zonder gedegen verificatie of correcte bronvermelding.
Waar beschuldigde professor Tristan Buckmaster OpenAI van?
Professor Tristan Buckmaster van NYU beschuldigde OpenAI ervan hem onder druk te hebben gezet om een medewerker van Anthropic niet te vermelden als medeauteur van een belangrijk bewijs. Hij uitte ook het vermoeden dat OpenAI zijn Codex-gebruik had ingezet om een eigen baanbrekend bewijs te produceren, dat tot nu toe niet is geverifieerd.
Wat is de Leiden Declaration?
De Leiden Declaration is een document dat in juni werd gepubliceerd door een werkgroep van wiskundigen. Het bevat aanbevelingen voor wiskundigen, instellingen en beleidsmakers over de gevolgen van LLM-bewijzen voor het wiskundige vakgebied, en volgt op de groeiende bezorgdheid over hoe AI-labs omgaan met wiskundige doorbraken.
More on this from HELDER
benchmarks·GPT-6.1 Sol: prijs, beschikbaarheid en test resultatenGPT-6.1 Sol van OpenAI kost een vijfde van GPT-6 Astra. We testten het model op 13 taken en vergeleken de prestaties met eerdere modellen.