New Mexico-rechter straft advocaat met boete van $5.000 voor nepgetuigen uit ChatGPT
De New Mexico Supreme Court heeft advocaat Stephen Aarons wegens direct contempt of court veroordeeld tot een boete van $5.000 nadat hij een beroepschrift indiende met verzonnene getuigenverklaringen gegenereerd door ChatGPT.
👁 118 keer gelezen
Een advocaat uit New Mexico is door het hoogste gerechtshof van de staat veroordeeld tot een boete van $5.000 wegens minachting van de rechtbank. Stephen Aarons, een strafrechtadvocaat met meer dan 40 jaar ervaring, diende in augustus 2025 een beroepschrift in dat nepverklaringen bevatte van volledig verzonnen getuigen. Deze valse informatie was gegenereerd door ChatGPT, de bekende AI-chatbot.
- Advocaat Stephen Aarons kreeg een boete van $5.000 en mag niet meer verschijnen voor de New Mexico Supreme Court na het indienen van een brief met nepgetuigenverklaringen uit ChatGPT.
- Aarons voerde een rechtbanktranscript in ChatGPT in - aangedreven door het OpenAI o3-model - dat verklaringen produceerde van minimaal acht volledig verzonnen of verkeerd geciteerde getuigen.
- Het hof verwees de zaak naar een tuchtcommissie voor verdere maatregelen en stelde vast dat Aarons "a lack of remorse and a lack of concern for his client" toonde.
Hoe gebruikte de advocaat ChatGPT voor zijn rechtszaak
Aarons was ingehuurd om de moorveroordeling van Oscar Renee Sandoval aan te vechten. Sandoval werd in februari 2025 tot levenslang veroordeeld. Om zijn beroepschrift voor te bereiden, voerde Aarons een computermatig transcript van het proces in ChatGPT in. Naar eigen zeggen gebruikte hij het OpenAI o3-model, een van de nieuwere versies van de AI-software. Het probleem: hij nam de uitvoer van ChatGPT volledig ongecontroleerd over, zonder te verifiëren of de informatie klopte.
Het AI-systeem produceerde verklaringen van agenten en getuigen die nooit bestaan hebben of nooit bij het proces betrokken waren. Zo noemde het document Officer Michelle Amarillo en Officer Sanchez, evenals getuigen als Manal Al-Jibury en Teresa Marquez. Geen van deze personen was ooit opgeroepen tijdens het oorspronkelijke proces. Aarons erkende tijdens een zitting op 21 augustus zijn fout met de woorden: “I assumed that it generated a bulletproof summary of proceedings.” Hij ging er dus vanuit dat ChatGPT een waterdichte samenvatting van de rechtszaak had gemaakt.
Waarom ChatGPT soms nepinformatie genereert
ChatGPT en vergelijkbare AI-systemen zijn taalmodellen die tekst genereren op basis van patronen in hun trainingsdata. Ze begrijpen niet echt wat ze schrijven en kunnen geen onderscheid maken tussen feit en fictie. Wanneer zo’n systeem wordt gevraagd om informatie te produceren die het niet heeft, kan het overtuigend klinkende maar volledig verzonnen details genereren. Dit verschijnsel staat bekend als “hallucineren” in AI-termen.
Voor juridische documenten is dit bijzonder gevaarlijk. Rechtszaken vereisen absolute nauwkeurigheid en verificatie van alle feiten. AI-tools kunnen nuttig zijn voor onderzoek of het opstellen van concepten, maar de eindverantwoordelijkheid voor de juistheid ligt altijd bij de professional zelf. In dit geval had Aarons de door ChatGPT gegenereerde informatie moeten controleren tegen het originele processtranscript en andere officiële documenten.
Gevolgen voor de advocaat en zijn cliënt
De New Mexico Supreme Court veroordeelde Aarons wegens direct contempt of court, een ernstige vorm van minachting van de rechtbank waarbij iemand direct in de rechtszaal of in officiële documenten de rechtsgang belemmert. Het hof stelde vast dat Aarons zijn cliënt niet had ingelicht over de fouten in het beroepschrift en ook geen spijt toonde over zijn handelen.
De boete van $5.000 moet worden betaald aan het State Bar of New Mexico Client Protection Fund, een fonds dat cliënten beschermt tegen financiële schade door advocaten. Daarnaast is Aarons geschorst van de rechtbank en verwezen naar een tuchtcommissie, waar verdere sancties kunnen volgen. Dit kan variëren van een waarschuwing tot schorsing of zelfs het permanent verlies van zijn advocatenvergunning.
Google · Jouw bronnenHoger in Google - met één klikToevoegen aan voorkeursbronnen →Veelgestelde vragen
Wat deed de advocaat precies fout?
Stephen Aarons voerde een processtranscript in ChatGPT in en nam de gegenereerde samenvatting over zonder deze te controleren. Het AI-systeem verzon verklaringen van agenten en getuigen die nooit bij de rechtszaak betrokken waren, zoals Officer Michelle Amarillo, Officer Sanchez, Manal Al-Jibury en Teresa Marquez. Hij diende deze nepinformatie in augustus 2025 in bij de rechtbank als onderdeel van een beroepschrift.
Welke straf kreeg de advocaat?
De New Mexico Supreme Court veroordeelde Aarons tot een boete van $5.000 wegens minachting van de rechtbank. Deze boete moet worden betaald aan het State Bar of New Mexico Client Protection Fund. Daarnaast is hij geschorst van de rechtbank en verwezen naar een tuchtcommissie waar verdere sancties kunnen volgen.
Welk AI-model gebruikte de advocaat?
Volgens Aarons eigen verklaring gebruikte hij ChatGPT aangedreven door het OpenAI o3-model. Hij ging ervan uit dat het systeem een betrouwbare samenvatting zou maken, zoals hij zelf aangaf: “I assumed that it generated a bulletproof summary of proceedings.” Deze aanname bleek desastreus fout.
More on this from HELDER
ai-tools·OpenRouter’s automatische routering kan modelgedrag onvoorspelbaar maken