Advocaat krijgt boete van $5.000 na AI-verzinsels in moordzaak
De Supreme Court van New Mexico heeft advocaat Stephen Aarons een boete van $5.000 opgelegd en hem wegens minachting van het hof veroordeeld, nadat hij in een moordappel getuigen had opgevoerd die volledig door ChatGPT waren verzonnen.
👁 115 keer gelezen
De Supreme Court van New Mexico heeft advocaat Stephen Aarons een boete van $5.000 opgelegd en hem wegens minachting van het hof veroordeeld, nadat een appelbriefing in een moordzaak getuigen bleek te bevatten die volledig door ChatGPT waren gefabriceerd - dat meldt Reuters op basis van een rechterlijke uitspraak van woensdag.
- Advocaat Stephen Aarons kreeg een boete van $5.000 en een contempt-oordeel van de Supreme Court van New Mexico
- Zijn door AI gegenereerde appelbriefing bevatte nep-getuigenverklaringen en valse details over de schutter
- Aarons zei tijdens een hoorzitting dat hij ChatGPT gebruikte in de verwachting dat het een 'kogelvrije samenvatting' van het proces zou opleveren
De rechtbank stelde vast dat de briefing valse getuigenverklaringen van volledig verzonnen getuigen
bevatte, naast onjuiste beschrijvingen van de kleding en het uiterlijk van de schutter. Aarons werd veroordeeld omdat hij had nagelaten de feitelijke beweringen en juridische bronnen in zijn door AI gegenereerde brief te verifiëren
, aldus de uitspraak.
Tijdens een hoorzitting in augustus erkende Aarons dat hij ChatGPT had gebruikt en verwachtte dat het systeem een kogelvrije samenvatting
van het proces zou produceren. Rechter C. Shannon Bacon reageerde ongeldig kritisch:
„Counsel, do you watch the news? Do you listen to the radio? Do you read anything about what’s going on in the world? Because the problem with lawyers relying on AI hallucinations is an above-the-fold story every single day.”
In een verklaring aan Reuters liet Aarons weten: I am remorseful but hopeful that the disciplinary board takes into account it was an honest mistake.
Het incident staat niet op zichzelf. Eerder legde een rechter al twee advocatenkantoren een sanctie op voor een briefing met numerous false, inaccurate, and misleading legal citations and quotations
, en werden advocaten van MyPillow-oprichter Mike Lindell beboet voor nep-citaten uit AI-tools. Reuters beschreef de zaak als onderdeel van een bredere golf waarbij rechtbanken AI-gerelateerde fouten in juridische stukken ontdekken.
Praktisch gevolg: wie AI-tools gebruikt voor professionele documenten met feitelijke claims - of het nu juridisch, financieel of redactioneel werk is - draagt persoonlijk de verantwoordelijkheid voor elke bewering die het document bevat. Rechtbanken en andere toezichthouders accepteren “het was de AI” niet als excuus. Elke naam, elk citaat en elke feitelijke detail moeten worden geverifieerd aan de hand van primaire bronnen, voordat het document de deur uitgaat.
Google · Jouw bronnenHoger in Google - met één klikToevoegen aan voorkeursbronnen →
More on this from HELDER
nieuws·Meta past AI-suggesties aan na virale video over invasieve vragen over kinderen