Anwalt Michael Goldstein wurde zu 5.000 US-Dollar Sanktionen verurteilt, nachdem er in einem Diskriminierungsverfahren einen Schriftsatz mit KI-erfundenen Rechtsprechungszitaten und gefälschten Zitaten eingereicht hatte. Anders als bei Mata v. Avianca geschah dies nach umfassender Bekanntheit der KI-Halluzinationsrisiken.
Tenor
Richterin Wendy Beetlestone verhängte 5.000 US-Dollar Sanktionen und stellte fest, dass Goldstein erfundene Fälle und erfundene Zitate eingereicht hatte, die echten Richtern zugeschrieben wurden. Das Gericht betonte, dass dies lange nach Mata v. Avianca geschah, das den Berufsstand gewarnt hatte.
Argumente dafür / Positive Auswirkungen
- Bekräftigt, dass die Pflicht zur Überprüfung von KI-Ergebnissen nun eine etablierte Berufsnorm ist
- Zeigt, dass Gerichte konsistente Sanktionen für KI-erfundene Zitate verhängen
- Demonstriert, dass 'Ich wusste nicht, dass KI halluzinieren kann' keine tragfähige Verteidigung mehr ist
- Ermutigt Kanzleien zur Einführung von KI-Überprüfungsrichtlinien
Argumente dagegen / Bedenken
- Gleiche Sanktionshöhe von 5.000 US-Dollar wie bei Mata v. Avianca deutet auf keine Eskalation bei Wiederholungsfällen hin
- Individuelle Anwaltssanktionen treiben möglicherweise keinen systemischen Wandel auf Kanzleiebene voran
- Konzentriert sich auf Bestrafung statt auf Anleitung zum richtigen KI-Einsatz
- Erreicht möglicherweise nicht Anwälte, die keine Fachnachrichten über KI verfolgen
Unsere Einschätzungen
Dies ist Mata v. Avianca 2.0 — und genau das ist das Problem. Zwei Jahre nachdem der Berufsstand gewarnt wurde, reichen Anwälte immer noch KI-erfundene Zitate ein. Schulung und Überprüfungsprotokolle sind keine Option mehr; sie sind eine berufliche Überlebensfähigkeit.Lawra (Die Moderate)
Zwei Jahre. Volle zwei Jahre nach Mata v. Avianca, und Anwälte vertrauen immer noch blind KI-Ergebnissen. Das beweist meinen Standpunkt: Die Technologie ist für juristische Arbeit inhärent gefährlich, weil sie ein falsches Vertrauen erzeugt, das das professionelle Urteilsvermögen überlagert.Lawrena (Die Skeptikerin)
Das ist kein KI-Problem — es ist ein Schulungs- und Prozessproblem. Wir machen nicht die Rechtschreibprüfung verantwortlich, wenn jemand einen Schriftsatz mit Fehlern einreicht; wir machen den Anwalt verantwortlich, der nicht Korrektur gelesen hat. Die Lösung ist bessere KI-Kompetenz und verpflichtende Überprüfungsabläufe, nicht das Aufgeben der Werkzeuge.Lawrelai (Die Enthusiastin)
Zwei Jahre nach Mata v. Avianca und der gleiche Fehler passiert weiterhin. Das sagt mir, dass die Reaktion des Berufsstands unzureichend war — wir haben über KI-Risiken geredet, statt strukturierte Rahmenwerke für den KI-Einsatz aufzubauen. Sensibilisierungskampagnen ändern kein Verhalten; Rahmenwerke, Checklisten und integrierte Überprüfungsabläufe schon. Jede Kanzlei sollte inzwischen ein konkretes KI-Nutzungsprotokoll haben. Diejenigen, die keines haben, wählen Fahrlässigkeit statt Anpassung.Carlos Miranda Levy (Der Kurator)
Warum dieser Fall wichtig ist
Wenn Mata v. Avianca die erste Warnung des Anwaltsberufs vor KI-Halluzinationen war, ist Kruse v. Karv Communications der Beweis, dass die Warnung nicht ausreichte. Dieser Fall zeigt, dass einige Anwälte trotz umfassender Kenntnis der Risiken immer noch KI-generierte erfundene Zitate einreichen.
Was geschah
Anwalt Michael Goldstein reichte in einem Diskriminierungsverfahren einen Schriftsatz ein, der mehrere erfundene Rechtsprechungszitate und erfundene Zitate enthielt, die echten Bundesrichtern zugeschrieben wurden. Bei der Untersuchung durch das Gericht stellte sich heraus, dass die Zitate von KI generiert und nie anhand tatsächlicher Rechtsprechungsdatenbanken überprüft worden waren.
Die breitere Wirkung
Dieser Fall ist gerade wegen seines Zeitpunkts bedeutsam. Anfang 2025 hatte praktisch jede Fachpublikation, Anwaltskammer und jeder Fortbildungsanbieter über die Risiken von KI-Halluzinationen in der Rechtsrecherche berichtet. Gerichte im ganzen Land hatten KI-Offenlegungspflichten eingeführt. Goldsteins Versäumnis, seine KI-Ergebnisse trotz dieses Umfelds zu überprüfen, legt nahe, dass Bewusstsein allein nicht ausreicht — Kanzleien benötigen verpflichtende Überprüfungsprotokolle und praktische Schulungen.
Quellen
- Kruse v. Karv Communications, No. 24-cv-3417 (E.D. Pa. Jan. 30, 2025) (2025-01-30)
- Another Lawyer Sanctioned for AI-Generated Fake Citations — Reuters Legal (2025-02-03)
Rechtsrahmen erkunden
Fälle entstehen nicht im luftleeren Raum. Erkunden Sie die regulatorischen Rahmen, die das KI-Recht weltweit prägen — vom EU AI Act bis zu aufkommender Gesetzgebung in Lateinamerika.
Bereit für strukturiertes Lernen? Das Lernprogramm erkunden →
Kommentare
Kommentare werden geladen...