Das neue Jahr beginnt mit einem Problem, das sich in der Legal-AI-Szene schon seit Längerem zusammenbraut: der Flut an KI-generierten Inhalten, die Juristinnen und Juristen überschwemmt.
LinkedIn ist voll von frustrierten Reaktionen, wie der eines deutschen Anwalts, der im Dezember 2025 von einem Sorgerechtsfall berichtete, in dem eine nicht anwaltlich vertretene Partei ein LLM nutzte, um ein vom Gericht in Auftrag gegebenes Gutachten zu «zerlegen». Das Ergebnis war ein 38-seitiger Schriftsatz voller Zitate und Rechtsprechung.[1] Die Folge? Richter und Gegenanwälte müssen nun jedes Detail lesen, verifizieren und beantworten. Er warnte davor, dass dies an Amtsgerichten, an denen kein Anwaltszwang besteht, künftig noch zunehmen wird. Das Problem verschärfte sich per 1. Januar 2026, als Deutschland die Grenze für den Anwaltszwang von 5000 € auf 10'000 € anhob – eine Änderung, vor der die Bundesrechtsanwaltskammer (BRAK) und der Deutsche Anwaltverein (DAV) bereits 2025 gewarnt hatten, da sie die Gerichte mit qualitativ minderwertigen Eingaben belasten könnte.[2]
Und diese Last lässt sich nicht durch oberflächliches Lesen oder einfaches Weiterleiten an die Gegenpartei abwenden: Wie das Oberlandesgericht Karlsruhe bereits 2022 in Erinnerung rief, müssen Gerichte umfangreiche Schriftsätze «unabhängig von der Arbeitsbelastung» lesen, um das Grundrecht der Parteien auf rechtliches Gehör zu wahren.[3] Doch was passiert, wenn sich diese Eingaben exponentiell vermehren, in wenigen Minuten von ChatGPT generiert werden und Inhalte enthalten, welche die einreichende Partei selbst nicht einmal ganz versteht?
Willkommen im Zeitalter des KI-Mülls (AI Slop) im Rechtssektor.
Was ist AI Slop?
Der Begriff «AI Slop» traf den Zeitgeist des Jahres 2025 so treffend, dass sowohl Merriam-Webster als auch das Macquarie Dictionary ihn zum Wort des Jahres kürten.[4] Die Erwähnungen des Begriffs stiegen laut dem Online-Medienbeobachter Meltwater von 2024 bis 2025 um das Neunfache, wobei die negative Stimmung im Oktober 54 Prozent erreichte.[5] Der Grund? KI-generierte Inhalte machen laut der SEO-Firma Graphite mittlerweile mehr als die Hälfte aller englischsprachigen Inhalte im Internet aus.[6]
Doch was genau gilt als «Slop» (Müll)? Im deutschen Geschäftskontext hat sich der Begriff zu «AI Workslop» weiterentwickelt: KI-generierte Inhalte, die so substanzlos sind, dass sie Mehrarbeit verursachen, anstatt Zeit zu sparen. Das Handelsblatt brachte den Frust auf den Punkt: Mitarbeitende «verschwenden Stunden mit KI-Schrott», dessen Korrektur mehr Aufwand erfordert, als es gedauert hätte, den Inhalt von Grund auf ordentlich selbst zu erstellen.[7]
Der Rechtssektor hat sich zu einem besonders umkämpften Schauplatz dieses Phänomens entwickelt. Wissenschaftliche Bibliothekare berichten, dass sie bis zu 15 Prozent ihrer Arbeitszeit damit verschwenden, Anfragen zu nicht existierenden Quellen zu beantworten, die von ChatGPT oder Google Gemini halluziniert wurden.[8] Schlimmer noch: Gefälschte Zitate werden durch akademische Arbeiten geschleust, die wiederum andere Arbeiten zitieren, welche KI-Halluzinationen enthalten. Dadurch entsteht ein sich selbst verstärkender Kreislauf, der Rechtsdatenbanken und die Wissenschaft kontaminiert.[8]
KI-Müll erreicht die Gerichtssäle
Im Jahr 2025 begannen deutsche Gerichte, das Problem in veröffentlichten Entscheidungen zu dokumentieren. Das Muster war stets dasselbe: Anwälte reichten professionell formatierte Schriftsätze ein, die Zitate enthielten, die es gar nicht gab.
Amtsgericht Köln (2. Juli 2025): Ein Familienrichter stellte fest, dass der Schriftsatz eines Anwalts Literaturzitate und Verweise auf Rechtsprechung enthielt, die «offenbar durch künstliche Intelligenz generiert und frei erfunden» worden waren. Das Gericht hielt fest, dass weder die zitierten Bücher noch die Gerichtsentscheidungen existierten. Der Richter rügte dies öffentlich und erklärte, dass solche Eingaben «die Rechtsfindung erschweren, den rechtsunkundigen Leser in die Irre führen und das Ansehen des Rechtsstaats und insbesondere der Anwaltschaft schwer beschädigen».[9]
Oberlandesgericht Celle (29. April 2025): Beide Parteien reichten in einem Berufungsverfahren Schriftsätze mit erfundenen Zitaten nicht existierender OLG-Entscheidungen ein. Dieser Fall, der in puncto anwaltlicher Pflichtverletzung kaum zu überbieten ist, zeigte immerhin: Wenn es um ungeprüfte, KI-generierte Rechtsrecherche geht, können sich Gegenanwälte durchaus einig sein.[10]
Im Anwaltsblatt wies der Legal-Technology-Experte Markus Hartung darauf hin, dass ähnliche Fälle in ganz Deutschland und international aufgetreten sind.[11] Das Ausmass ist beachtlich: Weltweit sind mittlerweile mehr als 773 Fälle bekannt, in denen KI-Halluzinationen in Gerichtsakten eine Rolle spielen, davon über 250 allein in den USA.[12]
Wer jedoch glaubt, dass nur nicht anwaltlich vertretene Parteien und Anwälte solchen Müll produzieren, ist viel zu optimistisch. Eleanor Tyler von Bloomberg Law dokumentierte Fälle, in denen Richter selbst KI-generierte Erfindungen in ihre Entscheidungen einbauten.[13] Wenn selbst die Justiz, die ja die Qualität der Eingaben prüfen soll, fehlerhafte Inhalte produziert, drohen die Qualitätskontrollen des Systems zu versagen.
Die Abschreckungslücke: Warum der Müll bleibt und wie man sich wehrt
Wer über solche schockierenden Fälle entsetzt ist, möchte sicherlich wissen, welche Sanktionen gegen diese nachlässigen Anwälte und Richter verhängt wurden. Die Antwort in Deutschland? Kaum welche.[11]
In den USA reichten die Sanktionen von 2000 bis 15'000 US-Dollar Bussgeld – Beträge, die Fehlverhalten insbesondere bei Prozessen mit hohem Streitwert kaum wirksam verhindern. Die bislang schwerwiegendste Konsequenz: Eine Bundesrichterin in Wyoming entzog einem Anwalt die Zulassung pro hac vice (das Recht, trotz auswärtiger Zulassung vor diesem Gericht aufzutreten) wegen «unethischen Verhaltens», nachdem sie festgestellt hatte, dass acht von neun in seinen Schriftsätzen zitierten Fällen KI-Halluzinationen waren.[14]
Grossbritannien fährt einen härteren Kurs. Im Juni 2025 warnte Dame Victoria Sharp, Präsidentin der King’s Bench Division, dass Anwälten bei missbräuchlicher Nutzung von KI Sanktionen drohen, die von öffentlichen Verweisen über Verfahren wegen Missachtung des Gerichts bis hin zu strafrechtlicher Verfolgung wegen Rechtsbeugung in besonders schweren Fällen reichen.[15] Als ein Anwalt 45 Zitate einreichte – von denen 18 frei erfunden waren –, betonte Dame Sharp, dass das Absehen von einem Verfahren wegen Missachtung des Gerichts «keinen Präzedenzfall» darstelle.
Ohne ausreichend abschreckende Wirkung, warnt Eleanor Tyler von Bloomberg Law, wird das Überfluten der Gegenpartei mit ungeprüftem KI-Müll zu einer Prozesstaktik: Man erstellt in 30 Minuten gefälschte Schriftsätze, zwingt den Gegner, Stunden mit der Überprüfung jedes Zitats zu verbringen, und riskiert im Falle des Auffliegens nur minimale Konsequenzen.[13]
Doch wie steht es mit Sanktionen für Parteien ohne Anwalt, die KI-Halluzinationen einreichen? Oder für Richter, die erfundene Zitate in ihre eigenen Entscheidungen einbauen? Die aktuellen Regelungen klammern diese Szenarien weitgehend aus. Im Prozessrecht und in der Gerichtsorganisation bleibt noch viel zu tun, um dem Problem des KI-Mülls in seiner gesamten Tragweite zu begegnen.
Ihre eigene Verteidigungsstrategie beginnt jetzt
In der Zwischenzeit haben deutsche Praktiker und Kommentatoren begonnen, praktische Leitfäden für Anwältinnen und Anwälte im Umgang mit dieser neuen Realität zu entwickeln:[16][17]
Alles systematisch überprüfen. Das fordert der Deutsche Anwaltverein, das verlangen Gerichte weltweit von der Anwaltschaft und das gebietet ganz klar das Berufsrecht. Und das ist oft weniger zeitaufwendig, als man denkt:
Nutzen Sie spezialisierte Legal-AI-Tools. Spezialisierte Legal-AI-Lösungen, die auf umfassenden Gesetzes- und Literaturdatenbanken basieren, zeigen Zitate beim Verfassen im Originaltext an, anstatt plausibel klingende Fälschungen zu generieren. Dies macht die Quellenprüfung einfach und effizient. Zudem ermöglichen sie es Ihnen, sämtliche Zitate der Gegenpartei in wenigen Minuten zu überprüfen, was den Aufwand für das Aufdecken von Berufspflichtverletzungen drastisch senkt. Dasselbe gilt für die Überprüfung von Gerichtsentscheidungen, auch wenn deutsche Gerichte beim Einsatz von KI ohnehin vorsichtiger agieren und sich hoffentlich nur mit professionellen Tools ausstatten.
Prüfen Sie die innere Konsistenz. Neben halluzinierten Quellen sind unlogische Absätze und widersprüchliche Sachverhalte weitere typische Merkmale von KI-generierten Inhalten. Sie können agentenbasierte Prozesse spezialisierter Lösungen nutzen, um Inkonsistenzen in Ihren eigenen Argumenten und denen Ihres Gegners aufzuspüren. Doch wenn es um Logik und Kohärenz geht, ersetzt nichts den geschulten Verstand einer Juristin oder eines Juristen.
Um das Vertrauen der Öffentlichkeit in die Justiz zu sichern, während das Prozessrecht und die Justizverwaltung noch Nachholbedarf haben, müssen die ethischen Standards der kontinentaleuropäischen Anwaltschaft mit erhöhter Wachsamkeit hochgehalten werden. Anwaltschaft, Gerichte, Universitäten, Fachverlage und Technologieentwickler müssen zusammenarbeiten. Ausbildung ist der Schlüssel – nicht nur im Umgang mit den Tools, sondern auch im Hinblick auf die beruflichen Werte und die intellektuelle Disziplin, die Juristen von Prompt-Engineers unterscheiden.
Footnotes
Dirk Trieglaff, «LLM-Flut am Amtsgericht», LinkedIn, Dezember 2025.
Bundesrechtsanwaltskammer, Höhere Streitwertgrenzen für Amtsgerichte und für Rechtsmittel ab dem 1.1.2026 | Bundesrechtsanwaltskammer, 04.12.2025.
OLG Karlsruhe, Beschluss v. 11.5.2022, 9 W 24/22, besprochen in «Befangenheit: Richter muss Anwaltsschriftsätze vollständig lesen | Recht | Haufe», Haufe Recht, 10. August 2022.
Merriam-Webster’s 2025 Word of the Year is 'slop' | Euronews, Euronews, 15. Dezember 2025, und ‘AI slop’: Macquarie Dictionary’s Word of the Year is a sad reflection of modern anxieties | Euronews, Euronews, 26. November 2025.
What the Rise of AI Slop Means for Marketers, Meltwater, 27. November 2025, zitiert in 2025 was the year AI slop went mainstream. Is the internet ready to grow up now? | Euronews, Euronews, 28. Dezember 2025.
Jose Luis Paredes et al., More Articles Are Now Created by AI Than Humans, Graphite, zitiert in 2025 was the year AI slop went mainstream. Is the internet ready to grow up now? | Euronews, Euronews, 28. Dezember 2025.
Milena Merten, Mitarbeiter verschwenden Stunden mit 'KI-Schrott, Handelsblatt, 9. Januar 2026.
Miles Klee, «AI Chatbots Are Poisoning Research Archives With Fake Citations», Rolling Stone, 17. Dezember 2025.
AG Köln, Beschluss vom 02.07.2025 – 312 F 130/25, besprochen in Blamage vor Gericht: Wenn die KI „halluziniert“ – und der Anwalt den Schriftsatz nicht prüft - Kanzlei Update, 17. Juli 2025
OLG Celle, Beschluss vom 29.04.2025 – 5 U 1/25, besprochen in «KI-generierte Schriftsätze, Fehlzitate und unsubstantiiertes Vorbringen», Dr. jur. Jens Usebach LL.M., 3. September 2025.
Markus Hartung, «Halluzinationen in Schriftsätzen», Anwaltsblatt, 2025.
«AI Hallucination Cases Database», Damien Charlotin, abgerufen im Januar 2026.
Eleanor Tyler, «ANALYSIS: AI Slop Will Spread Until Courts Address Incentives», Bloomberg Law, 29. Juli 2025.
Wadsworth v. Walmart Inc., 348 F.R.D. 489 (D. Wyo. 2025)
The King (on the application of Ayinde) v London Borough of Haringey and Al-Haroun v Qatar National Bank [2025] EWHC 1383 (Admin), Urteil vom 6. Juni 2025.
Dr. jur. Jens Usebach, KI-generierte Schriftsätze, Fehlzitate und unsubstantiiertes Vorbringen, 3. September 2025.
SN 32/25: Einsatz von KI in der Anwaltschaft», Deutscher Anwaltverein, 9. Juli 2025
Noxtua-Team