Das passierte tatsächlich 2023, als ein Anwalt in New York eine Stellungnahme in einem Bundesfall einreichte, die sechs Rechtspräzedenzfälle zitierte, die es gar nicht gab. Als der Richter das bemerkte und fragte, woher diese Fälle kämen, gab der Anwalt zu, dass er ChatGPT zur Recherche benutzt hatte und die KI die Zitate völlig erfunden hatte. Anscheinend hatte er einfach nur kopiert, was der Chatbot generiert hatte, ohne irgendetwas gegen tatsächliche Gerichtsakten zu überprüfen.
Das Verrückte daran ist, wie leicht das anfangs durchging. ChatGPT klingt wirklich überzeugend und autoritativ - es erfindet selbstbewusst Fallnamen, Aktenzeichen und Zitate, die völlig legitim wirken, wenn man sie nicht tatsächlich nachschlägt. Der Anwalt führte keine grundlegenden Überprüfungen durch, was... ja, das geht auf sein Konto. Man kann einfach nicht einen KI-Prompt in Gerichtsunterlagen einfügen, ohne jedes einzelne Ergebnis zu überprüfen. KI halluziniert ständig und "weiß" eigentlich gar nicht, wovon sie spricht - es ist nur Mustererkennung basierend auf Trainingsdaten.
Es warf definitiv Fragen auf, wie Menschen diese Tools leichtfertig in hochriskanten Situationen einsetzten. Die Gerichte nahmen es ernst genug, dass einige Richter anfingen, Anwälte explizit zu warnen, sich bei Rechtsrecherchen nicht auf KI zu verlassen, ohne menschliche Überprüfung. Der Fall selbst wurde mit Sanktionen belegt und wurde zur Abschreckungsgeschichte, die eine Zeit lang in Anwaltskreisen herumging. Es geht weniger darum, dass KI in Gerichtssälen gefährlich ist, sondern eher darum, dass Menschen leichtfertig mit Werkzeugen umgehen, die sie nicht vollständig verstehen.
