Sie wirken professionell, sind aber oft fehlerhaft, oberflächlich oder schlicht unbrauchbar. Beispiele aus der Praxis und eine neue Studie zeigen, wie groß der Schaden durch diese Form von „AI Slop“ tatsächlich ist.
Wenn Mandanten mit ChatGPT „vorgearbeitet“ haben: Warum KI-Sachverhaltsschilderungen oft mehr Probleme als Lösungen schaffen
In der täglichen Praxis erreichen uns immer häufiger Mandatsanfragen, bei denen der zugrunde liegende Sachverhalt erkennbar nicht vom Mandanten selbst stammt, sondern von ChatGPT oder einem anderen KI-Tool generiert wurde. Diese Texte wirken auf den ersten Blick strukturiert und professionell, enthalten aber fast immer schwerwiegende Probleme: voreilige – in der Regel falsche – rechtliche Einschätzungen und oft sogar konkrete Handlungsanweisungen. Bevor eine fundierte Rechtsberatung einsetzen kann, muss dieser KI-bedingte Irrweg daher erst einmal korrigiert werden.
Das „unbekannte“ Whitepaper
Ein ähnlich aufschlussreiches Erlebnis hatten wir kürzlich bei einer Strategiebesprechung mit einem größeren Unternehmen. Auf unserer Seite nahmen mehrere Anwälte teil, auf der anderen die vollständige Geschäftsführung.
Grundlage der Diskussion war ein Whitepaper, das schon beim ersten Lesen „auffällig nach ChatGPT roch“. In der Besprechung stellte sich dann heraus: Niemand in der Geschäftsführung hatte das Paper tatsächlich gelesen – und selbst derjenige, der es erstellt hatte, konnte gar nicht genau erklären, was er da eigentlich produziert hatte.
Wenn einzelne Bullet Points daraus angesprochen wurden, dann nur isoliert, keinesfalls als Teil eines größeren Gesamtkonzepts. Das wirkte nicht nur etwas skurril, sondern machte auch deutlich, wie schnell KI-Inhalte als bloßes Füllmaterial herhalten, ohne dass sie wirklich Substanz oder Handlungsrelevanz haben.
„AI Workslop“ – wenn scheinbar professionelle Inhalte Produktivität vernichten
An dieser Stelle lohnt der Hinweis auf ein LinkedIn-Posting von Tobias Voßberg, der das Phänomen treffend aufgegriffen und in einen größeren Kontext eingeordnet hat (Link zum Originalbeitrag). Er verweist darin auf eine aktuelle Untersuchung von Stanford University, MIT und BetterUp Labs, die zeigt, welche massiven Produktivitätsverluste entstehen können, wenn Unternehmen ungefiltert auf KI-Inhalte setzen.
- Ein Unternehmen mit 10.000 Mitarbeitern verliert dadurch jährlich rund 9 Millionen US-Dollar an Produktivität.
- 40 % der Befragten gaben an, im letzten Monat mit AI Slop konfrontiert worden zu sein.
- Im Schnitt betrifft dies 15 % aller Inhalte.
- Jede dieser Arbeiten verursacht fast zwei Stunden Nacharbeit.
Unsere beiden Erfahrungen – KI-Sachverhaltsschilderungen von Mandanten und KI-Whitepaper in Unternehmensbesprechungen – zeigen: Das, was die Studie in Zahlen fasst, begegnet uns ganz praktisch im Alltag. Inhalte, die „professionell wirken“, sind oft wertlos, manchmal sogar hinderlich.
Kein Rückstand ohne KI – ein verbreiteter Irrtum
Voßberg weist zudem auf einen weiteren Punkt hin: Seit Jahren werde prognostiziert, dass Kanzleien, die nicht auf KI setzen, bald ins Hintertreffen geraten würden. Tatsächlich aber sei bis heute keine Kanzlei allein deshalb abgehängt worden, weil sie ohne KI arbeitet. Vielmehr zeigt sich, dass KI-gestützte Arbeitsergebnisse zunächst oft mehr Kontrolle und Korrekturaufwand erzeugen als sie einsparen.
Ein nüchterner Blick ist notwendig
Damit kein falscher Eindruck entsteht: Auch wir sehen großes Potenzial in der Nutzung von Künstlicher Intelligenz. ChatGPT ist ein starkes Werkzeug, wenn es bewusst und kompetent eingesetzt wird. Wer weiß, was er tut, kann echten Mehrwert schaffen. Doch was die Studie und die praktischen Erfahrungen gleichermaßen zeigen: Oft fehlt es an genau diesem bewussten Umgang.
Umso wichtiger ist ein nüchterner Blick auf die Entwicklung. Überzogene Erwartungen und künstlich geschürte FOMO (Fear of Missing Out) helfen weder Unternehmen noch Mandanten. Juristische Beratung lebt von Substanz, sorgfältiger Analyse und strategischer Erfahrung – und diese werden durch KI nicht ersetzt, sondern im Gegenteil noch notwendiger.
