KI in der Recherche – erste Erfahrungen und Einschätzungen

Lesezeit: 12 Minuten
2. März 2026

Ein Gespräch zwischen Dietmar Jahnel (Univ.-Prof. Fachbereich Öffentliches Recht, Universität Salzburg) und Sophie Martinetz

---

Sophie Martinetz: Willkommen, Dietmar! Heute wollen wir uns die unterschiedlichen KI-Tools anschauen, die bei der juristischen Recherche helfen können. Du hast ja als emeritierter Professor viel Zeit in einen strukturierten Vergleich investiert – man sieht wieder: Alter schützt vor Neugierde nicht. Was hat dich denn überhaupt zum KI-Thema gebracht?

Dietmar Jahnel: Danke für die Einladung, Sophie. Du weißt, ich bin neben dem öffentlichen Recht auch in Rechtsinformatik habilitiert – einer der wenigen in Österreich. Durch die Pensionierung habe ich Zeit gewonnen, die ich eigentlich anders verwenden wollte. Aber das KI-Thema hat mich einfach gepackt. Der Rechtsinformatiker ist wieder erwacht! Ich mache seit 25, 30 Jahren Rechtsinformatik mit Schwerpunkt Rechtsrecherche. Das hat vor der KI keinen Menschen interessiert, aber jetzt schaut die Welt plötzlich ganz anders aus.

Sophie Martinetz: Das stimmt! Obwohl Recherche ja die Kernaufgabe von Juristen ist – schauen, was zum Sachverhalt passt. Mit generativer KI ist ein richtiger Hype entstanden. Kannst du das Grundproblem erklären? Viele sagen: „ChatGPT ist Schrott, weil ich frage nach Erbrecht in Österreich und bekomme keine gute Antwort.“

Dietmar Jahnel: Genau, das ist ein klassisches Missverständnis. Die allgemein verfügbaren LLMs greifen auf alle möglichen Daten zu, die im Internet verfügbar sind – das sind sehr viele, aber eben nichts Spezielles für österreichisches Recht. Daher gibt es Tools, die RIS-Daten – Gesetze und Gerichtsentscheidungen – über ein RAG-System zusätzlich zur Verfügung stellen.

Sophie Martinetz: RAG bedeutet „Retrieval Augmented Generation“ – also dass man Dokumente in einem geschützten Raum dem System zur Verfügung stellt und es quasi zwingt, nur auf diese Dokumente Bezug zu nehmen?

Dietmar Jahnel: Exakt. Es funktioniert so: Ein Vergleich wird zwischen der Abfrage in natürlicher Sprache und den Dokumenten in einer sogenannten Vektor-Datenbank gemacht. Die Dokumente müssen von den Betreibern speziell aufbereitet werden. Das Ergebnis wird dann an das LLM geschickt, das eine Antwort generiert. Damit bekommt man wesentlich bessere und gezieltere Ergebnisse zum österreichischen Recht.

Sophie Martinetz: Das ist fair gegenüber den allgemeinen Systemen – die können ja gar nicht auf diese spezialisierten Dokumente zugreifen, die oft hinter Bezahlschranken stehen. Was hast du denn konkret bei der RIDA-Datenbank entwickelt?

Dietmar Jahnel: Zunächst Zusammenfassungen von Entscheidungen – nicht wissenschaftlich lang, sondern mit Bullet Points, damit man in wenigen Sekunden sieht, was die Entscheidung beinhaltet. Das funktioniert erstaunlich gut. Zweitens Stichworterstellung aus Sachverhalten –das funktioniert weniger gut, da stößt das System an Grenzen. Ganz aktuell ist es uns gelungen, die klassische Recherche mit den neuen LLM-Möglichkeiten zu verbinden und dabei Halluzinationen zu vermeiden.

Sophie Martinetz: Wenn du „gut“ sagst – was bedeutet das konkret? 15 Seiten zusammenzufassen ist ja auch für Juristen nicht trivial, und wir erwarten das von KI auf Knopfdruck.

Dietmar Jahnel: Die KI kann erstaunlich gut zwischen Sachverhalt und rechtlicher Beurteilung unterscheiden – das haben sie offenbar beim Training eingepflegt bekommen. Aber man muss aufpassen: Es stimmt nicht alles. Ich sehe eine große Gefahr, wenn vier oder fünf prägnante Sätze stimmen und der sechste nicht. Wie soll man draufkommen, wenn man nicht Experte in dem Rechtsgebiet ist?

Sophie Martinetz: Aber früher war die Erwartungshaltung doch auch nicht, dass man sechs richtige Sätze bekommt. Man bekam Links und musste selbst lesen.

Dietmar Jahnel: Richtig! Die Erwartungshaltung ist momentan übertrieben. Es wird zu viel versprochen. Was mich stört: Es wird immer von „Rechtsrecherche“ gesprochen. Ich unterscheide: Bei Rechtsrecherche gebe ich Stichworte ein und bekomme ein Ergebnis –wiederhole ich es, bekomme ich dasselbe Ergebnis. KI-Tools sind Dialogsysteme, die mit Wahrscheinlichkeiten arbeiten. Eine Dame von LexisNexis vergleicht es treffend mit einem Gespräch mit einem Kollegen – das transportiert nicht die Erwartung perfekter Ergebnisse.

Sophie Martinetz: Das ist ein sehr guter Vergleich! Wie empfiehlst du denn vorzugehen

Dietmar Jahnel: Wenn ich eine konkrete Rechtsfrage habe, stelle ich sie und bekomme eine vorläufige Antwort mit Quellen – je nachdem, ob das Tool nur RIS-Quellen oder auch Verlagsquellen verwendet. Dann beginnt die ernsthafte Arbeit, die man bisher auch machen musste und die nicht wegfällt: Ich muss alle Quellen nachprüfen, ob das wirklich belastbar
drinnen steht, was behauptet wird.

Sophie Martinetz: Das ist genau das Problem mit der Erwartungshaltung! In unserer Umfrage sagen nur 16 % der Leute, dass ihre Erwartungen vollkommen erfüllt werden. Viele erwarten, dass KI den Fall löst. Es bleibt Recherche – sie geht schneller, findet vielleicht mehr, semantische Themen werden besser abgeholt, aber man muss die Arbeit trotzdem selbst
machen.

Dietmar Jahnel: Genau! Ich muss Vorwissen haben und Nacharbeit machen. Es wird nicht so sein, dass ich zehn Sekunden lang was eingebe, warte und dann fertig bin. Was ja gut ist – sonst wären wir alle überflüssig!

Sophie Martinetz: Lass uns die österreichischen Anbieter kategorisieren. Es gibt erstaunlich viele für so einen kleinen Markt – man sieht den Hype. Was hast du dir angeschaut?

Dietmar Jahnel: Es gibt drei kleinere: Bei „Gesetze finden“ ist mir noch nicht ganz klar, was sie im Recherchebereich machen – sie haben ein Monitoring-System mit Newslettern. Die anderen beiden sind AI:ssociate und RechtGPT – zwei Startups, einer aus dem Rechtsanwaltsbereich, der andere aus der Wirtschaftsinformatik. Sie bereiten RIS-Daten auf und stellen zu leistbaren Konditionen ein Dialogsystem zur Verfügung. RIDA verbindet die klassische Recherche mit KI-Tools. Alle drei Anbieter bewegen sich im „leistbaren“ Preissegment.

Sophie Martinetz: Was sind da die konkreten Funktionalitäten?

Dietmar Jahnel: Man kann Rechtsfragen in natürlicher Sprache stellen, wie man sie einem Menschen stellen würde. Bei RechtGPT kann man alle Rechtsgebiete durchforsten – die haben auch deutsches Recht dabei – oder einschränken, zum Beispiel auf Salzburger Landesrecht bei baurechtlichen Fragen. Man bekommt Antworten mit entsprechenden Quellenverweisen.

Sophie Martinetz: 2025 sind wir weiter als vor drei Jahren: Alle Systeme machen klare Verweise, ich kann auf Ursprungsdokumente zurückkommen, teilweise direkt zu Paragraphen. Das ist schon mal eine Arbeitserleichterung.

Dietmar Jahnel: Ja, aber diese Arbeit darf ich mir nicht ersparen! Bei ersten Versuchen waren immer wieder Quellen dabei, die nicht das abgedeckt haben, was in der Antwort behauptet wurde. Fairerweise muss man sagen: Es ist schwierig, mit Test-Cases flächendeckend zu arbeiten, weil man von den großen Anbietern nur 14 Tage Zugang bekommt. Jedes System war je nach Rechtsgebiet besser oder schlechter – ein Ranking würde ich mir nicht zutrauen.

Sophie Martinetz: Was ist der semantische Mehrwert gegenüber der klassischen Stichwortsuche?

Dietmar Jahnel: Ich kann die Frage so stellen, wie ich sie einem Menschen stellen würde. Beispiel: Als kleiner Vermieter hatte ich letzte Woche die Frage „Muss der Mieter einen tropfenden Wasserhahn selbst reparieren?“ Das hat bei allen Systemen gut funktioniert – auch die Stichwortgenerierung mit der RIDA-Datenbank. Es gibt zwei OGH-Entscheidungen, wo
drinsteht: Bagatellschäden muss der Mieter selbst beheben. Ich bin kein Mietrechtsexperte, wusste aber in fünf Minuten Bescheid. Das war super!

Sophie Martinetz: Was wird zusätzlich zur Recherche angeboten?

Dietmar Jahnel: Verträge können hochgeladen und anonymisiert werden, dann kann man sie zusammenfassen lassen. Der Vorteil: Ich muss den Prompt nicht selbst formulieren – das ist Aufgabe der Hersteller. Das ist wirklich eine Wissenschaft für sich! Wenn man mit LLMs kommuniziert und ihnen genau sagen will, was man möchte, sitzt man stundenlang. Dann macht man es zunächst besser, und plötzlich wird es schlechter.

Sophie Martinetz: Das heißt, die Provider arbeiten als Übersetzer zwischen User und LLM

Dietmar Jahnel: Ja, das bedeutet zum Beispiel, dass ich die Struktur verschiedener Gerichtsentscheidungen gut kennen muss, um den Prompt für jedes Gericht anders zu formulieren.

Beispiel EuGH: Der hat eine klare Stelle mit dem Tenor des Urteils, der allerdings meist so formuliert ist, dass man ihn erst beim zehnten Lesen versteht. Ich kann dem LLM sagen: „Geh zur Stelle mit ‚Tenor‘, nimm den Text und formuliere ihn in zwei Sätzen so um, dass er von einem Juristen verstanden werden kann.“

Sophie Martinetz: Das heißt, ihr müsst wirklich strukturell aufbereiten…

Dietmar Jahnel: Ich muss sehr genau wissen, wie Dokumente strukturiert sind, und mir anschauen, was zurückkommt. Selbst wenn man die Anweisungen befolgt, die das LLM über sich selbst gibt, heißt das nicht, dass sie eingehalten werden. Es ist eine Wahrscheinlichkeitsberechnung, keine Recherche, wo Worte verglichen werden. Wenn ich sage „ein Stichwort“, kommen manchmal trotzdem zwei zurück. Damit muss man leben.

Sophie Martinetz: Wie mit müden Mitarbeitern! Was bieten die großen Verlage zusätzlich

Dietmar Jahnel: LexisNexis und Manz sind preislich in einer anderen Liga, bieten aber zusätzliche Funktionalitäten. Manz Genius kann zum Beispiel Gesetzesparagraphen vergleichen lassen. Vor allem haben sie Inhalte aus der Fachliteratur. Das wird interessant für die Legal-Tech-Forschung: Wie viel bringt das? Dass es was bringt, ist zu erwarten – sonst bräuchten wir keine Kommentare mehr schreiben.

Sophie Martinetz: Wobei generisches Wissen durchaus hilft, wenn es kein Abschreiben zwischen Kommentatoren ist…

Dietmar Jahnel: Richtig. Aber von Kommentaren hätte man auch gerne, dass sie jede Rechtsfrage lösen – was nicht der Fall ist. Bei neuen Rechtsfragen bringen alle KI-Tools sehr allgemein formulierte Antworten: „Wo könnte das Problem liegen? Welche Rechtsgebiete sind betroffen?“ Sie lösen es aber nicht. Das ist eine gute Nachricht für Juristen: Für neue Rechtsfragen wird Kreativität nach wie vor gefordert sein.

Sophie Martinetz: Früher musste man auch in die Bibliothek, dann wurde man schneller. Keiner muss Sorge haben.

Dietmar Jahnel: Es wird schneller und einfacher, man kann sich Ideen geben lassen. Aber man darf nicht blind folgen! Was mich am Hype stört: Es wird getan, als würde herkömmliche juristische Arbeit überflüssig. Wenn man jetzt keine Konzipienten mehr einstellt, haben wir in zehn Jahren keine guten Juristen, die LLMs überprüfen können.

Sophie Martinetz: Aktuell geht es um Hilfestellung, nicht um Automatisierung aller Entscheidungen. Das erinnert dich an die RIS-Einführung?

Dietmar Jahnel: Genau! Du bist zu jung, um das miterlebt zu haben, aber damals sagten auch alle: „Jetzt braucht man keine Gesetzessammlungen mehr, Zeitschriften werden überflüssig, Kommentare werden überflüssig.“ Das Ende der juristischen Bibliothek wurde schon in den 90ern ausgerufen. Wenn man schaut, wie viel heute geschrieben wird – das ist nicht eingetreten. Ihr seid ja die einzigen wirklich Legal-Tech-Leute an den Unis. Es wurde leider versäumt, in der Rechtsinformatik für Nachwuchs zu sorgen.

Sophie Martinetz: Es war auch „unsexy“, weil niemand auf Daten zugreifen konnte. Jetzt geht mit relativ wenig Aufwand relativ viel. Was ist beim Dokumenten-Hochladen der Mehrwert?

Dietmar Jahnel: Das kann ich nicht seriös beurteilen, weil ich das nie machen muss. Da müsste man Rechtsanwälte fragen – man bräuchte mehrere Berufsgruppen für seriöse Use-Cases. Man kann auch E-Mails generieren lassen, aber bitte immer durchlesen! Man kennt die Fälle, wo New Yorker Anwälte erfundene Fundstellen an Gerichte geschickt haben.

Sophie Martinetz: Da sind die Leute hoffentlich schon weiter! Komplexe E-Mails muss ich mir anschauen – ich bin ja in der Haftung.

Dietmar Jahnel: Genau. Wenn es ein österreichischer Anbieter ist, gehen wir davon aus, dass Daten nicht in die USA oder zu chinesischen Konzernen gehen. Ich plädiere für neue Tools statt normale LLMs, schon gar nicht kostenlose Versionen.

Sophie Martinetz: Bei kostenlosen Tools bezahle ich mit Daten. Das sage ich in jedem Training. Was sind deine Tipps für den Einstieg?

Dietmar Jahnel: Das ist eine heikle Frage. Einen seriösen Vergleich gibt es noch nicht. Es ist vor allem eine Preisfrage – der Unterschied zwischen AI:ssociate, RechtGPT und RIDA zu den beiden Verlags-KIs ist ziemlich groß. Was mich stört: Es ist teilweise nicht transparent, welche Verlagsinhalte konkret genutzt werden. Das wird offenbar besser: Genjus bietet nun eine „Inhaltsliste“.

Sophie Martinetz: Das war früher auch so – man musste sich für Verlagsinhalte entscheiden…

Dietmar Jahnel: Bei Manz sind schon einige Kommentare drin, sie wollen es offenlegen. Bei RIDA bekommt man einen Gesamtüberblick über die Fachliteratur – Sammelbände, Festschriften, eigentlich der größte Fundus. Unis kommen langsam drauf: „Das ist ja ein Schatz!“ Ein Riesengewinn sind die Zusammenfassungen – immer mit dem Hinweis: Bei Relevanz nachschauen, ob es wirklich so im Wortlaut steht, besonders wenn Gerichte ihre Begründungen kompliziert formulieren.

Sophie Martinetz: Wie fängt man praktisch an?

Dietmar Jahnel: Schwer zu nutzen ist es nicht. Alle Systeme haben Testzugänge. Man wird begeistert oder frustriert sein – man muss den Systemen mehrere Chancen geben. Und natürlich überlegen, was sie bieten können: Wenn Unionsrecht nicht im Datenbestand ist, macht es keinen Sinn, danach zu fragen.

Sophie Martinetz: Diese Technologie ist hier, um zu bleiben. Es ist eine Grundlagentechnologie – kurzfristig überschätzt, langfristig unterschätzt. Sogar der European Council hat sich ein AI-Tool geholt. Man muss verstehen: Word ist nicht Excel, jedes Tool kann was anderes.

Dietmar Jahnel: Es gibt einen Überblicksaufsatz im Anwaltsblatt. Ich hoffe auf Folgeaufsätze mit Use-Cases und inhaltlicher Bewertung – ohne großes Ranking, aber um herauszuarbeiten, wo man das wirklich einsetzen kann. Das ist jetzt Aufgabe der Rechtsinformatik oder Legal Tech.

Sophie Martinetz: Es bleibt spannend! Vielen Dank, Dietmar, für deine Erfahrungen und die detaillierten Einblicke. Unsere Leser haben hoffentlich eine gute Einordnung bekommen, was diese Tools können und wo die Grenzen sind.

Dietmar Jahnel: Dankeschön fürs Lesen und für die Gelegenheit, diese wichtigen Themen zu diskutieren!

---

Über den Autor: