Warum wir als Kanzlei einen eigenen juristischen KI-Assistenten entwickelt haben – ein Erfahrungsbericht

Lesezeit: 5 Minuten
18. Juli 2025

Ein Beitrag von Philipp Merzo, Grama Schwaighofer Vondrak Rechtsanwälte & AI:ssociate.

Künstliche Intelligenz ist in der Rechtsbranche angekommen – nicht als theoretisches Zukunftsthema, sondern als konkrete Option im juristischen Alltag. Recherchieren, strukturieren, formulieren: Sprachmodelle sind heute in der Lage, komplexe Texte zu analysieren und juristische Aufgaben sinnvoll zu unterstützen. Gleichzeitig stellen sich neue Fragen – nach Qualität, Verantwortung, Datenschutz und Vertraulichkeit.

Als unsere Kanzlei vor gut anderthalb Jahren begann, sich ernsthaft mit dem Einsatz von KI im juristischen Alltag auseinanderzusetzen, gab es am österreichischen Markt keine Lösung, die unseren Anforderungen gerecht wurde. Die technischen Möglichkeiten waren vielversprechend, aber die vorhandenen Tools lieferten keine treffsicheren juristischen Ergebnisse und blieben datenschutz- sowie standesrechtlich fragwürdig.

Was wir suchten, war ein Assistent, der unter Anwendung der juristischen Methodologie arbeitet, Gesetzesänderungen berücksichtigt, Entscheidungen richtig einordnet und dabei nachvollziehbar bleibt. Wir standen vor der Entscheidung: warten, bis passende Produkte erscheinen – oder selbst aktiv werden. Wir haben uns für Letzteres entschieden und einen vollumfänglichen juristischen KI-Assistenten (AI:ssociate) entwickelt, den wir selbst nutzen und anderen Jurist:innen lizensieren. Dieser Beitrag soll nicht das Produkt beschreiben, sondern nachvollziehbar machen, warum man als Anwaltskanzlei eine eigene KI-Lösung baut – und was man dabei lernt.

Von Anfang an: Anwender und Entwickler in einem

Ein zentraler Vorteil war, dass wir von Beginn an Anwender und Entwickler zugleich waren. Rückmeldungen aus der täglichen Arbeit flossen direkt in die Umsetzung ein. Was fehlt? Was stört? Wo biegt das System juristisch falsch ab? Solche Fragen konnten wir ohne Umwege beantworten – und direkt im Produkt abbilden. Diese enge Verbindung zwischen Anwendung und Entwicklung ist etwas, das man bei externen Lösungen selten findet.

Zugleich war es hilfreich, dass ich mich seit über zehn Jahren mit Programmierung und Machine Learning beschäftige. Dieses technische Vorverständnis hat es ermöglicht, mit unseren Entwickler:innen auf Augenhöhe zu arbeiten – nicht nur in Konzepten, sondern in konkreten Lösungen. Und es hat geholfen, realistisch zu bleiben: Was kann ein Sprachmodell tatsächlich leisten – und wo braucht es nach wie vor die Expertise des Menschen?

Datenschutz und Vertraulichkeit: Ein kritischer Punkt beim Einsatz von KI

Gerade bei sensiblen Daten – also fast allem, was in der Kanzlei passiert – ist Datenschutz und Vertraulichkeit kein Randthema. Viele der mittlerweile verfügbaren KI-Anwendungen nutzen US-amerikanische Sprachmodelle über diverse Cloud-Infrastrukturen. Auch wenn in diesen Cloud-Lösungen Daten zum Teil auf europäischen Servern liegen, bleiben Datenzugriffe der Anbieter der Sprachmodelle aus den USA möglich. 

Für uns war klar: Wenn wir solche Modelle nutzen wollen, dann nur unter Bedingungen, die dem Datenschutz und dem anwaltlichen Standesrecht gerecht werden. Deshalb haben wir von Anfang an auf einen eigenen technischen Weg gesetzt: Dateien können bei uns vor der Verarbeitung pseudonymisiert werden. Ein KI-Modell erkennt automatisch personenbezogene Angaben und ersetzt sie durch Platzhalter, bevor die Inhalte verarbeitet werden. Dadurch verlässt keine identifizierbare Information den geschützten Bereich.

Dieser zusätzliche Schritt macht den Einsatz leistungsstarker Sprachmodelle verantwortbar. Für uns war wichtig, selbst nachvollziehen zu können, was mit den Daten passiert – und was nicht.

KI verändert das Modell juristischer Arbeit

Die klassische Vergütung der Rechtsberatung nach Stunden ist nicht zufällig unter Druck geraten. Diverse komplexe Aufgaben können KI-unterstützt in einem Bruchteil der Zeit erledigt werden. Das verändert nicht nur Arbeitsprozesse, sondern auch die ökonomischen Grundlagen juristischer Tätigkeit. Die Fähigkeit, Technologie sinnvoll und verantwortungsvoll einzusetzen, wird immer wichtiger.

Dabei wird deutlich: Es reicht nicht, ein KI-Tool bedienen zu können. Ein tieferes Verständnis für die Funktionsweise solcher Systeme wird zunehmend zur Kernkompetenz – um Ergebnisse einordnen, überprüfen und richtig nutzen zu können. Wer weiß, wie KI arbeitet, kann auch besser beurteilen, wann sie helfen kann – und wann man sich lieber auf die eigene juristische Erfahrung verlassen sollte.

So beeindruckend die Fortschritte auch sind: Juristische Arbeit besteht nicht nur aus Recherche und Textgenerierung. Sie lebt von Interpretation, Kontext, Abwägung – und von zwischenmenschlichem Verständnis. Kein Modell der Welt ersetzt das Gespür für Lebenswirklichkeit, das Verstehen der wirtschaftlichen Interessen hinter einem Streit, die strategische Einschätzung einer Prozesslage oder das Vertrauen zwischen Anwalt und Mandant.

Deshalb sehen wir KI als Werkzeug, nicht als Ersatz. Es hilft uns, schneller zu recherchieren, Muster zu erkennen, erste Entwürfe zu formulieren. Aber die Entscheidung, was juristisch eingesetzt wird, bleibt beim Menschen.

Fazit

Als wir beschlossen, eine eigene juristische KI zu entwickeln, war das kein Innovationsprojekt aus Neugier, sondern eine pragmatische Reaktion auf reale Lücken am Markt. Heute zeigt sich: Die Nähe zwischen Entwicklung und Anwendung bringt enorme Vorteile – fachlich, organisatorisch und strategisch. Wir wissen, wie das System funktioniert, und wir können es so gestalten, wie wir und unsere Lizenznehmer:innen es brauchen. Wer als Kanzlei die Möglichkeit hat, diesen Weg zu gehen – mit dem nötigen technischen Verständnis und der Bereitschaft, Ressourcen zu investieren – wird dafür mit langfristiger Unabhängigkeit, effizienterem Arbeiten und einem echten Kompetenzgewinn belohnt. KI ist nicht das Ziel – aber ein Werkzeug, das, richtig eingesetzt, juristische Arbeit besser machen kann. Und wer versteht, wie diese Werkzeuge funktionieren und sie im besten Fall auch mitgestalten kann, wird auch in einem sich rasant wandelnden Berufsumfeld bestehen

---

Über den Autor: