Muss es ein Mensch sein? – Chat-GPT und die Richterin

Lesezeit: 6 Minuten
10. Mai 2024

Seit der Einführung von Large-Language-Models, also Sprachmodellen, haben KI-Systeme erstmals in der breiten Öffentlichkeit Beachtung gefunden. Sprachmodelle können Texte generieren, die von Menschen verfassten Texten ähneln. Gerade das macht diese Art von KI-Systemen für die textbasierte Tätigkeit von Juristinnen besonders interessant. Der Einsatz von Sprachmodellen wird daher für vielerlei juristische Aufgabenbereiche diskutiert bzw. erprobt. Mitunter könnte ein Sprachmodell in Hinkunft vielleicht gar richterliche Tätigkeiten übernehmen. Damit stellt sich aber auch die Frage, ob Sprachmodelle oder ganz allgemein KI-Systeme aus verfassungsrechtlicher Sicht auch als Richterinnen tätig werden dürften.  

I. Vorgaben des Art. 6 EMRK 

Historisch betrachtet ist Art. 6 EMRK ist vom Bild einer menschlichen Richterin geprägt: Die Richterin muss die Parteien im Rahmen einer öffentlichen mündlichen Verhandlung hören und ihre Entscheidung mündlich verkünden. Außerdem ist die Richterin bei ihrer Tätigkeit unparteilich und unabhängig. Ihre Entscheidung muss rechtlich tragbar und nachvollziehbar und vor allem nicht willkürlich sein. In seiner jüngsten Judikatur verlangt der EGMR zudem, dass Richterinnen aufgrund ihrer fachlichen Kompetenz und ihrer moralischen Integrität ausgewählt werden.  

Damit erscheint der Einsatz eines KI-Systems als Richterin auf den ersten Blick zunächst ausgeschlossen. Doch der EGMR interpretiert die EMRK nicht streng historisch. Er ist gesellschaftlichen Entwicklungen gegenüber nicht nur offen, sondern wird in gewisser Weise gar durch sie geprägt. Ob die Richterin eine natürliche Person sein muss, ist offen. 

II. KI als Richterin i.S.d. Art. 6 EMRK  

Freilich kann bei KI-Systemen nicht davon gesprochen werden, dass sie fachlich oder moralisch kompetent sind. Noch können KI-Systeme aus technischer Sicht nicht als Richterinnen eingesetzt werden: Weder können sie eine öffentliche mündliche Verhandlung führen noch verlässlich rechtlich tragfähige Ergebnisse generieren. Außerdem können sie nur sehr eingeschränkt von sich aus tätig werden, um etwa einen Sachverhalt festzustellen. Insbesondere die Beweisaufnahme und Beweiswürdigung erweist sich als schwierig. Vielfach werden KI-Systeme auch dafür kritisiert, dass sie voreingenommen entscheiden.  

Es ist allerdings aus technischer Sicht möglich, dass KI-Systeme in Hinkunft als Richterin eingesetzt werden könnten. Seit kurzem können bestimmte Sprachmodelle mithilfe spezieller Datensätze auf spezielle Aufgaben trainiert werden. Mittlerweile können sie sogar einfache Recherchen eigenständig durchführen und über Anwendungsschnittstellen (APIs) auf andere Programme zugreifen und damit ein Stück weit eigenständig tätig werden. Zwar ist es KI-Systemen derzeit noch nicht möglich, ein Gerichtsverfahren im Einklang mit Art. 6 EMRK zu führen; doch ist es damit nicht mehr ausgeschlossen, dass ein KI-System in Hinkunft ein Verfahren führt und rechtlich tragfähige gerichtliche Entscheidungen verfasst.  

Freilich müsste dabei sichergestellt werden, dass KI-Systeme nicht voreingenommen entscheiden. Mitunter könnte es hierfür allerdings genügen, dass ein KI-System vor seinem Einsatz zur Genüge getestet und geprüft wird und die Daten des Trainings und der Prüfung den Parteien sowie dem Rechtsmittelgericht zur Verfügung gestellt werden, damit ein „bias“ vermieden bzw. gegebenenfalls aufgedeckt werden kann. Abgesehen davon ist es zwar noch nicht absehbar, ob KI-Systeme auch an jenen moralischen Standards gemessen werden können, die an menschliche Richterinnen gestellt werden. Doch ist es zumindest möglich, dass Sprachmodelle in Zukunft moralisches Handeln simulieren können.  

Sollte es in Zukunft technisch möglich sein, dass ein KI-System ein Verfahren im Einklang mit Art. 6 EMRK führt, ist es nicht mehr ausgeschlossen, dass der EGMR auch KI-Systeme als Tribunal i.S.d. Art. 6 EMRK qualifizieren könnte. 

III. Vorgaben des B-VG 

Das Recht auf ein Verfahren vor dem gesetzlichen Richter i.S.d. Art. 83 Abs. 2 B-VG garantiert, dass die Zuständigkeit und Zusammensetzung von Gerichts- bzw. Verwaltungsbehörden vorab gesetzlich determiniert, diese Zuständigkeitsverteilung auch eingehalten und ein Gericht gesetzmäßig zusammengesetzt wird. Art. 83 Abs. 2 B-VG verhindert den Einsatz eines KI-Systems als Richterin dabei nicht. Freilich war der „gesetzlichen Richter“ historisch betrachtet immer eine natürliche Person. Schutzzweck des Rechts auf ein Verfahren vor dem gesetzlichen Richter ist allerdings nur, dass die gesetzlich begründete Zuständigkeitsverteilung bzw. Zusammensetzung gewahrt wird. Aus der Perspektive des Art. 83 Abs. 2 B-VG ist es zunächst also einerlei, ob der „gesetzliche Richter“ ein Mensch oder ein KI-System ist. 

Im Bereich der (Verwaltungs-)Gerichtsbarkeit geht das B-VG allerdings eindeutig von einer menschlichen Richterin aus: Besetzungsvorschläge müssen meist mehrere Personen anführen, aus denen die Richterin ausgewählt wird. Um ernannt werden zu können, müssen Richterinnen über ein rechtswissenschaftliches Studium und eine Berufserfahrung verfügen. Sie treten in Ruhestand, wenn sie ein gewisses Alter erreicht haben und können gegen ihren Willen nicht ohne gesetzliche Grundlage versetzt oder ihres Amtes enthoben werden. Bestimmte Richterinnen dürfen gewisse Berufe nicht ausüben oder aber müssen außerhalb Wiens wohnen.  

IV. KI als Richterin i.S.d. B-VG  

Zwar spricht das B-VG die Richterin als natürliche Person nicht ausdrücklich an; die Verfassung ist jedoch offenbar vom Bild einer rechtsgelehrten, menschlichen Richterin geprägt. Der Einsatz eines KI-Systems als Richterin ist damit aus dieser Perspektive unzulässig. Anzudenken wäre allerdings, dass ein KI-System in bestimmten Verfahren – ähnlich einer Anonymverfügung – zunächst eine vorläufige Entscheidung treffen könnte, die die Parteien entweder freiwillig akzeptieren oder aber beanstanden könnten. Letzteres würde bewirken, dass ein ordentliches Gerichtsverfahren eingeleitet wird, in dem eine (menschliche) Richterin über ihren Rechtsstreit entscheidet. 

V. Ergebnis  

Aus verfassungsrechtlicher Sicht gibt es Grenzen, wenn KI-Systeme als Richterin tätig werden sollen. Art. 6 EMRK ist verhältnismäßig offen, immerhin betrachtet der EGMR die EMRK als „living instrument“ und ist gesellschaftlichen Entwicklungen gegenüber zugänglich. Sollten KI-Systeme in Zukunft hinreichend fachlich kompetent und technisch fähig sein, ein Verfahren im Einklang mit Art. 6 EMRK zu führen, könnten KI-Systeme durchaus eigenständig tätig werden dürfen. Offen ist dabei, ob ein KI-System jemals jene moralischen Anforderungen erfüllen kann, die der EGMR in seiner jüngsten Judikatur an Richterinnen stellt. 

Grenzen ergeben sich vielmehr aus der Perspektive des B-VG: Art. 83 Abs. 2 B-VG steht dem eigenständigen Einsatz eines KI-System für sich genommen nicht entgegen; das verfassungsrechtliche Bild einer Richterin ist allerdings das eines Menschen. Dies wird – zwar nicht ausdrücklich – aber doch in zahlreichen Bestimmungen zur Gerichtsbarkeit deutlich.  

Der Versuch, den Einsatz eines KI-Systems als Richterin in den bestehenden verfassungsrechtlichen Rahmen einzufügen, ist allerdings wie Pudding an die Wand zu nageln. Vielleicht muss sich der Gesetzgeber von all diesen für Menschen gemachten Rechtsgrundlagen lösen und ein eigenes Regelungswerk für KI-Systeme entwerfen, dass sich den vielen in diesem Zusammenhang auftretenden (verfassungs-)rechtspolitischen Fragen widmet.  

Autorinnen-Info: 

Dr. Alexandra Kunesch, BA, Universitätsassistentin post doc am Institut für Staats- und Verwaltungsrecht der Universität Wien   

Photo-Copyright by M. Kopetzki