KI und Justiz – Ein Einblick in das Projekt EMIL am Verwaltungsgericht Hannover

KI und Justiz – wie passt das zusammen? Welche konkreten Anwendungsprojekte gibt es, welche Herausforderungen und Hürden müssen überwunden werden, und welche Chancen bieten sich dabei? Heute bin ich zu Gast am Verwaltungsgericht Hannover. Ich erfahre mehr über den KI-Chatbot namens EMIL und bin – so viel kann ich schon einmal vorwegnehmen – fasziniert vom Projekt und der Vorgehensweise. Meine Gesprächspartner sind Ingo Behrens, Präsident, und Niclas Stock, Richter beim Verwaltungsgericht.

„Im Kern geht es bei EMIL darum, Asylverfahren zu beschleunigen. Wir wollen mit KI den Prozess der Informationsbeschaffung für Richter*innen effizienter gestalten“, startet Niclas.

EMIL als neuer KI-Kollege

EMIL soll Richter bei der Suche nach sogenannten Erkenntnismitteln unterstützen. Dies sind öffentlich zugängliche Quellen: „Das Österreichische Rote Kreuz hat beispielsweise viele Informationen zur aktuellen Lage in verschiedenen Ländern“, erläutert Niclas. In einem ersten Schritt sollen diese frei verfügbaren Quellen ins Large Language Model (LLM) eingespeist werden, später könnten auch nicht öffentlich zugängliche Quellen folgen, wie der unter Verschluss stehende Lagebericht des Auswärtigen Amtes.

Wenn entschieden wird, ob der Antrag eines Asylsuchenden aus dem Iran Erfolg hat, müssen  Richter*innen zahlreiche Quellen wälzen, um sich einen Überblick über die aktuelle Lage im Iran zu verschaffen. Das ist ein sehr zeitaufwendiger Rechercheprozess. Hier kommt EMIL ins Spiel. „Suche mir aktuelle Quellen zur Lage im Iran“, soll der Richter den Chatbot EMIL bald fragen können. Dabei ist erstens die Transparenz der Informationen essenziell wichtig: „Wir Richter müssen immer wissen, woher die Informationen stammen. Es darf keine Black Box sein“, betont Niclas. Neben der Transparenz ist zweitens die Vollständigkeit der Informationen wichtig: „Es beschleunigt meinen Rechercheprozess nicht, wenn ich nur die Hälfte der Informationen erhalte und dann doch selber suchen muss.“ Drittens muss EMIL in der Lage sein, Kontext zu verstehen: „Wenn ich die aktuelle Lage im Iran erfrage, dann möchte ich keine Informationen über Somalia lesen. Wenn ich versuche, zu verstehen, wie es Journalisten im Irak geht, möchte ich nicht lesen, was Journalisten schreiben, wie es anderen Menschen geht.“

Richter und Softwareentwickler arbeiten Hand in Hand

Um EMIL diesen Anforderungen entsprechend umzusetzen, arbeiten die Richter eng mit den Softwareentwicklern zusammen. Niclas fungiert dabei als Schnittstelle zwischen Gericht und dem IT-Dienstleister Dataport: „Ich bin der Product Owner Justiz und kommuniziere unsere Anforderungen an die Softwareentwickler.“ Sobald das erste Minimum Viable Product steht, geht EMIL in die Testphase. Es gibt bereits Freiwillige am Gericht, die EMIL testen werden. „Dazu werden wir unter anderem bereits durchgeführte manuelle Suchen mit EMIL replizieren und die Ergebnisse vergleichen“, erläutert Niclas.

Kritischer Diskurs gewünscht

Nicht jeder befürwortet das Projekt. „Und das ist auch gut so“, sagt Ingo. „Um eine breite Diskussion zu ermöglichen, haben wir einen Beirat gegründet, der auch kritische Stimmen einbindet. Beim Thema KI sind wir schnell bei ethischen Fragestellungen und diese müssen unbedingt diskutiert werden. Es ist ein entscheidender Unterschied, ob ich die KI frage: Wie bewertest du die Lage in Somalia? Oder ob ich den Chatbot anweise, mir Informationen zur Lage in Somalia zusammenzustellen. Die KI soll unsere Arbeit nicht ersetzen, sondern uns im Prozess unterstützen“, erklärt Ingo.

Am Gericht finden daher Informationsveranstaltungen statt, bei denen über KI-Anwendungen informiert wird, auch über EMIL hinaus. „Wir hatten beispielsweise mal einen Studenten aus der LeadershipGarage am Gericht, der uns KI-Anwendungen vorgestellt hat. Dabei geht es darum, einfach mal erfahrbar zu machen, wie junge Menschen KI in ihren Alltag einbinden.“ Auch extern finden Veranstaltungen statt, bei denen die verschiedenen Akteure der niedersächsischen Justiz zusammenkommen und sich austauschen sollen. „Es gibt viele IT-affine Menschen in der Justiz und ein Blick über den Tellerrand unseres eigenen Verwaltungsgerichtes hinaus ist sehr gewinnbringend“, findet Ingo.

EMIL ist der Anfang

EMIL ist der Einstieg in den KI-Bereich am Gericht. „Durch EMIL beschäftigen wir uns erstmals mit bestimmten Fragestellungen, deren Beantwortung auch für zukünftige KI-Projekt relevant sein wird“, so Ingo. Dazu gehören Fragen wie: Welches LLM können wir verwenden? Auf welcher Schutzstufe sind wir unterwegs? Aber auch ganz praktische Fragestellungen wie: Wie landet die KI bei jeder/m Richter*in auf dem Rechner?

Agiles Projektmanagement am Gericht

Um diese Fragen zu beantworten und EMIL an den Start zu bringen, wird agil gearbeitet: „Wir kommen ab Tag 1 ins Doing und setzen nicht erst einen langen Anforderungskatalog auf, wie es häufig in der Verwaltung üblich ist. Wir entwickeln ein Minimum Viable Product und testen es dann“, berichtet Niclas. „Diese neue Herangehensweise für ein Gericht finde ich super.“

TABEA als neue KI-Kollegin

Neben EMIL soll auch TABEA die Richter zukünftig unterstützen. TABEA steht für die Aufbereitung von Tatbeständen im Asylbereich. Asylurteile folgen einem bestimmten Muster und enthalten viele Daten und Fakten, wie die Herkunft des Asylsuchenden, das Einreisedatum oder den Aufenthaltsort. Die Idee ist, dass ein Chatbot diese Daten aufbereitet: „Da in der Verwaltungsgerichtsbarkeit etwa 50 Prozent der Verfahren Asylverfahren sind, würde dies die Arbeit enorm erleichtern. Hier sind wir allerdings auf einer anderen Sicherheitsstufe, da wir mit personenbezogenen, also sehr sensiblen Daten arbeiten“, erklärt Ingo.

Ein Blick in die Zukunft

„In den nächsten zehn Jahren werden wir sicherlich damit beschäftigt sein, verschiedene Unterstützungssysteme zu installieren. Die Automatisierung der Justiz wird lange dauern, aber mit EMIL und TABEA machen wir erste Schritte“, sind sich Ingo und Niclas einig. „Gleichzeitig muss uns aber auch bewusst sein, dass KI immer nur eine Unterstützung sein darf. Im vorgerichtlichen Verfahren mag das etwas anders sein. Wenn wir zum Beispiel das Reisevertragsrecht nehmen, dann braucht es nicht immer  Richter*innen, Rechtsanwält*innen und noch Sachverständige, um sich über eine Entschädigung zu einigen, die zwischen 600 und 700 Euro liegt. Hier mag die KI als Entscheidungssystem wirtschaftlich sinnvoller sein. Aber sobald Menschen vor Gericht gehen, muss klar sein, dass ein Mensch mit all seinen Stärken, aber auch Schwächen entscheidet und keine KI“, betont Ingo.

Die Projekte zeigen, wie die Justiz innovative Wege geht, um Prozesse zu beschleunigen und die Arbeit der Richter*innen zu unterstützen. Ich bin nicht nur vom Projekt fasziniert, sondern vor allem von der Arbeitsweise, die ich im Verwaltungsgericht Hannover vorfinde. Lieber Ingo, lieber Niclas, ich danke euch herzlich für diesen spannenden Einblick!