KI-Recht: Wirksamkeit von „Smart Contracts“

Das Amtsgericht Frankfurt am Main führt ein simuliertes Gerichtsverfahren durch, das die rechtlichen Herausforderungen bei Verträgen mit künstlicher Intelligenz beleuchtet und Lösungen für zukünftige Rechtsfälle aufzeigt. So lautet das Urteil.

In der Zukunft wird künstliche Intelligenz viele industrielle Abläufe automatisieren. Ersatzteile und Rohstoffe werden automatisch bestellt, wenn die Vorräte knapp werden. Firmen werden beauftragt, Reparaturen auszuführen, und Waren werden autonom ausgeliefert. Lkw werden smart beladen. Doch auch hier werden Fehler passieren: Lieferungen könnten verspätet sein, nicht ankommen oder unnötig sein. Dinge können kaputtgehen oder beschädigt werden. Diese Fehler werden für Unternehmen teuer werden. Die Frage wird sich stellen: Wer haftet, wenn einer der Vertragspartner keine natürliche Person, sondern eine KI ist?

In solchen Fällen sind die rechtlichen Grundlagen noch weitgehend unklar. Die Klärung dieser Fragen ist von entscheidender Bedeutung, da sie die Grundlage für das Vertrauen in automatisierte Vertragssysteme bildet. Das Amtsgericht Frankfurt am Main hat sich einen solchen Fall fiktiv angenommen. Auf der Anklagebank „saß“  die KI.

So lautete das Urteil in der Prozess-Simulation

Am 28. 6. war die Prozess-Simulation abgeschlossen und mündete in einen Urteilsspruch, der für die anwesende Presse, darunter VDI nachrichten, verlesen wurde. Richter Florian Conradi verkündete darin, dass der über Softwareagenten verhandelte und in der Blockchain dokumentierte Vertrag als sogenannter „Smart Contract“ nach Auffassung des Gerichts wirksam abgeschlossen wurde. Für den Musterfall bedeutet das, dass der klagende Wälzlagerhersteller Anspruch auf die Einhaltung des Vertrages bzw. konkret auf die vollständige Bezahlung der gelieferten Ware hat.

Lesen Sie auch:

KI-Gehälter: Was Experten für künstliche Intelligenz verdienen

VDI-Karriereführer: Wie Ingenieure mit KI ihre Zukunft gestalten

Zusammenarbeit in einem simulierten Gerichtsverfahren

Über mehrere Monate hinweg haben Richter, Anwälte und Sachverständige in einem simulierten Gerichtsverfahren zusammengearbeitet. Sie verhandelten einen Präzedenzfall, der in der Realität frühestens in etwa einem Jahrzehnt vor Gericht kommen könnte. Ziel des Verfahrens war es, aufzuzeigen, wie Parteien bei Verträgen, die von KI ohne menschliche Beteiligung geschlossen werden, zu ihrem Recht kommen.

Die Simulationsstudie soll als Vergleichsfall für die Praxis dienen. Sie wird von Georg Borges, Professor am Institut für Rechtsinformatik der Universität des Saarlandes, im Rahmen des Projekts „Industrie 4.0 Legal Testbed“ geleitet. Das Recht-Testbed versteht sich als digitales Experimentierfeld für automatisierte Geschäftsprozesse und soll Politik und Unternehmen Handlungsempfehlungen für neue rechtliche Standards geben.

Industrie braucht rechtssichere Lösungen

„Dann braucht Industrie rechtssichere Lösungen dieser Streitfälle – sonst wird sich die künstliche Intelligenz wegen des hohen Risikos überhaupt nicht erst durchsetzen können“, erklärt Borges. „Nur wenn es gelingt, reale und virtuelle Welt wieder zusammenzubringen, können wir diese Rechtssicherheit gewährleisten“, sagt er. Ein zentraler Punkt sind Verträge, die komplett ohne menschliches Zutun von Maschinen ausgehandelt und abgeschlossen werden.

Der Experte weist darauf hin, dass es bereits Verträge mit Maschinen gibt, etwa bei Warenautomaten. In der Industrie 4.0 sei die Rechtslage jedoch wesentlich komplexer. Schon heute könnten Maschinen miteinander kommunizieren und eigenständig Entscheidungen treffen, ohne dass ein Mensch beteiligt sei. Technisch sei es möglich, dass Maschinen allein verhandeln, Verträge abschließen und Leistungen erbringen.

Zukünftig könnten Verträge durch sogenannte Smart Contracts durchgeführt werden, also Software, die die Vertragsdurchführung automatisiert. In Kombination mit Blockchain-Technologie könne die Vertragsausführung kryptografisch gesichert und parallel auf mehreren Computer-Servern gespeichert und überwacht werden. Dadurch sei die Vertragsausführung vor Manipulationen sicher und die Rechtssicherheit werde gewahrt.

Fall mit möglichst vielen offenen Fragen entwickelt

Aber auch hier wird es zu Rechtsstreitigkeiten kommen. Wer zahlt, wenn Maschinen Fehler machen? Wer trägt die Verantwortung für Schäden, die durch Maschinen verursacht werden? Wer haftet? Wie können Verträge vollständig automatisch und dennoch rechtssicher ausgehandelt und abgewickelt werden? Wie steht es um IT-Sicherheit, Datenschutz und Nachweisbarkeit?

Georg Borges hat einen solchen Fall entwickelt, der möglichst viele offene Fragen enthält, um Praktikerinnen und Praktikern in Industrie und Recht wertvolle Erkenntnisse für zukünftige Rechtsfälle zu liefern.

In einer Simulationsstudie haben echte Richter, Anwälte und Sachverständige diesen Musterfall durchgespielt, als wäre er real. Dabei wurden alle Aspekte offengelegt und die Thematik bereits heute aufgezeigt und dokumentiert, inklusive Sachverständigengutachten und Beweislastproblemen. Für Industrie und Juristen wird demonstriert, wie man in Zukunft Ansprüche aus solchen smarten Verträgen durchsetzen kann, wo die Risiken liegen, wie die Beweislastproblematik aussieht und vieles mehr.

Rechtssicherheit in einer automatisierten und vernetzten Zukunft

„Ziel dieser Simulationsstudie ist es, heute schon aufzuzeigen und nachvollziehbar zu machen, wie Rechtssicherheit in einer automatisierten und vernetzten Zukunft aussehen kann – ein Labor oder eine Art Sandbox für Industrie und Juristen also“, so Borges. Typische Rechtsprobleme sollen identifiziert werden, die zu Schwierigkeiten führen könnten, damit schnell Anpassungen und Weiterentwicklungen vorgenommen werden können. Dadurch soll das Vertrauen der Industrie in diese Technologie gestärkt und deren Einsatz gefördert werden.

Das Projekt umfasst über 1000 Arbeitsstunden. Die Dokumentation besteht aus mehreren Hundert Seiten und beinhaltet eine mehrstündige Videoaufnahme der simulierten Gerichtsverhandlung.

Projekt „Industrie 4.0 Legal Testbed“

Das Projekt „Industrie 4.0 Legal Testbed“ wird vom Bundeswirtschaftsministerium mit mehreren Millionen Euro unterstützt. In diesem Rahmen arbeitet ein interdisziplinäres Forschungskonsortium an der Entwicklung eines Softwareagenten, der Verträge vollautomatisch abschließt. Beteiligt sind das Institut für Rechtsinformatik der Universität des Saarlandes sowie die Fraunhofer-Institute für Materialfluss und Logistik (IML), Software- und Systemtechnik (ISST) und das Horst Görtz Institut für IT-Sicherheit der Ruhr-Universität Bochum (HGI). Die Forscherinnen und Forscher betrachten sämtliche Geschäftsprozesse und entwickeln technische Agenten, die von der automatisierten Kontaktaufnahme über Vertragsverhandlungen bis hin zum Vertragsabschluss und zur -ausführung alles rechtssicher gestalten.