Roboter Kaputt

Robotik & Haftung

Rechtliche Haftung autonomer Systeme im Alltag: Mit der zunehmenden Integration autonomer Systeme in den Alltag stellt sich die Frage nach der rechtlichen Haftung immer dringlicher. Diese Systeme, die Entscheidungen ohne menschliches Zutun treffen können, bringen neuartige Risiken und Herausforderungen für bestehende Haftungsregelungen mit sich. Der folgende Artikel gibt einen Überblick über die rechtlichen Fragestellungen und zeigt, wie diese in Zukunft adressiert werden könnten.

Dabei sollte klar getrennt werden: Robotik und KI sind eng miteinander verwoben, aber weder ist dies zwingend – noch handelt es sich um eine einheitliche Rechtsfrage. Hier steckt ein komplexes Haftungssystem im Verborgenen, das uns in Zukunft viel Arbeit bereiten wird.

1. Verantwortlichkeit und Haftung: Wer trägt die Schuld?

Die zentrale Herausforderung im Zusammenhang mit autonomen Systemen besteht darin, die Verantwortung für deren Handlungen klar zu definieren. Während traditionelle Haftungsmodelle menschliches Handeln voraussetzen, agieren autonome Systeme auf Basis von Algorithmen und maschinellem Lernen, was die Zuweisung von Haftung erschwert. Es stellt sich die Frage, wer haftbar gemacht werden kann, wenn solche Systeme Fehler machen: der Hersteller, der Programmierer, der Benutzer oder das System selbst?

Die Lösung dieses Problems erfordert eine Anpassung der rechtlichen Rahmenbedingungen, insbesondere der Produkthaftung. Die klassische Produkthaftung, die für fehlerhafte Produkte gilt, reicht möglicherweise nicht aus, um die komplexen Verantwortlichkeiten in Bezug auf autonome Systeme zu adressieren. Hier wird die Einführung einer spezifischen Haftung für autonome Systeme diskutiert, die sowohl Hersteller als auch Betreiber in die Pflicht nimmt.

2. Produkthaftung und deren Grenzen

Die derzeitige Produkthaftung ist in erster Linie auf physische Produkte ausgelegt. Bei autonomen Systemen jedoch handelt es sich oft um eine Kombination aus Hardware und Software, die in einer dynamischen Interaktion miteinander stehen. Dies führt zu einer Reihe von Herausforderungen: Softwarefehler können schwer zu identifizieren sein, und oft ist es unklar, ob der Fehler auf die Hardware oder die Software zurückzuführen ist.

Eine zentrale Frage ist, ob Software als „Produkt“ im Sinne der Produkthaftung angesehen werden kann. Traditionell wurde Software als immaterielles Gut betrachtet, das nicht unter die Produkthaftung fällt. In der modernen Rechtsprechung wird jedoch zunehmend anerkannt, dass Software, insbesondere wenn sie in ein physisches Produkt integriert ist, wie ein Produkt behandelt werden sollte.

Ein weiterer wichtiger Aspekt ist die Produktbeobachtungspflicht. Hersteller autonomer Systeme könnten verpflichtet werden, ihre Produkte nach dem Inverkehrbringen kontinuierlich zu überwachen, um potenzielle Fehler frühzeitig zu erkennen und zu beheben. Dies ist besonders wichtig bei Systemen, die durch maschinelles Lernen kontinuierlich „weiterentwickelt“ werden.

3. Risiken und Herausforderungen bei der Haftung

Die Haftung für autonome Systeme bringt spezifische Risiken mit sich. Ein zentrales Problem ist die sogenannte „dynamische Kausalität“ – das autonome System trifft Entscheidungen auf Grundlage von Daten und Algorithmen, die sich über die Zeit ändern können. Dies erschwert die Zuweisung von Verantwortung bei Fehlern. Zudem stellt sich die Frage, wie mit „weiterfressenden Mängeln“ umgegangen werden soll – Fehler, die sich erst im Laufe der Zeit entwickeln und zu erheblichen Schäden führen können.

Ein weiteres Problem ist die Interaktion zwischen verschiedenen autonomen Systemen. Wenn mehrere Systeme miteinander kommunizieren und Daten austauschen, stellt sich die Frage, wer haftet, wenn ein Fehler durch die Daten eines anderen Systems verursacht wird. Hier bedarf es klarer Regelungen, um die Verantwortlichkeiten zu klären und zu verhindern, dass die Haftung zwischen den beteiligten Parteien hin- und hergeschoben wird.

4. KI und Robotik

5. Ausblick: Anpassung der rechtlichen Rahmenbedingungen

Um die Herausforderungen, die durch autonome Systeme entstehen, zu bewältigen, ist eine Anpassung der bestehenden Gesetze unerlässlich. Dies könnte die Einführung einer speziellen Haftung für autonome Systeme umfassen, die die besonderen Eigenschaften dieser Systeme berücksichtigt. Weiterhin könnten spezifische Versicherungsmodelle entwickelt werden, um die finanziellen Risiken, die mit dem Betrieb autonomer Systeme verbunden sind, abzusichern.

Auch die Regulierung der Zusammenarbeit zwischen Herstellern und Zulieferern wird in Zukunft an Bedeutung gewinnen. Die klare Abgrenzung von Verantwortlichkeiten und die Einführung strengerer Vorschriften für die Sicherheit und Überwachung autonomer Systeme könnten dazu beitragen, das Vertrauen in diese Technologien zu stärken und gleichzeitig die rechtlichen Risiken zu minimieren.

Ausblick

Die Integration autonomer Systeme in den Alltag bringt tiefgreifende Veränderungen mit sich, die eine Anpassung der rechtlichen Rahmenbedingungen erfordern. Die Frage der Haftung wird dabei eine zentrale Rolle spielen. Es ist entscheidend, dass Gesetzgeber, Industrie und Gesellschaft zusammenarbeiten, um einen klaren und fairen rechtlichen Rahmen zu schaffen, der sowohl die Innovation fördert als auch die Sicherheit und Rechte der Bürger schützt. Die kommenden Jahre werden zeigen, wie gut es gelingt, diese neuen Technologien verantwortungsvoll in die Gesellschaft zu integrieren.

Die EU hat sich das Thema früh auf die Agenda gesetzt: Schon hatte 2017 das Europäische Parlament die EU-Kommission aufgefordert, einheitliche Standards für ein Regelwerk über die zivilrechtliche Haftung von Robotern zu erarbeiten. Ziel war es, EU-weit geltende Vorschriften zu schaffen, um etwa ethische Normen durchzusetzen oder die Haftung bei Unfällen mit autonomen Fahrzeugen zu regeln. Diese Überlegungen zur Haftung für Roboter und KI-Systeme sind inzwischen in den neuen Entwurf der EU-Produkthaftungsrichtlinie (ProdHaftRL) von 2024 eingeflossen:

  • Einbeziehung von Software und digitalen Produkten: Software, einschließlich KI-Systeme, wird erstmals ausdrücklich als haftungsrelevantes Produkt in den Anwendungsbereich der ProdHaftRL einbezogen, unabhängig davon, ob sie in einem Gerät integriert ist oder separat bereitgestellt wird. Damit unterliegen nun auch reine Softwareprodukte und digitale Produktionsdateien der verschuldensunabhängigen Produkthaftung.
  • Erweiterte Sicherheitserwartungen: Die Sicherheitserwartungen an Produkte werden auf Aspekte wie Vernetzung, Cybersicherheit und automatische Software-Updates ausgedehnt. Hersteller haften also auch für Schäden, die aus Sicherheitslücken oder fehlenden Updates resultieren.
  • Ausweitung des Herstellerbegriffs: Der Kreis der haftenden Personen wird erheblich erweitert. Neben dem eigentlichen Hersteller haften auch Fulfillment-Dienstleister, Bevollmächtigte des Herstellers und unter bestimmten Voraussetzungen Einzelhändler und Betreiber von Online-Marktplätzen. Auch wer Produkte nachträglich wesentlich verändert, gilt als Hersteller.
  • Beweiserleichterungen für Geschädigte: Geschädigte müssen nur noch die Fehlerhaftigkeit des Produkts, nicht aber ein Verschulden des Herstellers nachweisen. In komplexen Fällen, gerade bei KI-Systemen, soll es Beweiserleichterungen geben.

Die ProdHaftRL 2024 stellt damit eine deutliche Verschärfung der Produkthaftung dar und bezieht explizit Software, KI-Systeme und neue Akteure der digitalisierten Wirtschaft mit ein. Sie soll voraussichtlich sogar noch 2024 in Kraft treten, die Umsetzung in nationales Recht muss dann binnen 2 Jahren erfolgen.

Rechtsanwalt Jens Ferner (Fachanwalt für IT-Recht & Strafrecht)
Letzte Artikel von Rechtsanwalt Jens Ferner (Fachanwalt für IT-Recht & Strafrecht) (Alle anzeigen)