Aussetzung - Robotikrecht & Roboterrecht

Was ist ein KI-System?

Was ist ein KI-System im Sinne der KI-VO: Die KI-Verordnung (der „AI Act“) reguliert europaweit KI-Systeme. Dabei ist die erste und wichtigste Frage: Was ist überhaupt ein KI-System?

Checkliste Chatbot: Datenschutzrechtliche Voraussetzungen für den Betrieb eines Chatbots

Was braucht man für eine „Checkliste Chatbot“: In der heutigen digitalen Welt haben Chatbots eine immer größere Bedeutung erlangt. Sie sind in der Lage, Kundenanfragen rund um die Uhr zu beantworten und Prozesse zu automatisieren, was sowohl Unternehmen als auch Kunden viele Vorteile bringt.

Allerdings bringt der Einsatz von Chatbots, insbesondere solchen, die auf großen Sprachmodellen (LLMs) wie ChatGPT basieren, erhebliche datenschutzrechtliche Herausforderungen mit sich. Datenschutz ist in diesem Kontext besonders wichtig, weil Chatbots oft mit personenbezogenen Daten interagieren und diese verarbeiten. Die Einhaltung der Datenschutz-Grundverordnung (DSGVO) ist daher unerlässlich, um rechtliche Konsequenzen zu vermeiden und das Vertrauen der Nutzer zu sichern.

Datenschutzrecht und Künstliche Intelligenz: Herausforderungen und Lösungsansätze

Die Integration von Künstlicher Intelligenz (KI) in zahlreiche Lebensbereiche bringt immense Vorteile mit sich, stellt aber auch erhebliche Herausforderungen im Bereich des Datenschutzrechts dar. Insbesondere die Datenschutz-Grundverordnung (DSGVO) spielt eine entscheidende Rolle bei der rechtlichen Regulierung von KI-Anwendungen.

Mein Beitrag versucht verständlich und nicht zu juristisch – übrigens im Rahmen unserer Reihe zu den rechtlichen Grundlagen bei Entwicklung und Einsatz von KI – die wesentlichen Anforderungen und praktischen Lösungen, um KI datenschutzkonform zu implementieren und zu betreiben.

Schutz von KI

Kann künstliche Intelligenz als solche rechtlich geschützt werden? Die Frage ist keineswegs trivial – und von erheblicher wirtschaftlicher Bedeutung: Die rechtliche Problematik und Notwendigkeit des Schutzes von Datensätzen in diesem Zusammenhang liegt auf der Hand.

In einer digitalisierten Wirtschaft, in der Daten zunehmend als wertvolles Wirtschaftsgut betrachtet werden, ist der rechtliche Schutz z.B. von Datenbeständen, aber auch von Software, die mit diesen Daten arbeitet, von entscheidender Bedeutung. Nur so kann aus hiesiger Sicht die Frage der Schutzfähigkeit von KI durch eine getrennte Betrachtung von Datenbeständen und Software beantwortet werden.

Data Act

Data Act, ein kleiner Überblick: Die Europäische Kommission hat bereits 2022 Regeln für die Nutzung und den Zugang zu in der EU erzeugten Daten in allen Wirtschaftsbereichen vorgelegt. Der Datenrechtsakt („Data Act“) soll für Fairness im digitalen Umfeld sorgen, einen wettbewerbsfähigen Datenmarkt fördern, Möglichkeiten für datengestützte Innovationen eröffnen und den Zugang zu Daten für alle erleichtern. Inzwischen ist der Data Act dabei, Realität zu werden und gilt bald europaweit.

Der Data Act soll insbesondere zu neuen, innovativen Dienstleistungen und wettbewerbsfähigeren Preisen für Kundendienstleistungen und Reparaturen von vernetzten Gegenständen führen. Dieser letzte horizontale Baustein der Datenstrategie der Kommission wird eine Schlüsselrolle bei der digitalen Transformation im Einklang mit den digitalen Zielen für 2030 spielen.

Richtlinie zur KI-Haftung

Richtlinie zur KI-Haftung: Der Entwurf für eine Richtlinie des Europäischen Parlaments und des Rates zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz (KI-Haftung) zielt darauf ab, einheitliche Anforderungen für die Haftung bei Schäden, die durch KI-Systeme verursacht werden, zu schaffen.

Rechtliche Herausforderungen durch künstliche Intelligenz

Die rechtlichen Herausforderungen im Bereich der Künstlichen Intelligenz (KI) sind vielfältig und betreffen nahezu alle Rechtsgebiete. Sie umfassen sowohl rechtsgebietsspezifische Fragen als auch Probleme, die durch den Einsatz von KI in verschiedenen Lebensbereichen entstehen können.

Dabei stellt sich grundsätzlich die Frage, wie das Rechtssystem auf die durch KI verursachten Veränderungen der Lebenswelt reagieren kann und soll. Dabei lassen sich drei grundsätzlich unterschiedliche Konstellationen unterscheiden: (1) die Anwendung bestehender Rechtsnormen auf neue Sachverhalte, (2) die notwendige Fortentwicklung bestehender Rechtsnormen und (3) die Notwendigkeit rechtspolitischer Veränderungen, wenn eine Fortentwicklung des geltenden Rechts nicht ausreicht.

EUGH formuliert erste Anforderungen beim behördlichen Einsatz von KI zur öffentlichen Sicherheit

Im Kontext der Richtlinie über die Verarbeitung von Fluggastdaten (PNR-RL bzw. Richtlinie (EU) 2016/681) konnte sich der EuGH erstmals zu den grundrechtlichen Voraussetzungen des Einsatzes von KI durch eine Behörde äußern.

In diesem Zusammenhang warnt der Europäische Gerichtshof (EuGH) davor, dass die Art und Weise, wie künstliche Intelligenz (KI) funktioniert, oft nicht nachvollziehbar ist. Dies kann es schwierig machen, festzustellen, warum ein KI-Programm bestimmte Ergebnisse liefert. In solchen Fällen könnte der Einsatz von KI die Möglichkeit einer Person einschränken, einen wirksamen Rechtsbehelf nach Artikel 47 der Charta einzulegen, insbesondere um geltend zu machen, dass die Ergebnisse nicht diskriminierend sind. Dies steht im Zusammenhang mit der Gewährleistung eines hohen Schutzniveaus gemäß der PNR-Richtlinie.

Die Behörden müssen daher sicherstellen, dass der Einsatz von KI sowohl automatisch als auch individuell überprüft wird und rechtmäßig und insbesondere nicht diskriminierend ist. Bei KI-Anwendungen, die selbst bei wenigen Fehlern erhebliche Auswirkungen auf die betroffene Person haben können, ist eine manuelle Überprüfung der Ergebnisse unerlässlich.

Predictive Policing: Automatisierte Datenanalyse und Informationelle Selbstbestimmung

Die Zukunft der Kriminalitätsbekämpfung liegt wahrscheinlich in einem Wandel von der reinen Reaktion hin zur Prävention. Technisch möglich wird dieser Wandel durch die Kombination zweier technologischer Entwicklungen: Auf der einen Seite eine eklatante Anhäufung von Daten („Big Data“) und auf der anderen Seite die zunehmende Möglichkeit, durch bestimmte Formen künstlicher Intelligenz diese Daten nicht nur auszuwerten, sondern daraus auch brauchbare statistische Vorhersagen zu gewinnen. Dies ermöglicht zumindest theoretisch die Vorhersage des Auftretens von Straftaten, das sogenannte Predictive Policing.

Das Bundesverfassungsgericht hatte nun erstmals Gelegenheit, sich zu diesem Thema zu äußern. Die Entscheidung dürfte für Jahrzehnte richtungsweisend sein. Sie beginnt wenig überraschend mit der Klarstellung, dass, wenn gespeicherte Datenbestände mittels einer automatisierten Anwendung zur Analyse oder Auswertung von Daten verarbeitet werden, dies einen Eingriff in die informationelle Selbstbestimmung (Art. 2 Abs. 1 i.V.m. Art. 1 Abs. 1 GG) all derjenigen darstellt, deren Daten bei diesem Vorgang personenbezogen verwendet werden (1 BvR 1547/19 und 1 BvR 2634/20). Betroffen sind also nicht nur die Personen, die am Ende der Auswertung möglicherweise Gegenstand von (weiteren) Ermittlungsmaßnahmen sind.

Ebenso hat das Bundesverfassungsgericht ausdrücklich klargestellt, dass dann, wenn die entsprechende automatisierte Datenanalyse oder -auswertung einen schwerwiegenden Eingriff in das informationelle Selbstbestimmungsrecht ermöglicht, dieser nur unter den engen Voraussetzungen gerechtfertigt werden kann, wie sie allgemein für eingriffsintensive heimliche Überwachungsmaßnahmen gelten. Das heißt: nur zum Schutz besonders gewichtiger Rechtsgüter, sofern für diese eine zumindest hinreichend konkrete Gefahr besteht.

Auf das Erfordernis einer zumindest hinreichend konkretisierten Gefahr für besonders wichtige Rechtsgüter kann aus verfassungsrechtlicher Sicht nur dann verzichtet werden, wenn die zulässigen Analyse- und Auswertungsmöglichkeiten durch Regelungen insbesondere zur Begrenzung von Art und Umfang der Daten und zur Beschränkung der Datenverarbeitungsmethoden normenklar und hinreichend bestimmt so eng begrenzt werden, dass das Eingriffsgewicht der Maßnahmen erheblich reduziert wird. Dabei hat das BVerfG sogar einen Kriterienkatalog für die jeweilige Abwägung gleich mitgeliefert, der äußerst umfangreich ist, zugleich aber eine formelhafte Betrachtung im Keim unterbindet.

NIS2-Richtlinie

Es ist so weit: Die NIS2-Richtlinie wird endlich kommen. Schon Ende des Jahres 2020 hatte man erkannt, dass die bisherige NIS-Richtlinie den Anforderungen nicht mehr hinreichend gewachsen ist und es wurde – entsprechend der Mitteilung über die Gestaltung der digitalen Zukunft Europas – die Überprüfung der Richtlinie bis Ende des Jahres 2020 beschleunigt, eine Folgenabschätzung durchgeführt und ein neuer Vorschlag vorgelegt.

In diesem Beitrag (zuletzt aktualisiert im März 2023) finden Sie wesentliche Informationen rund um die NIS2-Richtlinie und deren Wirkungen auf Unternehmen.