Diskriminierung - Robotikrecht & Roboterrecht

UN-Resolution zu Künstlicher Intelligenz

Globale Einigung zu KI-Regulierungen: Die Vereinten Nationen haben am 21.03.2024 in einer Resolution bahnbrechende Regelungen zur Nutzung von Künstlicher Intelligenz (KI) beschlossen. Die Resolution „Seizing the opportunities of safe, secure and trustworthy artificial intelligence systems for sustainable development“ (A/78/L.49) stellt einen Meilenstein in der globalen Regulierung von KI dar und zielt darauf ab, die positiven Potenziale der KI für nachhaltige Entwicklung zu nutzen und gleichzeitig Risiken zu minimieren.

KI in der weltweiten Politik

Es ist sinnvoll, sich zunächst mit der aktuellen globalen politischen Landschaft im Bereich Künstliche Intelligenz (KI) zu befassen – insbesondere mit den Entwicklungen in den USA, da viele marktbeherrschende Lösungen von dort stammen. In vielen Ländern wird an eigenen Lösungen gearbeitet, etwa schon länger in Brasilien, während manche Länder wie die Schweiz oder Japan von eigenständigen Gesetzen absehen wollen und auf einen Mix von Richtlinien und punktuell angepassten, bestehenden Gesetzen setzen.

Rechtliche Herausforderungen durch künstliche Intelligenz

Die rechtlichen Herausforderungen im Bereich der Künstlichen Intelligenz (KI) sind vielfältig und betreffen nahezu alle Rechtsgebiete. Sie umfassen sowohl rechtsgebietsspezifische Fragen als auch Probleme, die durch den Einsatz von KI in verschiedenen Lebensbereichen entstehen können.

Dabei stellt sich grundsätzlich die Frage, wie das Rechtssystem auf die durch KI verursachten Veränderungen der Lebenswelt reagieren kann und soll. Dabei lassen sich drei grundsätzlich unterschiedliche Konstellationen unterscheiden: (1) die Anwendung bestehender Rechtsnormen auf neue Sachverhalte, (2) die notwendige Fortentwicklung bestehender Rechtsnormen und (3) die Notwendigkeit rechtspolitischer Veränderungen, wenn eine Fortentwicklung des geltenden Rechts nicht ausreicht.

Generative Künstliche Intelligenz im Finanzwesen

Die rasante Entwicklung der Künstlichen Intelligenz (KI) hat in den letzten Jahren zu bedeutenden Fortschritten in verschiedenen Bereichen geführt, einschließlich des Finanzwesens. Besonders bemerkenswert ist die Entstehung generativer Künstlicher Intelligenz (GenAI), die Inhalte wie Texte, Bilder und sogar Audio erzeugen kann.

Das OECD-Papier „Generative Artificial Intelligence in Finance“ beleuchtet die Anwendungsmöglichkeiten von GenAI im Finanzsektor, analysiert die damit verbundenen Risiken und diskutiert politische Implikationen. In diesem Beitrag werden die wesentlichen Punkte des Berichts vorgestellt.

Unterstützung von Menschen mit Behinderung im Arbeitsmarkt durch KI

Die Integration von Menschen mit Behinderung in den Arbeitsmarkt bleibt eine große Herausforderung. Laut einem aktuellen OECD-Bericht ist die Arbeitslosenquote von Menschen mit Behinderung in den OECD-Ländern 2,3 Mal höher als die von Menschen ohne Behinderung. Zudem liegt die Beschäftigungsquote um 27 Prozentpunkte niedriger.

In diesem Beitrag wird das OECD-Papier „Using AI to Support People with Disability in the Labour Market“ vorgestellt, das die Chancen und Risiken der Nutzung von Künstlicher Intelligenz (KI) zur Unterstützung von Menschen mit Behinderung untersucht.

Zugriff auf Fahrzeugreparatur- und ‑wartungsinformationen

In mehreren Entscheidungen zur Information über Ersatzteile und Reparatur von Personenkraftwagen konnte sich der EuGH zu relevanten Fragen äußern. Dabei spielt die Verordnung (EU) 2018/858 über die Genehmigung und Marktüberwachung von Kraftfahrzeugen und Kraftfahrzeuganhängern sowie von Systemen, Bauteilen und selbstständigen technischen Einheiten für diese Fahrzeuge eine erhebliche Rolle.

Der EuGH (C-319/22) konnte nun klarstellen, dass die hier in Art. 61 Abs. 1 Satz 2 vorgesehene Verpflichtung, die dort genannten Informationen in leicht zugänglicher Form in maschinenlesbarer und elektronisch verarbeitbarer Form zur Verfügung zu stellen, für alle „Reparatur- und Wartungsinformationen“ im Sinne des Art. 3 Nr. 48 der Verordnung gilt und nicht nur für Ersatzteilinformationen nach Anhang X Nr. 6.1 der Verordnung!

Der EuGH hob hervor, dass Fahrzeughersteller nicht verpflichtet sind, Fahrzeugreparatur- und -wartungsinformationen über eine Datenbankschnittstelle zugänglich zu machen, die eine maschinengesteuerte Abfrage und das Herunterladen der Ergebnisse ermöglicht. Sie sind jedoch verpflichtet, diese Informationen unabhängigen Marktteilnehmern in Dateien zur Verfügung zu stellen, deren Format eine unmittelbare elektronische Weiterverarbeitung der in diesen Dateien enthaltenen Datensätze ermöglicht. Darüber hinaus sind die Fahrzeughersteller verpflichtet, eine Datenbank einzurichten, die es ermöglicht, nicht nur anhand der Fahrzeug-Identifizierungsnummer (FIN), sondern auch anhand der in der letztgenannten Bestimmung vorgesehenen zusätzlichen Merkmale nach allen Teilen zu suchen, mit denen das Fahrzeug vom Hersteller ausgestattet ist.

EuGH-Urteil: Die Fahrzeugidentifikationsnummer (FIN) als personenbezogene Daten

Art. 61 Abs. 1 i.V.m. Art. 61 Abs. 4 und Anhang X Nr. 6.1 begründet für die Fahrzeughersteller zudem eine „rechtliche Verpflichtung“ i.S.d. Art. 6 Abs. 1 Buchst. c der Verordnung, die FIN der von ihnen hergestellten Fahrzeuge unabhängigen Wirtschaftsbeteiligten als „Verantwortlichen“ im Sinne von Art. 4 Nr. 7 der Verordnung zur Verfügung zu stellen.

Der EuGH (C-296/22) hat zudem klargestellt, dass Art. 61 Abs. 1 und 4 in Verbindung mit Anhang X der Verordnung (EU) 2018/858 über die Genehmigung und Marktüberwachung von Kraftfahrzeugen und Kraftfahrzeuganhängern sowie von Systemen, Bauteilen und selbstständigen technischen Einheiten für diese Fahrzeuge dahin auszulegen ist, dass sie dem entgegensteht, dass ein Fahrzeughersteller den Zugang unabhängiger Marktteilnehmer zu Fahrzeugreparatur- und -wartungsinformationen sowie zu Informationen des On-Board-Diagnosesystems, einschließlich des Rechts auf Zugang zu diesen Informationen in schriftlicher Form, von anderen als den in dieser Verordnung vorgesehenen Bedingungen abhängig macht:

Zunächst ist darauf hinzuweisen, dass bei der Auslegung einer Vorschrift des Unionsrechts nicht nur ihr Wortlaut, sondern auch ihr Kontext und die Ziele zu berücksichtigen sind, die mit der Regelung, zu der sie gehört, verfolgt werden (Urteil vom 9. Juni 2022, IMPERIAL TOBACCO BULGARIA, C‑55/21, EU:C:2022:459, Rn. 44 und die dort angeführte Rechtsprechung). Auch die Entstehungsgeschichte einer solchen Vorschrift kann relevante Anhaltspunkte für deren Auslegung liefern (vgl. in diesem Sinne Urteil vom 10. Dezember 2018, Wightman u. a., C‑621/18, EU:C:2018:999, Rn. 47 und die dort angeführte Rechtsprechung).

Was die wörtliche Auslegung der fraglichen Bestimmungen angeht, so sind gemäß Art. 61 Abs. 1 der Verordnung 2018/858 die Fahrzeughersteller verpflichtet, unabhängigen Wirtschaftsakteuren uneingeschränkten, standardisierten und diskriminierungsfreien Zugang zu OBD‑Informationen im Sinne von Art. 3 Nr. 49 der Verordnung, Diagnose- und anderen Geräten und Instrumenten sowie zu Fahrzeugreparatur- und ‑wartungsinformationen im Sinne von Art. 3 Nr. 48 der Verordnung zu gewähren. Die Angaben sind leicht zugänglich in Form von maschinenlesbaren und elektronisch verarbeitbaren Datensätzen darzubieten.

Nach Art. 61 Abs. 4 der Verordnung sind „[d]ie Einzelheiten der technischen Anforderungen an den Zugang zu den Fahrzeug-OBD‑Informationen und Fahrzeugreparatur- und ‑wartungsinformationen, insbesondere technische Angaben über die Art und Weise der Bereitstellung von Fahrzeug-OBD‑Informationen und Fahrzeugreparatur- und ‑wartungsinformationen, … in Anhang X im Einzelnen festgelegt“. Nr. 2.9 dieses Anhangs schreibt vor, dass „[f]ür die Zwecke der Fahrzeug-OBD sowie der Fahrzeugdiagnose, ‑reparatur und ‑wartung … der direkte Fahrzeugdatenstrom über einen seriellen genormten Datenübertragungsanschluss … bereitzustellen“ ist. Abs. 2 dieser Bestimmung stellt außerdem klar, dass dann, wenn sich das Fahrzeug in Bewegung befindet, auf die Daten nur im Lesemodus zugegriffen werden darf.

Daraus ergibt sich zum einen, dass die Verpflichtung der Fahrzeughersteller aus Art. 61 Abs. 1 der Verordnung 2018/858, einen uneingeschränkten, standardisierten und diskriminierungsfreien Zugang zu OBD‑Informationen sowie zu Fahrzeugreparatur- und ‑wartungsinformationen bereitzustellen, die Verpflichtung einschließt, unabhängigen Wirtschaftsakteuren zu erlauben, diese Informationen zu verarbeiten und zu verwerten, ohne dass für sie andere als die in der Verordnung bestimmten Bedingungen gelten (vgl. in diesem Sinne Urteil vom 27. Oktober 2022, ADPA und Gesamtverband Autoteile-Handel, C‑390/21, EU:C:2022:837, Rn. 29). Zum anderen ergibt sich aus Anhang X Nr. 2.9 Abs. 2 der Verordnung, dass diese Wirtschaftsakteure, wenn sich das Fahrzeug nicht in Bewegung befindet, einen weiter gehenden Zugang haben müssen als den in dieser Bestimmung genannten Lesemodus.

Was die systematische Auslegung der fraglichen Bestimmungen betrifft, so werden in Anhang X Nrn. 6.2 und 6.4 der Verordnung 2018/858 zum einen die Vorgaben für den Zugang zu Sicherheitsmerkmalen des Fahrzeugs und zum anderen die Anforderungen an die Reprogrammierung der Steuerungsgeräte festgelegt. Wie die Europäische Kommission in ihren schriftlichen Erklärungen ausgeführt hat, sind in diesen Nummern die Fälle bestimmt, in denen der Zugang zu OBD‑Informationen sowie zu Fahrzeugreparatur- und ‑wartungsinformationen aufgrund ihrer Bedeutung für die Sicherheit an bestimmte Bedingungen geknüpft werden kann. Liegt keiner dieser Fälle vor, müssen unabhängige Wirtschaftsakteure daher ein Recht auf Zugang zu diesen Informationen haben, ohne dass für sie andere als die in der Verordnung vorgesehenen Bedingungen gelten (vgl. in diesem Sinne Urteil vom 27. Oktober 2022, ADPA und Gesamtverband Autoteile-Handel, C‑390/21, EU:C:2022:837, Rn. 32).

Die Auslegung in Rn. 29 des vorliegenden Urteils wird durch das in den Erwägungsgründen 50 und 52 der Verordnung 2018/858 genannte Ziel bestätigt, einen wirksamen Wettbewerb auf dem Markt für Fahrzeugreparatur- und Fahrzeugwartungsinformationsdienste zu ermöglichen, damit die unabhängigen Wirtschaftsakteure auf dem Markt der Fahrzeugreparatur und ‑wartung mit Vertragshändlern konkurrieren können (vgl. in diesem Sinne Urteil vom 27. Oktober 2022, ADPA und Gesamtverband Autoteile-Handel, C‑390/21, EU:C:2022:837, Rn. 30).

Die unabhängigen Wirtschaftsakteure müssen somit uneingeschränkten Zugang zu den Informationen erhalten, die für die Erfüllung ihrer Aufgaben in der Lieferkette auf dem Markt der Fahrzeugreparatur und ‑wartung erforderlich sind. Würde der Zugang zu den in Art. 61 Abs. 1 der Verordnung 2018/858 genannten Informationen an Bedingungen geknüpft, die in der Verordnung nicht vorgesehen sind, bestünde die Gefahr, dass sich die Anzahl der unabhängigen Werkstätten, die Zugang zu diesen Informationen haben, verringert, was möglicherweise zu einem Rückgang des Wettbewerbs auf dem Markt für Fahrzeugreparatur- und Fahrzeugwartungsinformationsdienste und damit zu einem verringerten Angebot für Verbraucher führt. Könnten die Hersteller den Zugang zum direkten Fahrzeugdatenstrom im Sinne von Nr. 2.9 des Anhangs X der Verordnung nach Belieben beschränken, stünde es ihnen zudem frei, den Zugang zu diesem Datenstrom von Bedingungen abhängig zu machen, die ihn praktisch vereiteln könnten.
EUGH, C-296/22

Hinweis: Dazu siehe auch Ferner in BeckOK-StPO, §2 TTDSG, Rn. 22-26.4 (Stichwort „Car-Forensik“).

Erste politische Überlegungen zur generativen Künstlichen Intelligenz (KI)

Generative Künstliche Intelligenz (KI) hat in den letzten Jahren erheblich an Bedeutung gewonnen und bietet transformative Potenziale in verschiedenen Sektoren wie Bildung, Unterhaltung, Gesundheitswesen und wissenschaftlicher Forschung.

Diese Technologien sind jedoch auch mit erheblichen gesellschaftlichen und politischen Herausforderungen verbunden, die von den politischen Entscheidungsträgern angegangen werden müssen. Der Bericht „Initial Policy Considerations for Generative Artificial Intelligence“, veröffentlicht von der OECD im September 2023, beleuchtet diese Herausforderungen und bietet wichtige Überlegungen für die Gestaltung zukünftiger politischer Rahmenbedingungen.

EUGH formuliert erste Anforderungen beim behördlichen Einsatz von KI zur öffentlichen Sicherheit

Im Kontext der Richtlinie über die Verarbeitung von Fluggastdaten (PNR-RL bzw. Richtlinie (EU) 2016/681) konnte sich der EuGH erstmals zu den grundrechtlichen Voraussetzungen des Einsatzes von KI durch eine Behörde äußern.

In diesem Zusammenhang warnt der Europäische Gerichtshof (EuGH) davor, dass die Art und Weise, wie künstliche Intelligenz (KI) funktioniert, oft nicht nachvollziehbar ist. Dies kann es schwierig machen, festzustellen, warum ein KI-Programm bestimmte Ergebnisse liefert. In solchen Fällen könnte der Einsatz von KI die Möglichkeit einer Person einschränken, einen wirksamen Rechtsbehelf nach Artikel 47 der Charta einzulegen, insbesondere um geltend zu machen, dass die Ergebnisse nicht diskriminierend sind. Dies steht im Zusammenhang mit der Gewährleistung eines hohen Schutzniveaus gemäß der PNR-Richtlinie.

Die Behörden müssen daher sicherstellen, dass der Einsatz von KI sowohl automatisch als auch individuell überprüft wird und rechtmäßig und insbesondere nicht diskriminierend ist. Bei KI-Anwendungen, die selbst bei wenigen Fehlern erhebliche Auswirkungen auf die betroffene Person haben können, ist eine manuelle Überprüfung der Ergebnisse unerlässlich.

Nach Ansicht des Gerichtshofs erfordert die Achtung der Grundrechte eine Beschränkung der in der PNR-Richtlinie vorgesehenen Befugnisse auf das absolut Notwendige

Besteht keine reale und aktuelle oder vorhersehbare terroristische Bedrohung eines Mitgliedstaats, steht das
Unionsrecht nationalen Rechtsvorschriften entgegen, die eine Übermittlung und Verarbeitung von PNR-Daten
bei EU-Flügen sowie bei Beförderungen mit anderen Mitteln innerhalb der Union vorsehen, so der EUGH (C-817/19).

Die PNR-Richtlinie schreibt zur Bekämpfung von Terrorismus und schwerer Kriminalität die systematische Verarbeitung einer großen Zahl von PNR-Daten (Passager Name Record) der Fluggäste von Flügen zwischen der Union und Drittstaaten (Drittstaatsflüge) bei der Einreise in die bzw. der Ausreise aus der Union vor. Darüber hinaus können die Mitgliedstaaten diese Richtlinie nach ihrem Art. 2 auch auf Flüge innerhalb der Union (EU-Flüge) anwenden.

Hinweis: Die Entscheidung ist ein Meilenstein in der Bewertung der Zulässigkeit von KI-Lösungen speziell mit Blick auf Ethik und Diskriminierung!

Künstliche Intelligenz in der Polizeiarbeit verlangt ein Umdenken

Der Einsatz künstlicher Intelligenz im Bereich der Arbeit von Ermittlern findet längst statt, mal unmittelbar als Modellprojekt, mal mittelbar, wenn Unternehmen von sich aus „intelligent“ nach Inhalten suchen. Die Frage ist, welche Auswirkungen dies auf den prozessualen Umgang haben soll, mit den Ergebnissen, die solche Techniken zutage fördern.