Eu Regulierung Ki Künstliche Intelligenz Netz Neuronal

AI-Act: Der nächste Schritt ist getan (Juni 2023)

Das Europäische Parlament hat den nächsten großen Schritt zur Regulierung der Nutzung von Künstlicher Intelligenz (KI) in Europa gemacht. Das kürzlich verabschiedete KI-Gesetz (AI-Act, auch KI-Verordnung genannt, hier schon etwas ausführlicher vorgestellt) ist das weltweit Erste seiner Art und schafft einen umfassenden Rechtsrahmen für KI-Anwendungen.

Das KI-Gesetz unterscheidet zwischen verschiedenen Risikostufen und legt entsprechende Pflichten für Anbieter und Nutzer fest. Besonderes Augenmerk liegt dabei auf der Kategorisierung in „unannehmbares Risiko“, „hohes Risiko“, „generative KI“ und „begrenztes Risiko“.

KI-Systeme mit „unannehmbarem Risiko“, die als Bedrohung für den Menschen angesehen werden, sind verboten. Beispiele hierfür sind KI-Anwendungen, die kognitiv auf Menschen oder gefährdete Gruppen einwirken, soziale Bewertungssysteme oder Echtzeit-Biometrie. In bestimmten Fällen sind jedoch Ausnahmen zulässig, z. B. bei der post-biometrischen Identifizierung zur Verfolgung schwerer Straftaten.

„Generative KI“ wie OpenAIs ChatGPT unterliegt besonderen Transparenzanforderungen. Dazu gehören die Offenlegung, dass die Inhalte durch KI generiert wurden, die Verhinderung der Generierung illegaler Inhalte und die Veröffentlichung von Zusammenfassungen der für das Training verwendeten Daten.

KI-Systeme mit „hohem Risiko“, die sich auf die Sicherheit oder die Grundrechte von Personen auswirken könnten, werden streng reguliert und müssen in einer EU-Datenbank registriert werden. Solche Systeme werden in einer Vielzahl von Bereichen eingesetzt, von der biometrischen Identifizierung bis hin zur Migrationssteuerung und Grenzkontrolle.

„KI-Systeme mit begrenztem Risiko“ müssen Mindestanforderungen an die Transparenz erfüllen, damit die Nutzer fundierte Entscheidungen treffen können. Dazu gehört beispielsweise, dass die Nutzer darüber informiert werden, dass sie mit einer KI interagieren, insbesondere wenn es sich um Deepfakes und andere KI-generierte Inhalte handelt.

Das neue KI-Gesetz ist ein entscheidender Schritt bei der Regulierung von KI in Europa. Nachdem das Parlament am 14. Juni 2023 seine Verhandlungsposition festgelegt hat, beginnen nun die Gespräche mit den EU-Ländern im Rat, um die endgültige Form des Gesetzes auszuarbeiten. Ziel ist es, bis Ende des Jahres eine Einigung zu erzielen und damit einen Rechtsrahmen für den Einsatz von KI in der EU zu schaffen.

Rechtsanwalt Jens Ferner (Fachanwalt für IT-Recht & Strafrecht)
Letzte Artikel von Rechtsanwalt Jens Ferner (Fachanwalt für IT-Recht & Strafrecht) (Alle anzeigen)

Veröffentlicht von

Rechtsanwalt Jens Ferner (Fachanwalt für IT-Recht & Strafrecht)

Ich beschäftige mich intensiv im technologischen Bereich mit Fragen der Softwareentwicklung, KI und Robotik - nicht nur als Jurist, sondern eben auch selbst als Entwickler. In diesem Blog teile ich Inhalte vor allem rund um Robotik bzw. Roboterrecht und ergänzend zum Thema KI. Von mir werden Unternehmen im gesamten IT-Recht beraten und vertreten.