Am 21. Mai 2024 gab der Rat der Europäischen Union grünes Licht für das bahnbrechende Gesetz zur Regulierung Künstlicher Intelligenz (KI). Dieses Gesetz, das angeblich weltweit erste seiner Art, soll die Regeln für den Einsatz von KI harmonisieren und damit einen globalen Standard setzen.
Ein risikobasierter Ansatz
Das KI-Gesetz folgt einem risikobasierten Ansatz. Je höher das Risiko, das eine KI-Anwendung für die Gesellschaft darstellt, desto strenger sind die Vorschriften. Ziel ist es, die Entwicklung und Nutzung sicherer und vertrauenswürdiger KI-Systeme im Binnenmarkt der EU zu fördern. Gleichzeitig sollen die Grundrechte der EU-Bürger gewahrt und Investitionen sowie Innovationen im Bereich der Künstlichen Intelligenz angeregt werden. Ausgenommen von diesem Gesetz sind Systeme, die ausschließlich für militärische und verteidigungstechnische Zwecke oder für Forschungszwecke genutzt werden.
Klassifizierung und Verbote
Die neuen Vorschriften kategorisieren KI-Systeme nach ihrem Risiko. Systeme mit geringem Risiko unterliegen nur leichten Transparenzpflichten, während hochriskante KI-Systeme autorisiert, aber mit strengen Auflagen versehen werden, um Zugang zum EU-Markt zu erhalten. Beispiele für verbotene Anwendungen sind kognitive Verhaltensmanipulation und soziale Bewertungssysteme, da diese ein inakzeptables Risiko darstellen. Ebenso ist der Einsatz von KI für vorausschauende Polizeiarbeit auf Basis von Profiling sowie die Verwendung biometrischer Daten zur Kategorisierung von Menschen nach Rasse, Religion oder sexueller Orientierung verboten.
Allgemeine KI-Modelle
Auch allgemeine KI-Modelle (General Purpose AI, GPAI) werden durch das Gesetz geregelt. Modelle, die keine systemischen Risiken darstellen, unterliegen nur begrenzten Anforderungen, wie beispielsweise in Bezug auf Transparenz. Modelle mit systemischen Risiken müssen jedoch strengeren Vorschriften entsprechen.
Neue Governance-Struktur
Um eine ordnungsgemäße Durchsetzung des Gesetzes zu gewährleisten, wird eine neue Governance-Struktur eingerichtet. Dazu gehören:
- Ein KI-Büro innerhalb der Europäischen Kommission, das die gemeinsamen Regeln in der EU durchsetzt.
- Ein wissenschaftliches Gremium unabhängiger Experten zur Unterstützung der Durchsetzungsaktivitäten.
- Ein KI-Ausschuss mit Vertretern der Mitgliedstaaten zur Beratung und Unterstützung der Kommission und der Mitgliedstaaten bei der einheitlichen Anwendung des KI-Gesetzes.
- Ein beratendes Forum für Stakeholder zur Bereitstellung technischer Expertise.
Strafen und Sanktionen
Die Strafen für Verstöße gegen das KI-Gesetz werden als Prozentsatz des globalen Jahresumsatzes des betreffenden Unternehmens im vorhergehenden Geschäftsjahr oder als fester Betrag festgelegt, je nachdem, welcher Wert höher ist. KMUs und Start-ups unterliegen proportionalen Verwaltungsstrafen.
Weltweit einmalig?
Die EU poltert gerade gerne ein wenig, was das Thema schnelle Regulierung angeht – man darf auch durchaus stolz darauf blicken, wie schnell man das Thema angegangen ist. Aber die Bestrebungen speziell in China sollte man nicht einfach wegreden. Insgesamt gibt es einige weltweite Aktivitäten, die bei uns im Blog auch zusammengefasst sind.
Transparenz und Schutz der Grundrechte
Bevor ein hochriskantes KI-System von öffentlichen Dienstleistern eingesetzt wird, muss eine Bewertung der Auswirkungen auf die Grundrechte durchgeführt werden. Das Gesetz schreibt auch eine erhöhte Transparenz bei der Entwicklung und Nutzung hochriskanter KI-Systeme vor. Solche Systeme sowie bestimmte Nutzer dieser Systeme müssen in der EU-Datenbank für hochriskante KI-Systeme registriert werden, und Nutzer eines Emotionserkennungssystems müssen natürliche Personen darüber informieren, wenn sie einem solchen System ausgesetzt sind.
Innovationsfördernde Maßnahmen
Das KI-Gesetz sieht ein innovationsfreundliches rechtliches Rahmenwerk vor und zielt darauf ab, ein evidenzbasiertes regulatorisches Lernen zu fördern. Es ermöglicht die Einrichtung von KI-Regulierungs-Sandkästen, die eine kontrollierte Umgebung für die Entwicklung, Erprobung und Validierung innovativer KI-Systeme bieten sollen.
Nächste Schritte und Ausblick
Nach der Unterzeichnung durch die Präsidenten des Europäischen Parlaments und des Rates wird das Gesetz im Amtsblatt der EU veröffentlicht und tritt 20 Tage nach dieser Veröffentlichung in Kraft. Die neue Regelung wird zwei Jahre nach ihrem Inkrafttreten gelten, mit Ausnahmen für bestimmte Bestimmungen.
Und es geht noch weiter: Man arbeitet bereits an der KI-Haftungsrichtlinie, mit der erhebliche Anforderungen an Entwickler, Nutzer und Vertriebler von KI-Systemen gestellt werden. Die KI-Verordnung ist der zwar am meisten thematisierte, aber sicherlich nur ein kleiner Baustein. Die wirklich dicken Baustellen kommen noch.
- Zukunft der Robotik: Einfluss des Data Act auf Innovation und rechtliche Rahmenbedingungen - Oktober 4, 2024
- Allgemeine Überlegungen zu Robotern: Definitionen, Bewusstsein und Asimovs Gesetze - August 18, 2024
- Whitepaper des BSI zur Transparenz von KI-Systemen - August 16, 2024
