24a3ad83 A1d7 42c9 B4e9 0459e7146a92

KI-Vorfall: Definition von KI-Vorfällen und verwandten Begriffen

Was ist ein KI-Vorfall: Mit der zunehmenden Nutzung Künstlicher Intelligenz (KI) steigen auch die potenziellen Risiken und Schäden, die durch diese Technologien verursacht werden können.

Um diese Risiken zu managen und zu verhindern, ist es wichtig, klare Definitionen für KI-Vorfälle und verwandte Begriffe zu haben. Das OECD-Dokument „Defining AI Incidents and Related Terms“ bietet eine umfassende Übersicht und präzise Definitionen, die als Grundlage für ein gemeinsames Rahmenwerk zur Meldung von KI-Vorfällen dienen sollen.

Hintergrund und Zielsetzung des Umgangs mit einem KI-Vorfall

Bereits im Januar 2023 hatte die OECD die Arbeitsgruppe für KI-Vorfälle (OECD.AI Expert Group on AI Incidents) formalisiert, um die Entwicklung eines gemeinsamen Meldesystems für KI-Vorfälle und eines KI-Vorfälle-Monitors (AIM) voranzutreiben. Dieses Dokument enthält vorläufige Definitionen und Terminologien zu KI-Vorfällen, um die Entwicklung beider Initiativen zu unterstützen.

AI Incident: Entwicklung einer Definition für KI-Vorfälle

KI-Vorfall: Definitionen und Klassifikationen

  • KI-Vorfall (AI Incident):
    Ein KI-Vorfall ist ein Ereignis, eine Situation oder eine Serie von Ereignissen, bei denen die Entwicklung, Nutzung oder Fehlfunktion eines oder mehrerer KI-Systeme direkt oder indirekt zu einem der folgenden Schäden führt:
  • Verletzung oder Schädigung der Gesundheit einer Person oder Gruppen von Personen
  • Störung des Managements und Betriebs kritischer Infrastrukturen
  • Verletzungen von Menschenrechten oder Verstöße gegen geltendes Recht zum Schutz von Grundrechten, Arbeitsrechten und geistigem Eigentum
  • Schäden an Eigentum, Gemeinschaften oder der Umwelt
  • Erheblicher KI-Vorfall (Serious AI Incident):
    Ein erheblicher KI-Vorfall ist ein Ereignis, eine Situation oder eine Serie von Ereignissen, bei denen die Entwicklung, Nutzung oder Fehlfunktion eines oder mehrerer KI-Systeme direkt oder indirekt zu einem der folgenden erheblichen Schäden führt:
  • Tod einer Person oder ernsthafte Schädigung der Gesundheit einer Person oder Gruppen von Personen
  • Ernsthafte und irreversible Störung des Managements und Betriebs kritischer Infrastrukturen
  • Ernsthafte Verletzung von Menschenrechten oder erhebliche Verstöße gegen geltendes Recht zum Schutz von Grundrechten, Arbeitsrechten und geistigem Eigentum
  • Erheblicher Schaden an Eigentum, Gemeinschaften oder der Umwelt
  • KI-Katastrophe (AI Disaster):
    Eine KI-Katastrophe ist ein erheblicher KI-Vorfall, der das Funktionieren einer Gemeinschaft oder Gesellschaft stört und möglicherweise ihre Fähigkeit zur Bewältigung mit eigenen Ressourcen übersteigt. Die Auswirkungen einer KI-Katastrophe können unmittelbar und lokalisiert oder weitreichend und langanhaltend sein.
  • KI-Gefahr (AI Hazard):
    Eine KI-Gefahr ist ein Ereignis, eine Situation oder eine Serie von Ereignissen, bei denen die Entwicklung, Nutzung oder Fehlfunktion eines oder mehrerer KI-Systeme plausibel zu einem KI-Vorfall führen könnte, d.h. zu einem der oben genannten Schäden.
  • Erhebliche KI-Gefahr (Serious AI Hazard):
    Eine erhebliche KI-Gefahr ist ein Ereignis, eine Situation oder eine Serie von Ereignissen, bei denen die Entwicklung, Nutzung oder Fehlfunktion eines oder mehrerer KI-Systeme plausibel zu einem erheblichen KI-Vorfall oder einer KI-Katastrophe führen könnte.

Dimensionen von Schäden

Das Dokument enthält auch eine detaillierte Analyse der verschiedenen Dimensionen von Schäden, die bei der Definition und Klassifizierung von KI-Vorfällen berücksichtigt werden sollten:

  • Typen von Schäden: physische, psychologische, wirtschaftliche, ökologische, reputationsbezogene und Schäden am öffentlichen Interesse
  • Schweregrad: geringfügig, moderat, ernsthaft, katastrophal
  • Umfang: Einzelperson, Gruppe, Organisation, Gesellschaft, Umwelt, Eigentum
  • Geografische Reichweite: lokal, national, regional, global
  • Tangibilität: greifbar, nicht greifbar
  • Quantifizierbarkeit: quantifizierbar, nicht quantifizierbar
  • Materialisierung: potenzieller Schaden (Gefahr), tatsächlicher Schaden (Vorfall)
  • Reversibilität: reversibel, irreversibel
  • Wiederholbarkeit: einmalige Schäden, kumulative Effekte
  • Auswirkungen: direkt, indirekt
  • Zeitrahmen: kurz-, mittel-, langfristig

KI-Vorfall: Ausblick

Die klare Definition von KI-Vorfällen und verwandten Begriffen ist entscheidend für die Entwicklung eines effektiven Meldesystems und die internationale Zusammenarbeit bei der Prävention und Bewältigung von KI-Risiken. Das OECD-Dokument „Defining AI Incidents and Related Terms“ bietet eine wertvolle Grundlage, um diese Ziele zu erreichen und die Sicherheit und Vertrauenswürdigkeit von KI-Systemen weltweit zu gewährleisten.

Rechtsanwalt Jens Ferner (Fachanwalt für IT-Recht & Strafrecht)
Letzte Artikel von Rechtsanwalt Jens Ferner (Fachanwalt für IT-Recht & Strafrecht) (Alle anzeigen)

Veröffentlicht von

Rechtsanwalt Jens Ferner (Fachanwalt für IT-Recht & Strafrecht)

Ich beschäftige mich intensiv im technologischen Bereich mit Fragen der Softwareentwicklung, KI und Robotik - nicht nur als Jurist, sondern eben auch selbst als Entwickler. In diesem Blog teile ich Inhalte vor allem rund um Robotik bzw. Roboterrecht und ergänzend zum Thema KI. Von mir werden Unternehmen im gesamten IT-Recht beraten und vertreten.