Die rasante Entwicklung und der Einsatz von Künstlicher Intelligenz (KI) bringen immense Vorteile, aber auch erhebliche Risiken mit sich. Um diese Risiken zu managen und vertrauenswürdige KI-Systeme zu entwickeln, ist ein kohärentes Risikomanagement unerlässlich.
Das OECD-Papier „Common Guideposts to Promote Interoperability in AI Risk Management“, veröffentlicht im November 2023, bietet eine umfassende Analyse der Gemeinsamkeiten und Unterschiede führender Risikomanagement-Rahmenwerke für KI. Ziel ist es, eine gemeinsame Grundlage zu schaffen, um die Interoperabilität dieser Rahmenwerke zu fördern und die Effizienz zu steigern.
Hintergrund und Zielsetzung
Das Papier wurde von der OECD.AI-Expertengruppe für Risiko und Rechenschaftspflicht erstellt und zielt darauf ab, eine gemeinsame Verständigung über das Risikomanagement und die Verantwortlichkeit in Bezug auf KI zu entwickeln. Es soll politische Entscheidungsträger und andere Stakeholder dabei unterstützen, KI-Risiken effektiv zu bewältigen und vertrauenswürdige KI-Systeme zu fördern.
Hauptziele des Berichts
- Mapping existierender Standards: Der Bericht vergleicht bestehende und in Entwicklung befindliche Kernstandards, Rahmenwerke und Leitlinien für das KI-Risikomanagement mit dem im Bericht entwickelten „High-Level AI Risk Management Interoperability Framework“.
- Analyse von Gemeinsamkeiten und Unterschieden: Die Analyse identifiziert Gemeinsamkeiten und Unterschiede in Konzepten und Terminologien verschiedener Initiativen und führt eine Lückenanalyse durch.
- Good Practice entwickeln: Die gewonnenen Erkenntnisse sollen in bewährte Praktiken überführt werden, um die Entwicklung von Leitlinien für verantwortungsbewusstes unternehmerisches Handeln im KI-Bereich zu informieren.
- Interaktive Online-Tools: Entwicklung eines interaktiven Online-Tools, um Organisationen und Stakeholdern den Vergleich von Rahmenwerken und die Navigation durch bestehende Methoden, Werkzeuge und bewährte Praktiken zu erleichtern.
Wesentliche Erkenntnisse
Der Bericht stellt fest, dass die wichtigsten Risikomanagement-Rahmenwerke im Allgemeinen auf vier obersten Ebenen ausgerichtet sind: „Definieren“, „Bewerten“, „Behandeln“ von Risiken und „Lenken“ der Risikomanagementprozesse. Diese Schritte umfassen:
- Definieren: Festlegung des Umfangs, des Kontexts und der Kriterien, einschließlich der relevanten KI-Prinzipien und Risiken sowie der Stakeholder und Akteure für jede Phase des KI-Systemlebenszyklus.
- Bewerten: Identifizierung und Analyse von Risiken auf individueller, aggregierter und gesellschaftlicher Ebene und Bewertung der Wahrscheinlichkeit und des Ausmaßes von Schäden.
- Behandeln: Maßnahmen zur Beendigung, Verhinderung oder Minderung nachteiliger Auswirkungen entsprechend der Wahrscheinlichkeit und Schwere der Risiken.
- Lenken: Einbettung und Pflege einer Risikomanagementkultur in Organisationen, kontinuierliche Überwachung und Überprüfung des Prozesses sowie Dokumentation, Kommunikation und Konsultation über den Prozess und seine Ergebnisse.
Vergleich der Rahmenwerke
Der Bericht vergleicht mehrere bedeutende Risikomanagement-Standards, darunter:
- OECD Due Diligence Guidance for Responsible Business Conduct (OECD DDG)
- ISO 31000:2018 Risk Management Guidelines
- NIST AI Risk Management Framework (NIST AI RMF)
- EU AI Act (EU AIA)
- Canada AI and Data Act (AIDA)
- Council of Europe Human Rights, Democracy and the Rule of Law Risk and Impact Assessment (HUDERIA)
- IEEE 7000-21 Standard Model Process for Addressing Ethical Concerns during System Design
- ISO/IEC Guide 51:2014
Diese Rahmenwerke folgen im Wesentlichen ähnlichen Risikomanagementprozessen, weisen jedoch Unterschiede in Terminologie, Zielgruppen und spezifischen Anforderungen auf. Ein zentrales Unterscheidungsmerkmal ist das primäre Ziel ihrer Umsetzung. Während einige Standards auf Änderungen auf Vorstands- oder Organisationsebene abzielen, fokussieren sich andere auf technische Aspekte der Risikoidentifikation und -bewältigung im KI-Systemdesign und -lebenszyklus.
Fazit
Der Bericht „Common Guideposts to Promote Interoperability in AI Risk Management“ bietet eine wertvolle Grundlage für die Entwicklung konsistenter und interoperabler Risikomanagement-Rahmenwerke. Durch die Identifizierung gemeinsamer Leitlinien und die Förderung der Zusammenarbeit zwischen staatlichen und nichtstaatlichen Akteuren kann die OECD dazu beitragen, die Effizienz zu steigern und die Kosten für die Umsetzung vertrauenswürdiger KI-Systeme zu senken. Dieser Bericht ist ein wichtiger Schritt, um sicherzustellen, dass KI-Systeme weltweit verantwortungsvoll und ethisch eingesetzt werden.
- Entwicklung der Robotik weltweit - November 22, 2024
- Zukunft der Robotik: Einfluss des Data Act auf Innovation und rechtliche Rahmenbedingungen - Oktober 4, 2024
- Allgemeine Überlegungen zu Robotern: Definitionen, Bewusstsein und Asimovs Gesetze - August 18, 2024
