In einer zunehmend technologiegestützten Welt ist es von großer Bedeutung, die Wahrnehmung und Präferenz von Entscheidungen durch Algorithmen im Vergleich zu menschlichen Entscheidungsträgern zu verstehen.
Die Forschungsarbeit „Ruled by Robots: Preference for Algorithmic Decision Makers and Perceptions of Their Choices“ von Marina Chugunova und Wolfgang J. Luhan, veröffentlicht im März 2022, untersucht diese Thematik mittels eines Laborexperiments. Im Fokus stehen dabei Umverteilungsentscheidungen und die Frage, ob Menschen Algorithmen aufgrund ihrer Unvoreingenommenheit gegenüber menschlichen Entscheidungsträgern bevorzugen.
Hintergrund und Ziel der Studie
Algorithmen und Künstliche Intelligenz (KI) sind in Entscheidungsprozesse auf persönlicher und beruflicher Ebene integriert. Diese reichen von Leistungsbeurteilungen und Beförderungen bis hin zur Zuteilung von Boni und anderen Leistungsanreizen.
Während die Effizienz von Algorithmen allgemein anerkannt ist, bleibt unklar, ob und wie stark die von Algorithmen getroffenen Entscheidungen im Vergleich zu menschlichen Entscheidungen akzeptiert werden. Diese Studie untersucht nun diese Aspekte im Kontext von Umverteilungsentscheidungen, welche als moralische Entscheidungen betrachtet werden können.
Methodik
Die Forscher führten ein Online-Experiment durch, bei dem die Teilnehmer Einkommen aus drei Aufgaben (Glück, Anstrengung und Talent) erwirtschafteten. Anschließend wurde entschieden, ob diese Einkommen durch einen Algorithmus oder einen menschlichen Entscheidungsträger umverteilt werden sollten. Ein zentrales Element des Experiments war die Möglichkeit der Teilnehmer, zwischen einem menschlichen und einem algorithmischen Entscheidungsträger zu wählen. Zudem wurde in einigen Fällen eine potenzielle Diskriminierung eingeführt, um die Auswirkungen auf die Entscheidung zu analysieren.
Hauptergebnisse
Präferenz für den algorithmischen Entscheidungsträger
Entgegen früherer Forschungsergebnisse zeigte die Studie, dass über 60% der Teilnehmer einen algorithmischen Entscheidungsträger gegenüber einem menschlichen bevorzugten. Diese Präferenz war nicht durch Bedenken hinsichtlich voreingenommener Entscheidungen getrieben, sondern stellte eine allgemeine Präferenz dar. Interessanterweise wurden Entscheidungen, die von menschlichen Entscheidungsträgern getroffen wurden, jedoch tendenziell positiver bewertet.
Wahrnehmung der Fairness
Die Teilnehmer beurteilten die Entscheidungen sowohl von menschlichen als auch von algorithmischen Entscheidungsträgern als gleichermaßen fair. Dennoch waren sie mit den Entscheidungen der Algorithmen weniger zufrieden. Diese Unzufriedenheit hing stark von den individuellen materiellen Interessen und Fairnessvorstellungen der Teilnehmer ab. Eine bemerkenswerte Flexibilität zeigten die Teilnehmer in Bezug auf Abweichungen zwischen der tatsächlichen Entscheidung und ihren eigenen Fairnessidealen. Negative Reaktionen wurden besonders stark, wenn die Umverteilungsentscheidungen keiner nachvollziehbaren Fairnesslogik folgten.
Probleme und Herausforderungen
- Konsistenz der Fairnessprinzipien: Ein zentrales Problem war die Konsistenz der angewandten Fairnessprinzipien. Algorithmen trafen Entscheidungen, die oft mehrere Fairnessprinzipien vermischten, was zu Unzufriedenheit führte.
- Erwartung vs. Realität: Die Studie zeigte, dass die Erwartungen der Teilnehmer an algorithmische Entscheidungen oft nicht erfüllt wurden, was die Zufriedenheit negativ beeinflusste.
- Eingebettete Vorurteile: Obwohl Algorithmen als unvoreingenommen betrachtet wurden, bestand die Sorge, dass sie bestehende Vorurteile verstärken könnten.
Empfehlungen
- Transparenz und Erklärbarkeit: Um die Akzeptanz algorithmischer Entscheidungen zu erhöhen, sollten Algorithmen transparente und nachvollziehbare Entscheidungslogiken anwenden.
- Berücksichtigung individueller Fairnessvorstellungen: Algorithmen sollten flexibel genug sein, um unterschiedliche Fairnessideale zu berücksichtigen und zu kommunizieren, wie diese in Entscheidungen einfließen.
- Schulung und Bewusstsein: Es ist wichtig, das Bewusstsein für die Funktionsweise und die Vorteile algorithmischer Entscheidungen zu schärfen und Schulungen anzubieten, die das Vertrauen in solche Systeme stärken.
Fazit
Die Studie liefert wichtige Erkenntnisse darüber, wie algorithmische und menschliche Entscheidungsträger wahrgenommen werden. Obwohl Algorithmen bevorzugt werden, wenn es um unvoreingenommene Entscheidungen geht, bleiben menschliche Entscheidungen in der Bewertung tendenziell überlegen.
Die Herausforderung besteht darin, die Konsistenz und Erklärbarkeit algorithmischer Entscheidungen zu verbessern, um deren Akzeptanz weiter zu erhöhen. Algorithmen haben das Potenzial, Entscheidungsprozesse zu optimieren, müssen jedoch die menschlichen Erwartungen und Fairnessvorstellungen besser integrieren, um wirklich akzeptiert zu werden.
- Zukunft der Robotik: Einfluss des Data Act auf Innovation und rechtliche Rahmenbedingungen - Oktober 4, 2024
- Allgemeine Überlegungen zu Robotern: Definitionen, Bewusstsein und Asimovs Gesetze - August 18, 2024
- Whitepaper des BSI zur Transparenz von KI-Systemen - August 16, 2024
