Technologie Rohrschach

Wissenskollaps durch KI?

Droht ein Wissenskollaps? In einer modernen, von DIgitalisierung durchdrungenden, Welt, in der künstliche Intelligenz (KI) immer mehr an Bedeutung gewinnt, stehen wir vor erheblichen Veränderungen in der Art & Weise, wie Wissen generiert, genutzt und verbreitet wird. Ich widme mich im Blog dieser Thematik hin und wieder, weil es sowohl gesellschaftliche Auswirkungen insgesamt hat, aber eben auch gravierende Bedeutung für „Wissens-Dienstleister“ wie Anwälte hat.

Eine kürzlich durchgeführte Studie von Andrew J. Peterson von der Universität Poitiers hebt nun besorgniserregende Aspekte im Zusammenhang mit der weitverbreiteten Nutzung von KI, insbesondere von großen Sprachmodellen (LLMs), hervor: Er sieht das erhebliche Risiko eines durch KI provozierten Wissenskollapses!

Wesentliche Erkenntnisse der Studie

Peterson identifiziert ein Phänomen, das er als „Wissenskollaps“ bezeichnet. Dies beschreibt eine Situation, in der die Abhängigkeit von KI-generierten Inhalten dazu führen könnte, dass die breite Vielfalt und Tiefe menschlichen Wissens über Generationen hinweg verloren geht.

Die Studie zeigt auf, dass KI, indem sie den Zugang zu bestimmten Wissensarten erleichtert, paradoxerweise das öffentliche Verständnis schädigen kann. In Simulationen stellte Peterson fest, dass ein 20%iger Rabatt auf KI-generierte Inhalte dazu führen kann, dass öffentliche Überzeugungen etwa 2,3-mal weiter von der Wahrheit entfernt sind, als wenn kein Rabatt gewährt wird.

Wissenskollaps? Rechtsanwalt Ferner zum Wissenskollaps durch KI

Ich bin ITler und Jurist mit einer Begeisterung für Philosophie und Literatur, vor dem Hintergrund beschäftige ich mich regelmäßig mit der Frage, was KI mit uns als Gesellschaft macht und wo unsere Herausforderungen als Individuen im alltäglichen Umgang mit der KI liegen.

Empfehlungen zur Vermeidung eines Wissenskollapses

  1. Förderung menschlicher Diversität in der Wissensgenerierung: Es ist entscheidend, dass Menschen weiterhin aktiv eine Vielzahl von Wissensquellen suchen und nutzen, besonders solche, die von der KI möglicherweise vernachlässigt werden. Die Strategie, verschiedenartige und spezialisierte Perspektiven zu bewahren, ist von unschätzbarem Wert.
  2. Vorsicht bei der Abhängigkeit von rekursiven KI-Systemen: Systeme, die auf der Grundlage von KI-generierten Inhalten weiteres Wissen schaffen, könnten in eine Art Echo-Kammer-Effekt verfallen, der das Risiko eines Wissenskollapses erhöht. Es sollte darauf geachtet werden, dass solche Systeme Zugang zu einem breiten Spektrum an Informationen haben und nicht ausschließlich auf selbstreferenzielle Daten angewiesen sind.
  3. Bewahrung des Zugangs zu unvermittelten Inhalten: Um die Vielfalt des Wissens zu schützen, ist es wesentlich, direkten Zugang zu umfassenden und unredigierten Inhalten zu erhalten. Dies könnte durch Technologien wie die augmentierte Wiedergewinnung von Informationen unterstützt werden, die den Zugang zu weniger populären, aber wertvollen Inhalten ermöglichen.
Asimov und die Wissensgesellschaft

Fazit

Die Ergebnisse und Empfehlungen von Petersons Studie sollten ein Weckruf für die gesamte Gesellschaft sein, die Implementierung und Integration von KI in unsere Informations- und Wissenssysteme sorgfältig zu betrachten. Denn: Während KI einerseits das Potenzial hat, unsere Effizienz und unser Verständnis zu verbessern, müssen wir andererseits wachsam gegenüber den langfristigen Auswirkungen sein, die sie auf unser kollektives Wissen und kulturelles Erbe haben könnte.

Die Binse: Die Förderung einer vielfältigen und umfassenden Wissenslandschaft bleibt eine wesentliche Herausforderung und Verantwortung. Doch die Frage ist, wie wir uns als Menschen, als Individueen, darauf einstellen. Ich hatte für mich bereits herausgearbeitet, dass im Wertesystem mehr Humanismus und im Wissensbereich mehr Methodik ein Ansatz sein können, um aus Mensch und KI eine optimale Mischung zu erreichen. Jedenfalls glaube ich, dass nicht mehr Technikversessenheit der Menschheit die Lösung ist – und vor allem auch nicht zur „optimalerem Wissen“ führt, sondern eher zu genau dem Effekt, den die Studie beschreibt. Dazu auch mein zugehöriger LinkedIn-Post hier.

Rechtsanwalt Jens Ferner (Fachanwalt für IT-Recht & Strafrecht)
Letzte Artikel von Rechtsanwalt Jens Ferner (Fachanwalt für IT-Recht & Strafrecht) (Alle anzeigen)

Veröffentlicht von

Rechtsanwalt Jens Ferner (Fachanwalt für IT-Recht & Strafrecht)

Ich beschäftige mich intensiv im technologischen Bereich mit Fragen der Softwareentwicklung, KI und Robotik - nicht nur als Jurist, sondern eben auch selbst als Entwickler. In diesem Blog teile ich Inhalte vor allem rund um Robotik bzw. Roboterrecht und ergänzend zum Thema KI. Von mir werden Unternehmen im gesamten IT-Recht beraten und vertreten.