IT-Sicherheit - Robotikrecht & Roboterrecht

Großmodelle Natürlicher Sprachen (LLMs) im Cybersicherheitskontext

In der Welt der Cybersicherheit, die sich ständig weiterentwickelt und mit neuen Herausforderungen konfrontiert sieht, stellt der Einsatz von Großmodellen natürlicher Sprachen (LLMs) eine innovative Entwicklung dar. Eine Studie von Gabriel de Jesus Coelho da Silva und Carlos Becker Westphall an der Universida de Federal de Santa Catarina untersucht, wie LLMs im Bereich der Cybersicherheit eingesetzt werden können, welche Methoden dabei angewendet werden und wo diese Modelle ihre Stärken und Grenzen haben.

BSI zum Einfluss von KI auf die Cyberbedrohungslandschaft

OECD-Papier über gemeinsame Leitlinien zur Förderung der Interoperabilität im KI-Risikomanagement

Die rasante Entwicklung und der Einsatz von Künstlicher Intelligenz (KI) bringen immense Vorteile, aber auch erhebliche Risiken mit sich. Um diese Risiken zu managen und vertrauenswürdige KI-Systeme zu entwickeln, ist ein kohärentes Risikomanagement unerlässlich.

Das OECD-Papier „Common Guideposts to Promote Interoperability in AI Risk Management“, veröffentlicht im November 2023, bietet eine umfassende Analyse der Gemeinsamkeiten und Unterschiede führender Risikomanagement-Rahmenwerke für KI. Ziel ist es, eine gemeinsame Grundlage zu schaffen, um die Interoperabilität dieser Rahmenwerke zu fördern und die Effizienz zu steigern.

AI Incident: Entwicklung einer Definition für KI-Vorfälle

Was soll ein AI Incident (KI-Vorfall) sein: Die rasante Entwicklung und der zunehmende Einsatz Künstlicher Intelligenz (KI) weltweit haben nicht nur zahlreiche Vorteile, sondern auch erhebliche Risiken mit sich gebracht.

Diese Risiken, die sich bereits in Form von sogenannten „KI-Vorfällen“ manifestieren, erfordern eine genaue Beobachtung und präventive Maßnahmen. Das OECD-Papier „Stocktaking for the Development of an AI Incident Definition“, veröffentlicht im Oktober 2023, beschäftigt sich mit der Erarbeitung einer gemeinsamen Definition für KI-Vorfälle und bietet einen Überblick über bisherige Erkenntnisse und zukünftige Schritte.

KI-Textgeneratoren als Dual-Use-Technologie?

In der Studie „Dual-use implications of AI text generation“ von Julian J. Koplin wird das Konzept von KI-Textgeneratoren als Technologien mit doppeltem Verwendungszweck (Dual Use) ausführlich beleuchtet.

Der Autor argumentiert, dass KI-Textgeneratoren sowohl legitime Vorteile als auch potenziell gravierende Missbrauchsmöglichkeiten bieten, wie die Automatisierung der Erzeugung überzeugender Fake News oder die Flutung von Social-Media-Plattformen mit maschinengenerierter Desinformation.

Der Artikel stellt die interessante These auf, dass KI-Textgeneratoren als eine Dual-Use-Technologie konzeptualisiert werden sollten, zieht Lehren aus früheren Debatten über Dual-Use-Forschung in den Lebenswissenschaften und ruft zu einer engeren Zusammenarbeit zwischen Ethikern und der Machine-Learning-Community auf, um die Dual-Use-Implikationen von KI-Sprachmodellen zu adressieren.

Software Bill of Materials (SBOM)

Eine SBOM ist ein maschinenlesbares Dokument und entspricht einer elektronischen Stückliste. Es inventarisiert eine Codebasis und enthält somit Informationen über alle verwendeten Komponenten einer Software. Diese Informationen können in unterschiedlicher Breite und Tiefe dargestellt werden und von einer groben Struktur bis zu einer detaillierten Aufschlüsselung von Produkten und Softwarekomponenten reichen. Entsprechende Vorgaben sind in der Technischen Richtlinie TR-03183 des BSI enthalten.

NIS2-Richtlinie

Es ist so weit: Die NIS2-Richtlinie wird endlich kommen. Schon Ende des Jahres 2020 hatte man erkannt, dass die bisherige NIS-Richtlinie den Anforderungen nicht mehr hinreichend gewachsen ist und es wurde – entsprechend der Mitteilung über die Gestaltung der digitalen Zukunft Europas – die Überprüfung der Richtlinie bis Ende des Jahres 2020 beschleunigt, eine Folgenabschätzung durchgeführt und ein neuer Vorschlag vorgelegt.

In diesem Beitrag (zuletzt aktualisiert im März 2023) finden Sie wesentliche Informationen rund um die NIS2-Richtlinie und deren Wirkungen auf Unternehmen.

Cybercrime: Wie Unternehmen mit Ransomware erpresst werden

Die Polizei Aachen hat eine recht beachtliche Pressemitteilung zum Umgang mit Cybercrime für Unternehmen herausgegeben, die auch hier aufgenommen wird. Man kann nicht genug betonen, wie wichtig es ist, hier nicht zu blauäugig zu sein – Mitarbeiter sind ein erhebliches Einfallstor für Angreifer, etwa über Fake-Support-Anrufe und natürlich mit den modernen Bestell-Maschen.

Cloud-Computing und IT-Vertragsrecht: Dürfen Anbieter Daten der Kunden bei Zahlungsverzug löschen?

Während noch im Jahr 2010 der Begriff „Cloud-Computing“ ein Hype war, ist heute (wohl?) festzustellen, dass „die Cloud“ schlicht Alltag ist. Bei rechtlichen Fragen rund um „die Cloud“ konzentriert man sich immer wieder gerne vor allem auf urheberrechtliche oder datenschutzrechtliche Fragen. Dabei gibt es sehr viel drängendere Themen – sowohl für Anbieter als auch Kunden.

Eines davon: Das Löschen von Daten wenn es Streit zwischen Kunde und Anbieter gibt.
Cloud-Computing und IT-Vertragsrecht: Dürfen Anbieter Daten der Kunden bei Zahlungsverzug löschen? weiterlesen