DSA: Neue EU-Leitlinien für KI-Risikobewertung auf VLOPs veröffentlicht

DSA: Neue EU-Leitlinien für KI-Risikobewertung auf VLOPs veröffentlicht

Die Integration generativer KI-Anwendungen in digitale Dienste bietet enorme Potenziale, birgt jedoch auch erhebliche systemische Risiken. Für Unternehmen, die selbst sehr große Online-Plattformen (VLOPs) oder Suchmaschinen (VLOSEs) betreiben oder deren Geschäftsmodelle stark auf diese Dienste angewiesen sind, verschärfen sich die Anforderungen an Compliance und Risikomanagement. Die EU-Kommission hat am 28. Mai 2026 erweiterte Leitlinien zur Risikobewertung generativer KI auf VLOPs unter Artikel 34 des Digital Services Act (DSA) veröffentlicht. Diese präzisieren die Sorgfaltspflichten und weisen neue Wege für die Identifizierung und Minderung von Risiken, die von KI-gestützten Inhalten ausgehen.

Verpflichtende Risikobewertung für generative KI

Die neuen Leitlinien stellen klar, dass VLOPs und VLOSEs spezifische und proaktive Risikobewertungen für alle generativen KI-Systeme durchführen müssen, die Inhalte generieren oder signifikant beeinflussen. Dies zielt darauf ab, systemische Risiken wie Desinformation, Diskriminierung oder die Verbreitung illegaler Inhalte frühzeitig zu erkennen und zu mitigieren. Unternehmen müssen ihre existierenden Risikomanagement-Frameworks überarbeiten und sicherstellen, dass die KI-spezifischen Risiken explizit adressiert werden.

Die Kommission fordert hier eine detaillierte Analyse der potenziellen Auswirkungen auf grundlegende Rechte, die öffentliche Sicherheit und den demokratischen Diskurs. Ein Beispiel ist die Gefahr der automatisierten Erzeugung von "Deepfakes", die politische Prozesse manipulieren könnten. Die Anpassung an diese Digital Services Act Pflichten erfordert nicht nur technische, sondern auch organisatorische und prozessuale Veränderungen, die Unternehmen jetzt initiieren müssen.

Red Teaming: Obligatorischer Test der KI-Resilienz

Ein zentraler Bestandteil der neuen Leitlinien ist die Empfehlung für obligatorische „Red Teaming“-Übungen. Bei diesen simulierten Angriffsversuchen versuchen externe Sicherheitsexperten gezielt, die generativen KI-Systeme auf Schwachstellen und Missbrauchspotenziale zu testen. Der Fokus liegt dabei auf der Identifizierung von Voreingenommenheiten, der Erzeugung von Falschinformationen oder der Umgehung von Sicherheitsvorkehrungen.

Diese proaktiven Tests sind unerlässlich, um die Robustheit und Sicherheit der KI-Modelle zu gewährleisten, bevor diese breit eingesetzt werden. Aktuelle Studien zeigen, dass durchschnittlich 70% der KI-Systeme, die ohne solches Red Teaming entwickelt werden, signifikante Schwachstellen aufweisen, die von böswilligen Akteuren ausgenutzt werden könnten. Für B2B-Unternehmen bedeutet dies, dass sie in ihre DSA-konforme Plattformen nicht nur leistungsfähige, sondern auch extrem sichere KI-Komponenten integrieren müssen.

Transparenzpflichten und Messbare KI-Leistung

Die EU-Kommission erhöht auch die Anforderungen an die Transparenz generativer KI-Systeme. Plattformen sind zukünftig verpflichtet, detailliertere Berichte über die Funktionsweise ihrer KI-Tools und deren Moderationsergebnisse vorzulegen. Dies schließt statistische Daten zur Fehlerquote bei der Identifizierung illegaler oder schädlicher Inhalte ein. Die Leitlinien geben hier beispielhaft eine Zielvorgabe von unter 5% Fehlinformationen durch KI-Tools vor, die von menschlicher Moderation korrigiert werden müssen.

Diese strikten Metriken zwingen Unternehmen, ihre KI-Modelle kontinuierlich zu überwachen, zu optimieren und die Ergebnisse transparent zu kommunizieren. Es geht darum, das Vertrauen der Nutzer zu stärken und gleichzeitig Rechenschaftspflicht zu gewährleisten. Die Fähigkeit, diese Daten präzise zu erfassen und zu berichten, wird zu einem entscheidenden Wettbewerbsfaktor und einer essenziellen Compliance-Aufgabe.

Finanzielle und operative Implikationen

Die Umsetzung der neuen Leitlinien hat weitreichende finanzielle und operative Konsequenzen. Prognosen gehen davon aus, dass die Einhaltung der neuen Vorgaben zu einem Anstieg der Compliance-Kosten für betroffene Unternehmen um durchschnittlich 10-15% im Bereich der Produktentwicklung und -sicherheit führen wird. Dieser Anstieg resultiert aus Investitionen in qualifiziertes Personal für Red Teaming, in erweiterte Monitoring-Tools und in die Anpassung bestehender KI-Architekturen.

Hinzu kommt der enge Zeitplan: Die Umsetzung der Empfehlungen wird innerhalb von sechs Monaten ab Veröffentlichung erwartet. Dies erfordert eine rasche Anpassung der internen Prozesse und Tech-Stacks der VLOPs und VLOSEs. Unternehmen müssen jetzt handeln, um sicherzustellen, dass ihre KI-Strategien den neuen Regulierungen entsprechen und potenzielle Strafen vermieden werden.

Fazit: Proaktives Handeln ist jetzt gefragt

Die neuen Leitlinien der EU-Kommission sind ein klares Signal an alle Betreiber von VLOPs und VLOSEs sowie an Unternehmen, die generative KI in ihre Geschäftsmodelle integrieren: Die Ära der unregulierten KI-Nutzung ist vorbei. Die Anforderungen an Risikobewertung, Red Teaming und Transparenz sind hoch und erfordern proaktives Handeln.

Für B2B-Entscheider in Rechts-, Compliance- und Technologieabteilungen bedeutet dies, bestehende KI-Strategien kritisch zu hinterfragen, notwendige Investitionen zu planen und die internen Prozesse anzupassen. Die frühzeitige Auseinandersetzung mit diesen Vorgaben und die Implementierung robuster Compliance-Maßnahmen sichern nicht nur die Rechtssicherheit, sondern stärken auch das Vertrauen in die eigene Technologie. Es ist an der Zeit, Ihr DSA-Compliance umsetzen und Ihre Plattformen fit für die Zukunft zu machen.