Einsatz von Künstlicher Intelligenz
13.08.2025
Neuer „KI-Service Desk“ der Bundesnetzagentur
ESV-Redaktion Recht
Die Bundesnetzagentur bietet seit Kurzem ihren sogenannten „KI-Service Desk“ an. Der neue Dienst soll Unternehmen interaktiv dabei unterstützen, die Vorgaben der EU-KI-Verordnung (AI-Act der EU) praxisgerecht umzusetzen.
„KI-Service Desk“ als interaktives Prüf-Tool
Das Tool bietet Informationen für Unternehmen, Behörden und Organisationen bei Fragen rund um die KI-Verordnung an.
Kern des Dienstes ist ein interaktiver „Compliance Kompass“. Mit dem Kompass können Organisationen und Unternehmen schnell prüfen, ob die KI-Verordnung auf die vom Unternehmen eingesetzten KI-Systeme anzuwenden ist – und wenn ja, welche Auswirkungen dies auf die betreffende KI hat.
Mögliche Checks
Mit dem Tool lassen sich folgende Checks vornehmen: -
Zum KI-System: Setzt das Unternehmen/die Organisation ein System im Sinne der KI-Verordnung ein?
- Hochrisiko-System: Handelt es sich dabei um ein Hochrisiko-KI-System – etwa im Bereich der Gesundheits- und Energieversorgung, im Eisenbahn- und Flugverkehr? Trifft es Entscheidungen über Sozialleistungen oder über Kreditwürdigkeiten?
- Verbotene KI-Praktiken: Beitreibt das System verbotene KI-Praktiken, die zum Beispiel schädliche Manipulationen, Täuschungen, Social Scoring, Risikobewertungen für Straftaten, ungezieltes Auslesen von Gesichtsbildern oder biometrische Kategorisierungen zum Gegenstand haben?
-
Transparenz: Sind Transparenzpflichten zu beachten?
-
Gesamtcheck: Zu dem Angebot gehört auch ein Gesamtcheck, in dem alle oben genannten Bereiche getestet werden können.
Vier Risikostufen der KI-VO
Die KI-VO teilt KI-Systeme nach ihrem Risiko ein und unterscheidet zwischen folgenden vier Risikostufen:- Minimales oder kein Risiko: weitgehend unreguliert
- Begrenztes Risiko: Erfüllung von Transparenzpflichten notwendig
- Hohes Risiko: Für den sicheren Einsatz sind spezielle Anforderungen zu erfüllen
- Inakzeptables Risiko: Verbotene KI-Systeme
| Der kostenlose Newsletter Recht – Wir freuen uns auf Ihre Anmeldung! |
| Redaktionelle Meldungen zu neuen Entscheidungen und Rechtsentwicklungen, Interviews und Literaturtipps |
Bereitstellung weiterer Informationen und KI-Kompetenz
Darüber hinaus stellt das Werkzeug Informationen und Beispiele zur Verfügung, damit die Adressaten die Vorgaben der KI-Verordnung besser einordnen können. Hierzu gehören unter anderem Orientierungen zur schon geltenden Regelung zur KI-Kompetenz. Nach dieser sollen alle Mitarbeiter von Organisationen, die KI-Systeme einsetzen, bereitstellen oder entwickeln, eine gewisse KI-Kompetenz haben. Zu diesem Zweck informiert das „KI-Service-Desk“ auch über kostenfreie Schulungsangebote für Mitarbeiterinnen und Mitarbeiter.
Die KI-VO definiert die KI-Kompetenz jedoch nicht und gibt keine standardisierten Trainingsmaßnahmen vor. Unternehmen und Organisationen, die KI einsetzen, können also selbst entscheiden, wie sie nach bestem Wissen und Gewissen ihr Personal schulen.
KI-Verordnung als Ausgangspunkt
Grundlage der Einschätzung des Tools ist eine automatisierte Auswertung der Angaben des Unternehmens/der Organisation auf Basis der veröffentlichten Fassung der VO-EU 2024/1689 (EU-AI-Act). In diesem Zusammenhang hebt die Bundesnetzagentur folgendes hervor:
- Kein offizieller Prüf-Charakter: Die Ergebnisse der automatisierten Einschätzung haben allerdings rein informativen Charakter und sind nicht bindend. Damit ist die Eingabe der Daten insbesondere kein offizielles Prüfungsverfahren oder das Ergebnis kein Verwaltungsakt der Bundesnetzagentur.
- Datenschutz: Die Agentur weist in diesem Zusammenhang aber auch darauf hin, dass Angaben ausschließlich anonymisiert und lediglich für statistische Auswertung erfasst werden. Demnach sollen zu keinem Zeitpunkt Rückschlüsse auf die Person, das Unternehmen oder die betreffende Organisation möglich sein. Zudem erfolgt die Datenerhebung nach den datenschutzrechtlichen Vorgaben der DSGVO, wobei die Agentur vor allem dem Grundsatz der Datenminimierung im Sinne von Art. 5 Abs. 1c DSGVO Rechnung tragen will.
Anwendungsbereich der KI-VO
- Räumliche Geltung: Die Verordnung ist auf alle öffentlichen und geschäftlichen Akteure innerhalb der EU anwendbar. Für Akteure außerhalb der EU gilt die VO, wenn diese ihre Systeme in der EU verkaufen oder die Nutzung der Systeme Auswirkungen auf Menschen in der EU hat.
- Sachlicher Anwendungsbereich: Grundsätzlich müssen alle Anbieter und Betreiber von KI-Systemen die KI-VO anwenden. Ausnahmen gibt es für Forschungs- und Entwicklungsarbeiten oder für Tests von Prototypen vor der Markteinführung. Weitere Ausnahmen sind für KI-Systeme vorgesehen, die ausschließlich für militärische Verteidigungs- oder nationale Sicherheitszwecke entwickelt werden – und zwar unabhängig davon, wer sie einsetzt.
-
Keine Geltung bei privater Nutzung: Ausgeschlossen vom Anwendungsbereich der KI-VO ist nach ihrem Art. 2 Abs. 10 die private Nutzung von KI-Systemen.
Notifizierung
Wie die Bundesnetzagentur weiter mitteilt, bereitet sie sich inhaltlich und organisatorisch auf die Notifizierung von Hochrisiko-KI-Systemen im Sinne von Anhang I Nr. 6 sowie Anhang III Nr. 1 der KI-Verordnung vor.
So kann im Rahmen des EU-„New Legislative Frameworks“ (NLF) die Produktkonformität in manchen Fällen nur durch eine vorher geprüfte und anerkannte notifizierte Stelle bestätigt werden.
Quellen:
 |
|
||
| Verlagsprogramm |
Weitere Nachrichten aus dem Bereich Recht |
(ESV/bp)