Recommend
Print
Angesprochen sind Anbieter und Nutzer von KI-Systemen, Unternehmen, Forschungseinrichtungen, zivilgesellschaftliche Organisationen, öffentliche Stellen sowie unabhängige Fachleute. Auch Einzelpersonen können sich beteiligen. Die Rückmeldungen sollen helfen, die Einstufung und Regulierung von Hochrisiko-KI-Systemen praxistauglich auszugestalten.
Das KI-Gesetz, welches seit August 2024 gilt, sieht für Hochrisiko-KI-Systeme besondere Vorschriften vor. Diese betreffen unter anderem Datenqualität, Dokumentationspflichten, Transparenz, menschliche Aufsicht sowie Anforderungen an Sicherheit und Genauigkeit. Anbieter müssen ein Qualitätsmanagementsystem einrichten und eine Konformitätsbewertung durchführen. Auch Betreiber von Hochrisiko-KI-Systemen unterliegen spezifischen Pflichten, etwa zur Aufsicht und Transparenz gegenüber den Nutzern.
Die Konsultation ist in fünf Abschnitte gegliedert:
- Klassifizierung von Hochrisiko-KI-Systemen im Zusammenhang mit Produktsicherheit,
- Anwendungsfälle, in denen KI ein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte darstellen kann,
- Allgemeine Fragen zur Risikoeinstufung, z. B. zur Zweckbestimmung von Systemen oder Überschneidungen zwischen verschiedenen Risikokategorien,
- Anforderungen und Pflichten für Anbieter und Nutzer entlang der gesamten KI-Wertschöpfungskette,
- Mögliche Änderungen an bestehenden Regelungen zu Hochrisiko-Anwendungsfällen und verbotenen Praktiken.
Die Konsultation ist ausschließlich auf Englisch verfügbar und steht allen Interessierten offen. Die Teilnahme ist freiwillig, es besteht die Möglichkeit, nur einzelne Abschnitte zu beantworten.
Die Kommission ruft ausdrücklich dazu auf, praktische Beispiele und Erfahrungen einzubringen, um die zukünftigen Leitlinien möglichst anwendungsnah gestalten zu können. Nach Abschluss der Konsultation wird die Kommission die Ergebnisse in zusammengefasster Form veröffentlichen. Beiträge können öffentlich zugänglich gemacht werden, auf Wunsch auch anonymisiert. Zu beachten ist, dieses Konsultationspapier dient ausschließlich dem Zweck der öffentlichen Konsultation und greift keiner späteren Entscheidung der Kommission vor.
