Was ist Hochrisiko-KI-System?
Zuletzt aktualisiert am · Aidan Faes
Kurz gesagt
Ein Hochrisiko-KI-System ist eine Einstufung der KI-Verordnung für Anwendungen, die erhebliche Auswirkungen auf Gesundheit, Sicherheit oder Grundrechte haben können. Die Verordnung benennt diese Fälle in zwei Anhängen: Anhang I erfasst KI als Sicherheitsbauteil in regulierten Produkten, Anhang III Einsatzfelder wie Beschäftigung, Bildung, Kreditwürdigkeit oder kritische Infrastruktur. Mit der Einstufung sind besondere Anforderungen an Dokumentation, Datenqualität, menschliche Aufsicht und Protokollierung verbunden.
Für den Mittelstand ist die Einordnung meist schneller erledigt, als der Begriff vermuten lässt. Ein Assistent, der Angebotstexte formuliert, eine Rechnungserfassung oder eine interne Suche berühren die genannten Felder in der Regel nicht. Entscheidend ist nicht die Technik, sondern der Zweck: Was wird mit dem Ergebnis gemacht, und wen trifft es? Sobald ein System darüber mitentscheidet, wer eingestellt, befördert, versichert oder finanziert wird, verschiebt sich die Bewertung.
Die Fristen für diese Kategorie liegen weiter in der Zukunft als der Rest der Verordnung. Nach der Verordnung (EU) 2026/1744, in Kraft seit dem 27.07.2026, gelten die Anforderungen für die Fälle des Anhangs III ab dem 02.12.2027 und für die des Anhangs I ab dem 02.08.2028. Diese Zeit ist keine Pause, sondern Vorlauf: Datenherkunft, Testprotokolle und Aufsichtsregeln lassen sich nicht rückwirkend erzeugen.
Der häufigste Fehler ist ein Denkfehler in beide Richtungen. Manche Betriebe stufen jedes KI-Werkzeug vorsorglich als Hochrisiko ein und blockieren damit harmlose Anwendungen. Andere übersehen, dass ein scheinbar unscheinbares Werkzeug in einem geregelten Feld eingesetzt wird, etwa wenn eine Bewerbungsvorauswahl still über einen allgemeinen Assistenten läuft. Beides lässt sich mit einer nüchternen Liste der Anwendungsfälle vermeiden.
Woran Sie erkennen, dass Sie genauer hinsehen müssen: Das System trifft oder stützt eine Entscheidung über eine konkrete Person, die Person kann sich der Entscheidung nicht ohne Weiteres entziehen, und ein Fehler hätte für sie spürbare Folgen. Treffen alle drei Punkte zu, ist eine fachliche Einordnung angezeigt. Diese Einordnung ist eine Rechtsfrage und gehört nicht auf eine Glossarseite.
Welche Begriffe hängen damit zusammen?
- KI-Verordnung: Die europäische Verordnung, die KI-Systeme nach Risiko einstuft und daran Pflichten knüpft.
- KI-Kompetenz: Die nach Art. 4 der KI-Verordnung geforderte Fähigkeit der Belegschaft, KI-Systeme sachkundig einzusetzen.
- Human in the Loop: Ein festgelegter Punkt, an dem ein Mensch prüft, bevor ein Ergebnis wirksam wird.
Wo wird Hochrisiko-KI-System in der Auswahl konkret?
Begriffe helfen erst, wenn sie an einer Entscheidung hängen. Hochrisiko-KI-System spielt vor allem in KI-Assistenten & LLM-Plattformen eine Rolle. Dort sehen Sie, wie die geprüften Lösungen mit dem Punkt umgehen, jeweils mit Quelle und Stand-Datum.
Weiter im Glossar
Recht und Sicherheit
Kategorien
Häufige Fragen
Wird unser Chatbot im Kundenservice zum Hochrisiko-System?
Ein Bot, der Auskunft gibt und Vorgänge weiterleitet, fällt normalerweise nicht in die geregelten Felder. Relevanter sind für ihn die Transparenzanforderungen. Anders kann es aussehen, wenn er darüber entscheidet, welche Leistungen einer Person zustehen oder verwehrt bleiben.
Wir nutzen KI in der Bewerbervorauswahl. Was folgt daraus?
Beschäftigung und Personalauswahl gehören zu den Feldern, die Anhang III adressiert. Klären Sie zuerst, ob Sie das System nur einsetzen oder auch anbieten, denn davon hängen die Pflichten ab. Für die Bewertung Ihres konkreten Aufbaus sollten Sie rechtlichen Rat einholen.
Können wir uns auf die Zusage des Anbieters verlassen?
Die Einordnung hängt auch von Ihrem Einsatzzweck ab, den der Anbieter nicht kennt. Lassen Sie sich seine Einschätzung schriftlich geben und ergänzen Sie sie um Ihre eigene Beschreibung des Anwendungsfalls. Beides zusammen ist die Grundlage für eine belastbare Bewertung.