Hochrisiko-KIGlossarHochrisiko-KI sind KI-Systeme, die der EU AI Act wegen besonderer Auswirkungen auf Sicherheit oder Grundrechte strengen Pflichten unterwirft. Für KMU relevant vor allem bei KI in HR, Kredit, kritischer Infrastruktur oder sicherheitskritischen Prozessen. ist eine Risikoklasse im EU AI Act. Gemeint sind Systeme, deren Einsatz nach Anhang III (und verwandten Produktregeln) besondere Anforderungen auslöst — etwa zu Risikomanagement, Datenqualität, Dokumentation, Transparenz, menschlicher Aufsicht und Cybersicherheit.
Wann mittelständische Nutzung „hochrisiko“ werden kann
Alltags-Copilot in Word oder Teams ist in der Standardnutzung in der Regel kein Hochrisiko-System nach Anhang III. Näher an Hochrisiko rücken Szenarien, in denen KI wesentlich mitentscheidet oder steuert, zum Beispiel:
- Vorauswahl oder Bewertung in der Personalgewinnung und Leistungsbeurteilung
- Bewertung der Kreditwürdigkeit oder wesentlicher Zugang zu Finanzdiensten
- Einsatz in kritischer Infrastruktur oder sicherheitsrelevanten Steuerungen
- Bestimmte biometrische und identifikationsbezogene Anwendungen
Entscheidend sind Verwendungszweck und Kontext, nicht der Produktname auf der Rechnung. Dieselbe Technologie kann je nach Prozess unproblematisch oder hochreguliert sein.
Was die Einstufung praktisch bedeutet
Für Hochrisiko-Systeme gelten deutlich schärfere Pflichten als für Transparenz- oder Minimalrisiko-KI. Betreiber und Anbieter müssen unter anderem nachweisen können:
- systematisches Risikomanagement über den Lebenszyklus
- geeignete Trainings-/Testdaten und Qualitätskriterien (soweit anwendbar)
- technische Dokumentation und Logging
- sinnvolle menschliche Aufsicht
- klare Informationen an Nutzende und oft erhöhte Sorgfalt in Beschaffung und Betrieb
Fristen und Details folgen dem Act-Zeitplan (zentrale Hochrisiko-Pflichten u. a. ab August 2026 im dann geltenden Stand). Parallel bleibt die DSGVO anwendbar.
Was KMU jetzt tun sollten
- Inventar: Welche KI steckt in HR-Tools, CRM-Scoring, Branchenlösungen, eigenen Agenten?
- Einordnung: Hochrisiko — oder „nur“ Transparenz / interne Produktivität?
- Governance: Verantwortliche, Freigabeprozess, Dokumentation (KI-Governance)
- Keine Panik-Stopps bei Copilot, aber gezielte Prüfung vor KI in Personal- und Risikoentscheidungen
Abgrenzung
| Risikostufe (vereinfacht) | Beispielhafter Fokus |
|---|---|
| Unannehmbar | verbotene Praktiken |
| Hochrisiko | strenge Betreiber-/Anbieterpflichten |
| Begrenzt | vor allem Transparenz („Sie sprechen mit KI“) |
| Minimal | Großteil Produktivitäts-KI ohne Sonderpflichten des Acts |
Hochrisiko-KI ist ein Rechtsbegriff des AI Act — kein Marketing-Label und kein Synonym für „jedes LLMGlossarEin Large Language Model ist ein KI-System, das auf Basis riesiger Textmengen trainiert wurde und menschliche Sprache versteht, generiert und verarbeitet. Die technische Grundlage für Chatbots, Copilot und KI-Agenten. mit Halluzinationsrisiko“.
