Der EU AI Act (Verordnung über künstliche Intelligenz) ist die weltweit erste umfassende KI-Regulierung. Er unterscheidet KI-Systeme nach Risikoklassen und stellt an Hochrisiko-Systeme Anforderungen an Risikomanagement, Datenqualität, Transparenz und menschliche Aufsicht.
Definition
Der EU AI Act (Verordnung (EU) 2024/1689) regelt das Inverkehrbringen und die Verwendung von KI-Systemen in der EU. Er folgt einem risikobasierten Ansatz mit vier Klassen: unannehmbares Risiko (verboten), hohes Risiko (strenge Anforderungen), begrenztes Risiko (Transparenzpflichten) und minimales Risiko (keine Pflichten). Hochrisiko-Systeme, etwa in Personalverwaltung, kritischen Infrastrukturen oder Medizinprodukten, müssen ein Risikomanagementsystem, Daten-Governance, technische Dokumentation, Transparenz, menschliche Aufsicht und Genauigkeit nachweisen. Anbieter müssen eine Konformitätsbewertung durchführen und eine CE-Kennzeichnung anbringen. Die Verordnung gilt stufenweise und wird durch Normen wie ISO/IEC 42001 als Managementsystem flankiert. Verstöße können mit erheblichen Bußgeldern geahndet werden.
Praxisbezug
Ein Softwareanbieter entwickelt ein KI-System zur Bewerbervorauswahl. Da es sich um ein Hochrisiko-System handelt, richtet er ein Risikomanagement ein, dokumentiert die Trainingsdaten, stellt Transparenz und menschliche Aufsicht sicher und führt eine Konformitätsbewertung durch, bevor er das System in der EU anbietet.
Normbezug
Verordnung (EU) 2024/1689 (EU AI Act); ISO/IEC 42001