Mit der kommenden KI-Verordnung (AI Act) nimmt die EU erstmals verbindlich in den Blick, wie Künstliche Intelligenz entwickelt, vertrieben und eingesetzt wird – auch im Unternehmensalltag.
Der AI Act unterscheidet dabei zwischen verschiedenen Risikoklassen von KI-Systemen. Hochrisiko-KI – z. B. Systeme zur automatisierten Personalauswahl – unterliegt besonders strengen Vorgaben:
-
Risikobewertung und technische Dokumentation
-
Transparenzpflichten gegenüber Nutzer:innen
-
Registrierung in der EU-Datenbank
-
Nachweis menschlicher Aufsicht
-
Meldepflichten bei Vorfällen
Für viele Unternehmen stellt sich daher die Frage: Müssen wir jetzt einen KI-Officer benennen?
Die Antwort: Für Anbieter oder Nutzer von Hochrisiko-KI ja – entweder intern oder extern. Diese Person muss sicherstellen, dass die eingesetzte KI rechtskonform betrieben wird und alle Pflichten des AI Act erfüllt werden.
Unser Tipp: Selbst wenn Sie keine Hochrisiko-KI einsetzen, lohnt es sich, schon jetzt Verantwortlichkeiten rund um KI zu definieren. Denn KI wird zunehmend zum Teil betrieblicher Abläufe – und wer frühzeitig Prozesse aufsetzt, ist bei Umsetzung der Verordnung klar im Vorteil.
