Menschliche Aufsicht über KI: Was verlangt das Gesetz, und wie geht das?
Kurze Antwort
Menschliche Aufsicht heißt: Eine Person mit Kompetenz und Befugnis kennt die Stärken und Schwächen der KI, erkennt Fehler, vertraut ihr nicht blind und kann sie übersteuern oder stoppen. Die KI-Verordnung verlangt das für Hochrisiko-KI (Art. 14 für Anbieter, Art. 26 für Betreiber). Art. 22 DSGVO verlangt schon heute, dass Entscheidungen mit erheblichen Folgen für Personen nicht ausschließlich automatisiert fallen. In der Praxis: ein Fall nach dem anderen, eine echte Möglichkeit, Nein zu sagen, eine Begründung und ein Protokoll.
Probieren Sie es selbst
Hier sind drei fiktive Fälle. Die KI hat eine Empfehlung abgegeben; Sie entscheiden. Wählen Sie eine andere Entscheidung, und Sie sehen: Dann müssen Sie eine Begründung schreiben.
Fakten zum Fall
Claudia Neumann
- Aktuelle Position
- Senior Controller
- Erfahrung
- 12 Jahre
- Lebenslauf
- Claudia Neumann arbeitet seit 12 Jahren mit Budgetplanung und Monatsberichten bei der Schwarzwald Holz GmbH. Sie hat ein neues ERP-System eingeführt und leitet ein Team von drei Personen. Kontakt: claudia.neumann@beispiel.de.
Empfehlung der KI
Zum Gespräch einladen
Begründung: 12 Jahre Erfahrung in Budgetplanung und Reporting, hat ein ERP-System eingeführt und kommt aus einem Produktionsunternehmen.
Die KI ist unsicher bei:
Prüfprotokoll
- Die Entscheidungen werden hier mit Uhrzeit und Zeitstempel gespeichert.
Fiktive Daten. Die Entscheidungen werden nur in Ihrem Browser gespeichert.
Warum ein Fall nach dem anderen?
Werden viele Fälle auf einmal angezeigt, ist es verlockend, alle freizugeben. Ein Fall nach dem anderen, mit Fakten und Empfehlung getrennt, macht es leichter, selbst zu denken – und genau das will das Gesetz.
Warum ein Protokoll?
Ohne Protokoll können Sie nicht belegen, dass die Aufsicht stattgefunden hat. GoalCube speichert jede Entscheidung mit Zeitpunkt, Begründung und einer Kette von Prüfsummen, damit sich das Protokoll nicht unbemerkt ändern lässt, und mit unabhängigen Zeitstempeln.
So gehen Sie vor
- Wählen Sie die richtigen Personen.Jemand mit Fachwissen und der Befugnis, Nein zu sagen – nicht einfach, wer gerade Zeit hat.
- Zeigen Sie Fakten und Empfehlung getrennt.Der Mensch muss die Grundlage sehen, nicht nur das Ergebnis der KI.
- Machen Sie das Neinsagen leicht.Drei Optionen: freigeben, anders entscheiden oder weitere Informationen anfordern.
- Verlangen Sie eine Begründung, wenn der Mensch abweicht.Das belegt, dass die Prüfung echt war.
- Speichern Sie das Protokoll.Wer was wann und warum entschieden hat – so, dass es sich nachträglich nicht ändern lässt.
Das sagt das Gesetz
- Art. 14 KI-VO – Menschliche Aufsicht
- Hochrisiko-KI muss von Menschen wirksam beaufsichtigt werden können, u. a. gegen Automatisierungsbias.
- Art. 26 Abs. 2 KI-VO
- Der Betreiber muss die Aufsicht Personen mit der nötigen Kompetenz, Schulung und Befugnis übertragen.
- Art. 22 DSGVO
- Recht, keiner ausschließlich automatisierten Entscheidung unterworfen zu werden, die rechtliche Wirkung entfaltet oder in ähnlicher Weise erheblich beeinträchtigt.
Fragen und Antworten
Reicht es, wenn eine Mitarbeiterin auf „Freigeben“ klickt?
Nein. Die Aufsicht muss echt sein. Wer immer freigibt, ohne zu lesen, unterliegt dem Automatisierungsbias – das ist keine menschliche Aufsicht.
Muss der Mensch alle Fälle sehen?
Bei Hochrisiko und Entscheidungen über Personen: ja, jeden Fall. Bei geringem Risiko können automatische Regeln genügen.
Was ist Automatisierungsbias?
Die Neigung, den Vorschlägen einer Maschine zu sehr zu vertrauen. Die KI-Verordnung nennt sie ausdrücklich in Art. 14.
Quellen
Geschrieben von GoalCube-Redaktion. Zuletzt aktualisiert 11. Oktober 2026. GoalCube hilft Ihnen, die KI-Verordnung und die DSGVO einzuhalten. Es ist keine Rechtsberatung.
Seien Sie unter den Ersten.
Wir planen den Start im November 2026. Merken Sie sich vor, dann hören Sie von uns, sobald Sie loslegen können.