Nadzór człowieka nad AI: czego wymaga prawo i jak to zrobić?
Krótka odpowiedź
Nadzór człowieka oznacza, że osoba z kompetencjami i uprawnieniami rozumie mocne i słabe strony AI, zauważa błędy, nie ufa jej ślepo i może odrzucić jej wynik lub ją zatrzymać. AI Act wymaga tego przy systemach AI wysokiego ryzyka (art. 14 dla dostawców, art. 26 dla podmiotów stosujących). Art. 22 RODO już dziś wymaga, by decyzje istotne dla osób nie były wyłącznie zautomatyzowane. W praktyce: jedna sprawa naraz, realna możliwość powiedzenia nie, uzasadnienie i dziennik.
Wypróbuj sam
Oto trzy fikcyjne sprawy. AI wydała rekomendację; Ty decydujesz. Wybierz inną decyzję i zobacz, że musisz napisać uzasadnienie.
Fakty w sprawie
Magdalena Dąbrowska
- Obecne stanowisko
- Starszy controller
- Doświadczenie
- 12 lat
- CV
- Magdalena Dąbrowska od 12 lat prowadzi budżety i miesięczne raporty w firmie Zakłady Wartańskie S.A., wdrożyła nowy system ERP i kieruje zespołem trzech osób. Kontakt: magdalena.dabrowska@example.com.
Rekomendacja AI
Zaprosić na rozmowę
Uzasadnienie: 12 lat doświadczenia w budżetowaniu i raportowaniu, wdrożyła system ERP i pochodzi z firmy produkcyjnej.
Wątpliwości AI:
Dziennik audytu
- Decyzje są zapisywane tutaj z datą i znacznikiem czasu.
Fikcyjne dane. Decyzje są zapisywane tylko w Twojej przeglądarce.
Dlaczego jedna sprawa naraz?
Gdy wiele spraw widać naraz, kusi, by zatwierdzić wszystkie. Jedna sprawa naraz, z faktami i rekomendacją osobno, ułatwia samodzielne myślenie – a właśnie tego chce prawo.
Dlaczego dziennik?
Bez dziennika nie pokażesz, że nadzór faktycznie się odbył. GoalCube zapisuje każdą decyzję z czasem, uzasadnieniem i łańcuchem sum kontrolnych, żeby dziennika nie dało się zmienić po cichu, oraz z niezależnymi znacznikami czasu.
Jak to zrobić
- Wybierz właściwe osoby.Kogoś z wiedzą fachową i uprawnieniami, by powiedzieć nie – nie po prostu kogoś, kto ma czas.
- Pokaż osobno fakty i rekomendację.Człowiek musi widzieć podstawy, a nie tylko wniosek AI.
- Ułatw powiedzenie nie.Trzy wybory: zatwierdź, wybierz inną decyzję albo poproś o więcej informacji.
- Wymagaj uzasadnienia, gdy człowiek decyduje inaczej niż AI.To dokumentuje, że ocena była realna.
- Prowadź dziennik.Kto zdecydował co, kiedy i dlaczego – tak, by nie dało się tego potem zmienić.
Co mówi prawo
- AI Act, art. 14 – nadzór ze strony człowieka
- Systemy AI wysokiego ryzyka muszą podlegać skutecznemu nadzorowi ludzi, m.in. w celu przeciwdziałania tendencji do nadmiernego polegania na wyniku (automation bias).
- AI Act, art. 26 ust. 2
- Podmiot stosujący musi powierzyć nadzór osobom z odpowiednimi kompetencjami, przeszkoleniem i uprawnieniami.
- RODO, art. 22
- Prawo do tego, by nie podlegać decyzji opartej wyłącznie na zautomatyzowanym przetwarzaniu, która wywołuje skutki prawne lub w podobny sposób istotnie wpływa na osobę.
Pytania i odpowiedzi
Czy wystarczy, że pracownik kliknie „zatwierdź”?
Nie. Nadzór musi być realny. Jeśli osoba zawsze klika „zatwierdź”, nie czytając, to jest automation bias, a nie nadzór człowieka.
Czy człowiek musi zobaczyć wszystkie sprawy?
Przy wysokim ryzyku i decyzjach o osobach: tak, każdą sprawę. Przy niskim ryzyku mogą wystarczyć automatyczne reguły.
Co to jest automation bias?
Skłonność do nadmiernego zaufania do podpowiedzi maszyny. AI Act wymienia ją wprost w art. 14.
Źródła
Autor redakcja GoalCube. Ostatnia aktualizacja 11 października 2026. GoalCube pomaga stosować AI Act i RODO. To nie jest porada prawna.
Bądź wśród pierwszych.
Planujemy start w listopadzie 2026. Zapisz się, a odezwiemy się, gdy będzie można zacząć.