Sorveglianza umana sull'AI: cosa chiede la legge e come si fa?
In breve
Sorveglianza umana significa che una persona con competenza e autorità capisce punti di forza e limiti dell'AI, si accorge degli errori, non si fida ciecamente e può ignorarne l'output o fermarla. L'AI Act la richiede per l'AI ad alto rischio (art. 14 per i fornitori, art. 26 per chi la usa). L'art. 22 GDPR chiede già oggi che le decisioni importanti per le persone non siano solo automatizzate. In pratica: un caso alla volta, una reale possibilità di dire di no, una motivazione e un log.
Provalo tu
Ecco tre casi fittizi. L'AI ha dato la sua raccomandazione; decidi tu. Scegli un'altra decisione e vedrai che devi scrivere una motivazione.
I fatti del caso
Valentina Greco
- Ruolo attuale
- Senior Controller
- Esperienza
- 12 anni
- CV
- Valentina Greco lavora da 12 anni su budget e report mensili alla Cartiera Valdarno Srl. Ha introdotto un nuovo sistema ERP e coordina un team di tre persone. Contatto: valentina.greco@example.com.
Raccomandazione dell’AI
Invitare al colloquio
Motivazione: 12 anni di esperienza in budget e reporting, ha introdotto un sistema ERP e viene da un'azienda manifatturiera.
Dubbi dell’AI:
Registro di audit
- Le decisioni vengono salvate qui con ora e marca temporale.
Dati fittizi. Le decisioni vengono salvate solo nel tuo browser.
Perché un caso alla volta?
Quando si vedono molti casi insieme, viene la tentazione di approvarli tutti. Un caso alla volta, con fatti e raccomandazione separati, rende più facile ragionare con la propria testa. Ed è proprio quello che vuole la legge.
Perché un log?
Senza log non puoi dimostrare che la sorveglianza c'è stata. GoalCube salva ogni decisione con data e ora, motivazione e una catena di checksum, così il log non si può modificare di nascosto, e con marche temporali indipendenti.
Come fare
- Scegli le persone giuste.Qualcuno con competenze e autorità per dire di no, non semplicemente chi ha tempo.
- Mostra fatti e raccomandazione separatamente.La persona deve vedere la base della decisione, non solo la conclusione dell'AI.
- Rendi facile dire di no.Tre scelte: approva, scegli un'altra decisione o chiedi più informazioni.
- Chiedi una motivazione quando la persona si discosta.Documenta che la valutazione è stata reale.
- Conserva il log.Chi ha deciso cosa, quando e perché, in modo che non si possa modificare dopo.
Cosa dice la legge
- Art. 14 dell'AI Act – sorveglianza umana
- L'AI ad alto rischio deve poter essere sorvegliata efficacemente da persone, anche contro la distorsione dell'automazione.
- Art. 26, paragrafo 2, dell'AI Act
- Chi usa il sistema deve affidare la sorveglianza a persone con la competenza, la formazione e l'autorità necessarie.
- Art. 22 GDPR
- Diritto di non essere sottoposto a una decisione basata unicamente sul trattamento automatizzato che produca effetti giuridici o incida in modo analogo e significativo.
Domande e risposte
Basta che un dipendente clicchi «approva»?
No. La sorveglianza deve essere reale. Se la persona approva sempre senza leggere, è distorsione dell'automazione, non sorveglianza umana.
La persona deve vedere tutti i casi?
Per l'alto rischio e le decisioni sulle persone: sì, ogni caso. Per il rischio basso possono bastare regole automatiche.
Cos'è la distorsione dell'automazione?
La tendenza a fidarsi troppo dei suggerimenti di una macchina (automation bias). L'AI Act la cita espressamente all'art. 14.
Fonti
A cura di Redazione GoalCube. Ultimo aggiornamento 11 ottobre 2026. GoalCube ti aiuta a rispettare l’AI Act e il GDPR. Non è consulenza legale.
Sii tra i primi.
Prevediamo di partire a novembre 2026. Iscriviti e ti scriveremo quando potrai iniziare.