Níveis de risco: proibido, risco elevado, limitado e mínimo
Resposta curta
A GoalCube dá a cada utilização de IA um de quatro níveis, segundo regras fixas e as respostas da sua empresa: proibido (interrompido), risco elevado (um ser humano confirma a utilização e decide cada caso), risco limitado e risco mínimo (aprovados automaticamente segundo as regras da empresa). Risco elevado é, por exemplo, o recrutamento e as decisões sobre relações de trabalho (anexo III do AI Act). As decisões sobre pessoas exigem sempre um ser humano (artigo 22.º do RGPD).
Os quatro níveis
| Nível | O que significa na GoalCube |
|---|---|
| Proibido | A utilização é interrompida. A GoalCube não ajuda nisso (AI Act, art. 5.º). |
| Risco elevado | Um ser humano confirma a utilização antes de a IA receber dados e decide cada caso sobre uma pessoa (AI Act, anexo III, art. 14.º e 26.º). |
| Risco limitado | Aprovado automaticamente segundo as regras da sua empresa. As pessoas têm de poder ver que falam com uma IA ou que o conteúdo foi feito por IA (art. 50.º). |
| Risco mínimo | Aprovado automaticamente segundo as regras da sua empresa. Os colaboradores precisam de literacia em IA (art. 4.º). |
Utilização proibida de IA
| Práticas proibidas |
|---|
| Reconhecimento de emoções no local de trabalho ou na educação |
| Pontuação social de pessoas |
| Categorização biométrica por, por exemplo, origem racial, opiniões políticas, religião ou orientação sexual |
| Manipulação ou exploração de vulnerabilidades que possam prejudicar pessoas |
Áreas de risco elevado
| Áreas de risco elevado (AI Act, anexo III) |
|---|
| Recrutamento e seleção de pessoas |
| Decisões sobre relações de trabalho (por exemplo, promoção, condições, cessação, atribuição de tarefas, avaliação) |
| Educação (acesso, avaliação, vigilância de exames) |
| Avaliação de crédito ou fixação de preços de seguros de vida e de saúde |
| Acesso a prestações públicas |
| Identificação ou categorização biométrica |
| Segurança em infraestruturas críticas |
Se a IA só for usada numa tarefa restrita e preparatória, sem definição de perfis, a utilização pode ficar isenta de risco elevado. A GoalCube pergunta-o quando a utilização é registada.
Decisões sobre pessoas
Seja qual for o nível, uma decisão com efeitos significativos sobre uma pessoa exige um ser humano (artigo 22.º do RGPD). Por isso, a utilização com decisões sobre pessoas nunca é aprovada automaticamente.
A classificação é simplificada e não é aconselhamento jurídico. As regras têm uma versão; veja Quando as regras da GoalCube mudam: nova versão de um registo.