Niveles de riesgo: prohibido, alto, limitado y mínimo
Respuesta corta
GoalCube da a cada uso de la IA uno de cuatro niveles, según reglas fijas y tus respuestas: prohibido (se detiene), alto riesgo (una persona confirma el uso y decide cada caso), riesgo limitado y riesgo mínimo (se aprueban automáticamente según tus reglas). El alto riesgo incluye, por ejemplo, la selección de personal y las decisiones sobre las condiciones de trabajo (anexo III del Reglamento de IA). Las decisiones sobre personas siempre exigen a una persona (art. 22 RGPD).
Los cuatro niveles
| Nivel | Qué significa en GoalCube |
|---|---|
| Prohibido | El uso se detiene. GoalCube no ayuda con él (art. 5 RIA). |
| Alto riesgo | Una persona confirma el uso antes de que la IA reciba datos y decide cada caso sobre una persona (anexo III y art. 14 y 26 RIA). |
| Riesgo limitado | Se aprueba automáticamente según tus reglas. Las personas deben poder saber que hablan con una IA o que un contenido lo ha generado una IA (art. 50 RIA). |
| Riesgo mínimo | Se aprueba automáticamente según tus reglas. Tu equipo necesita alfabetización en IA (art. 4 RIA). |
Uso prohibido de la IA
| Prácticas prohibidas |
|---|
| Reconocimiento de emociones en el lugar de trabajo o en la educación |
| Puntuación social de personas |
| Categorización biométrica según, por ejemplo, raza, opiniones políticas, religión u orientación sexual |
| Manipulación o aprovechamiento de vulnerabilidades que pueda dañar a personas |
Ámbitos de alto riesgo
| Ámbito de alto riesgo (anexo III RIA) |
|---|
| Selección y contratación de personas |
| Decisiones sobre relaciones laborales (por ejemplo ascensos, condiciones, despidos, asignación de tareas, evaluación) |
| Educación (acceso, evaluación, vigilancia de exámenes) |
| Evaluación de solvencia o fijación de precios de seguros de vida y de salud |
| Acceso a prestaciones públicas |
| Identificación o categorización biométrica |
| Seguridad en infraestructuras críticas |
Si la IA se usa solo para una tarea estrecha y preparatoria, sin elaboración de perfiles, el uso puede quedar exento del alto riesgo. GoalCube lo pregunta al registrar el uso.
Decisiones sobre personas
Sea cual sea el nivel, una decisión con efectos significativos para una persona exige a una persona (art. 22 RGPD). Por eso un uso con decisiones sobre personas nunca se aprueba automáticamente.
La clasificación es simplificada y no es asesoramiento jurídico. Las reglas tienen una versión; consulta Cuando cambian las reglas de GoalCube.