Riskitasot: kielletty, suuri, rajallinen ja vähäinen riski
Lyhyt vastaus
GoalCube antaa jokaiselle tekoälyn käytölle yhden neljästä tasosta kiinteiden sääntöjen ja vastaustesi perusteella: kielletty (pysäytetään), suuri riski (ihminen vahvistaa käytön ja päättää jokaisesta tapauksesta), rajallinen riski ja vähäinen riski (hyväksytään automaattisesti sääntöjesi mukaan). Suuri riski on esim. rekrytointi ja työsuhteeseen liittyvät päätökset (tekoälysäädöksen liite III). Henkilöitä koskevat päätökset vaativat aina ihmisen (GDPR:n 22 artikla).
Neljä tasoa
| Taso | Mitä se tarkoittaa GoalCubessa |
|---|---|
| Kielletty | Käyttö pysäytetään. GoalCube ei auta siinä (tekoälyasetuksen 5 artikla). |
| Suuri riski | Ihminen vahvistaa käytön, ennen kuin tekoäly saa tietoja, ja päättää jokaisesta henkilöä koskevasta tapauksesta (tekoälyasetuksen liite III sekä 14 ja 26 artikla). |
| Rajallinen riski | Hyväksytään automaattisesti sääntöjesi mukaan. Ihmisten on nähtävä, että he keskustelevat tekoälyn kanssa tai että sisältö on tekoälyn tekemää (50 artikla). |
| Vähäinen riski | Hyväksytään automaattisesti sääntöjesi mukaan. Työntekijöillä on oltava tekoälylukutaitoa (4 artikla). |
Kielletty tekoälyn käyttö
| Kielletyt käytännöt |
|---|
| Tunteiden tunnistaminen työpaikalla tai koulutuksessa |
| Henkilöiden sosiaalinen pisteytys |
| Biometrinen luokittelu esim. rodun, poliittisen mielipiteen, uskonnon tai seksuaalisuuden mukaan |
| Manipulointi tai haavoittuvuuksien hyväksikäyttö, joka voi vahingoittaa henkilöitä |
Suuririskiset alueet
| Suuren riskin alueet (tekoälyasetuksen liite III) |
|---|
| Henkilöiden rekrytointi ja valinta |
| Työsuhdetta koskevat päätökset (esim. ylennys, työehdot, irtisanominen, tehtävien jako, arviointi) |
| Koulutus (pääsy, arviointi, kokeiden valvonta) |
| Luottokelpoisuuden arviointi tai henki- ja sairausvakuutuksen hinnoittelu |
| Pääsy julkisiin etuuksiin |
| Biometrinen tunnistaminen tai luokittelu |
| Kriittisen infrastruktuurin turvallisuus |
Jos tekoälyä käytetään vain suppeaan, valmistelevaan tehtävään ilman profilointia, käyttö voi olla vapautettu suuren riskin luokasta. GoalCube kysyy tätä, kun käyttö kirjataan.
Päätökset henkilöistä
Tasosta riippumatta henkilölle merkittävä päätös vaatii ihmisen (GDPR:n 22 artikla). Siksi käyttöä, johon liittyy päätöksiä henkilöistä, ei koskaan hyväksytä automaattisesti.
Luokittelu on yksinkertaistettu eikä ole oikeudellista neuvontaa. Säännöillä on versio; katso Kun GoalCuben säännöt muuttuvat.