Euroopan unionin tekoälyasetus (AI Act) on ensimmäinen kattava tekoälyä koskeva sääntelykokonaisuus maailmassa. Julkisessa keskustelussa asetusta on kuvattu ennen kaikkea teknologiaa koskevaksi lainsäädännöksi, mutta oikeudellisesta näkökulmasta kyse on ennen kaikkea yritysten hallintoa, vastuunjakoa ja riskienhallintaa koskevasta sääntelystä.
Monessa organisaatiossa tekoäly on jo osa päivittäistä toimintaa. Generatiivisia tekoälypalveluita käytetään asiakirjojen laatimiseen, asiakaspalveluun, ohjelmistokehitykseen sekä päätöksenteon tukena. Samalla yhä useampi yritys toimii joko tekoälyjärjestelmän tarjoajana, käyttöönottajana tai hyödyntäjänä – usein tiedostamattaan. Juuri tästä syystä tekoälyasetuksen velvoitteet ulottuvat huomattavasti laajemmalle kuin pelkästään teknologia-alan yrityksiin.
Asetuksen taustalla on ajatus riskiperusteisesta sääntelystä. Lainsäätäjä ei pyri rajoittamaan tekoälyn kehittämistä, vaan varmistamaan, että järjestelmiä käytetään tavalla, joka suojaa yksilöiden perusoikeuksia ja mahdollistaa teknologian luotettavan hyödyntämisen. Mitä suurempi vaikutus tekoälyjärjestelmällä voi olla esimerkiksi yksilön oikeuksiin, turvallisuuteen tai toimeentuloon, sitä laajemmat velvoitteet siihen kohdistuvat.
Käytännössä merkittävin haaste yrityksille ei kuitenkaan usein liity itse asetuksen sisältöön, vaan sen soveltamiseen. Organisaatioiden tulee tunnistaa, missä tekoälyä käytetään, kuka vastaa sen käytöstä ja millä perusteella järjestelmän mahdollisia riskejä arvioidaan. Kokemukset tietosuojasääntelyn (GDPR) voimaantulosta osoittavat, että suurimmat ongelmat eivät yleensä synny sääntelyn olemassaolosta vaan siitä, ettei organisaatiolla ole riittävää kokonaiskuvaa omista prosesseistaan.
Myös oikeudellisesta näkökulmasta vastuunjako ansaitsee erityistä huomiota. Tekoälyasetus ei syrjäytä muuta lainsäädäntöä, vaan sitä sovelletaan rinnakkain esimerkiksi yleisen tietosuoja-asetuksen, kuluttajansuojasääntelyn, tuotevastuuta koskevien säännösten sekä toimialakohtaisen sääntelyn kanssa. Yksittäinen tekoälyratkaisu voi siten samanaikaisesti kuulua useiden eri sääntelykokonaisuuksien soveltamisalaan, mikä korostaa kokonaisvaltaisen compliance-arvioinnin merkitystä.
Yritysten kannalta keskeinen kysymys ei enää ole, otetaanko tekoäly käyttöön, vaan miten sen käyttö organisoidaan oikeudellisesti kestävällä tavalla. Sisäiset ohjeistukset, henkilöstön koulutus, vastuunjaon dokumentointi ja järjestelmien jatkuva arviointi muodostuvat yhä merkittävämmäksi osaksi hyvää hallintotapaa. Samalla ne vähentävät riskiä siitä, että organisaatio joutuu myöhemmin korjaamaan puutteita viranomaisvalvonnan tai sopimusriitojen yhteydessä.
AI Act merkitsee ennen kaikkea siirtymää tilanteeseen, jossa tekoälyn käyttöä tarkastellaan osana yrityksen kokonaisvaltaista riskienhallintaa. Organisaatiot, jotka rakentavat toimintamallinsa hyvissä ajoin ennen kaikkien velvoitteiden täysimääräistä soveltamista, ovat todennäköisesti paremmassa asemassa sekä oikeudellisten riskien hallinnan että kilpailukyvyn näkökulmasta. Tekoälyn vastuullinen käyttö ei ole enää pelkästään eettinen tavoite, vaan yhä selvemmin myös oikeudellinen velvollisuus koko Euroopassa.
Yksi AI Actin kiinnostavimmista ja samalla keskustelua herättävimmistä osa-alueista koskee niin sanottua emotion recognition -teknologiaa eli tunnetilojen tunnistamista. Sillä tarkoitetaan tekoälyjärjestelmiä, jotka pyrkivät päättelemään henkilön tunnetilan esimerkiksi kasvonilmeiden, äänenpainon, katseen, eleiden tai muiden biometristen tietojen perusteella.
Teknologian käyttöä on perusteltu muun muassa henkilöstöhallinnon, rekrytoinnin ja asiakaspalvelun kehittämisellä. Samalla sen luotettavuus on herättänyt laajaa tieteellistä keskustelua, sillä tutkimuskirjallisuudessa ei ole yksimielisyyttä siitä, voidaanko ihmisen tunnetiloja päätellä luotettavasti pelkkien ulkoisten ilmaisujen perusteella. Virheellisten tulkintojen riski on merkittävä, ja ne voivat johtaa yksilön oikeuksien kannalta vakaviin seurauksiin.
Juuri näistä syistä AI Act suhtautuu emotion recognition -järjestelmiin poikkeuksellisen tiukasti. Asetuksen 5 artiklassa kielletään lähtökohtaisesti sellaisten tekoälyjärjestelmien käyttö, joiden tarkoituksena on tunnistaa työntekijän tai opiskelijan tunnetiloja työpaikoilla ja oppilaitoksissa. Kielto perustuu ennen kaikkea perusoikeuksien suojaamiseen: työntekijän tai opiskelijan ei katsota olevan aidosti tasavertaisessa asemassa suhteessa työnantajaan tai oppilaitokseen, jolloin myös väärinkäytösten riski kasvaa. AI Act ei keskity pelkästään tekoälyjärjestelmien teknisiin ominaisuuksiin, vaan ennen kaikkea niiden käyttötarkoitukseen ja vaikutuksiin yksilön oikeuksiin. Erityisesti henkilöstöhallinnossa ja rekrytoinnissa käytettävien tekoälyratkaisujen arviointi onkin syytä tehdä huolellisesti jo ennen niiden käyttöönottoa, sillä kaikille innovatiivisille käyttötarkoituksille ei enää löydy oikeudellista perustaa uuden sääntelyn myötä.
