Euroopassa ei sallita tulevaisuudessa kameravalvontaa biometrinen tunnistuksella päätti eilen EU-parlamentti asetusehdotuksessaan. Ja laajemminkin tekoälypohjaisten ratkaisujen käyttö tulee olla Euroopassa tulevaisuudessa nykyistä turvatumpaa ja avointa. Esimerkiksi biometrisen kameraetätunnistuksen lisäksi tunteiden tunnistaminen ja ennustava poliisitoiminta kiellettäisiin tulevien säädöksen kautta.
EU-parlamentti hyväksyi eilen oman kantansa sääntöihin, joilla pyritään hallitsemaan tekoälyn riskejä ja edistämään sen eettistä käyttöä. Esimerkiksi sisältöä luovien järjestelmien, kuten ChatGPT:n, on kerrottava, kun sisältö on tekoälyn tuottamaa. Parlamentti hyväksyi kantansa äänin 499 puolesta, 28 vastaan ja 93 tyhjää. Nyt kun neuvottelukanta on hyväksytty, voivat EU-mepit voivat nyt aloittaa neuvottelut lain lopullisesta muodosta neuvoston kanssa.
Tuleva lakisäädös pyrkii varmistamaan, että uudenlaisen tekoälyn käyttö Euroopassa tapahtuu kansalaisten oikeuksia kunnioittaen ja EU:n arvojen mukaisesti, eli ihmisen valvomana, syrjimättömästi ja yksityisyyden suojan huomioiden. Se asettaa myös riskiperusteisia velvoitteita palveluntarjoajille tekoälyn eri käyttökohteiden riskitason mukaan. Tietyt käyttötavat, joiden riskitaso on korkein, kielletään kokonaan. Esimerkiksi vaaleissa äänestäjiin vaikuttavia tekoälyjärjestelmiä pidetään korkean riskin käyttökohteina.
Parlamentin tekoälykannan mukaan yleiskäyttöisen tekoälyn pohjalla olevien mallien kehittäjien on arvioitava ja ehkäistävä niihin liittyviä riskejä ja rekisteröitävä mallit EU-tietokantaan ennen niiden laajaa julkaisua. EU-mepit ehdottavat myös räätälöityjä sääntöjä generatiiviselle (eli sisältöä tuottavalle) tekoälylle, kuten ChatGPT:lle, jonka tuotokset on merkittävä selkeästi ja joka ei saa tuottaa laitonta sisältöä.
Selkeillä merkinnöillä on tarkoitus estää myös tekoälyn luomien kuvien levittäminen aitoina. Lisäksi kehittäjien tulisi julkaista tiivistelmä tekijänoikeuksien suojaaman sisällön käytöstä tällaisen mallin kouluttamisessa. Silti tekoälyinnovaatioiden vauhdittamiseksi ja pienyritysten tueksi mepit ehdottavat lakiin poikkeuksia tutkimukselle ja avoimen lähdekoodin tekoälykomponenteille. Lisäksi laki edistää ns. hiekkalaatikkoja eli julkishallinnon luomia kokeiluympäristöjä, joissa tekoälyjärjestelmää voidaan testata ennen sen laajempaa käyttöönottoa.
Uusimpia lisäyksiä kielletyistä käyttötavoista
- Biometrinen etätunnistaminen julkisilla paikoilla reaaliajassa
- Biometrinen etätunnistaminen jälkeenpäin, paitsi viranomaiskäytössä vakavien rikosten tutkimiseksi ja tuomioistuimen ennakkoluvalla
- Arkaluonteisiin ominaisuuksiin (esim. sukupuoleen, etnisen taustaan, kansalaisuuteen, uskontoon tai poliittiseen kantaan) perustuva luokittelu
- Ennakoiva poliisitoiminta eli rikosten ennustaminen profiloinnin, sijainnin tai aiemman käytön perusteella
- Tunteiden tunnistusjärjestelmien käyttö lainvalvonnassa, rajavalvonnassa, työpaikoilla tai oppilaitoksissa
- Kasvokuvien tai valvontakameramateriaalin laajamittainen ottaminen (”scraping”) verkkosivuilta kasvojentunnistustietokantojen luomiseksi.
Lisää: EU-parlamentin tekoälysäädöksen käsittely täysistunnossa 13.6.2023 (LINKKI, video), hyväksytty säädösteksti (LINKKI) ja EU-parlamentin aiempia tutkimustuloksia tekoälystä (LINKKI).
Kuvituskuva: EU/Goodpics/Adobe Stock