Terveysteknologia ry:n johtavan lakiasiantuntijan pääkirjoitus Duodecim-lehdessä: EU:n ehdotus uudeksi tekoälyasetukseksi uhkaa lääketieteellisten tekoälysovellusten kehittämistä

Julkaisemme alkuperäisen tekstin kokonaisuudessaan tässä. 

EU:n ehdotus uudeksi tekoälyasetukseksi uhkaa lääketieteellisten tekoälysovellusten kehittämistä

LÄÄKETIETEELLINEN AIKAKAUSKIRJA DUODECIM

2023;139(23):1909-10

Sandra Liede

Pääkirjoitus

Tekoäly on aikakauttamme määrittävä teknologia, jonka kehitykselle annetaan oikeudelliset raamit tulevalla EU:n tekoälyasetuksella (1). Uuden sääntelyn vaikutukset terveysalan innovaatioekosysteemeihin pitää nyt arvioida huolellisesti. Suomella on ensimmäistä kertaa aito mahdollisuus nousta korkeatasoisten lääketieteellisten tekoälyalgoritmien kehityksen ja tuottamisen kärkimaaksi. Erityisesti yliopistosairaaloissa tekoälyalgoritmien kehittäminen on laaja-alaista.

Menestyksen moottorina toimii suomalainen kliininen huippuosaaminen eli osaaminen, jota syntyy ja jaetaan ruohonjuuritasolla akateemisten tutkijoiden, lääkäreiden sekä opiskelijoiden arjessa. Heidän osaamisensa esille tuominen, jakaminen ja innovaatioiden jatkokehittäminen potilaiden hyväksi edellyttää mahdollistavan sääntely-ympäristön luomista sekä tekoälyn kehittämistä ja käyttöä tukevia viranomaistulkintoja. Lisäksi tarvitaan tekoälyn avointa, läpinäkyvää ja laadukasta kehittämistä tukevaa infrastruktuuria, kuten uusia vaatimukset täyttäviä kliinisiä testaus- ja kokeiluympäristöjä.

Valitettavasti sääntelyhorisonttiin on noussut innovaatiotoimintaa uhkaavia tummia pilviä. EU:ssa valmistellaan uutta tekoälyasetusta, joka voi ehdotetussa muodossaan vaarantaa sekä uusien innovaatioiden kehittämisen että käytössä olevien tekoälyratkaisujen saatavuuden potilaiden hoidossa.

Tekoälyasetus määrittää olennaisesti, miten Eurooppa ja muu maailma sääntelevät tekoälyn kehittämistä ja käyttöä. Suomalaisen terveysalan ja potilaiden tulevaisuuden hoidon kannalta on ratkaisevan tärkeää, että sääntely muodostuu selkeäksi, luotettavaksi ja kannustavaksi. Valitettavasti valmistelun suunta näyttää olevan päinvastainen. Sääntelystä on tulossa monimutkaista, ristiriitaista ja lisäksi kallista noudatettavaksi. Kannustava elementti puuttuu. Siitä kärsivät ennen kaikkea potilaat, joiden hoidon tueksi tekoälyratkaisuja kehitetään.

Tekoälyn, kuten kaiken uuden teknologian, kehitys tuo aina mukanaan uudenlaisia teknisiä, oikeudellisia ja eettisiä riskejä, jotka täytyy mahdollisuuksien mukaan pyrkiä tunnistamaan ja hallitsemaan etupainotteisesti. Tämä pätee erityisesti, kun teknologiaa kehitetään terveysalalla ja kun teknologian käyttöönotto vaikuttaa potilasturvallisuuteen.

Komission ehdotus uudeksi tekoälysääntelyksi on EU:n datastrategian toimeenpanoon sisältyvää toimialariippumatonta lainsäädäntöä, jonka tavoitteena on edistää tekoälyn vastuullista ja eettistä kehittämistä ja käyttöä (2). Samalla sen tulee turvata ihmisten perusarvot, jotka ovat olennainen osa länsimaista elämäntapaa ja päämäärää. Ehdotus sisältää pohjimmiltaan hyviä tavoitteita, joissa kannattaa myös tulevaisuudessa pitäytyä.

Tekoälyasetus on tässä vaiheessa vasta ehdotus, mutta jo nyt näyttää selvältä, että kaikki lääketieteelliset tekoälyohjelmistot luokitellaan siinä suuririskisiksi järjestelmiksi riippumatta niiden käyttötarkoituksesta, autonomisuudesta tai todellisesta riskistä sairauksien ennakoinnissa, diagnostiikassa, hoidossa, seurannassa tai kuntoutuksessa. Sääntelyehdotus ei tältä osin vastaa lääketieteellisten tekoälyohjelmistojen laajaa kirjoa, jossa riski voi tosiasiallisesti vaihdella pienestä suureen. Esimerkiksi terveydenhuoltojärjestelmien tai henkilöstön työn tehostamiseksi suunniteltu tekoälyohjelmisto on riskitasoltaan hyvin erilainen kuin sydän- ja verisuonitautien tai neurologisten sairauksien ehkäisyyn tai hoitoon tarkoitettu ohjelmisto. On tärkeää, että sääntelyvaatimukset kalibroidaan vastaamaan tuotteen riskiprofiilia, jotta tarpeellisten tuotteiden pääsyä markkinoille ja osaksi terveydenhuoltojärjestelmää ei liiaksi hidasteta.

Huolestuttavaa on se, että lääketieteellisessä tarkoituksessa käytettäviä tekoälysovelluksia säännellään jo nyt toimialakohtaisella riskiperusteisella sääntelyllä eli lääkinnällisten laitteiden EU-asetuksilla (MD-asetus ja IVD-asetus) (3,4). Asetukset sisältävät merkittävän määrän vaatimuksia, jotka koskevat muun muassa riskienhallintaa, vaatimustenmukaisuuden arviointia, valvontaa ja vaaratilanneraportointia. Näitä kaikkia sovelletaan myös tekoälypohjaisiin lääkinnällisiin ohjelmistoihin. Vaatimukset lisääntyvät riskitason mukaisesti.

Valmisteilla oleva tekoälysääntely johtaa sekä lisääntyviin että MD- ja IVD-asetusten kanssa päällekkäisiin vaatimuksiin. Päällekkäiset ja ristiriitaiset säännökset voivat vakavimmillaan tukahduttaa tekoälysovellusten innovaatiotoimintaa ja kilpailua Euroopan markkinoilla. Joitakin tuotteita ei ole kannattavaa valmistaa lainkaan. Tästä on jo näyttöä MD- ja IVD-asetusten täytäntöönpanosta. MD- ja IVD-sääntelyn toimeenpanon yhteydessä huomattiin muun muassa, että terveydenhuollon toimintayksiköt eivät olleet sisäistäneet uusien vaatimusten vaikutuksia lääkinnällisten laitteiden saatavuuteen. Monien laitteiden suunnittelu ja valmistus lopetettiin kokonaan eikä uusia saada markkinoille, koska sääntelyn edellyttämä infrastruktuuri ei ole valmis.

Raskas sääntely on osaltaan vaikuttanut myös siihen, että tekoälykehittäjät ovat kääntäneet katseensa EU:n ulkopuolisiin markkinoihin, joissa säännöt tekoälyn kehittämiselle ovat toistaiseksi olleet joustavammat kuin Euroopassa. Tällainen markkina löytyy esimerkiksi Yhdysvalloista, jonne valtaosa Suomen terveysteknologian viennistä kohdistuu.

Kun EU-komissio vuonna 2021 julkaisi ehdotuksensa uudeksi tekoälysääntelyksi, heräsi terveysalan piirissä välittömästi huoli siitä, että innovaatioiden karkaaminen Euroopasta kiihtyy entisestään ja saatavuushäiriöt lisääntyvät, mikä vaarantaa potilasturvallisuuden. Tekoälyasetuksen valmistelussa on valuvikoja, joiden seurauksena saatetaan toistaa aiempia sääntelyvirheitä.

Tekoäly on osa terveydenhuoltoa, eikä nähtävissä ole, että se lähtisi sieltä enää pois. Tekoälyn kehitys on vasta alkupisteessään. Nopein tapa tukahduttaa kehitys on lukkiutua sääntelyratkaisuun, joka ei keskustele reaalimaailman kehityksen kanssa. Ei tehdä samoja sääntelyvirheitä uudestaan.