91

Uutiset

Miksi tekoäly ei osaa sanoa ”en tiedä”?

Liialliseen itsevarmuuteen sortuvat tekoälyjärjestelmät voivat olla vaarallisia, joten tutkijat opettavat niille nöyryyttä. Lassi Meronen tutki asiaa perjantaina 15.12.2023 tarkastetussa väitöskirjassaan.
Doctoral researcher Lassi Meronen dressed in a blue shirt, photographed from the side with a studio light shining on the right side of the photo
Lassi Meronen väitteli Aalto-yliopiston tietotekniikan laitokselta 15. joulukuuta 2023. Kuva: Matti Ahlgren/Aalto-yliopisto

ChatGPT:n kaltaisten tekoälyjärjestelmien tehokkuus perustuu syväoppimismalleihin. Tekoälytutkimuksessa on kuitenkin kiinnitetty huomiota järjestelmien liialliseen itsevarmuuteen sekä niiden heikkoon kykyyn arvioida omien ennusteidensa epävarmuutta. Eli vaikka tekoäly kohtaisi itselleen tuntemattoman tilanteen, se ei osaa sanoa, ettei se tiedä vastausta.

“Tämä on ongelmallista etenkin sovelluksissa, joissa turvallisuus on elintärkeää. Esimerkiksi itseohjautuvissa autoissa huonot päätökset voivat johtaa vakaviin seurauksiin”, sanoo koneoppimisen väitöskirjatutkija Lassi Meronen Aalto-yliopiston tietotekniikan laitokselta.

”Syväoppimismalli voisi auttaa esimerkiksi sairauksien diagnosoinnissa, jos sillä olisi kyky diagnosoida 90 prosenttia tapauksista luotettavasti. Tällöin vain 10 prosenttia epävarmoista tapauksista jäisi lääkärin tarkastettavaksi. Jos malli ei kuitenkaan pysty ilmaisemaan epävarmoja tapauksia, lääkäri joutuu tarkistamaan kaikki diagnoosit, jolloin siitä ei olisi lainkaan hyötyä.”

Meronen on tutkinut väitöskirjassaan eri menetelmiä, joilla syväoppimismallit voisivat arvioida näitä epävarmuusasteitaan paremmin. Malleista voisi näin olla enemmän hyötyä myös turvallisuutta vaativissa sovelluksissa.

”Väitöskirjani tärkeimmät tulokset on saatu hyödyntämällä matemaattisia yhteyksiä todennäköisyysmalleihin, jotka ovat tunnettuja hyvistä epävarmuusarvioistaan. Havaitut yhteydet mahdollistavat näiden hyödyllisten ominaisuuksien tuomisen myös syväoppimismalleihin”, sanoo Meronen. 

Kun syväoppimismallien kykyä arvioida ennusteidensa epävarmuutta parannetaan, ne voivat myös paremmin erottaa monimutkaiset syötteet yksinkertaisemmista, kertoo Meronen. Tämä säästää laskennallisia resursseja, kun raskas laskenta voidaan kohdistaa vain vaikeammille syötteille. Näin vähennetään myös syväoppimismallien energiankulutusta, mikä on yhä tärkeämpää, kun mallien koon kasvaessa myös niiden energiankulutus kasvaa jatkuvasti suuremmaksi.

۳ٱ𾱲ٲö Saabin kanssa

Merosen väitöskirja koostuu useista merkittävistä tutkimusartikkeleista, joista kaksi julkaistiin tekoälytutkimuksen arvostetuimmassa tieteellisessä konferenssissa NeurIPS:ssä (the Conference on Neural Information Processing Systems) vuosina 2019 ja 2021. 

Hänen tutkimustaan vauhditti myös tiivis yhteistyö Saabin kanssa. Aalto-yliopisto ja Saab solmivat vuonna 2017 kymmenen vuoden strategisen yhteistyösopimuksen ja laajensivat ohjelmaa vuonna 2021 kattamaan myös uusia tieteenaloja. Kumppanuus on Saabille 23 miljoonan euron arvoinen investointi, ja se on jo poikinut useita tieteellisiä julkaisuja sekä patenttihakemuksia.

”Kun selvitimme meille parasta tutkimuskumppania, Aalto-yliopisto erottui edukseen”, sanoo Saab Finlandin teknologiajohtaja Petteri Alinikula. ”Aallolla on juuri sitä osaamista, jota me tarvitsemme ja Aallon asenne yritysyhteistyöhön on esimerkillinen. Tavoitteenamme on kouluttaa ainakin 20 uutta tohtoria kymmenvuotisen  ohjelman aikana.”

Merosen yhteistyö Saabin kanssa on keskittynyt turvallisuuskriittisiin syväoppimismalleihin.

”Saab työskentelee useiden eri sovellusten kanssa, jotka voisivat hyötyä syväoppimismallien käytöstä. Monissa sovelluksissa turvallisuus on keskeinen tekijä, mikä tekee omasta tutkimuksestani melko relevantin Saabille. Olen muun muassa kehittänyt automaattisen tutkasignaalin luokittelun, jota voi käyttää ilma-alusten tunnistamiseen. Tällaisen järjestelmän täytyy kyetä arvioimaan ennusteidensa epävarmuusasteita, koska liian itsevarman järjestelmän väärä arvio voi pahimmassa tapauksessa johtaa erittäin vakaviin seurauksiin”, sanoo Meronen.

Susanna Jaarmo

Susanna Jaarmo

Corporate Relations Manager, School of Science
Saab Aalto Research Day 2019

Strateginen yrityskumppani Saab

Saabin pitkäjänteinen sitoutuminen yhteistyöhön luo hyvät edellytykset tieteellisille läpimurroille ja uusien innovaatioiden kehittämiselle.

۰ٲٱ𾱲ٲö
2020_Computer_Science_building_photo_Matti_Ahlgren_Aalto_University-8

Tietotekniikan laitos

Tietotekniikka yhdistää kaikkia aloja. Aalto-yliopistossa tietotekniikan tutkimus yhdistyy tieteen käytännönläheisiin sovelluksiin.

FCAI

Suomen tekoälykeskus FCAI on osaamiskeskittymä, jonka ovat käynnistäneet Aalto-yliopisto, Helsingin yliopisto ja Teknologian tutkimuskeskus VTT. FCAI:n tavoitteena on kehittää uudenlaista tekoälyä, joka voi toimia ihmisen kanssa monimutkaisessa ympäristössä ja auttaa uudistamaan suomalaista teollisuutta. FCAI on yksi Suomen Akatemian lippulaivoista.

Kaksi naista tekemässä kankaisia rintamerkkejä. Kuva: Marko Oikarinen / Aalto-yliopisto

۰ٲٱ𾱲ٲö

Tutkimusyhteistyö vahvistaa osaamista ja liiketoiminnan kehittämistä. Opintoprojekteissa syntyy uusia tuote- ja palveluideoita. Kampuksemme tarjoaa innostavan toiminta- ja verkostoitumisympäristön.

Miten tohtorinkoulutukseen haetaan?

Tietoa hakijoille ja tohtorinkoulutuksesta kiinnostuneille

Read more
A man with a doctor's hat on celebrating his promotion as a doctor with other doctors
  • äٱٳٲ:
  • Julkaistu:
Jaa
URL kopioitu

Lue lisää uutisia

Joukko osallistujia istuu moderneissa tiloissa pöytien ympärillä; jotkut pitävät papereita ja keskustelevat. Kuva EDI-työpajasta kesäkuussa 2025.
Yliopisto Julkaistu:

Yhteyksien luomisen, vuoropuhelun ja konkreettisen toiminnan mahdollistaminen on tärkeämpää kuin koskaan

Kauppakorkeakoulussa järjestettiin kaksi työpajaa, joiden tarkoituksena oli tuoda yhteen eri toimijoita ja näkökulmia sekä edistää merkityksellisiä tekoja ja toimintaa tasa-arvon, monimuotoisuuden ja osallisuuden (EDI) alueilla.
Henkilö lukee kirjaa ison valaistun 'A'-kyltin edessä.
Mediatiedotteet Julkaistu:

Yli puolet korkeakoulutetuista maahanmuuttajista työllistyy Espoon ja Aalto-yliopiston kehittämällä palvelulla

۳ٱ𾱲ٲöllä on saatu aikaan erinomaisia tuloksia korkeakoulutettujen maahanmuuttajien työllistymisessä.
Monimutkainen, suuri valkoisista paperirakenteista koostuva taideteos, jossa erilaisia kierteitä ja käyriä tummalla taustalla.
Aalto Magazine Julkaistu:

Viisi asiaa: Origami taittuu moneksi

Sana 'ori' on japania ja tarkoittaa taitettua, sana 'kami' taas paperia. Japanilaista paperintaittelua ja sen tuloksena syntynyttä esinettä kutsutaan origamiksi. Vuosisatoja vanhaa keksintöä hyödynnetään Aallossa lukuisilla eri aloilla. Tässä niistä muutama.
Vasemmassa kuvassa immuniteetti on paikallinen, kun oikeassa kuvassa se on satunnainen. Kuva: Jari Saramäen tutkimusryhmä, Aalto-yliopisto.
Tutkimus ja taide Julkaistu:

Tuore tutkimus osoittaa: Pandemioissa laumaimmuniteetti ei jakaudu tasaisesti

Pandemioiden torjunnassa ihmisten välisten sosiaalisten verkostojen ymmärtäminen on yhtä tärkeää kuin tietää, kuinka moni on immuuni.