Malliromahdus

Ouroboros-lohikäärmeen tapaan kielimallit ruokitaan niiden itsensä tuottamalla aineistolla.

Malliromahdus (engl. model collapse), jota kutsutaan myös tekoälyn romahdukseksi (engl. AI collapse), tarkoittaa synteettisellä datalla koulutetun generatiivisen tekoälymallin tuotoksen asteittaista rappeutumista. Käytännössä tämä tarkoittaa sitä, että uudet kielimallit koulutetaan internetistä löytyvillä aineistoilla, joihin sisältyvät myös aikaisempien kielimalliversioiden tuottamat synteettiset tiedot.

Ilmiön käsitteen kehittivät Shumailov ym. vuonna 2024.

Shumailov et al. (2024) ovat kuvanneet malliromahduksen etenevän usein kahdessa vaiheessa:

• Varhainen malliromahdus (engl. early model collapse): malliromahduksen alkuvaiheessa malli alkaa menettää tietoa jakauman ”hännistä”, eli harvinaisista tai poikkeavista tiedoista. Tässä vaiheessa malli ikään kuin ”unohtaa” tiedot, jotka ovat harvinaisia tai poikkeavat yleisestä jakaumasta, ja keskittyy yhä enemmän yleisimpiin piirteisiin. Ilmiö voi jäädä huomaamatta, koska mallin yleinen suorituskyky saattaa jopa parantua, vaikka sen tarkkuus harvinaisten tai marginaalisten esimerkkien kohdalla heikkenee.
• Myöhäinen malliromahdus (engl. late model collapse): malliromahduksen myöhemmässä vaiheessa mallin suorituskyky heikkenee nopeasti. Siinä malli menettää merkittävän osan suorituskyvystään, sekoittaa käsitteitä ja menettää suurimman osan varianssistaan.

Toimintamekanismi

Malliromahdus voi johtua kolmesta pääasiallisesta virhetyypistä, jotka heikentävät tekoälymallin kykyä toimia tarkoitetulla tavalla:

Funktionaaliset approksimaatiovirheet:

• Nämä virheet syntyvät, kun tekoälymalli ei pysty riittävän tarkasti kuvaamaan syötteiden ja tulosteiden välistä todellista suhdetta.
• Esimerkki: lineaarinen malli ei pysty mallintamaan monimutkaisia, epälineaarisia ilmiöitä.
• Selitys: mallin ”approksimaatio” tarkoittaa sen kykyä arvioida tai lähentyä todellista, usein monimutkaista ilmiötä. Jos malli on liian yksinkertainen, se ei pysty tekemään tarkkaa arviota ja kadottaa olennaista tietoa.

Otantavirheet:

• Nämä virheet johtuvat siitä, että koulutuksessa käytetty data ei edusta kattavasti tai oikein sitä todellista kokonaisuutta (perusjoukkoa), jota mallin tulisi pystyä kuvaamaan.
• Otantavirheet ovat erityisen tärkeitä oikeudenmukaisuuden näkökulmasta, sillä vinoutunut otos voi johtaa siihen, että malli toimii epäoikeudenmukaisesti eri käyttäjäryhmiä kohtaan.

• Esimerkiksi Yhdysvalloissa käytetty terveysalgoritmi aliarvioi mustien potilaiden hoidon tarpeen, koska se käytti hoitokustannuksia terveyden mittarina. Tämä johti siihen, että mustat potilaat saivat vähemmän hoitoa kuin muut saman terveydentilan potilaat.
• Selitys: perusjoukko tarkoittaa kaikkia mahdollisia tilanteita tai henkilöitä, joita malli yrittää ymmärtää. Otos on osa tästä perusjoukosta. Jos otos on vinoutunut tai suppea, malli oppii vääristyneen näkemyksen todellisuudesta.

Oppimisvirheet:

• Nämä virheet liittyvät mallin kykyyn oppia ja yleistää tietoa koulutusaineistosta:
• Ylisovittaminen (overfitting): malli oppii liikaa koulutusaineiston yksityiskohtia ja toimii huonosti uusilla tiedoilla.
• Alisovittaminen (underfitting): malli on liian yksinkertainen eikä kykene tunnistamaan datan olennaisia piirteitä tai trendejä.
• Selitys: hyvä oppiminen tarkoittaa, että malli ei vain ”muista” dataa, vaan oppii yleistettäviä sääntöjä. Oppimisvirheet syntyvät, kun tämä tasapaino ei onnistu.

Nämä virhetyypit voivat esiintyä yksittäin tai yhdessä, ja monimutkaisissa malleissa ne voivat kasautua ja vahvistaa toisiaan, mikä voi johtaa nopeaan suorituskyvyn heikkenemiseen eli mallin romahdukseen.

Malliromahduksen riskiä voidaan pienentää huolellisella mallin suunnittelulla, edustavan ja laadukkaan koulutusdatan valinnalla sekä tarkalla oppimisprosessin seurannalla, jotta virheet voidaan havaita ajoissa ja korjata.

Erimielisyys todellisista vaikutuksista

Teoreettiset ja empiiriset analyysit ovat osoittaneet, että tulevaisuuden generatiiviset mallit tarvitsevat riittävän määrän todellista tuoretta dataa jokaisessa autofaagisen silmukan sukupolvessa. Ilman sitä tulevaisuuden generatiiviset mallit ovat tuomittuja menettämään asteittain laatua (tarkkuutta) tai monimuotoisuutta (kykyä tunnistaa ja tuottaa harvinaisempia tapauksia koulutusdatasta).

Kuvassa verrataan kahta tekoälymallien koulutusstrategiaa: datan korvaamista (vasen) ja datan kertymistä (oikea). Datan korvaamisessa uusi data syrjäyttää vanhan, mikä nostaa testivirhettä (test loss) ja heikentää mallin suorituskykyä. Datan kertymisessä vanhaa dataa täydennetään uudella, mikä pitää testivirheen vakiona ja ylläpitää suorituskykyä. Kuva perustuu Gerstgrasser et al. (2024) tutkimukseen.

Jotkut tutkijat ja kommentoijat varoittavat, että malliromahdus voisi perustavanlaatuisesti uhata tulevaa generatiivisen tekoälyn kehitystä: kun tekoälyn tuottamaa dataa jaetaan internetissä, se väistämättä päätyy tuleviin koulutusaineistoihin, jotka usein kerätään indeksoimalla internettiä. Jos tekoälyn tuottamaa, mutta merkitsemätöntä sisältöä (niin sanottua tekoälyroskaa) kertyy liikaa koulutusaineistoihin, tekoäly alkaa oppia yhä enemmän omista tuotoksistaan. Tämä voi johtaa malliromahdukseen – ja vaikeasti korjattavaan laadun heikkenemiseen.

Vuonna 2024 julkaistu Gerstgrasserin ym. tutkimus kuitenkin haastoi käsityksen, että tekoälymallit väistämättä menettäisivät tehokkuutensa, kun niitä koulutetaan jatkuvasti niiden omilla tuotoksilla. Tutkimuksen mukaan mallien suorituskyky voi säilyä, kunhan koulutusdataa kertyy ajan myötä eikä vanhaa dataa korvata kokonaan uudella. Tutkijat huomauttavat, että dataa tyypillisesti kertyy ajan myötä ja että vanhaa dataa ei poisteta jatkuvasti. Koska tämä kertymismalli on realistisempi, heidän mukaansa malliromahduksen todellinen vaikutus ei välttämättä ole niin katastrofaalinen kuin on pelätty. Tämä osoittaa, että mallit voivat säilyttää ja jopa parantaa suorituskykyään, kun niille tarjotaan jatkuvasti uutta ja monipuolista dataa.

Vaihtoehtoiset tutkimussuunnat selvittävät koneoppimiseen perustuvien tunnistimien ja vesileimojen käyttöä mallin tuottaman datan tunnistamiseksi ja suodattamiseksi pois tulevista koulutusaineistoista.

Vaikutus kielimalleihin

Guon ym. vuoden 2024 tutkimuksessa osoitettiin, että kielimallien kouluttaminen aiempien mallien tuottamalla synteettisellä datalla heikentää niiden kykyä tuottaa monimuotoista tekstiä. Koulutusdata, joka koostuu pääosin vanhasta, mallien itse tuottamasta aineistosta, johtaa kielen leksikaalisen, syntaktisen ja semanttisen monimuotoisuuden vähenemiseen.

Erityisesti luovuutta vaativissa tehtävissä, kuten tarinankerronnassa tai runouden luomisessa, tämä monimuotoisuuden puute voi merkittävästi rajoittaa mallien tuotosten laatua ja omaperäisyyttä. Tämä ilmiö muistuttaa niin sanottua ”rikkinäinen puhelin” -vaikutusta, jossa tieto vääristyy asteittain, kun kielimallit käsittelevät omaa tuotostaan useiden sukupolvien ajan. Mohamedin ym. vuoden 2025 tutkimuksen mukaan kielimalleilla tapahtuva iteratiivinen generointi johtaa väistämättömään merkityssisällön rappeutumiseen, jota voidaan kuitenkin osittain hillitä tarkasti suunnitelluilla kehotteilla ja lämpötila-asetuksilla.

Datan suojaaminen ja myrkytys

Yksi keino ehkäistä mallien hallitsematonta yleistymistä tai käyttöä luvattomasti on datan tahallinen vääristäminen. Datamyrkytys on koneoppimisen torjuntamuoto, jossa koulutusdataa (kuten kuvia tai tekstiä) muokataan siten, että koneoppimismallit eivät kykene oppimaan siitä luotettavasti.

Taiteilijat ovat käyttäneet datamyrkytystä keinona suojella teostensa eheyttä ja estää generatiivisten mallien kykyä jäljitellä heidän tyyliään. Myrkytyksiä on tyypillisesti kahta tyyppiä:

• puolustuksellinen, jossa kuvan tietoja muutetaan teoksen eheyden suojelemiseksi estämällä luvaton kopiointi ja jäljitelmät
• hyökkäävä, jossa kuvan tietoja muutetaan generatiivisen tekoälyn luotettavuuden tai toimivuuden heikentämiseksi.

Katso myös

• Lähdesilmukka
• Häviöllinen pakkaus (analogiana tiedon häviämiselle).