Tiktok tunnetaan sovelluksena, joka osaa hämmästyttävän hyvin suositella käyttäjiä kiinnostavia sisältöjä. Selvitimme, millaista sisältöä Tiktok alkaa tarjota nuorelle testikäyttäjälle, joka on kiinnostunut terveellisistä ruokaresepteistä ja pahasta olosta kertovista videoista. Suosittelualgoritmi alkoi ensin tarjota lisää mielenterveysaiheita, sitten syömishäiriön kanssa kamppailusta kertovia videoita ja lopulta suoraan vaarallisin keinoin toteutettuun painonpudotukseen kannustavaa sisältöä.

Vastaavia havaintoja on tehty aikaisemmin esimerkiksi Norjassa. Aikataulullisista syistä toteutimme oman selvityksemme tutkimalla Tiktokia säännönmukaisesti mutta käsin, emmekä esimerkiksi botteja hyödyntäen. Bottien avulla koe olisi ollut helpommin toistettavissa ja jatkettavissa. Manuaalinen selvitys mahdollisti kuitenkin luultavasti kattavamman reagoinnin tutkimushenkilölle relevanttiin sisältöön, sillä videoiden aihe ei aina ollut pääteltävissä suoraan helposti koneluettavista lähteistä, kuten videon kuvauksesta tai aihetunnisteista.

Tiktokin algoritmi on liikesalaisuus, mutta se ei luultavasti perustu varsinaisesti sisältöjen luokitteluun, vaan käyttäjän käytöksen yhdistämiseen toisten käyttäjien käytöshistoriaan. Algoritmi ei tiedä, mistä videot kertovat, mutta osaa yhdistää reseptit ja nettiterapeutit syömishäiriösisältöön.

Tämän perusteella voisi arvella, että selvityksen fiktiivisen koehenkilön tilanne on kaukana ainutlaatuisesta. Koska Tiktok osasi rakentaa tämän profiilin käyttäjälle selvityksen kaltaiset suositukset, monet muut ovat todennäköisesti kulkeneet samaa polkua.

Koe toimi mobiilissa ja monikielisenä

Selvitystä tehdessä testasimme muutamaa eri koeasettelua. Ylivoimaisesti suurin osa Tiktokin käyttäjistä käyttää sovellusta puhelimellaan, mutta me kokeilimme ensin tutkia Tiktokin algoritmia selaimessa helpottaaksemme selaushistorian tallentamista. Selainversio ei kuitenkaan tuntunut oppivan, mistä aiheesta koehenkilömme oli kiinnostunut, vaan tarjosi melko samanlaista syötettä vielä tuntien selailun jälkeen. Mobiilissa syöte alkoi muokkautua historian perusteella jo ensimmäisen selailutunnin aikana.

Yksi mahdollinen selitys alustojen väliselle erolle on, että Tiktokilla ei yksinkertaisesti ole kiinnostusta ylläpitää laadukasta suosittelua selainversiossa. Luultavasti selain-Tiktokia käytetäänkin pääosin muilta alustoilta saatujen Tiktok-linkkien avaamiseen.

Koska koehenkilömme oli suomalainen nuori, halusimme selvittää, osaisiko algoritmi profiloida meidät niin tarkasti, että tarjoaisi vain suomenkielistä sisältöä kiinnostavista aiheista. Tiktokin asetuksista voikin avuliaasti valita, millä kielellä haluaisi mieluiten kuluttaa sisältöä. Kuitenkin näyttää siltä, että tämä asetus vaikuttaa lähinnä mainosten, mutta ei suositeltujen videoiden kieleen. Kun koetimme sitkeästi reagoida vain suomenkielisiin videoihin, sovellus ei tuntunut tajuavan, mistä olimme kiinnostuneita, vaan päätyi suosittelemaan esimerkiksi saksankielisiä autovideoita.

Yksi tulkinta havainnolle on, että Tiktok ei onnistunut profiloimaan koehenkilöä vain kielitoiveiden perusteella. Luultavasti Tiktokilla ei juuri olekaan sellaisia käyttäjiä, jotka haluavat nähdä vain ja ainoastaan suomenkielistä sisältöä. Voihan videoita katsoa myös kuvan vuoksi, jos ei osaa englantia kovin hyvin.

Turvallisuutta parantamassa?

Tiktok kertoi Ylelle pitävänsä turvallista käyttökokemusta prioriteettina. Erityistä huomiota kiinnitetään nuorten suojaamiseen sensitiivisiltä aiheilta, kuten syömishäiriösisällöltä. Selvityksemme tulos on siis Tiktokin mielestä epätoivottu, sillä siinä profiilin mukaan 13-vuotias koehenkilö näki juuri Tiktokin itsensäkin haitallisena pitämää materiaalia.

Tiktok kertookin puuttuvansa sen käyttöehtoja rikkovaan sisältöön. Sovelluksen käyttäjät tiedostavat videon poistamisen ja käyttäjätilien sulkemisen riskin. Jotkut käyttäjät epäilevät, että välillä filttereihin osuvaa sisältöä ei poisteta, mutta Tiktok suosittelee sitä paljon tavallista harvemmin. Tämä tietysti harmittaa sisällöntuottajia, jotka toivovat videoilleen paljon katseluita.

Erityisesti nuoria käyttäjiä ajatellen sovellukseen on myös mahdollista lisätä vaikkapa tiettyjen aihetunnisteiden filtteröinti tai oman ruutuajan rajaaminen. Näiden keinojen käyttäminen vaatii tietysti nuorelta tietoista päätöstä rajoittaa omaa Tiktok-kokemustaan – ja malttia olla muuttamatta asetuksia takaisin sallivimmiksi ruutuajan päättyessä.

Suosituksia ja hakuja

Tiktokin suosittelualgoritmin voima perustuu sen keräämään valtavaan datamäärään. Tiktok onkin ensisijaisesti tarkoitettu käytettäväksi juuri suosittelumallin valikoiman syötteen seuraamiseen. Kun sovelluksen käynnistää, se avaa aluksi “Sinulle”- eli “For You”-sivun. Sovellus tarkkailee sitä, katsooko käyttäjä videon vai siirtyykö hän syötteessä eteenpäin. Näin se oppii personoimaan syötettä yhä enemmän käyttäjää kiinnostavaksi. Koska alustan videot ovat lyhyitä, sovellus saa paljon palautetta antamistaan suosituksista. Kahden minuutin video on Tiktokin mittapuulla jo pitkä.

Suurin osa Tiktokin käytöstä tapahtuukin tätä automaattisen suosittelun tuottamaa videovirtaa seuraamalla. Tiktokissa on kuitenkin myös mahdollista seurata tiettyjä sisällöntuottajia tai hakea itseä kiinnostavia videoita.

Hakusanoja käyttäessä Tiktokin mainitsemat suojaustoimenpiteet tulevat esille. Hakusana “syömishäiriö” ei tarjoa videoita lainkaan, vaan Syömishäiriöliiton yhteystiedot. Mutta hakusana “syömishäriö” toimii normaalisti ja tuottaa syömishäiriöaiheista sisältöä. Tahallisten kirjoitusvirheiden lisäksi kiellettyjä hakusanoja voidaan muokata korvaamalla kirjaimia numeroilla.

Englanninkielisillä hakutermeillä yksinkertaiset muunnokset hakusanoista saattavat olla myös kiellettyjen listalla, joten käyttäjät ovat alkaneet muokata hakusanoja merkki kerrallaan kauemmas alkuperäisestä. Tiktokista näkeekin, miten sanoihin perustuva filtteröinti johtaa alustan ja käyttäjien väliseen kissa ja hiiri -leikkiin, jota alustan on näin yksinkertaisilla rajoituksilla vaikea voittaa.

Epäsuosioissa olevaa sanastoa voidaan toki kiertää myös keksimällä uusia sanoja. Esimerkiksi tappamisesta puhuminen voi päätyä kieltolistalle, joten sille on jo vakiintumassa kiertoilmaisu “unalive” (“tehdä ei-eläväksi”).

Voidaan tietysti kysyä, onko esimerkiksi syömishäiriöstä puhuminen aina haitallinen tai negatiivinen asia. Tiktokinkaan mielestä ei: aihetunniste “syömishäiriöstäsaapuhua” on sallittu hakutermi. Tunnistetta on tarkoitus käyttää tietoisuuden kasvattamiseen, ja sen alta löytyy monia asiallisia ja informatiivisia omista kokemuksista ammentavia tilejä.

Valitettavasti kiellettyjen aihetunnisteiden filtteröinti ohjaa käyttämään tietoisuuden levittämiseen tarkoitettuja tunnisteita myös silloin, kun video ei koskekaan parantumista tai vertaistukea vaan akuuttia oireilua. Tämä aiheuttaa tilanteen, jossa vain toipumista tukevaa sisältöä etsivä käyttäjä ei voi luottaa aihetunnisteiden ohjaavan häntä sopivan sisällön luo, koska saman tunnisteen alla on niin hyödyllistä kuin haitallistakin sisältöä.

Käyttäjät tiedostavat algoritmit ja sensitiiviset aiheet

Tiktokin käyttäjät ovat siis varsin tietoisia erilaisiin sisältöihin liittyvistä rajoituksista, ja niitä pyritään aktiivisesti kiertämään. Useimmat toivovat videoidensa saavan katseluita, joten he pyrkivät välttämään kiinni jäämistä.

Tämän lisäksi käyttäjät vaikuttavat kommenttien perusteella tiedostavan varsin hyvin, että heidän näkemäänsä sisältöä ohjaillaan automaattisesti. Kommentoimalla kriittisesti vaikkapa syömishäiriötä ihannoivaan videoon voi saada avuliaan vastauksen, jossa kehotetaan välttämään itselle haitallisten videoiden katsomista tai kommentointia. Jos videoita haluaa välttää, paras tapa on ohittaa ne mahdollisimman nopeasti. Käytännössä tämä voi tietenkin olla helpommin sanottu kuin tehty.

Toisaalta nimenomaan yhteisön negatiiviset reaktiot haitalliseen sisältöön tuntuvat vaikuttavan videoiden sisältöön ehkä jopa enemmän kuin alustan automaattinen moderointi. Moni syömishäiriöiseen käyttäytymiseen kannustava video sisältääkin varoituksen “TW: cals” tai “TW: weightloss”. Jos videon tämän jälkeen vielä katsoo, tekijä voi puolustautua varoittaneensa ennalta tarkoista kalorilaskelmista tai painonpudotukseen kannustamisesta. Myös lause “DNI if recovery” varoittaa samasta: “älä katso, tykkää tai kommentoi tätä videota, jos olet toipumassa syömishäiriöstä”.

Äärimmäisiin laihdutuskeinoihin kannustavat käyttäjät tietävät herättävänsä Tiktokin kaltaisella avoimella alustalla myös vastareaktioita. Omia toimintatapoja saatetaan kutsua avoimesti epäterveellisiksi tai toksisiksi, mahdollisesti perustellen tätä kuvaamalla, että omalla kohdalla terveelliset laihdutuskeinot eivät kerta kaikkiaan enää toimi. Eivätkä terveyteen tähtäävät painonhallintaohjeet toki sovikaan silloin, kun tavoitteena on saada oma paino laskemaan alipainoisesta sairaalloisen alipainoiseksi.

Tällaista sisältöä tuottavilla käyttäjillä voi olla näkemys, että heillä on oikeus ladata tällaista materiaalia Tiktokiin, ja toisilla on oikeus olla sitä katsomatta. Yhteisö voi heidän mielestään edellyttää sisältövaroitusten käyttöä, mutta ei tilin lopettamista.

Toisaalta niin syömishäiriöt kuin muut mielenterveysongelmat näkyvät Tiktokissa myös kaksijakoisena suhtautumisena toiveikkuuteen tai toipumisen mahdollisuuteen. Syömishäiriöstä kärsivä saattaa sanoa, että kannattaa kyllä toipumista, mutta ei omalle kohdalleen. Synkän elämäntarinan kertonut itsetuhoinen voi lopettaa videon kannustamalla katsojaa muistamaan olevansa arvokas ihminen, vaikka on juuri kuvannut, ettei näe mitään syytä jatkaa itse eteenpäin. Näin omat kokemukset voidaan esitellä yleisölle eräänlaisena inspiraation ja voiman lähteenä, vaikka oikeastaan kaipaisi itse tukea ja apua.

Sisältörajoituksia vai algoritmien muokkaamista?

Käyttäjät voivat pyrkiä ohjailemaan algoritmia omalla käytöksellään, mutta Tiktok alustana ei varsinaisesti mahdollista suosittelun aktiivista mukauttamista omiin tarpeisiin. Tiktok tuntuu olevan eniten kiinnostunut siitä, rikkooko jokin tietty video alustan käyttöehtoja, onhan se juridisesti selkeä tapa määritellä alustan vastuun rajat.

Videoiden haitallisuus on kuitenkin aina kontekstiriippuvaista. Esimerkiksi tämän selvityksen tekeminen ei aiheuttanut selvittäjille haittaa, mutta oikea huonovointinen lapsi olisi voinut kärsiä samalle sisällölle altistumisesta.

Jotkin selvityksen aikana nähdyt videot eivät olisi olleet yksinään erityisen ongelmallisia – värikäs ja inspiroiva resepti saattaa innostaa kokkaamaan joko vähäkalorisuuden tai ihan vain herkullisuuden vuoksi. Edes yksittäinen rajua itsetuhoisuutta tai syömishäiriöoireilua sisältävä video ei välttämättä ole haitallinen, jos sen voi katsoa itse valittuna ja turvallisessa ympäristössä.

Varsinainen ongelma syntyykin, kun algoritmi yhdistelee videoita keskenään ja ohjaa näkemään sellaista sisältöä, jota käyttäjä ei ole etsinyt. Tuntuu suorastaan loukkaavalta, kun sovellus tarjoaa ensin koskettavan tarinan sairaalahoitoon joutuneesta nuoresta ja heti perään ohjeen vaarallisen pieniin annoksiin kannustavasta ihmedieetistä.

Tiktokin kaltaisen suositteluun perustuvan alustan turvallisuutta käyttäjälle ei voi taata pelkällä sisällön moderoinnilla. Todellinen käyttäjäkokemus on seurausta itse algoritmin toiminnasta.

Lue juttu täältä: https://yle.fi/a/74-20059318