Eteläkorealaisen Heejinin puhelimeen tuli viime lauantaina Telegram-viesti nimettömältä lähettäjältä:
”Kuvasi ja henkilötietosi ovat vuotaneet. Keskustellaan.”
Telegram-sovelluksen chat-ryhmässä Heejin huomasi, että hänen kouluaikainen kasvokuvansa oli liitetty tuntemattoman, pornovideolla esiintyvän naisen vartaloon. Kuvia ja videoita oli levitetty sosiaalisessa mediassa.
Yliopistossa opiskeleva Heejin kertoi tilanteestaan Britannian yleisradioyhtiö BBC:n haastattelussa. Heejin ei ole hänen oikea nimensä.
Ilmiön laajuus alkoi paljastua, kun eteläkorealaisen Hankyoreh-sanomalehden toimittaja Ko Narin alkoi tutkia asiaa.
Hän löysi Telegramista kymmenittäin chat-ryhmiä, joihin käyttäjät jakoivat valokuvia tuntemistaan naisista ja tytöistä ja pyysivät muita ryhmän jäseniä tekemään kuvista väärennettyjä pornokuvia.
Uusia kuvia tuli ryhmiin joka minuutti, ja kuva- tai videoväärennöksen eli deepfaken tekeminen tekoälyn avulla kesti vain muutamia sekunteja. Yhdessä ryhmistä oli 220 000 jäsentä.
Yksittäisille yliopistoille, lukioille ja jopa yläkouluille oli omat ryhmänsä. Niissä käyttäjiä yllytettiin jakamaan kuvia opiskelukavereistaan. Toimittajan mukaan joillekin opiskelijoille oli tehty ”omat huoneet” eli ryhmät, jos materiaalia oli paljon.
Lisäksi ryhmissä oli niin sanottuja ”nöyryytyshuoneita”, joiden kuvauksessa luvattiin: ”Jos pyydät jotakuta nöyryytettäväksi deepfaken avulla, teemme niin”.
– Järkytyin siitä, kuinka järjestelmällinen prosessi oli, kertoo tapausta tutkinut toimittaja Ko Narin BBC:lle.
– Kauheinta on, että yhden koulun alaikäisille oppilaille kohdennetussa ryhmässä oli yli 2 000 jäsentä.
Myös Suomessa ilmiö kasvaa
Ilmiö ei ole vieras Suomessakaan, kertoo verkkohäirintään erikoistunut juristi Kaisa Rissanen.
– Meille tulee yhä enemmän yhteydenottoja tekoälyn avulla väärennettyjen pornokuvien tai videoiden takia, Rissanen sanoo.
Sosiaalisen median uhreja auttavan Someturvan ensiapuyksikköä johtavan Rissasen mukaan Suomen tapauksissa on useimmiten kyse joko kiusaamisesta tai väärennetyllä pornokuvalla kiristämisestä.
Yleisin tapaus on kiristys eli sextortion, jossa kohteelle kerrotaan, että hänestä on tehty deepfake-alastonkuva.
– Nuorimmat, jotka ovat ottaneet yhteyttä, ovat olleet noin 10-vuotiaita.
Rissanen painottaa, että Suomessa on rikos levittää myös tekoälyn avulla tehtyjä alastonkuvia.
– Ja kun puhutaan alaikäisistä, jo kuvien tekeminen tai hallussapito omalla laitteella on rikos.
Rissasen mukaan deepfake-sovellusten käytön helppous voi johtaa myös ajattelemattomaan toimintaan. Usein myös tekijänä voi olla alaikäinen.
– Tätä sitten rikollisetkin hyödyntävät, kuten Etelä-Korean tapauksessa. Siellähän ryhmissä yllytettiin juuri koululaisia tai opiskelijoita jakamaan koulutovereidensa kuvia.
Deepfake-pornoon liittyy samanlainen häpeän tunne kuin raiskaukseen
Etelä-Koreassa skandaali on aiheuttanut monille teini-ikäisille ja nuorille naisille ahdistusta.
BBC:n haastattelema eteläkorealainen yliopisto-opiskelija kertoo, että hän on alkanut epäillä lähes kaikkia miespuolisia tuttaviaan.
Juristi Kaisa Rissasen mukaan deepfakella tehtyihin väärennettyihin kuviin liittyy hyvin samanlainen häpeän ja ahdistuksen tunne kuin esimerkiksi raiskaukseen.
– Pornokuvan tai videon levittäminen aiheuttaa pitkäkestoista stressiä siitä, minne kuva on päätynyt, ketkä kaikki sen ovat nähneet ja ketkä kaikki sen tulevat vielä näkemään, kuvailee Rissanen.
Etelä-Korean tapaus on Rissasen mukaan ennennäkemättömän laaja.
– Espanjassa ja Yhdysvalloissa on ollut tapauksia, jotka koskevat yhtä tai kahta koulua, mutta näin laajaan tapaukseen en ole vielä törmännyt.
Syyksi Rissanen näkee helppokäyttöisten tekoälysovellusten nopean kehittymisen.
Toinen tekijä on Rissasen mukaan nimenomaan Telegram. Sovelluksessa pystyy luomaan valtavia ryhmiä, joissa videot lähtevät jakoon.
– Telegram on yksityinen, salattu viestintäsovellus, jossa moderointi on löyhää. Tämä mahdollistaa sen, että siellä voi levittää laitonta sisältöä.
Käyttäjät ovat usein nimettömiä, huoneet voidaan asettaa ”salaiseen” tilaan ja niiden sisältö voidaan poistaa nopeasti ilman jälkiä.
Tämä on tehnyt Telegramista otollisen myös rikolliselle toiminnalle.
Naiset poistavat kuviaan sosiaalisesta mediasta
Etelä-Koreassa Telegramista oli viime viikonloppuun mennessä löytynyt yli 500 koulun ja yliopiston ryhmät, joissa oppilaita on yllytetty jakamaan naisten ja tyttöjen kuvia.
Tapausten koko määrä on vielä selvittämättä, mutta monien uhrien uskotaan olevan alle 16-vuotiaita, mikä on Etelä-Koreassa seksin suojaikäraja. Myös suuri osa epäillyistä tekijöistä on teini-ikäisiä.
Lukuisat naiset ja teini-ikäiset ovat sittemmin poistaneet valokuvansa sosiaalisesta mediasta tai poistaneet tilinsä kokonaan käytöstä siinä pelossa, että niitä voitaisiin käyttää väärin.
Tapaus on järkyttänyt Etelä-Koreaa.
Maan poliisi ilmoitti maanantaina harkitsevansa rikostutkinnan aloittamista Telegramista Ranskan viranomaisten avulla. Ranskan viranomaiset syyttävät Telegramin venäläistä perustajaa Pavel Durovia sovellukseen liittyvistä rikoksista, mukaan lukien lapsipornografian jakamisen mahdollistamisesta.
Telegram sanoo BBC:lle ”taistelevansa aktiivisesti haitallista sisältöä vastaan, mukaan lukien laiton pornografia”.
Monia median Etelä-Koreassa paljastamia keskusteluhuoneita on suljettu. Sen jälkeen tilalle on kuitenkin jo tullut uusia.
