Erota nämä toisistaan: lempinimi, anonyymi, valeprofiili
Lempinimi/nickname
▪ Yleensä tavallisia
käyttäjiä
▪ Henkilö voi käyttää
samaa nickiä eri
somepalveluissa
▪ Ei välttämättä edes yritä
peitellä oikeaa nimeään
▪ Nick voi olla niin
vakiintunut, että sitä
käytetään, vaikka nimi
olisi tiedossa
Anonyymi
▪ Anonyymi esiintyy vain
nimimerkin takaa
▪ Anonyymi ei paljasta
nimeään, vaan haluaa
pitää sen salassa
▪ Syitä anonyyminä
toimimiseen on useita
Valeprofiili
▪ Väärä tai keksitty nimi
▪ Keksitty henkilö tai
esiintyy toisena
▪ Profiilikuva voi olla
kuvapankista, tekoälyn
luoma tai toiselta
henkilöltä otettu
▪ Mahdollisesti muitakin
keksittyjä/vääriä tietoja
▪ Älä sekoita: parodiatili
julkkiksesta (joka
kerrotaan avoimesti)
3
Miten anonyymeihin tulisi suhtautua?
4
▪ Nimimerkin käyttö ei ole yksinään todiste käyttäjän
haitallisuudesta, epäilyttävyydestä tms.
▪ Anonyymius on keino turvata itseään,
yksityisyyttään ja toimintaansa verkossa.
▪ Anonyyminä voi osallistua keskusteluihin vapaana
työ- ja muista rooleista.
▪ Anonyymius mahdollistaa mm. omien tavoitteiden
ajamisen ja epäkohtien esiin tuomisen, mutta myös
häiriköinnin, trollaamisen ja maalittamisen.
▪ Häiriköinnin lisäännyttyä sosiaalisessa mediassa yhä
harvempi haluaa osallistua omalla nimellään julkisiin
keskusteluihin → anonyymius lisääntyy.
”Oululainen bloggaaja Veikko Korhonen”
▪ Helmikuussa 2022 venäläisessä VK-
yhteisöpalvelussa levitettiin ”Veikko
Korhosen” tekstiä, jonka mukaan
moni maa saisi kiittää
olemassaolostaan Venäjää tai
Neuvostoliittoa.
▪ Kyseistä henkilöä ei ole olemassa
▪ Valeprofiilin kuvaksi on otettu
Helsingin yliopiston
ympäristömuutoksen professorin
Atte Korholan kuva.
▪ Teksti on jäljitetty alun perin vuoteen
2015 erään Itä-Ukrainan
separatistiryhmän sivulle
▪ Teksti on kiertänyt venäjänkielisessä
somessa jo 7 vuotta, vaikka se on
osoitettu feikiksi jo vuonna 2018.
Lähde ja kuva: Kaleva, 6.3.2022, https://www.kaleva.fi/oululainen-veikko-korhonen-levittaa-propagandaa-ve/4403777, alkuperäinen kuvan lähde: Liubov Alekseeva,
Lisätietoa aiheesta myös Nato StratComin Robotrolling 1/2019 –raportissa: https://stratcomcoe.org/publications/robotrolling-20191/105
5
Fake
Lähde: HS, 3.1.2020, https://www.hs.fi/kotimaa/art-2000006361932.html
6
” Fani oli yllättynyt
rahan tarpeesta,
mutta hän oli
kuitenkin valmis
siirtämään rahaa”
Julkkiksia esittävät valeprofiilit pyrkivät huijaamaan
1. Viestillä houkutellaan huijaussivulle, jolla pyritään saamaan käyttäjän tunnus ja salasana.
2. Käyttäjän Facebook-tunnuksella lähetetään huijausviestiä edelleen tämän kavereille.
Poisto: Asetukset ja yksityisyys → Asetukset → Turvallisuus ja sisäänkirjautuminen
→ Missä olet sisäänkirjautuneena? → Näytä lisää → Kirjaudu ulos kaikista istunnoista
Facebook Messengerin virusviestit
Ohjeita: https://harto.wordpress.com/2020/04/23/facebook-messenger-virus-ja-sen-poistaminen/
7
Valeprofiili toisen nimissä voi olla identiteettivarkaus eli rikos
▪ Identiteettivarkaus on vuodesta 2015 lähtien ollut rikos, jos siten aiheutetaan taloudellista
vahinkoa tai vähäistä suurempaa haittaa.
▪ ”Vähäistä suurempi haitta” voi olla esimerkiksi toisen nimissä levitetyt viestit somessa.
▪ Sen sijaan keksitty henkilöllisyys somessa ei ole identiteettivarkaus, jos sen yhteydessä ei
käytetä toisen henkilön henkilötietoja, tunnistamistietoja tai vastaavia yksilöiviä tietoja.
Lähde: Rikoslaki, 38 luku 9 a §, https://www.finlex.fi/fi/laki/ajantasa/1889/18890039001#L38
9
Botit
▪ Botti tarkoittaa Twitter-tiliä, joka toimii
tietokoneohjelman ohjaamana.
▪ Hyödyllisiä botteja ovat esimerkiksi uutisista
ja päivän keskustelunaiheista automaattisesti
twiittaavat Twitter-tilit
▪ Haitallisia botteja ovat esimerkiksi
spämmibotit ja trollibotit.
▪ Usein oheisen kuvan mukaisia Twitter-
tunnuksia luullaan usein boteiksi, vaikka ne
ovat ilman käyttöä jääneitä Twitter-tilejä.
▪ Bottitoiminnan osoittaminen on joskus
helppoa: esimerkiksi samanlaisten viestin
julkaisu tai liian tiheä julkaisunopeus voivat
olla merkkejä botista.
11
Esimerkki: pelkästään tunnuksen ja profiilin
perusteella ei voi tietää, että kyse olisi botista.
Epäiletkö bottia? Tarkista ensin nämä
12
1. Profiilikuva
▪ Näyttääkö kuva tekoälyllä luodulta?
▪ Käytetäänkö samaa kuvaa muualla?
2. Aktiviteetti
▪ Onko tunnus liian aktiivinen ollakseen ihminen?
▪ Onko julkaisuajoissa säännöllisyyttä?
3. Nimi
▪ Voiko nimestä/nimimerkistä päätellä jotain?
4. Tilin luontipäivä
▪ Onko tunnus luotu vasta äskettäin?
5. Kieli
▪ Mitä kieliä tunnus käyttää?
▪ Onko viitteitä konekäännöksestä?
6. Tiedot
▪ Voiko kuvauksesta, sijainnista tai linkistä päätellä jotain?
7. Vuorovaikutus
▪ Keitä tunnus seuraa? Ketkä seuraavat sitä?
▪ Näyttävätkö julkaisut ihmisen kirjoittamilta?
Lähde: Valtioneuvoston kanslia, 2019, Informaatiovaikuttamiseen vastaaminen : Opas viestijöille, https://julkaisut.valtioneuvosto.fi/handle/10024/161512
Työkalu Twitter-bottien tunnistamiseen: Botometer
Kuvakaappaus: https://botometer.iuni.iu.edu/ (15.1.2020)
“Botometer is a joint project of the Network Science Institute (IUNI) and the Center for Complex Networks and Systems Research (CNetS) at Indiana University.”
13
https://botometer.iuni.iu.edu/
Tweeps.net:in bottipisteiden tulkinta: spämmääjät, trollit ja botit
Lähde: Tweeps.net, Usein kysytyt kysymykset, https://www.tweeps.net/fi/ukk/ (28.4.2022)
16
Twiitit per tunnit –kuvaaja paljastaa selvät botit
▪ Kuvaajassa esitetään
twiittien määrän
jakautuminen tunneille 0-23
▪ Twiittauksen säännöllinen
jakautuminen tietyille
tunneille on selvä merkki
botista
▪ Botin voi tunnistaa myös
siitä, että se ei näytä
koskaan nukkuvan
▪ Julkaistaanko twiitit sen
maan päiväsaikaan, jossa
tunnus väittää olevansa?
▪ Kaikki botit eivät kuitenkaan
toimi kaavamaisesti
Esimerkkejä vuodelta 2021
17
Osa trollitileistä on silmiinpistäviä – tarkoituksellako tökeröitä?
Lähde: Twitter, 2.5.2022 (saman tyyppisiä Twitter-tunnuksia on aiemmin jäädytetty, esim. @MEEMIKUNINGAS)
18
Nämä tunnukset ovat trolleja, eivät botteja
Lähde: Tweeps.net-bottianalyysit ko. tunnuksista, 2.5.2022. Tunnuksissa ei ole selviä merkkejä automatisoinnista.
19
Rokotevastainen botti (tai trolli)
Kuvakaappaukset: Twitter-tunnus @ArlenMerlen ja Tweeps.net:in bottianalyysin tulos (2.5.2022)
Tunnusta on rajoitettu Twitterin toimesta. Usein seuraavassa vaiheessa bottitunnus poistetaan.
21
Poliittinen botti
Kuvakaappaukset: Twitter-tunnus @PMinister_Naeem ja Tweeps.net:in bottianalyysin tulos (2.5.2022)
Tunnus kampanjoi Marine Le Penin puolesta. Aiemmin toiminut ns. patrioottien puolesta Yhdysvalloissa. Tunnus myös Instagramissa.
22
Mistä huomaa, jos botti keskustelee tekoälyn avulla?
▪ Kuvassa on havainnollistamistarkoituksessa tehty tekoälyä ja konekäännöksiä käyttävä botti.
Kuvakaappaus ja lähde: Inkeri Koskinen, 2022, https://blogs.tuni.fi/eufemia/teema1/juttelin-rokotevastaisen-botin-kanssa-suomeksi/
24
Somepalvelujen kyky poistaa ostettuja tunnuksia/botteja ja reaktioita
Vasemmalla:
▪ Twitter on parantanut ostettujen
käyttäjätunnusten tunnistamista ja poistoa
▪ Instagramin bottien tunnistus on heikentynyt
▪ Facebookin tulos parani vuodesta 2020
▪ TikTok ja YouTube pärjäsivät heikoimmin
Lähde: NATO StratCom, 2022, Social media manipulation report 2021/2022,
https://stratcomcoe.org/publications/social-media-manipulation-20212022-assessing-the-ability-of-social-media-companies-to-combat-platform-manipulation/242
25
Oikealla:
▪ Neljä viikkoa reaktioiden oston jälkeen
valtaosa niistä oli edelleen näkyvissä
▪ Mm. Facebookin, Twitterin ja Instagramin
tulos heikkeni vuoteen 2020 verrattuna
Tekoälyn luoman profiilikuvan tunnistaminen
▪ Usein kauniskasvoinen nainen
▪ Epäselvä tausta, oudot
muodot, kiiltävät täplät
(GAN-algoritmin tunnettu vika)
▪ Silmät keskellä kuvaa
▪ Puuttuva korvakoru tai eri pari
korvat
▪ Välillä katkeavat tai taustaan
häipyvät hiukset
▪ Virheet hampaissa, esim.
toinen etuhammas paksumpi
▪ Muut epäsymmetriat
▪ Värivirheet ihossa tai taustassa
Kuvakaappaus ja lähteet: NPR, 2022, https://www.npr.org/2022/03/27/1088140809/fake-linkedin-profiles,
Lifehacker, 2019, https://lifehacker.com/how-to-spot-an-ai-generated-photo-1834558395
27
Esimerkkejä AI:n tekemistä virheistä kasvokuvassa
▪ Avaa kuva kuvankäsittelyohjelmassa
▪ Kun tutkit kuvaa, zoomaa sitä ja katso yksityiskohtia, niin huomaat mahdolliset tekoälyn
tekemät virheet kuvan generoinnissa.
Kuvien lähde ja lisää esimerkkejä: Kyle McDonald, 2018, https://kcimc.medium.com/how-to-recognize-fake-ai-generated-images-4d1f6f9a2842
28
Työkalu tekoälyn avulla luotujen profiilikuvien tunnistamiseen
▪ Jos käytät Chrome-selainta, voit
asentaa Fake Profile Detector –
selainlaajennuksen
▪ Tämän jälkeen voit testata, onko
profiilikuva feikki klikkaamalla
sitä hiiren oikealla napilla ja
valitsemalla kohdan ”Check fake
profile picture”
▪ Tulos tulee hetken kuluttua
selaimen ilmoituksena
▪ Kyse on uudesta palvelusta,
toiminnassa on katkoksia
Laajennuksen sivu: https://chrome.google.com/webstore/detail/fake-profile-detector-dee/jbpcgcnnhmjmajjkgdaogpgefbnokpcc
29
Profiilin muut tiedot
▪ Milloin profiili on luotu?
▪ Kerrotaanko profiilin kuvauksessa
mitään yksilöiviä asioita?
▪ Löytyykö hakukoneilla esittelysivua tai
muuta tietoa?
▪ Löytyykö muista somepalveluista?
▪ Onko organisaatiota olemassa?
▪ Keiden kanssa on verkostoitunut?
▪ Mitä sisältöjä tuottaa ja jakaa?
▪ Vastaako yhteydenottoon?
▪ Voiko jotain tietoja tarkistaa julkisista
rekistereistä?
30
Etunimi
Sukunimi
@nimimerkki
Liittynyt 7.9.2021
▪ Bio tai esittelyteksti
▪ Työpaikka/ketä edustaa
▪ Sijainti: maa ja kaupunki
▪ Linkit muille sivustoille
▪ Muut sometunnukset
Aiheet
1. Esiintyykö asiantuntijana?
2. Mihin aiheisiin osallistuu?
3. Mihin sivustoille linkittää?
Keskustelutyyli
▪ Onko omia julkaisuja?
▪ Onko tyyli ns. trollausta?
▪ Vastaako koskaan asiallisesti?
Tutkijat löysivät yli tuhat LinkedIn-
valeprofiilia…
31
▪ Profiilikuvat luotu tekoälyn avulla
▪ Kuvausteksti yleistä korporaatiokieltä
▪ Runsaasti kontakteja, mutta vain vähän omaa
aktiivisuutta
▪ Työkokemus ja opintotiedot osoittautuivat
väärennetyiksi
▪ Työnantajaorganisaatio saattaa olla aito,
vaikka profiili olisi keksitty
▪ LinkedInissä on tavallista hyväksyä
kontakteiksi tuntemattomia henkilöitä
▪ LinkedIn-feikkiprofiileja käytetään mm.
markkinointiin, mutta myös huijauksiin ja
tietojenkalasteluun
Lähde: NPR, 2022, https://www.npr.org/2022/03/27/1088140809/fake-linkedin-profiles
Oliko Terri Mapes oikea henkilö?
▪ Selvittelin Terri Mapes -nimisen henkilön
olemassaoloa Ylen juttuun vuonna 2016.
▪ Henkilön väitettiin olevan About.com-
sivuston Skandinavian toimittaja. Hänet oli
merkitty kirjoittajaksi mm. Suomesta
kertoviin (outoihin) artikkeleihin.
▪ Henkilöstä löytyi vain yksi kuva – sekä siitä
tehty peilikuva.
▪ Henkilölle oli luotu Facebook-profiili, jossa
ei ollut mitään ns. oikeata elämää.
▪ Samannimisiä henkilöitä on olemassa,
mutta tätä Terri Mapesia selvästikään ei.
Kuvakaappaus: Yle, 27.4.2016, http://yle.fi/uutiset/3-8836762
32
Valehenkilö Terri Mapes elää yhä verkossa!
13 vuotta sama esittely ja profiilikuva
Kuvakaappaukset: Tripsavvy, https://www.tripsavvy.com/scandinavia-travel-expert-1625834 ja Facebook-profiili https://www.facebook.com/scandinavia (2.5.2022)
34
Onko Elina Hinderin (@elinahinder) profiilissa jotain hämärää kuten on esitetty?
Kuvakaappaukset: Joonas Niinimäki, https://twitter.com/ThetaParadox/status/1393523729360117762
ja Janne Riiheläinen, https://twitter.com/veitera/status/1515939057590755328
35
Elina Hinderin profiilikuva
▪ Kuva herättää epäilyn trollitunnuksesta
▪ Fake Profile Detectorin mukaan kuva EI
60 %:sesti ole tekoälyllä luotu
▪ Kuvassa on mahdollisia viitteitä AI-
teknologian käytöstä: ei taustaa,
mallimaisuus, väitetty
epäsymmetrisyys poskissa
36
Elina Hinderin profiilikuva lähitarkastelussa
▪ Silmät ovat yhtä kaukana keskilinjasta, mikä on tyypillistä tekoälyn luomille kuville
▪ Kasvot ja korva vaikuttavat olevan eri perspektiivissä
▪ Sekaiset hiukset. Korvan yli menevä hiuskiehkura jatkuu paksumpana korvan alla.
▪ Ylivalotus paljastaa ”tuhruisuutta” kuvan taustasta, mikä on tyypillistä tekoälyn luomille kuville.
37
Vastaavia esimerkkejä tekoälyn luomista kuvista
▪ Puoliprofiili on tekoälylle vaikea: korvat ovat usein eri paria tai väärässä perspektiivissä
Kuvien lähde: https://this-person-does-not-exist.com/en
38
Elina Hinderiä ei näytä olevan muissa somepalveluissa
▪ Some-julkaisujen hakukone:
https://www.social-searcher.com/
Kuvakaappaus: Social Searcher –hakukoneen tulos, https://www.social-searcher.com/social-buzz/?q5=%40elinahinder (1.5.2022)
Kaikki hakutulokset johtavat takaisin samaan Twitter-tunnukseen @elinahinder
39
Twitter-käyttäjä Elina Hinderin (@elinahinder) selvityksen tulokset
40
Selvitettävät asiat Tulos
Löytyykö Googlella henkilöstä jotakin muuta tietoa? Vastamediasivustojen artikkeleissa on
lainattu @elinahinderin twiittejä*
Löytyykö saman nimistä henkilöä Facebookista? EI
Löytyykö nimellä jotain YouTubesta? EI
Löytyykö henkilöä ”puhelinluettelosta”? (Fonecta ja Yritystele) EI
Vastaako puheluun, sähköpostiin tai yksityisviestiin? EI (tähän mennessä)
Onko nimessä/nimimerkissä piilomerkitystä tai kyse sanasta? ”hinder” voidaan suomentaa
”takapuoleksi”
Löytyykö profiilikuva kuvahaulla jossakin muussa yhteydessä? EI
Onko profiilikuva todennäköisesti tietokoneella luotu?
(Fake Profile Detector + manuaalinen tarkastelu)
Kuva läpäisee automaattisen tarkastuksen,
mutta on todennäköisesti AI:n luoma
Onko Twitter-tunnus todennäköisesti botti?
(TruthNest ja Tweeps.net)
EI
Onko viestinnässä selviä merkkejä informaatiovaikuttamisesta? EI
JOHTOPÄÄTÖS: Kyse on melko varmasti valeprofiilista
*) Mainintoja löytyi MV-lehdestä ja Uvmedia-sivustolta (havainnot tehty 2.5.2022)
Epäilyttävän nopea seuraajien kasvu
Esimerkit Twitteristä vuodelta 2016:
▪ Vasemmalla: @Ohmygossip_fi kahdessa viikossa 65 000 uutta seuraajaa
▪ Oikealla: @annemariayritys yhdessä päivässä 15 233 uutta seuraajaa
Hyvä palvelu seuraajatilastojen tutkimiseen: https://socialblade.com/
Lisää aiheesta: https://harto.wordpress.com/2016/12/20/nain-tunnistat-twitter-seuraajien-ostajat/
42
Ristiriita seuraajamäärän ja julkaisujen suosion välillä
▪ 15 233 uutta seuraajaa päivässä, mutta twiitille samaan aikaan vain 7 tykkäystä?
Lisää aiheesta: https://harto.wordpress.com/2016/12/20/nain-tunnistat-twitter-seuraajien-ostajat/
43
Seuraajien yhtäkkinen lisääntyminen tai vähentyminen
▪ Esimerkkikuvaaja on henkilöstä, joka on ollut Socialbakers-tilastopalvelun mukaan
Suomen toiseksi seuratuin Twitter-käyttäjä vuonna 2020.
▪ Yhtäkkinen seuraajien lisääntyminen voi kertoa joko nopeasta suosion kasvusta (jolloin
sille yleensä löytyy ns. luonnollinen syy) tai seuraajien ostamisesta.
▪ Yhtäkkinen suuri seuraajien väheneminen johtuu Twitterin tekemistä bottitunnusten
siivouksista. Pienessä määrin se on näkynyt kaikilla todella seuratuilla käyttäjillä, mutta
nopea romahdus voi kertoa siitä, että käyttäjä oli aiemmin ostanut seuraajia.
Kuvakaappaus: Social Blade, https://socialblade.com/twitter/user/annemariayritys/monthly (15.1.2020)
Lisätietoa: https://harto.wordpress.com/2016/12/20/nain-tunnistat-twitter-seuraajien-ostajat/
44
Näin tunnistat seuraajien ostamisen
1. Käyttäjä saa selittämättömästi ja nopeasti paljon uusia seuraajia
2. Seuraajamäärän ja julkaisujen suosion välillä on selvä ristiriita
3. Käyttäjän seuraajissa on huomattava määrä bottitunnuksia
4. Käyttäjä haalii aggressiivisesti takaisinseuraajia seuraamalla paljon
muita tai käyttämällä automatisoitua seuraamispalvelua
5. Käyttäjä on tilastojen perusteella menettänyt suuren osan
seuraajistaan nopeasti (esim. Twitter poisti heinä-elokuussa 2018
tuhansia botteja)
46
Lisää aiheesta: https://harto.wordpress.com/2016/12/20/nain-tunnistat-twitter-seuraajien-ostajat/
Muistilista: milloin hälytyskelloja pitäisi soida?
▪ Saat kaveriltasi yllättävän yksityisviestin somepalvelussa, jonka
mukana on epäilyttävä linkki
▪ Saat yllättävän kaveripyynnön tuntemattomalta henkilöltä
▪ Uusi nettituttavuus pyrkii pian aloittamaan yksityisen keskustelun
▪ Anonyymillä käyttäjällä on tyypilliset tekoälyn luomat ”mallikasvot”
▪ Anonyymi käyttäjätunnus ei tuota omaa sisältöä, vaan osallistuu
pääasiassa kriittisesti suosittujen käyttäjien keskusteluihin
▪ Käyttäjästä ei löydy uskottavia jälkiä muualta netistä
48
Lähde: Tom Evans, Maailman suurimmat tietomurrot, http://www.informationisbeautiful.net/visualizations/worlds-biggest-data-breaches-hacks/
Tarkista, onko tietojasi vuotanut
verkkopalveluista:
https://haveibeenpwned.com
1. Syötä tarkistettava sähköpostiosoite
2. Jos tietojasi on vuotanut:
a) vaihda salasana ko. palveluissa
b) pidä huolta, ettet käytä samoja
salasanoja muissa palveluissa
3. Ota käyttöön kaksivaiheinen
tunnistautuminen!
51