”SUOMALAISET asunnottomat ulos ja pakoloiset sisään.”
”Suomalaiset ovat kyllästyneet tänne loisimaan tulleiden elättämiseen.”
Joku Suomesta ilmoitti nuo molemmat Facebookiin kirjoitetut kommentit asiattomiksi. Ilmeisesti siksi, että ne näyttävät rinnastavan siirtolaisia loisiin. Facebook kuitenkin poisti niistä vain ensimmäisen, kertoo Facebookin säännöistä eli ”yhteisönormeista” vastaavan yksikön apulaispäällikkö Eric Shadowens.
Sääntöjen mukaan ensimmäinen kommentti epäinhimillisti tiettyä ihmisryhmää. Vastaavasti jälkimmäinen ei selvästi viittaa tiettyyn ryhmään, ja väitteen suomalaisten tunnoista sai lausua, vaikka se ei pitäisikään paikkaansa.
SHADOWENS selittää Facebookin logiikkaa Berliinissä sijaitsevan moderointikeskuksen ylimmän kerroksen kulmahuoneessa, josta avautuu näkymä kohti kaupungin keskustaa. HS on yksi viestimistä, jotka Facebook on viimeisen kahden vuoden aikana kutsunut tutustumaan toimintaansa.
Lukuisissa kohuissa viime vuosina ryvettyneellä yrityksellä on kova halu näyttää, että se ottaa vakavasti tehtävänsä julkisen keskustelun portinvartijana eikä valtioiden ole siksi syytä säännellä sen toimintaa.
Facebookista on vuotanut miljoonien käyttäjien tietoja. Palvelu on valjastettu informaatiokampanjoihin vaaleissa niin Yhdysvalloissa kuin Euroopassa sekä vihan lietsomisen työkaluksi Myanmarin rohingya-vähemmistön kansanmurhassa. Valtiot ja Euroopan unioni ovat alkaneet pohtia, pitäisikö sosiaalisen median yrityksiä säännellä enemmän. Yhdysvalloissa on väläytelty jopa Facebookin pilkkomista.
Uusien julkisuustappioiden estämiseksi yritys on käyttänyt paljon aikaa ja vaivaa kertoakseen viestimille, viranomaisille ja poliitikoille, että se tekee kaikkensa ensi viikon eurovaalien turvaamiseksi. Viime viikolla se kutsui viestimiä tutustumaan Brysseliin perustamaansa tilannehuoneeseen. Suureen kuvaan sopii, että yritys on halukas esittelemään myös moderointikeskustaan.
MITEN YHTIÖ käytännössä hoitaa moderoinnin?
HS tapasi neljä Facebookin suomalaista sisällöntarkastajaa Berliinissä, jossa työskentelee yli tuhat Facebookin moderoijaa. He seulovat käyttäjien ja algoritmien ilmoittamia epäilyttäviä julkaisuja ja päättävät, mikä viesti poistetaan ja mikä ei.
”Suomen kieli on aika rikasta sanonnoiltaan ja kiertoilmaisuiltaan. Aina ei tiedä, mitä ihmiset tarkoittavat sillä, mitä he sanovat”, kertoo Facebookin sisällöntarkastusta tekevä 26-vuotias nainen, joka on lähtöisin Pohjois-Pohjanmaalta.
”Paljon kirjoitetaan sarkastisesti tai pelataan sanonnoilla”, jatkaa naiskollega Päijät-Hämeestä.
Moderoijat esiintyvät jutussa nimettöminä Facebookin toivomuksesta. Yritys perustelee nimettömyyttä työntekijöidensä turvallisuudella.
MODEROINTIKESKUS toimii Berliinin länsilaidalla vanhassa teollisuusrakennuksessa. Sen uumenissa yli tuhat ihmistä syynää käyttäjien kirjoituksia, kuvia ja videoita kolmessa vuorossa. Minimalistisesti sisustetuissa avokonttoreissa tietokonepöytärivien päissä on hedelmäkulhoja ja vesipulloja. Seinä on maalattu suuri Facebookin logoteksti.
Tänne ei saa tuoda laukkuja tai ulkovaatteita. Ne pitää jättää suuriin pukuhuoneisiin. Vuoronvaihtoa odottava saksalainen moderoija säpsähtää kysymyksiä ja pohtii hetken, saako hän vastata niihin.
”Tämä työ sopii itselleni, koska sitä ei tarvitse tehdä puhelimessa. Ennen puhuin työkseni puhelimeen”, saksalainen kertoo lopulta.
RAKENNUKSESSA tehdään töitä suomen ja saksan ohella ainakin portugaliksi, italiaksi, kreikaksi, turkiksi, hepreaksi, ruotsiksi, norjaksi ja tanskaksi. Facebook ei kerro suomalaisten moderoijien määrää, mutta heitä tuskin on erityisen paljon.
”Meillä on suomalaisia muutamissa eri paikoissa, mutta pääosa heistä on täällä Saksassa”, sanoo Facebookin ostopalveluista vastaava johtaja Mark Davidson.
Moderointi on Facebookille ostopalvelu. Berliinin-keskuksen toiminnasta vastaa saksalaisen mediajätti Bertelsmannin omistama Majorel. Facebook on pitkälti ulkoistanut moderointinsa eri puolille maailmaa pariinkymmeneen tällaiseen keskukseen, joissa työskentelee yhteensä noin 15 000 moderoijaa.
MODEROIJAT arvioivat, että jokainen heistä käy päivittäin läpi keskimäärin 400–500 ilmiannettua julkaisua eli tikettiä. Ne avautuvat moderoijan näytöllä ohjelmaan, jossa moderoija päättää joko poistaa ilmiannetun viestin, ohittaa ilmiannon tai välittää tapauksen eteenpäin.
Suurimman osan ilmoituksista voi ohittaa nopeasti, mutta osa vaatii enemmän miettimistä: saako ihmistä kutsua ”elämänkoululaiseksi” tai ”moniosaajaksi”?
Suomalaismoderoijat jutustelevat työstään rennosti ja huvittuvat, kun puhe siirtyy kiertoilmaisuihin. Suomalaiset vaikuttavat olevan pilkkaamisessa hyvin kekseliäitä. Kun jokin ilmaus yleistyy, moderoijat pitävät kokouksen ja päättävät mikä hyväksytään ja mikä ei.
Siirtolaisten kutsuminen moniosaajiksi tai kunniakansalaisiksi voi jo täyttää Facebookin määritelmän vihapuheesta. Vihapuheeksi luetaan ihmisten herjaaminen niin sanottujen suojattujen ominaisuuksien tai piirteiden perusteella. Tällaisia piirteitä ovat esimerkiksi etnisyys, uskonto, seksuaalinen suuntautuminen ja joissakin tapauksissa siirtolaisasema.
VIIME aikoina Suomessa ovat puhuttaneet maahanmuutto ja vaalit. Facebookin käyttäjät ovat ilmiantaneet moderoijille esimerkiksi julkaisuja, joissa on paneteltu väistyvää pääministeriä Juha Sipilää (kesk). Myös poliitikkojen kirjoituksia ilmiannetaan, toisinaan siksi että ollaan poliitikon kanssa eri mieltä.
”Politiikoille sanotaan paljon, että ’söit sanasi’. Ja kun ulkoministeri Soinia vastaan hyökättiin, jotkut kommentoivat, että ’olisipa lyönyt pari kertaa lisää’”, kertoo 29-vuotias moderoija Lounais-Suomesta.
Hän viittaa maaliskuussa tapahtuneeseen välikohtaukseen, jossa ulkoministeri Timo Soinia (sin) yritettiin lyödä Korson maalaismarkkinoilla. Facebookissa poliitikon, politiikan tai ideologian värikäskin arvostelu voi olla hyväksyttävää, mutta väkivaltaan yllyttäminen ei.
Suomalaiset kuulemma puhuvat ahkerasti saunan taakse viemisestä. Muita yleisiä ilmiantojen aiheita ovat niin aikuisten kuin lastenkin riidat.
SALLITUN ja kielletyn raja on usein hämärä, Eric Shadowens sanoo ja näyttää esimerkkinä Kari Suomalaisen piirroksen syyskuulta 1984.
Suomalainen oli HS:n pitkäaikainen pilapiirtäjä, joka lopulta sai lähteä lehdestä 1990-luvun alussa, koska hänen piirroksensa eivät enää vastanneet lehden arvomaailmaa. Ei ole varmasti sattumaa, että vaikeuksiensa keskellä Facebook haluaa muistuttaa muiden vaikeista rajankäynneistä.
Shadowensin esittelemässä satiirisessa piirroksessa nääntyvän afrikkalaisen karikatyyri pyytää lisää kehitysapua, mutta hahmon takana lymyää juonitteleva sotaherra.
Shadowensin näyttämässä esimerkissä kuvan sai jakaa osana kehitysapujärjestelmää kritisoivaa tekstiä, mutta afrikkalaisten laajempana vertauskuvana sitä ei voisi käyttää.
Seuraavaksi Shadowens esittelee Nick Utin ottaman valokuvan napalmin polttamasta tytöstä, josta tuli Vietnamin sodan kauheuksien symboli.
Kolme vuotta sitten Facebookin suodattimet tulkitsivat kuvan lapsipornoksi. Asiasta syntyi kansainvälinen kohu, ja painostettuna Facebook lopulta tunnusti kuvan historiallisesti arvokkaana teoksena ja salli sen palvelussaan.
VÄLILLÄ ihmiset jakavat Facebookissa väkivaltaista aineistoa, jota moderoijatkin joutuvat katsomaan jonkin verran.
”Itselleni järkyttävintä on, jos väkivaltaa kohdistetaan lapseen. Onneksi sellaista tulee esiin harvoin”, kertoo Päijät-Hämeestä lähtöisin oleva moderoijanainen. Muut kertovat, että mieleen jäävät myös esimerkiksi itsetuhoiset julkaisut.
Kolmekymppinen pirkanmaalaismies huomauttaa, että moderoijien ruuduille päätyy Facebookin ikävin sisältö.
”Välillä pelkään oman maailmankuvani ja optimismini puolesta. Täällä näkee niin vääristyneesti, millaista netissä on”, lounaissuomalainen kertoo.
MODEROIJA tekee pienellä palkalla työtä, joka on pahimmillaan hyvin rankkaa.
Alkuvuodesta Berliinin-keskukseen etsittiin turkinkielistä moderoijaa 10,63 euron lähtöpalkalla. Tällä hinnalla työntekijä altistaa itsensä jopa mestauksille, lapsipornolle ja eläinrääkkäykselle.
Mark Davidsonin mukaan ei pitäisi tuijottaa pelkkiä euroja, sillä työntekijöille tarjotaan myös välipaloja sekä työterveyshuolto. Avokonttorissa on koreittain banaaneja, tosin taukotilan karkkikone on maksullinen.
Pohjakerroksessa moderoijia varten on psykologin ja neljän sosiaalineuvojan toimistot. Heidän puhelinnumeronsa on liimattu työpöytiin.
”Viisikymmentä prosenttia käynneistä liittyy työhön ja toiset viisikymmentä prosenttia yksityiselämään, kuten parisuhteisiin ja ulkomaalaisten työntekijöiden sopeutumiseen Saksaan”, eräs sosiaalineuvoja kuvailee.
Hän kertoisi mieluusti työstään omalla nimellään. Davidson kuitenkin ilmaisee taustalta, että ei käy. Tilanne on yllättävä, sillä vierailun ehtojen mukaan vain moderoijien henkilöllisyys olisi tarvinnut salata. Saksalaismoderoijan ja sosiaalineuvojan tapausten perusteella yritys näyttää sietävän yllätyshaastatteluja huonosti.
SOSIAALINEUVOJAN huomio kuitenkin tukee näppituntumaa: suomalaisnelikon tapaan moderointikeskuksen työntekijät ovat noin kolmikymppisiä. Monet ovat Saksassa väliaikaisesti, ja moderoijan työtä tehdään tyypillisesti noin kaksi vuotta. Sen jälkeen ihmiset joko erikoistuvat tai lähtevät pois.
Kuinka Facebook takaa, että moderointi on laadukasta ja käyttäjiä kohdellaan samalla tavalla eri kielialueilla?
”Teemme säännöllisiä laatutarkastuksia. Joka kuukausi ulkopuolinen tarkastaja arvioi standardimäärän päätöksiä jokaiselta moderoijalta selvittääkseen, onko tämä tehnyt ratkaisuja, jotka ovat linjassa ohjeistuksen kanssa”, Davidson sanoo ja kertoo, että työntekijöitä myös koulutetaan jatkuvasti.
Päätösten tarkkuusprosentti vaikuttaa työntekijöille maksettaviin bonuksiin. Suomalaiset moderoijat kokevat pärjänneensä, vaikka virheitäkin tulee. Virheiden sattuessa Facebookin linja näyttää ulospäin epäselvältä. Asiallisia viestejä poistetaan ja vihapuhetta jää verkkoon.
SUOMESSAKIN on puhuttu sosiaalisen median ja sananvapauden yhteydestä. Vuodenvaihteessa perussuomalaiset jopa syytti Facebookia sensuurista, kun puolueaktiivien julkaisuja poistettiin ja tilejä lukittiin sääntörikkomusten vuoksi. Yhdysvalloissa presidentti Donald Trumpin hallinto on puolestaan avannut sivuston, jossa sosiaalisen median käyttäjät voivat ilmoittaa sensuuriepäilyistään. Trump on toistuvasti syytellyt someyrityksiä konservatiivien vaimentamisesta.
Yhteisönormeista vastaava Eric Shadowens sekä suomalaismoderoijat kertovat, että ihmiset eivät aina ymmärrä Facebookin luonnetta. Yritys voi kieltää sellaistakin kielenkäyttöä, joka lain mukaan olisi sallittua.
”Sitä valitellaan monesti, että pitäisi olla enemmän sananvapautta. Mutta kun Facebookilla on omat sääntönsä, ei siellä voi kaikkea sanoa”, yksi moderaattori aloittaa ja toinen jatkaa:
”Käyttäjillä menee monesti sekaisin Suomen laki ja yhteisönormit, poliisi ja moderoijat.”
Suomalaiset moderaattorit näyttävät kuitenkin ymmärtävän roolinsa julkisen keskustelun portinvartijoina.
Mitä suomalaiset moderaattorit tekisivät yhtiössä paremmin?
”Facebookissa voisi olla enemmän porukkaa töissä ja he voisivat enemmän ajatella, mitä he tekevät demokratialle. Jos jotain pitää kritisoida, niin tätä välillä mietin.”
Ilmiannoissakin riittää tekemistä. Facebook kertoo kolminkertaistaneensa moderoijiensa määrän puolessatoista vuodessa noin 15 000:een. Karkeasti laskien moderoijat käsittelevät miljoonia ilmiantoja päivässä ja yli miljardi ilmiantoa vuodessa.
Silti edes Facebook ei tiedä, kuinka paljon sen palvelussa oikeasti julkaistaan sääntöjen vastaista sisältöä.
Facebook sanoo seulovansa ja poistavansa vuositasolla miljardikaupalla sääntöjä rikkovaa sisältöä myös automaattisesti. Ohjelmallinen seulonta kehittyy nopeasti, kun ihmistyöntekijöiden tekemät päätökset tuottavat ohjelmistoille esimerkkiaineistoa.
Toimitusjohtaja Mark Zuckerberg on kertonut, että Facebook siirtyy tulevina vuosina entistä vahvemmin ennakoivaan moderointiin. Jo nyt yritys kehuu havaitsevansa omatoimisesti lähes kaikki poistamansa roskaviestit sekä valetilit, alastomuuden, väkivallan ja terrorismipropagandan.
Hyviä lukuja kertoo myös Euroopan komissio. Sen tekemän vihapuheseurannan mukaan Facebook kykenee käsittelemään 93 prosenttia vihapuheilmoituksista luvatussa 24 tunnissa.
SUOMENKIELISEN sisällön käsittelystä numerot eivät kuitenkaan kerro juuri mitään, eikä Facebook julkaise kattavasti alueellisia tai kielikohtaisia tilastoja. Työkalujen kehitys painottuu luonnollisesti yleisimpiin kieliin.
”On reilua sanoa, että tunnistuksemme toimii paremmin toisissa kielissä kuin toisissa. Tavoitteemme on tulla paremmaksi kaikissa kielissä, ja siksi kehitämme näitä teknologioita”, kertoo tuotepäällikkö Simon Cross, joka kehittää työkseen Facebookin ohjelmallisia työkaluja.
”Suomalaiset ovat kyllästyneet tänne loisimaan tulleiden elättämiseen.”
Joku Suomesta ilmoitti nuo molemmat Facebookiin kirjoitetut kommentit asiattomiksi. Ilmeisesti siksi, että ne näyttävät rinnastavan siirtolaisia loisiin. Facebook kuitenkin poisti niistä vain ensimmäisen, kertoo Facebookin säännöistä eli ”yhteisönormeista” vastaavan yksikön apulaispäällikkö Eric Shadowens.
Sääntöjen mukaan ensimmäinen kommentti epäinhimillisti tiettyä ihmisryhmää. Vastaavasti jälkimmäinen ei selvästi viittaa tiettyyn ryhmään, ja väitteen suomalaisten tunnoista sai lausua, vaikka se ei pitäisikään paikkaansa.
SHADOWENS selittää Facebookin logiikkaa Berliinissä sijaitsevan moderointikeskuksen ylimmän kerroksen kulmahuoneessa, josta avautuu näkymä kohti kaupungin keskustaa. HS on yksi viestimistä, jotka Facebook on viimeisen kahden vuoden aikana kutsunut tutustumaan toimintaansa.
Lukuisissa kohuissa viime vuosina ryvettyneellä yrityksellä on kova halu näyttää, että se ottaa vakavasti tehtävänsä julkisen keskustelun portinvartijana eikä valtioiden ole siksi syytä säännellä sen toimintaa.
Facebookista on vuotanut miljoonien käyttäjien tietoja. Palvelu on valjastettu informaatiokampanjoihin vaaleissa niin Yhdysvalloissa kuin Euroopassa sekä vihan lietsomisen työkaluksi Myanmarin rohingya-vähemmistön kansanmurhassa. Valtiot ja Euroopan unioni ovat alkaneet pohtia, pitäisikö sosiaalisen median yrityksiä säännellä enemmän. Yhdysvalloissa on väläytelty jopa Facebookin pilkkomista.
Uusien julkisuustappioiden estämiseksi yritys on käyttänyt paljon aikaa ja vaivaa kertoakseen viestimille, viranomaisille ja poliitikoille, että se tekee kaikkensa ensi viikon eurovaalien turvaamiseksi. Viime viikolla se kutsui viestimiä tutustumaan Brysseliin perustamaansa tilannehuoneeseen. Suureen kuvaan sopii, että yritys on halukas esittelemään myös moderointikeskustaan.
MITEN YHTIÖ käytännössä hoitaa moderoinnin?
HS tapasi neljä Facebookin suomalaista sisällöntarkastajaa Berliinissä, jossa työskentelee yli tuhat Facebookin moderoijaa. He seulovat käyttäjien ja algoritmien ilmoittamia epäilyttäviä julkaisuja ja päättävät, mikä viesti poistetaan ja mikä ei.
”Suomen kieli on aika rikasta sanonnoiltaan ja kiertoilmaisuiltaan. Aina ei tiedä, mitä ihmiset tarkoittavat sillä, mitä he sanovat”, kertoo Facebookin sisällöntarkastusta tekevä 26-vuotias nainen, joka on lähtöisin Pohjois-Pohjanmaalta.
”Paljon kirjoitetaan sarkastisesti tai pelataan sanonnoilla”, jatkaa naiskollega Päijät-Hämeestä.
Moderoijat esiintyvät jutussa nimettöminä Facebookin toivomuksesta. Yritys perustelee nimettömyyttä työntekijöidensä turvallisuudella.
MODEROINTIKESKUS toimii Berliinin länsilaidalla vanhassa teollisuusrakennuksessa. Sen uumenissa yli tuhat ihmistä syynää käyttäjien kirjoituksia, kuvia ja videoita kolmessa vuorossa. Minimalistisesti sisustetuissa avokonttoreissa tietokonepöytärivien päissä on hedelmäkulhoja ja vesipulloja. Seinä on maalattu suuri Facebookin logoteksti.
Tänne ei saa tuoda laukkuja tai ulkovaatteita. Ne pitää jättää suuriin pukuhuoneisiin. Vuoronvaihtoa odottava saksalainen moderoija säpsähtää kysymyksiä ja pohtii hetken, saako hän vastata niihin.
”Tämä työ sopii itselleni, koska sitä ei tarvitse tehdä puhelimessa. Ennen puhuin työkseni puhelimeen”, saksalainen kertoo lopulta.
RAKENNUKSESSA tehdään töitä suomen ja saksan ohella ainakin portugaliksi, italiaksi, kreikaksi, turkiksi, hepreaksi, ruotsiksi, norjaksi ja tanskaksi. Facebook ei kerro suomalaisten moderoijien määrää, mutta heitä tuskin on erityisen paljon.
”Meillä on suomalaisia muutamissa eri paikoissa, mutta pääosa heistä on täällä Saksassa”, sanoo Facebookin ostopalveluista vastaava johtaja Mark Davidson.
Moderointi on Facebookille ostopalvelu. Berliinin-keskuksen toiminnasta vastaa saksalaisen mediajätti Bertelsmannin omistama Majorel. Facebook on pitkälti ulkoistanut moderointinsa eri puolille maailmaa pariinkymmeneen tällaiseen keskukseen, joissa työskentelee yhteensä noin 15 000 moderoijaa.
MODEROIJAT arvioivat, että jokainen heistä käy päivittäin läpi keskimäärin 400–500 ilmiannettua julkaisua eli tikettiä. Ne avautuvat moderoijan näytöllä ohjelmaan, jossa moderoija päättää joko poistaa ilmiannetun viestin, ohittaa ilmiannon tai välittää tapauksen eteenpäin.
Suurimman osan ilmoituksista voi ohittaa nopeasti, mutta osa vaatii enemmän miettimistä: saako ihmistä kutsua ”elämänkoululaiseksi” tai ”moniosaajaksi”?
Suomalaismoderoijat jutustelevat työstään rennosti ja huvittuvat, kun puhe siirtyy kiertoilmaisuihin. Suomalaiset vaikuttavat olevan pilkkaamisessa hyvin kekseliäitä. Kun jokin ilmaus yleistyy, moderoijat pitävät kokouksen ja päättävät mikä hyväksytään ja mikä ei.
Siirtolaisten kutsuminen moniosaajiksi tai kunniakansalaisiksi voi jo täyttää Facebookin määritelmän vihapuheesta. Vihapuheeksi luetaan ihmisten herjaaminen niin sanottujen suojattujen ominaisuuksien tai piirteiden perusteella. Tällaisia piirteitä ovat esimerkiksi etnisyys, uskonto, seksuaalinen suuntautuminen ja joissakin tapauksissa siirtolaisasema.
VIIME aikoina Suomessa ovat puhuttaneet maahanmuutto ja vaalit. Facebookin käyttäjät ovat ilmiantaneet moderoijille esimerkiksi julkaisuja, joissa on paneteltu väistyvää pääministeriä Juha Sipilää (kesk). Myös poliitikkojen kirjoituksia ilmiannetaan, toisinaan siksi että ollaan poliitikon kanssa eri mieltä.
”Politiikoille sanotaan paljon, että ’söit sanasi’. Ja kun ulkoministeri Soinia vastaan hyökättiin, jotkut kommentoivat, että ’olisipa lyönyt pari kertaa lisää’”, kertoo 29-vuotias moderoija Lounais-Suomesta.
Hän viittaa maaliskuussa tapahtuneeseen välikohtaukseen, jossa ulkoministeri Timo Soinia (sin) yritettiin lyödä Korson maalaismarkkinoilla. Facebookissa poliitikon, politiikan tai ideologian värikäskin arvostelu voi olla hyväksyttävää, mutta väkivaltaan yllyttäminen ei.
Suomalaiset kuulemma puhuvat ahkerasti saunan taakse viemisestä. Muita yleisiä ilmiantojen aiheita ovat niin aikuisten kuin lastenkin riidat.
SALLITUN ja kielletyn raja on usein hämärä, Eric Shadowens sanoo ja näyttää esimerkkinä Kari Suomalaisen piirroksen syyskuulta 1984.
Suomalainen oli HS:n pitkäaikainen pilapiirtäjä, joka lopulta sai lähteä lehdestä 1990-luvun alussa, koska hänen piirroksensa eivät enää vastanneet lehden arvomaailmaa. Ei ole varmasti sattumaa, että vaikeuksiensa keskellä Facebook haluaa muistuttaa muiden vaikeista rajankäynneistä.
Shadowensin esittelemässä satiirisessa piirroksessa nääntyvän afrikkalaisen karikatyyri pyytää lisää kehitysapua, mutta hahmon takana lymyää juonitteleva sotaherra.
Shadowensin näyttämässä esimerkissä kuvan sai jakaa osana kehitysapujärjestelmää kritisoivaa tekstiä, mutta afrikkalaisten laajempana vertauskuvana sitä ei voisi käyttää.
Seuraavaksi Shadowens esittelee Nick Utin ottaman valokuvan napalmin polttamasta tytöstä, josta tuli Vietnamin sodan kauheuksien symboli.
Kolme vuotta sitten Facebookin suodattimet tulkitsivat kuvan lapsipornoksi. Asiasta syntyi kansainvälinen kohu, ja painostettuna Facebook lopulta tunnusti kuvan historiallisesti arvokkaana teoksena ja salli sen palvelussaan.
VÄLILLÄ ihmiset jakavat Facebookissa väkivaltaista aineistoa, jota moderoijatkin joutuvat katsomaan jonkin verran.
”Itselleni järkyttävintä on, jos väkivaltaa kohdistetaan lapseen. Onneksi sellaista tulee esiin harvoin”, kertoo Päijät-Hämeestä lähtöisin oleva moderoijanainen. Muut kertovat, että mieleen jäävät myös esimerkiksi itsetuhoiset julkaisut.
Kolmekymppinen pirkanmaalaismies huomauttaa, että moderoijien ruuduille päätyy Facebookin ikävin sisältö.
”Välillä pelkään oman maailmankuvani ja optimismini puolesta. Täällä näkee niin vääristyneesti, millaista netissä on”, lounaissuomalainen kertoo.
MODEROIJA tekee pienellä palkalla työtä, joka on pahimmillaan hyvin rankkaa.
Alkuvuodesta Berliinin-keskukseen etsittiin turkinkielistä moderoijaa 10,63 euron lähtöpalkalla. Tällä hinnalla työntekijä altistaa itsensä jopa mestauksille, lapsipornolle ja eläinrääkkäykselle.
Mark Davidsonin mukaan ei pitäisi tuijottaa pelkkiä euroja, sillä työntekijöille tarjotaan myös välipaloja sekä työterveyshuolto. Avokonttorissa on koreittain banaaneja, tosin taukotilan karkkikone on maksullinen.
Pohjakerroksessa moderoijia varten on psykologin ja neljän sosiaalineuvojan toimistot. Heidän puhelinnumeronsa on liimattu työpöytiin.
”Viisikymmentä prosenttia käynneistä liittyy työhön ja toiset viisikymmentä prosenttia yksityiselämään, kuten parisuhteisiin ja ulkomaalaisten työntekijöiden sopeutumiseen Saksaan”, eräs sosiaalineuvoja kuvailee.
Hän kertoisi mieluusti työstään omalla nimellään. Davidson kuitenkin ilmaisee taustalta, että ei käy. Tilanne on yllättävä, sillä vierailun ehtojen mukaan vain moderoijien henkilöllisyys olisi tarvinnut salata. Saksalaismoderoijan ja sosiaalineuvojan tapausten perusteella yritys näyttää sietävän yllätyshaastatteluja huonosti.
SOSIAALINEUVOJAN huomio kuitenkin tukee näppituntumaa: suomalaisnelikon tapaan moderointikeskuksen työntekijät ovat noin kolmikymppisiä. Monet ovat Saksassa väliaikaisesti, ja moderoijan työtä tehdään tyypillisesti noin kaksi vuotta. Sen jälkeen ihmiset joko erikoistuvat tai lähtevät pois.
Kuinka Facebook takaa, että moderointi on laadukasta ja käyttäjiä kohdellaan samalla tavalla eri kielialueilla?
”Teemme säännöllisiä laatutarkastuksia. Joka kuukausi ulkopuolinen tarkastaja arvioi standardimäärän päätöksiä jokaiselta moderoijalta selvittääkseen, onko tämä tehnyt ratkaisuja, jotka ovat linjassa ohjeistuksen kanssa”, Davidson sanoo ja kertoo, että työntekijöitä myös koulutetaan jatkuvasti.
Päätösten tarkkuusprosentti vaikuttaa työntekijöille maksettaviin bonuksiin. Suomalaiset moderoijat kokevat pärjänneensä, vaikka virheitäkin tulee. Virheiden sattuessa Facebookin linja näyttää ulospäin epäselvältä. Asiallisia viestejä poistetaan ja vihapuhetta jää verkkoon.
SUOMESSAKIN on puhuttu sosiaalisen median ja sananvapauden yhteydestä. Vuodenvaihteessa perussuomalaiset jopa syytti Facebookia sensuurista, kun puolueaktiivien julkaisuja poistettiin ja tilejä lukittiin sääntörikkomusten vuoksi. Yhdysvalloissa presidentti Donald Trumpin hallinto on puolestaan avannut sivuston, jossa sosiaalisen median käyttäjät voivat ilmoittaa sensuuriepäilyistään. Trump on toistuvasti syytellyt someyrityksiä konservatiivien vaimentamisesta.
Yhteisönormeista vastaava Eric Shadowens sekä suomalaismoderoijat kertovat, että ihmiset eivät aina ymmärrä Facebookin luonnetta. Yritys voi kieltää sellaistakin kielenkäyttöä, joka lain mukaan olisi sallittua.
”Sitä valitellaan monesti, että pitäisi olla enemmän sananvapautta. Mutta kun Facebookilla on omat sääntönsä, ei siellä voi kaikkea sanoa”, yksi moderaattori aloittaa ja toinen jatkaa:
”Käyttäjillä menee monesti sekaisin Suomen laki ja yhteisönormit, poliisi ja moderoijat.”
Suomalaiset moderaattorit näyttävät kuitenkin ymmärtävän roolinsa julkisen keskustelun portinvartijoina.
Mitä suomalaiset moderaattorit tekisivät yhtiössä paremmin?
”Facebookissa voisi olla enemmän porukkaa töissä ja he voisivat enemmän ajatella, mitä he tekevät demokratialle. Jos jotain pitää kritisoida, niin tätä välillä mietin.”
Facebook yrittää tehostaa moderointia koneoppimisella
FACEBOOKIN pitkäaikainen ongelma on, ettei se täysin tiedä, mitä kaikkea käyttäjät palvelussa julkaisevat. Vihapuhetta, huumekauppaa ja muuta kiellettyä jää pimentoon, kun moderointi perustuu käyttäjien ilmiantoihin.Ilmiannoissakin riittää tekemistä. Facebook kertoo kolminkertaistaneensa moderoijiensa määrän puolessatoista vuodessa noin 15 000:een. Karkeasti laskien moderoijat käsittelevät miljoonia ilmiantoja päivässä ja yli miljardi ilmiantoa vuodessa.
Silti edes Facebook ei tiedä, kuinka paljon sen palvelussa oikeasti julkaistaan sääntöjen vastaista sisältöä.
Facebook sanoo seulovansa ja poistavansa vuositasolla miljardikaupalla sääntöjä rikkovaa sisältöä myös automaattisesti. Ohjelmallinen seulonta kehittyy nopeasti, kun ihmistyöntekijöiden tekemät päätökset tuottavat ohjelmistoille esimerkkiaineistoa.
Toimitusjohtaja Mark Zuckerberg on kertonut, että Facebook siirtyy tulevina vuosina entistä vahvemmin ennakoivaan moderointiin. Jo nyt yritys kehuu havaitsevansa omatoimisesti lähes kaikki poistamansa roskaviestit sekä valetilit, alastomuuden, väkivallan ja terrorismipropagandan.
Hyviä lukuja kertoo myös Euroopan komissio. Sen tekemän vihapuheseurannan mukaan Facebook kykenee käsittelemään 93 prosenttia vihapuheilmoituksista luvatussa 24 tunnissa.
SUOMENKIELISEN sisällön käsittelystä numerot eivät kuitenkaan kerro juuri mitään, eikä Facebook julkaise kattavasti alueellisia tai kielikohtaisia tilastoja. Työkalujen kehitys painottuu luonnollisesti yleisimpiin kieliin.
”On reilua sanoa, että tunnistuksemme toimii paremmin toisissa kielissä kuin toisissa. Tavoitteemme on tulla paremmaksi kaikissa kielissä, ja siksi kehitämme näitä teknologioita”, kertoo tuotepäällikkö Simon Cross, joka kehittää työkseen Facebookin ohjelmallisia työkaluja.
- FacebookSeuraa
- InternetSeuraa
- Sosiaalinen mediaSeuraa
- Ossi MansikkaSeuraa
