Tekoäly auttaa tunnistamaan vihapuhetta somessa

Kolmen sosiaalipsykologin ideoima Someturva-palvelu pyrkii tunnistamaan tekoälyn avulla sosiaalisessa mediassa tapahtuvat loukkaavat tilanteet juridisesta näkökulmasta sekä tarjoamaan työkalun riitatilanteiden käsittelyyn.

Digitalisaatio ja sosiaalinen media ovat muuttaneet kaikkea vuorovaikutusta – niin hyvässä kuin pahassa. Arvioiden mukaan jopa noin puoli miljoonaa suomalaista nuorta on kokenut tulleensa loukatuksi sosiaalisessa mediassa. 80 prosenttia loukatuista pohtii kokemaansa päivittäin.

Sosiaalipsykologi ja koulukuraattori Minttu Salminen, sosiaalipsykologi ja juristi Jenny Rontu sekä sosiaalipsykologi ja sosiaalisen median tutkija Suvi Uski havahtuivat lukuihin kolme vuotta sitten ja päättivät tehdä asialle jotain. He ovat yhdessä ideoineet Someturva-palvelua, jonka tarkoitus on helpottaa avun hakemista kiusaamis- tai loukkaustilanteessa.

Viime vuonna kolmikko osallistui 44 säätiön rahoittamaan Vuosisadan rakentajat -haastekilpailuun, voitti hopeaa ja sai hankkeelleen puolen miljoonan euron rahoituksen.

Nyt Someturvaa viedään vauhdilla eteenpäin ja tiimikin on sittemmin kasvanut.

– Kehitämme sovelluksen teknologiaa ja kokeilemme ketterästi erilaisia vaihtoehtoja, miten tekoäly oppii tunnistamaan verkossa esiintyvää vihapuhetta, somekiusaamista ja -loukkaamista, Minttu Salminen kertoo.

Algoritmin ja asiantuntijuuden yhteispeliä

Salmisen mukaan lainsäädäntöä tulkitsevan tekoälyn algoritmin kehittäminen on melkoista pioneerityötä, sillä tekoälyteknologiaa, joka soveltaisi algoritmia lakikirjan ja oikeuskäytännön luomiin sääntöpohjiin, ei juurikaan ole. Teknologian ja lakipykälien yhteensovittamiseen liittyy paljon ratkaisemattomia kysymyksiä.

– Lain tulkinta edellyttää asiantuntijatyötä. Tekoälyn on vaikea tunnistaa, missä kontekstissa lakiasioita tulkitaan, Salminen sanoo.

Someturva tähtää palvelun julkaisemiseen vielä tämän vuoden lopulla. Nyt on käynnissä kiihkeä kehitysvaihe, jossa tekoälylle opetetaan, millaiset juridiset kriteeristöt koskevat someloukkauksia.

– Keräämme parhaillaan dataa erilaisista someloukkauksista, jotta voimme jalostaa tekoälyä fiksummaksi, Salminen sanoo.

Sovinto vai rikosprosessi

Sovelluksen kehitystyön isoja haasteita on määritellä, milloin someloukkaus täyttää rikoksen tunnusmerkit.

– Someloukkauksiin liittyy paljon tulkinnanvaraisuutta. Milloin esimerkiksi kunnianloukkauksen raja ylittyy? Ideana on, että sovelluksen avulla käyttäjä voi ilmoittaa kokemansa someloukkauksen ja saa vastauksen, miten hänen kannattaisi menetellä asian käsittelyssä, Salminen sanoo.

Tavoitteena on, että palvelu päättelee, onko kyseessä rikos, ja jos on, voisiko tilanteen sopia osapuolten kesken ilman, että sitä vietäisiin oikeuteen asti.

– Suurin osa palvelumme keskiössä olevista rikoksista on asianomistajarikoksia, jotka on mahdollista hoitaa osapuolten välisellä sovinnolla.

Yhteistyökumppanit kiinnostuneita

Someturvan kehitystyöhön on tämän vuoden alusta liittynyt mukaan useita asiantuntijoita, kuten presidentti Tarja Halonen, Helsingin yliopiston Legal Tech Lab, Aalto-yliopiston Tekoälyn tutkimuskeskus (FCAI), oikeusministeriö, sisäministeriö, Pelastaa Lapset ry sekä yritykset Wunderdog ja Futurice.

– Haluamme rakentaa yhdessä alan sidosryhmien kanssa vaikuttavuutta ja sopua digitalisoituvaan yhteiskuntaan, Salminen sanoo.

Someturvan perustajat Suvi Uski (vas.), Minttu Salminen ja Jenny Rontu.

Someturvan perustajat Suvi Uski (vas.), Minttu Salminen ja Jenny Rontu saivat Vuosisadan rakentajat -haastekilpailussa hopeaa Someturva-palvelullaan.

Tavoitteena on hänen mukaansa tarjota kansalaisten käyttöön tasavertainen ja reaaliaikainen juridinen palvelu, joka auttaa ratkomaan tehokkaasti ja maksuttomasti someloukkauksen kohteeksi joutuneiden henkilöiden tapauksia. Eli tuoda apu kaikkien ulottuville.

– Pitkällä tähtäimellä uskon, että Someturva voi ennaltaehkäistä verkossa tapahtuvaa kiusaamista ja vihapuhetta sekä opastaa meitä kaikkia käyttäytymään verkossa kunnioittavammin toisiamme kohtaan. Kuka tahansa voi joutua vihapuheen, kiusaamisen tai kiristyksen uhriksi verkossa. Haluamme vakuuttaa, että pienen startup-yrityksen kehittämällä innovaatiolla voi olla myös merkittävää yhteiskunnallista vaikuttavuutta, Minttu Salminen visioi.

Tavoitteet korkealla

Startupin ambitiotaso on muutenkin korkealla.

– Kuluttajille suunnattuja juridisia tekoälysovelluksia on maailmassa toistaiseksi hyvin vähän. Visioissamme Someturva on toimiva ratkaisu Suomessa ja skaalautuu tehokkaasti myös globaalisti. Kun saamme ratkottua teknologiset haasteet, voisi sovelluksemme palvella jopa kahta miljardia somen käyttäjää vuonna 2020, hän vakuuttaa.

Se on saman verran kuin Facebookilla on tällä hetkellä rekisteröityneitä käyttäjiä.

Tuoreimmat
Puukauppa käy vilkkaasti – jopa ennätystahtiin
Puukauppa käy vilkkaasti – jopa ennätystahtiin
Tänä vuonna puukaupalle on erinomaiset edellytykset ja odotettavissa on jälleen uusi hakkuuennätys. Näin metsätalouden edustajat kommentoivat puumarkkinaa.
Juhannus vaikuttaa suomalaisten kulutustottumuksiin – ”Kesällä miehet ovat elämyshakuisempia ja naiset tekevät enemmän heräteostoksia”
Juhannus vaikuttaa suomalaisten kulutustottumuksiin – ”Kesällä miehet ovat elämyshakuisempia ja naiset tekevät enemmän heräteostoksia”
Tutkimuksen mukaan suomalaiset kuluttavat juhannuksena eniten rahaa tarjoiluihin ja ruoanlaittoon. Tutut keskikesän juhlaperinteet elävät edelleen, mutta juhannushäiden sijaan nuoret suuntaavat...
Graafikon pätkätyöt taakseen jättänyt Keijo: ”Uusi työ vahtimestarina tuntuu jopa kutsumukselta”
Graafikon pätkätyöt taakseen jättänyt Keijo: ”Uusi työ vahtimestarina tuntuu jopa kutsumukselta”
Puolen vuoden lomautus ja sitä seurannut työnantajan konkurssi sysäsivät viisikymppisen Keijo Korhosen lopulta työhön, joka sopii hänen luonteelleen. Vaikka kolmen vuoden työttömyys ketutti...
Taloustaidot haltuun jo nuorena
Taloustaidot haltuun jo nuorena
Oman talouden hallitseminen on elintärkeä taito. Nuorena aloitettu omien menojen suunnittelu ja säästäminen opettavat järkevään rahankäyttöön.

OP sosiaalisessa mediassa