Loppu törkykommenteille? Googlen tekoäly valjastetaan nettikommenttien moderointiin

Moni meistä joutunut netissä surfatessaan törkykommenttien uhriksi esimerkiksi keskustelupalstoilla. Ilmiö on yleinen etenkin foorumeilla, joilla esiinnytään nimimerkillä. Tavoite fiksusta keskustelusta jää usein ylläpitäjän haaveeksi. Keskustelupalstojen moderaattoreilla voi olla hikinen urakka keskustelujen päivittäisessä siivoamisessa.

TIlanteeseen voi tulla toivottu muutos tekoälyn myötä. Google on lanseerannut uuden Perspective-teknologian, joka käyttää koneoppimista apuna kommenttien siivoamisessa.

Perspective arvioi kommentit ja pisteyttää ne sen mukaan, miten kommentit vastaavat käyttäjien haitallisiksi kokemia viestejä. Käytännössä pisteytyksen perusteena ovat sadat tuhannet ihmisten arviot sellaisista kommenteista, jotka aiheuttavat keskustelujen päättymistä tai ovat muulla tavoin haitallisia. Tekoäly oppii näin jatkuvasti viisaammaksi ja osaa hiljalleen määritellä itse, mikä on törkyä ja mikä ei.

Tavoitteena on, että keskustelupalstan ylläpitäjä voi liputtaa tekoälyn paljastamat kommentit ja päättää, otetaanko ne mukaan keskusteluun. Tekoälyn avulla on myös mahdollista varoittaa kommentin kirjoittajaa jo ennen julkaisua siitä, että kyseinen kommentti ei ole sovelias keskusteluun.

Kuva: Flick / Paul David