Google ha presentato Perspective, la sua nuova piattaforma tecnologica nata per combattere le persone moleste, violente, i troll e tutti coloro che in rete non trovano nulla di meglio da fare che insultare le opinioni altrui.

Perspective, è bene chiarirlo da subito, non è né un giudice né un servizio di censura, ma uno strumento di valutazione da mettere nelle mani degli editori che avranno l’ultima parola su commenti e comportamenti. Utilizzando la tecnologia di machine learning, Perspective attiverà degli alert in presenza di frasi dal dubbio contenuto oltraggioso e ogni qual volta incontrerà insulti, parolacce o termini e periodi impropri.

Sarà poi compito degli editori che parteciperanno al programma della Digital News Initiative decidere se intervenire, moderare o lasciare le cose come stanno. A seconda delle proprie policy.

Ma come avviene la valutazione? Il sistema legge i commenti, assegnando a ciascuno un punteggio, basato sull’apprendimento di tutto quanto gli utenti e le persone coinvolte nella moderazione hanno in passato considerato come gradito o sgradito. Dopodiché offre la sua valutazione che può essere a sua volta corretta dalle persone, così che il sistema affini il percorso di giudizio.

L’annuncio di Google avviene in un momento storico particolarmente delicato, quello in cui l’aggressività in rete da parte di persone che si nascondono dietro a una tastiera ha raggiunto livelli di guardia preoccupanti. Ora la tecnologia viene in aiuto all’uomo. Affinché, online come nella vita di tutti i giorni, le prevaricazioni e la violenza verbale possano essere individuate e combattute.