• 13 Maggio 2021 7:46

Corriere NET

Succede nel Mondo, accade qui!

Impresa & Territori Contro gli insulti online arriva il «filtro» made in Google – Il Sole 24 Ore

Feb 23, 2017

Il machine learning per identificare i troll, i commenti offensivi sui siti e aiutare gli editori a bloccarli . Google scende in campo per rimettere ordine sul complicato tema dei commenti online. E lo fa con una tecnologia open source basata sull’intelligenza artificiale e sviluppata con il suo incubatore tecnologico Jigsaw, ex Google Ideas. Si chiama “Perspective” questa tecnologia ancora sperimentale che rivede i commenti assegnando loro un punteggio basato su quanto simili siano ai commenti dagli utenti gi identificati come tossici.

Test con NYT e Wikipedia

L’iniziativa era gi stata annunciata lo scorso settembre. In questi mesi Jigsaw ha testato la soluzione in vari step con New York Times e Wikipedia. Con Perspective sono state esaminate decine di migliaia di commenti che sono stati etichettati manualmente da revisori umani. La sfida – ha spiegato in una conference call Jared Cohen, fondatore e presidente di Jigsaw – creare le possibilit per garantire buone conversazioni su Internet. Ci sono molte persone che cercano di impegnarsi in discussioni online serie, ma spesso finiscono per lasciare la conversazione. E lo fanno a causa di insulti o di mancanze di rispetto da parte di altri.

Perspective, come detto, pu essere utilizzato liberamente da editori e sviluppatori di contenuti, dal momento che open source. L’obiettivo – ha aggiunto Cohen – responsabilizzare gli autori di pubblicazioni e piattaforme in modo che possano decidere che cosa possa essere o non possa essere detto sui propri siti web. Sta infatti agli editori stabilire cosa fare con le informazioni che ricevono. I commenti possono essere rivisti dai moderatori cui spetter poi la decisione finale sull’includerli o meno nelle conversazioni. Ma anche gli utenti stessi potrebbero essere messi in condizione di capire il potenziale di “tossicit” dei propri commenti.

Si inizia con la lingua inglese

Per ora Perspective disponibile solo in inglese, ma presto – non stata fornita alcuna data – ci sar l’implementazione della versione in altre lingue. Un primo test della tecnologia in maniera strutturata stato fatto con il New York Times. La “Vecchia Signora in grigio” ha una squadra responsabile per la revisione e la moderazione dei commenti. A essere analizzati in tempo reale sono circa 11mila commenti ogni giorno. Cos tanti che anche difficile pensare a un lavoro maggiore che invece sarebbe anche richiesto dal momento che il New York Times, proprio per far fronte con professionalit alla mole di commenti da moderare, mette a disposizione dei feedback dei lettori solo il 10% degli articoli.

L’iniziativa di Google non comunque nuova. Altre aziende come Twitter o Mozilla hanno gi iniziato a muoversi in questa direzione. Del resto aziende come Salesforce e Disney hanno rinunciato a un attivit social per problemi di moderazione. Di recente Twitter ha reso disponibile agli utenti gli strumenti per silenziare una conversazione e contrassegnare le parole ritenute intollerabili.

© Riproduzione riservata

Utilizzando il sito, accetti l'utilizzo dei cookie da parte nostra. Guarda la Policy

The cookie settings on this website are set to "allow cookies" to give you the best browsing experience possible. If you continue to use this website without changing your cookie settings or you click "Accept" below then you are consenting to this.

Close