Google Perspective, arriva la nuova piattaforma anti troll

Google aiuta a salvaguardarci dai commenti “tossici”, i troll e le persone moleste, con Google Perspective. Chi passa il proprio tempo a sprigionare odio in rete da ora avrà un blocco in più.

Google Perspective è uno strumento software che permette ai media di individuare gli abusi nei commenti in rete. Ed è stato ideato dal team Jigsaw di Google, già attivo dal 2010.

Come funziona Google Perspective

Questo nuovo strumento determina il grado di “tossicità” dei commenti online, grazie a un apprendimento automatico. Tramite una “scala” che è stata stabilita attraverso un’analisi di milioni di note sul web. Questi vengono presentati ad un panel di 10 persone per avere da loro un riscontro. E’ un machine learning dove non si filtra né si blocca nulla ma funziona da alert. Scoperta la minaccia, informa gli editori delle frasi violente o offensive presenti sotto le news. Saranno poi questi ultimi a decidere di cosa fare di queste informazioni, se intervenire, moderare o lasciare inalterato il tutto.

In via sperimentale

La piattaforma è stata testata con il New York Times, che ospita circa 10 mila commenti quotidiani. Commenti che prima dell’avvento di Google Perspective venivano filtrati e revisionati personalmente da un team di persone. Decisamente troppi per essere controllati tutti. Il quotidiano americano e la piattaforma di Google hanno quindi lavorato insieme per realizzare dei modelli che consentano ai moderatori del Times di selezionare i commenti più velocemente.

Attraverso una Api, cioè un’interfaccia di programmazione, gli editori possono accedere a questa tecnologia e la possono utilizzare per i propri siti. Un aiuto per avere dei confronti e dei dibattiti più genuini senza che gli articoli vengano inquinati nel loro valore.

“Quando la gente cerca di esprimere le proprie opinioni sul suo sito di informazione preferito viene frequentemente attaccata con commenti offensivi”.

Scrive il presidente di Jigsaw Jared Cohen in un blog.

“Il 72% degli utenti internet americani è stato testimone di episodi di questo tipo e almeno la metà di loro ha avuto un’esperienza diretta. Mentre almeno un terzo di loro si autocensura per paura delle reazioni. Pensiamo che la tecnologia possa aiutare a risolvere questo fenomeno” aggiunge il manager.

Ad oggi Google Perspective è disponibile gratis e in lingua inglese ed è in principio rivolta soprattutto agli editori.