In arrivo un algoritmo per monitorare i commenti online

Se c’è una cosa che rende internet un posto peggiore di quello che potrebbe essere è senza dubbio il problema dei cosiddetti troll, ovvero delle persone che commentano post e notizie sui social e sui siti web appositamente per scatenare polemiche e lanciare provocazioni gratuite. I famosi leoni da tastiera, in pratica.

Quando inizia una discussione in cui è coinvolto uno di questi personaggi, non si sa mai a quale livello si può scendere e spesso i contenziosi finiscono in attacchi personali e turpiloqui di bassa lega.

Cosa c’è alla base di questo comportamento? Innanzitutto l’analfabetismo funzionale diffuso, che porta le persone a pensare che non vaccinare i propri figli o espellere gli stranieri e chiudere i gay in ospedali psichiatrici siano libertà di opinione e non vere e proprie aberrazioni. In secondo luogo, la voglia di sfogare una frustrazione che nella vita quotidiana non può essere sfogata (ed ecco che si arriva a parlare di omicidio di questo o quel personaggio).

Esiste un modo per fermare tutto ciò? Sfortunatamente, i moderatori, da soli, non possono gestire dei flussi così elevati di commenti da controllare, così spesso si lascia correre, il che è spesso un danno. Ma ecco che Google ci sta venendo in aiuto: secondo il blog Animatic, infatti, un algoritmo da parte di Google sarebbe in dirittura d’arrivo.

Lo scorso settembre, un ramo di Google chiamato Jigsaw ha dichiarato guerra ai troll, lanciando un progetto per sconfiggere le molestie online utilizzando l’apprendimento automatico. Ora, la squadra sta aprendo il sistema di lotta ai troll al mondo.

Lo scorso febbraio, Jigsaw e i suoi partner della squadra di tecnologia di Counter Abuse Technology di Google hanno rilasciato un nuovo codice chiamato Perspective, un’applicazione che consente a qualsiasi sviluppatore di accedere agli strumenti anti-molestie su cui Jigsaw ha lavorato per oltre un anno. Perspective utilizza l’apprendimento automatico per individuare automaticamente insulti, molestie e abusi online. Basta inserire una frase nella sua interfaccia e Jigsaw dice che il suo AI può restituire immediatamente una valutazione della “tossicità” della frase più accuratamente di una qualsiasi blacklist della parola chiave e più veloce di qualsiasi moderatore umano.

Il rilascio di Perspective porta la Conversation AI un passo più vicino al suo obiettivo di contribuire a promuovere la discussione senza troll online e filtrando i commenti abusivi che silenziano le voci vulnerabili o, come i critici del progetto hanno meno generosamente affermato, sanificare discussioni pubbliche in base alle decisioni algoritmiche.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *