I leoni da tastiera, si sa, sono sempre pronti ad infarcire il web con i loro commenti provocatori. A cercare di fare un po’ di pulizia ci pensa Google con Perspective, una intelligenza artificiale studiata ad hoc per contrastare il fenomeno del cyber-bullismo.

Sviluppato dalla divisione Jigasaw di Google, questa IA è uno strumento che va ad integrarsi nell’ecosistema TensorFlow di bigG. Secondo quanto affermato dalla stessa Google, i commenti offensivi e scritti solamente per provocare e infastidire nei forum quanto negli appositi spazi delle testate giornalistiche si rivelano un problema sempre più insistente e degno di nota, a cui i moderatori faticano a stare dietro.

Alcuni siti hanno allora deciso di privare tutti gli utenti della possibilità di dire la propria, disattivando i commenti. Ciò però rappresenta un significativo calo in termini di traffico. Perspective cerca di dare una mano a questi siti, a tutta l’editoria. Come? Questa IA è in grado di accumulare esperienza tramite la tecnologia del machine learning e identificare i commenti potenzialmente problematici.

Per “capire” quali sono i commenti critici Perspective analizza il linguaggio e la struttura. Ma non lavora mai da solo. Una volta decostruito il commento, poi lo consegna ad un essere umano con cui collabora per migliorare la propria efficacia. Attualmente Perspective funziona solamente con la lingua inglese ma, ovviamente, in futuro, l’IA di Google anti-troll dovrà estendere il suo raggio d’azione su altri idiomi. Questa IA è stata già testata sui siti di alcuni partner, come Wikipedia, New York Times, Il Guardian e Economist.