Commenti offensivi, profili creati per rubare l’identità di altri, gamers che si insultano senza censura e gruppi di haters che pubblicano foto di adolescenti denigrandoli pubblicamente, sono solo alcuni degli aspetti che fanno emergere  quanto la moderazione sul web sia sfuggita di mano ai gestori di social network, chat, forum e videogames online. Il bullismo 2.0, ovvero il cyberbullismo, è un fenomeno molto preoccupante che spesso passa (e fanno passare) davanti ai nostri occhi. Già nel 2012, a seguito del caso di un uomo che creò un indirizzo email registrandolo con i dati reali di un’altra persona, la Cassazione si espresse affermando con la sentenza 12479/12 che “Chi crea e utilizza un account di posta elettronica spacciandosi per un altro commette il reato di sostituzione di persona”. In seguito, negli anni successivi, sono nati anche casi di persone che registravano fake profile su Facebook (profili falsi) per molestare le proprie vittime. La legge stabilisce quali siano le condanne da infliggere ma è necessario un impegno collettivo fatto non solo di informazione ma anche di tecnologia.

E così Google qualche mese fa ha lanciato il progetto PERSPECTIVE, un algoritmo di intelligenza artificiale il quale scansiona e analizza tutte le parole ritenute offensive eliminandole. Il robot in questione, anche grazie al supporto umano che può inviare segnalazioni, limita il traffico ostile riportando commenti e discussioni ad uno stato di tranquillità e correttezza. Il progetto Perspective attualmente è in uso sulle piattaforme di Wikipedia e New York Times ma il laborioso team di Mountain View ha ben pensato di estenderlo, tramite interfaccia, su qualsiasi piattaforma online.

Facebook, a sua volta molto spesso giustamente criticato per la scarsa assistenza sulle segnalazioni e l’inefficienza dei moderatori, sta cercando di riparare alla propria politica sviluppando, in collaborazione con lo Yale Center for Emotional Intelligence, una piattaforma di prevenzione chiamata BULLYING che offre supporto e aiuto in merito a problemi relativi ad eventi di bullismo e altri conflitti. Offre inoltre programmi dettagliati, incluse indicazioni su come cominciare conversazioni importanti per persone vittime di bullismo, genitori il cui figlio è stato vittima di bullismo o accusato di bullismo e insegnanti che hanno avuto studenti coinvolti in atti di bullismo.

La tecnologia può far molto… questo è solo un primo piccolo passo.