Cyberbullismo, Instagram blocca i messaggi offensivi

La battaglia di Instagram contro l’hate speech continua: in fase di distribuzione due soluzioni per ripulire la posta interna dell’app e per eliminare definitivamente chi apre più account per infastidirci.

Un nuovo strumento per difendersi da cyberbulli, molestatori, stalker. Lo ha lanciato Instagram, all’interno della sezione per i messaggi diretti. Si tratta in sostanza di un filtro automatizzato che farà fuori dalla propria casella principale della posta in arrivo tutti i messaggi contenenti parole, frasi ed emoji offensivi. L’applicazione l’ha pensato in particolare per quei personaggi celebri e per gli influencer che vengono letteralmente bombardati da questo tipo di contenuti. Alcuni casi, come quello del giocatore del Manchester United Marcus Rushford, lo scorso gennaio, erano tornati a sollevare la questione. Ma a ben vedere estremamente utile per chiunque.

L’aggiornamento rientra ovviamente in un piano ben più ampio, che abbiamo visto diverse volte, con il quale l’app guidata oggi da Adam Mosseri punta a combattere l’hate speech. Cioè i discorsi e gli atteggiamenti d’odio, a ogni livello. Quello dei DM, i messaggi diretti, è ovviamente meno palese all’audience generale perché privato ma può creare grossi problemi sia per chi ha seguiti sterminati che per chi venga preso di mira da un’altra persona. Lo scorso febbraio l’applicazione, controllata da Facebook, aveva spiegato che avrebbe iniziato a disabilitare gli account degli utenti che fossero soliti inviare messaggi multipli contenenti insulti e molestie.

Campagna antimolestie

Ma già tre anni fa, nel 2018, la campagna antimolestie era entrata nel vivo con una serie di filtri in grado di sfruttare le soluzioni di intelligenza artificiale per bloccare automaticamente i commenti che prendevano di mira l’aspetto di un utente. Viene da domandarsi, con l’esplosione dei social audio e l’arrivo di nuove funzionalità anche su Facebook, in che modo sarà possibile condurre una moderazione minimamente efficace in una miriade di stanze in diretta in cui decine o centinaia di persone si ritrovano a discutere e confrontarsi.

“Comprendiamo l’impatto che i contenuti offensivi, che siano razzisti, sessisti, omofobi o qualsiasi altro tipo di abuso, possono avere sulle persone. Nessuno dovrebbe provarlo su Instagram.” Si legge in un post sul blog ufficiale. “Ma combattere gli abusi è una sfida complessa e non c’è un solo passo risolutivo. Ad esempio, sappiamo che molti nella nostra community, in particolare persone con un numero maggiore di follower, hanno subito abusi nella casella di posta in arrivo delle richieste di DM da parte di persone che non seguono”.

Nuovo strumento introdotto

La nuova funzionalità può essere attivata o disattivata in una nuova sezione dell’applicazione, “Parole nascoste”. Alla pari di quella dedicata ai commenti ai propri post che funziona secondo la stessa logica. Nel primo caso, cioè quando è abilitata, parcheggerà i messaggi che le contengono in una cartella a parte. Come già ora accade con le sezioni “Principale” e “Generale”, dove finiscono quelli dei contatti con cui non siamo collegati, lo spam e altro.

La cosa interessante è che in questa cartella i messaggi sono di fatto nascosti. Non c’è dunque bisogno di leggerne il contenuto. Si possono aprire, cancellare o segnalarli con un solo tocco. Una soluzione che, spiega il gruppo, è stata messa a punto in collaborazione con “organizzazioni di primo piano nella lotta al bullismo e alla discriminazione”. Queste sigle hanno anche dato una mano a stabilire un primo elenco di frasi e parole offensive. Ma gli utenti possono personalizzare la “black list” in base a ciò che li colpisce di più e di cui non vogliono leggere.

Instagram e messaggi diretti

“Dal momento che i messaggi diretti sono conversazioni private, non cerchiamo in modo proattivo i contenuti d’odio o di bullismo. Nello stesso modo di come facciamo altrove su Instagram.” Continua la nota. “Ecco perché abbiamo introdotto questo strumento, focalizzato sulle richieste di messaggi diretti. Essi costituiscono il canale principale attraverso il quale le persone ricevono messaggi di questo tipo”.

Non solo. Instagram ha anche spiegato che c’è un altro strumento in fase di distribuzione nelle prossime settimane in diversi paesi. Al momento in cui scriviamo nessuno dei due risulta attivo in Italia. Si tratta della possibilità di bloccare un utente una volta per tutte. In pratica, quando si blocca qualcuno tutti gli account che questa persona dovesse aprire in futuro, magari per tornare a molestarci o disturbarci, saranno automaticamente bloccati. Anche se non è del tutto chiaro in che modo il sistema riesca davvero a tracciare con certezza l’apertura di altri profili, punto sul quale Instagram non ha fornito dettagli. C’è da credere che basterà cambiare e-mail ed estremi per aprirne a dismisura. Ma è comunque un segnale che la battaglia contro l’odio continua.

“Sappiamo che possiamo fare ancora di più e ci impegniamo a continuare la nostra lotta contro il bullismo e gli abusi online – conclude il comunicato – continueremo a lavorare in collaborazione con esperti, organizzazioni del settore, adolescenti, creator e personaggi pubblici per comprendere la loro esperienza su Instagram e capire come possiamo adeguare le nostre politiche e i nostri prodotti per proteggerli dagli abusi online”.