Script e algoritmi al fianco degli operatori Instagram intercetteranno segnali di bullismo anche solo potenziali. Novità in arrivo per i filtri
Quattro occhi sono meglio di due, soprattutto se vedono più lontano. Questa è l’intenzione di Instagram, che si affida al machine learning per intercettare e rimuovere ogni traccia di bullismo sulla propria piattaforma.
Intermezzo promozionale ... continua la lettura dopo il box:
Usufruisci di uno sconto per fare un CONTROLLO DELLA REPUTAZIONE PERSONALE o AZIENDALE [ click qui ]
I moderatori umani, che continueranno le rispettive attività di supervisione e controllo, intercettano per lo più offese palesi relative all’aspetto, al carattere e alla salute di una persona. Gli algoritmi si spingono più in là. Scandagliano modelli comportamentali, offese più sottili e, soprattutto, imparano a essere più scaltri e persino smaliziati nel riconoscere ciò che potenzialmente può ledere la dignità degli utenti, con occhio ancora più vigile sui teenager, gli utenti più suscettibili perché impreparati a contrastare i fenomeni di bullismo i quali, in generale, sono al centro delle attenzioni dei social network a partire dal 2010.
(Immagine: Instagram)
Secondo Instagram, la filiera di controllo vedrà prima l’intervento del machine learning e solo in un secondo momento quello degli operatori umani. Il neo-nominato capo di Instagram Adam Mosseri, tramite il blog dell’azienda, ha sottolineato che si tratta di un passo importante che “aiuterà a identificare e rimuovere atti di bullismo, aspetto cruciale poiché molte persone che hanno esperienza o lo riconoscono non lo segnalano”.
Il riconoscimento non riguarderà solo i feed e le immagini ma anche i Live video e, per sensibilizzare gli utenti, sono stati introdotti nuovi filtriattivabili nelle opzioni delle app per dispositivi mobili al fine di escludere i contenuti offensivi, continuando così un percorso già avviato lo scorso mese di maggio.
Ci sono novità anche per quanto riguarda i filtri, intesi come gli effetti da sovrapporre alle immagini. È stata introdotta la kindness camera, pensata per diffondere ottimismo e positività. L’effetto, selezionabile nella modalità selfie, sovrappone dei cuori allo schermo e incoraggia l’utente a taggare un amico affinché questo possa rispondere e diffondere gentilezza, facendo anche ricorso all’hashtag #kindcomments (commenti gentili) che dovrebbe essere da sprone.
(Immagine: Instagram)
Secondo la onlus britannica Ditch the Label, nel 2017 Instagram ha superato Facebook per quanto riguarda gli atti di bullismo. Un dato che va opportunamente considerato ma nel contempo contestualizzato: i segnali di allarme sono innegabili, ma l’indagine dell’onlus copre solo i teenager, più propensi per natura a usare Instagram e più esposti agli atti di violenza verbale.
Instagram arruola il machine learning per fermare il bullismo online
