de nouveaux filtres… pour éviter les messages privés problématiques

Sur Instagram, les utilisateurs, que leur compte soit privé ou public, peuvent recevoir des messages privés, ou des demandes d’engager des conversations par messages privés, émanant de parfaits inconnus. Cette fonctionnalité de discussion (présente dans la partie de l’application appelée « Instagram Direct ») peut parfois se transformer en cauchemar : les utilisateurs peuvent se retrouver face à des spams sexuels, émanant de faux comptes, ou face à des insultes sexistes, racistes, homophobes, sollicitations sexuelles non désirées, menaces de viol ou de mort…

Pour lutter contre la prolifération de ces messages problématiques, et éviter qu’ils soient lus ou consultés par des utilisateurs qui auraient préféré ne pas les lire, Instagram (propriété de Facebook) a annoncé dans un communiqué, mercredi 21 avril, de nouvelles options de filtrage de ces messages privés.

Un filtre personnalisé

Dans les prochaines semaines, les utilisateurs de certains pays auront droit à « un nouvel outil qui, une fois activé, filtrera automatiquement les demandes de messages directs contenant des mots, des expressions et des émojis offensants ». Cette option sera disponible pour « les demandes de messages directs », qui viennent des personnes avec qui l’utilisateur n’a pas déjà eu de contacts (abonnements mutuels, discussions privées…) sur le réseau social. « C’est là que se concentrent les contenus abusifs, contrairement à votre messagerie directe dans laquelle vous recevez des messages de vos amis », précise Instagram.

Une fois le filtre activé, les messages insultants reçus ne seront pas supprimés définitivement, mais placés dans un dossier moins visible. Chaque utilisateur pourra également personnaliser la liste des mots à filtrer automatiquement en fonction de ses envies. « Nous savons que différents mots peuvent être blessants pour différentes personnes. Chacun pourra contrôler son expérience », explique la responsable des affaires publiques du réseau dans le communiqué.

Cet outil ne sera d’abord disponible que pour les utilisateurs de sept pays, dont le Royaume-Uni, la France, l’Irlande, l’Allemagne, l’Australie, la Nouvelle-Zélande et le Canada. « C’est dans ces pays qu’il y a eu des personnalités publiques, notamment des footballeurs, qui ont été victimes d’abus et de termes offensants dans les messages directs », a précisé à l’AFP Clotilde Briend, responsable des politiques publiques chez Instagram.

En France, Facebook dit avoir travaillé avec l’association Génération numérique, spécialiste des questions du harcèlement en ligne, pour bâtir une liste d’une dizaine de mots, expressions ou émojis offensants. Cette nouvelle fonctionnalité disponible uniquement sur Instagram pourrait ensuite être étendue aux autres messageries populaires du groupe Facebook : Messenger et WhatsApp.

Bloquer tous les comptes d’un harceleur

Depuis plusieurs années, Instagram propose déjà de filtrer automatiquement les commentaires haineux publiés sous les photos. « Nous sommes en train de travailler à ce que le filtre puisse masquer les termes offensants qui ont été mal orthographiés », ajoute la directrice des affaires publiques. Il est en effet commun que des internautes écrivent des insultes en oubliant ou en inversant à dessein des lettres afin de tromper les algorithmes de censure. Ce filtre intelligent sera, par la suite, intégré aux messages privés.

Parmi les autres nouveautés mises en place par Instagram pour limiter de potentiels problèmes, les utilisateurs pourront également bloquer tous les comptes créés par une même personne et dont ils ne souhaitent pas voir les messages. En effet, la création de plusieurs comptes est une mécanique assez répandue chez les cyberharceleurs, car, dès que l’un de leurs comptes est suspendu, ils peuvent sans problème continuer leur activité sur un autre compte.

« Diffuser plus de gentillesse sur Instagram »

Depuis plusieurs années, Facebook et sa famille d’applications et plates-formes sociales multiplient les initiatives pour éviter que leurs utilisateurs ne soient confrontés au harcèlement en ligne. Dès son arrivée en octobre 2018, le nouveau patron d’Instagram en avait fait son cheval de bataille : « Le harcèlement en ligne est un phénomène complexe, et nous avons encore du travail pour le limiter et diffuser plus de gentillesse sur Instagram », expliquait Adam Mosseri, dans son premier message aux utilisateurs.

Avec la hausse du temps passé sur les écrans et les réseaux due aux nombreux confinements, la pression des autorités publiques s’est particulièrement renforcée cette année, il est temps que les plates-formes s’attaquent avec plus de fermeté aux problématiques de haine en ligne.