Bodyguard, l’appli française qui protège contre la haine en ligne

Bodyguard est une application qui se donne pour objectif de protéger les utilisateurs des réseaux sociaux des commentaires haineux. Disponible pour YouTube, Twitter, Twitch, Mixer et depuis peu sur Instagram, l’application a été lancée en 2017 et compte aujourd’hui plus de 27.000 utilisateurs.

Comment ça marche ?

L’application Bodyguard est disponible au téléchargement sur l’Apple store et le Google Play store. Elle offre une protection gratuite et en temps réel 24 sur 24 et 7 jours sur 7 contre les commentaires haineux que vous pourriez recevoir sur votre plateforme.

Bodyguard effectue un scan de vos comptes toutes les minutes. Plus concrètement, lors de la configuration du compte, les informations suivantes vous sont données :

Ensuite, Bodyguard fonctionne selon le réseau social à scanner :

– Sur YouTube : l’application repère en temps réel les derniers commentaires des personnes sur toutes vos vidéos, les analyse et les supprime s’ils sont considérés comme haineux envers vous (insultes, menaces, intimidation, moqueries sur le physique, etc…).
– Sur Twitter : l’application repère en temps réel les personnes qui vous mentionnent, analyse leurs Tweets, et les bloque s’ils sont haineux envers vous (insultes, menaces, intimidation, moqueries sur le physique, etc…)

Son créateur, Charles Cohen, affirme que Bodyguard :

– Distingue les fautes d’orthographes,
– Comprend le langage SMS,
– Analyse uniquement les insultes qui vous sont destinées personnellement
– Ne supprime pas la critique ou les commentaires négatifs.

Des insultes repérées malgré les fautes

Pour parvenir à masquer ou bloquer automatiquement les messages problématiques, Charles Cohen n’a pas ménagé sa peine. Depuis près deux ans, le jeune Niçois entraîne un algorithme de sa conception à reconnaître les différents types de commentaires haineux en les classant lui-même, un à un, dans différentes catégories (insultes, menaces, moqueries, homophobie, harcèlement sexuel ou moral…). Un apprentissage de mécanismes d’intelligence artificielle fastidieux, mais qui permet désormais à Bodyguard de reconnaître automatiquement une insulte malgré la présence de fautes d’orthographe ou d’astérisques placés au milieu d’un mot pour contourner la liste de mots automatiquement censurés par les plateformes.

Mais pour parvenir à bloquer ou masquer efficacement les messages malveillants, l’application Bodyguard possède une astuce que certains de ses utilisateurs trop pressés peuvent avoir ignorée, même si elle est mentionnée au moment de l’installation de l’application. Le créateur du programme passe en effet lui-même quotidiennement en revue les messages masqués par son algorithme lorsque celui-ci ne parvient pas à déterminer avec une absolue certitude qu’ils sont bien haineux.

J’inspecte environ 300 commentaires par jour, ce qui doit me prendre environ 30 minutes. Si le contenu est effectivement malveillant, je bloque manuellement l’auteur du message. Si ce n’est pas le cas, je le ‘démasque’. Charles Cohen à franceinfo

Quelle que soit leur notoriété, les utilisateurs semblent en tout cas ravis par les performances de l’application. « Je l’utilise depuis six mois, elle me permet de me concentrer sur mon boulot, et pas sur le harcèlement. Ce qui est vraiment cool parce qu’une fois arrivé à une certaine audience, les commentaires deviennent impossibles à gérer seul », se félicite Aiden, youtubeur dont la chaîne consacrée aux jeux vidéo compte plus d’1,3 million d’abonnés. Le vidéaste, qui a recensé 747 commentaires masqués à son audience car considérés comme toxiques par Bodyguard lors des deux dernières semaines, apprécie de pouvoir consulter l’application pour passer en revue la liste des contenus ciblés, et éventuellement les autoriser.

« L’idée n’est pas de censurer les commentaires négatifs, mais simplement de faire le tri entre les remarques constructives et les messages haineux », précise Samuel Skalawski, co-fondateur de l’agence Foll-ow, qui gère la carrière de jeunes youtubeurs et vedettes des réseaux sociaux. « Certains des talents dont nous nous occupons sont jeunes, et ont gagné rapidement une notoriété qui peut être difficile à gérer. Certains messages peuvent les affecter personnellement », précise l’entrepreneur, qui conseille ainsi à la plupart de ses clients d’installer Bodyguard.

« Ozsmoz » est sur la même longueur d’ondes. Après avoir dénoncé fin mars le fait de recevoir de nombreux messages privés sur Twitter au sujet de son apparence physique, cette militante féministe de 27 ans raconte à franceinfo avoir reçu « durant 72 heures des milliers d’insultes, de menaces de mort et d’appels au suicide ». Alors submergée par les attaques en ligne, la jeune femme est contactée par le compte Twitter de Bodyguard.

De nouveaux développements à venir

Sur Twitter, le directeur des affaires juridiques du moteur de recherche Qwant, Guillaume Champeau, se demande également s’il est souhaitable de passer d’une société où il est simplement considéré comme immoral « d’écrires des choses illégales » à une impossibilité totale de le faire si ce type de technologie est généralisée.

Malgré ces réserves, Bodyguard ne compte pas s’arrêter en si bon chemin. Actuellement en pleine période de levée de fonds, Charles Cohen entend très prochainement étendre son application au réseau de partage de photos et de vidéo Instagram, avant de se tourner vers le marché des entreprises.

Le jeune Niçois espère ainsi lancer en septembre une version de Bodyguard destinée aux familles. « L’idée serait d’alerter les parents si leurs enfants sont victimes ou auteurs de cyberharcèlement. C’est une solution d’actualité, et qui pourrait être financée par les assurances dans le cadre de leurs différentes offres », précise le jeune chef d’entreprise à franceinfo. Une version de l’application compatible avec l’anglais devrait suivre. Avant, peut-être, un rachat par l’un des mastodontes du web.

Victime de cyberharcèlement, des solutions pour vous aider :

L’application bloque les commentaires haineux sur Twitter, YouTube et depuis quelques jours sur Instagram mais pas sur Facebook ni les autres réseaux sociaux les plus utilisés par les adolescents comme SnapChat ou TikTok.

Si vous recevez des insultes et messages de haines de façon répétée , vous êtes victime de cyberharcèlement.

Dans ce cas, il est important d’agir et de demander de l’aide.

Comment ?

– Garder des preuves (faire des captures d’écran avec son ordinateur ou le téléphone)
– Parler à une personne de confiance.
– Faire un signalement en ligne pour stopper la diffusion du contenu inapproprié (les réseaux sociaux proposent de signaler de manière anonyme un contenu ou un utilisateur abusif)
– Contacter notre numéro vert national Net Ecoute au 0 800 200 000, sur Messenger ou sur Netecoute.fr (gratuit, anonyme et confidentiel). Notre équipe propose une aide et une prise en charge du signalement, adaptées aux jeunes victimes de cyber-harcèlement.
– Porter plainte si cela s’avére nécessaire (la loi de 4 août 2014 reconnait le harcèlement moral comme un délit et sa manifestation via les outils numériques est un élément aggravant).