see Messages haineux, injures journalières et humiliations volontaires sont le quotidien de ces milliers de jeunes adolescents qui sont victimes de cyber harcèlement. Selon les sources « education.gouv » 1 jeune sur 5 serait harcelé en France et 60 d’entre eux se suicideraient chaque année.

Deux chercheuses se sont lancé le défi de faire rempart à cela en développant une IA « intelligence artificielle » ayant pour but de détecter le cyber harcèlement via les échanges présentA sur les réseaux sociaux.  Elena Cabrio et Serena Villata, chercheuses à l’université Côte d’azur, à Sophia Antipolis décortiquent Facebook, Instagram et Snapchat afin d’en extraire des comportements, des combinaisons de mots, qui serait émis de façon répétée, afin d’en déterminer une attaque, un cyber harcèlement, éventuels.

« Nous travaillons sur la détection de cyber harcèlement dans les textes, explique Elena Cabrio, maître de conférences. L’outil que l’on développe nous permet de le détecter dans les échanges sur les réseaux sociaux. »

La finalité étant qu’une fois ce comportement détecté, un chatbot, soit  créé entre la victime, le harceleur et un psychologue afin de résoudre le problème.

« On a des algorithmes d’apprentissage, précise Serena Villata, chargée de recherches. A chaque fois qu’un gros mot est prononcé, il n’y a pas forcément harcèlement. On regarde surtout la thématique de la phrase, l’agressivité… »

A Sophia-Antipolis, Elena Cabrio et Serena Villata poursuivent la deuxième partie de ce projet européen nommé CREEP. Après les mots, elles s’attaquent désormais aux images. « Le message d’insulte et le cyber harcèlement arrivent aussi dans l’image, pointe Serena Villata. On veut que l’intelligence artificielle comprenne ce qu’il y a à l’intérieur. » Dans le même temps, les chercheuses travaillent sur les versions italienne, anglaise… et bientôt française.

Un beau projet, qui pour le moment n’est certes qu’au stade de prototype, mais qui pourrait grandement aider la résolution de cette problématique qu’est le cyber-harcèlement.

Source : https://www.20minutes.fr/high-tech/2354359-20181015-nice-chercheuses-utilisent-intelligence-artificielle-contre-harcelement