Microsoft lance un outil pour identifier les prédateurs sexuels d'enfants en ligne

L'outil, nommé Project Artemis, est conçu pour rechercher les modes de communication utilisés par les prédateurs pour cibler les enfants.


Protéger les enfants des prédateurs sexuels

Microsoft a développé un système automatisé pour identifier les tentatives des prédateurs sexuels de séduire les enfants dans les fonctions de chat des jeux vidéo et des applications de messagerie, a annoncé la société mercredi.
L'outil, dont le nom de code est Project Artemis, est conçu pour rechercher les modèles de communication utilisés par les prédateurs pour cibler les enfants.
Si ces modèles sont détectés, le système signale la conversation à un examinateur de contenu qui peut déterminer s'il faut contacter les forces de l'ordre.
Courtney Gregoire, le directeur de la sécurité numérique de Microsoft, qui a supervisé le projet, a déclaré dans un article de blog qu'Artemis était un "pas en avant significatif" mais "en aucun cas une panacée".
" L'exploitation et les abus sexuels d'enfants en ligne et la détection de la sollicitation d'enfants en ligne sont des problèmes importants ", a-t-elle dit. "Mais nous ne sommes pas découragés par la complexité et l'intrication de ces problèmes."
Microsoft a testé Artemis sur Xbox Live et la fonction de chat de Skype. A partir du 10 janvier, il sera distribué gratuitement à d'autres sociétés par l'association Thorn, qui développe des outils pour prévenir l'exploitation sexuelle des enfants.

Détection automatique des techniques d'approche des prédateurs sexuels

L'outil arrive au moment où les entreprises technologiques développent des programmes d'intelligence artificielle pour lutter contre divers défis posés par l'ampleur et l'anonymat de l'Internet.
Facebook a travaillé sur l'intelligence artificielle pour mettre fin à la pornographie de vengeance, tandis que Google l'a utilisée pour trouver l'extrémisme sur YouTube.
Les jeux et les applications populaires auprès des mineurs sont devenus des terrains de chasse pour les prédateurs sexuels qui se font souvent passer pour des enfants et tentent d'établir des rapports avec de jeunes cibles. En octobre, les autorités du New Jersey ont annoncé l'arrestation de 19 personnes accusées d'avoir tenté d'attirer des enfants à des fins sexuelles par le biais de médias sociaux et d'applications de chat à la suite d'une opération d'infiltration.
Microsoft a créé Artemis en collaboration avec le jeu en ligne pour enfants Roblox, l'application de messagerie Kik et le Meet Group, qui propose des applications de rencontre et d'amitié, notamment Skout, MeetMe et Lovoo. La collaboration a débuté en novembre 2018 lors d'un hackathon Microsoft axé sur la sécurité des enfants.
Artemis s'appuie sur un système automatisé que Microsoft a commencé à utiliser en 2015 pour identifier la tentative d'approche d'enfants sur Xbox Live, en recherchant des modèles de mots clés et de phrases associés à la séduction. Cela inclut les interactions sexuelles, ainsi que les techniques de manipulation telles que le détachement des amis et de la famille.
Le système analyse les conversations et leur attribue une note globale indiquant le risque d'approche d'un prédateur. Si cette note est suffisamment élevée, la conversation sera envoyée aux modérateurs pour examen. Ces employés examinent la conversation et décident s'il y a une menace imminente qui doit être signalée aux autorités policières ou, si le modérateur constate une demande d'images d'exploitation ou d'abus sexuels d'enfants, il communique avec le National Center for Missing and Exploited Children.
Le système signalera également les cas qui pourraient ne pas atteindre le seuil d'une menace imminente ou d'une exploitation, mais qui violent les conditions de service de l'entreprise. Dans ces cas, un utilisateur pourrait voir son compte désactivé ou suspendu.
La façon dont Artemis a été développé et licencié est similaire à PhotoDNA, une technologie développée par Microsoft et le professeur Hany Farid du Dartmouth College, qui aide les forces de l'ordre et les entreprises de technologie à trouver et à supprimer les images connues d'exploitation sexuelle d'enfants. PhotoDNA convertit les images illégales en une signature numérique connue sous le nom de " hash " qui peut être utilisée pour trouver des copies de la même image lorsqu'elles sont téléchargées ailleurs. Cette technologie est utilisée par plus de 150 entreprises et organisations, dont Google, Facebook, Twitter et Microsoft.
Pour Artemis, les développeurs et les ingénieurs de Microsoft et des partenaires impliqués ont alimenté des exemples historiques de modèles de séduction qu'ils avaient identifiés sur leurs plateformes dans un modèle d'apprentissage machine pour améliorer sa capacité à prédire des scénarios de séduction potentiels, même si la conversation n'était pas encore ouvertement sexuelle. Il est courant que les tentatives de séduction commencent sur une plateforme avant de passer à une autre plateforme ou à une application de messagerie.
Emily Mulder, du Family Online Safety Institute, un organisme sans but lucratif qui aide les parents à assurer la sécurité de leurs enfants en ligne, a accueilli favorablement l'outil et a souligné qu'il serait utile pour démasquer les prédateurs adultes qui se font passer pour des enfants en ligne.
" Des outils comme Project Artemis permettent de suivre les tendances verbales, peu importe qui vous prétendez être lorsque vous interagissez avec un enfant en ligne. Ce genre d'outils proactifs qui utilisent l'intelligence artificielle va être très utile à l'avenir."
Cependant, elle a averti que les systèmes d'IA peuvent avoir du mal à identifier les comportements humains complexes. "Il y a des considérations culturelles, des barrières linguistiques et une terminologie argotique qui rendent difficile l'identification précise du toilettage. Il faut l'associer à la modération humaine."

Date de création : 2020-01-17
Auteur :

0 Avis

Pas encore d'avis.

Déposer un avis

CGU - Gralon - Confidentialité
Accéder au site complet
© Gralon 2011-2020