Il y a six mois, le réseau social de la GenZ Yubo, en pleine expansion, annonçait l’ouverture de son bureau à New York. Mais aujourd’hui, le Français se retrouve au milieu d’une actualité beaucoup plus difficile, celle de la fusillade d’Uvalde au Texas. Selon les informations disponibles à cette heure, l’auteur des faits, un jeune homme de 18 ans appelé Salvador Ramos, était un utilisateur de Yubo et aurait professé des menaces sur le réseau social, qui auraient été rapportées par d’autres utilisateurs, sans conséquence.
Menaces de viol et d’attaque sur une école
CNN rapporte que le jeune homme est entré en contact avec des jeunes filles et, à plusieurs reprises, les a menacées de les violer, a envoyé une photo de son arme qui a servi à la fusillade ainsi que le reçu de 2.000 dollars de son achat en ligne auprès d’un fabricant en Géorgie. Hannah, une jeune fille de 18 ans basée en Ontario au Canada, rapporte qu’au cours d’un échange vidéo, Salvador Ramos aurait montré brièvement son arme avec sa caméra. Il aurait aussi indiqué ses projets d’attaquer une école élémentaire sur le réseau social.
Un profil signalé à trois reprises
Au moins trois utilisateurs auraient signalé ces commentaires à Yubo, mais après une interdiction temporaire, ce dernier serait revenu sur la plateforme. Une Allemande de 15 ans rapporte que ses échanges avec le jeune homme ont continué par SMS et Facetime, et selon les dernières captures d’écran, ce dernier aurait dit qu’il avait tiré sur sa grand-mère dans la tête et allait faire une fusillade dans une école élémentaire. L’heure d’envoi correspond à une quinzaine de minutes avant le début des coups de feu signalés à la police.
L’enquête du FBI est en cours et, de son côté, Yubo a indiqué ne pas pouvoir donner de détails : « Nous collaborons pleinement avec les forces de l’ordre. Afin de ne pas entraver les efforts déployés durant l’enquête en cours, nous gardons les informations sur les données personnelles et les activités de nos utilisateurs confidentielles. » Le réseau social français, qui compte 60 millions d’utilisateurs dans le monde dont plus de 20 millions aux États-Unis, assure bannir les commentaires haineux, les menaces et agressions sexuelles et surveille toutes les discussions vidéos en direct, via l’intelligence artificielle et un dispositif humain.
Yubo avait déjà subi la controverse ces dernières années lorsque des hommes majeurs ont utilisé la plateforme pour entrer en contact avec des mineures et leur demander des photos et messages explicites, voire une rencontre. Selon CNN, plusieurs hommes ont été arrêtés au Kentucky, dans le New Jersey et en Floride. Le mois dernier, la police de l’Indiana a sollicité des informations sur un utilisateur de Yubo au sujet du meurtre de deux adolescentes.
Nouvelles mesures d’identification
Une semaine seulement avant cette attaque, Yubo a annoncé de nouvelles mesures d’identification, où les utilisateurs doivent envoyer leur photo et leur âge, une étape vérifiée par une intelligence artificielle. « Nous adoptons une approche proactive pour perfectionner et développer des mesures de protection pour nos utilisateurs lorsqu’ils sont sur l’application et donnons avant tout la priorité à l’innovation en matière de sécurité, explique l’entreprise. Ces mesures incluent un système de signalement accessible, la vérification de l’âge et de l’identité, ainsi qu’une combinaison d’outils de détection IA et de modération humaine. Ces filtres d’IA avancés surveillent au quotidien non seulement les discussions dans le chat et les messages privés, mais aussi les vidéos partagées durant les lives en faisant des captures d’écran seconde par seconde et en signalant en temps réel les contenus suspects aux modérateurs humains. »
Et après cette terrible actualité, le groupe compte aller plus loin et annoncer « dans les prochains jours, des informations détaillées sur les nouvelles initiatives entreprises afin de renforcer encore plus ces mesures ».
