YouTube et les recommandations violentes pour enfants : une réalité préoccupante

Une étude récente menée par un centre de recherche et d’information américain a mis en lumière un problème alarmant : l’algorithme de YouTube est capable de recommander rapidement du contenu violent à des enfants. Les résultats de cette étude soulèvent de sérieuses préoccupations quant à la sécurité des jeunes utilisateurs de la plateforme.

Des recommandations de contenu violent

Pendant une période d’un mois, quatre comptes YouTube « test » ont été créés afin d’évaluer le comportement de l’algorithme de recommandation. Deux de ces comptes étaient ceux d’enfants âgés de 9 ans, qui visionnaient des vidéos portant sur des jeux tels que Lego Star Wars, Roblox, Among Us et Uncharted 4. Les deux autres comptes appartenaient à des adolescents de 14 ans, qui se sont intéressés à des vidéos sur des jeux tels que GTA, Halo, Call of Duty et Red Dead Redemption.

Les chercheurs ont rapidement constaté que les recommandations de contenu violent étaient systématiques pour tous ces comptes. Parmi les vidéos proposées, figuraient des scènes de violence fictives, telles que des fusillades dans des écoles, des démonstrations d’armes à feu et même des tutoriels sur la transformation d’un pistolet en arme automatique. Plus inquiétant encore, lorsque ces vidéos étaient visionnées, les recommandations suivantes devenaient jusqu’à 10 fois plus violentes. Au total, plus de 1 325 vidéos sur les armes à feu ont été recommandées au jeune de 14 ans au cours de ce mois, et 382 vidéos du même type ont été recommandées à l’enfant de 9 ans. Ces chiffres sont particulièrement troublants compte tenu de la popularité de YouTube chez les enfants américains âgés de 13 à 17 ans.

Il est important de souligner que cette situation est en violation directe de la politique de YouTube, qui interdit les « contenus violents ou sanglants destinés à choquer les spectateurs ou leur inspirer du dégoût », ainsi que les vidéos montrant des « actes dangereux ou pernicieux impliquant des mineurs ». Malheureusement, ces recommandations violentes parviennent à contourner les mesures de sécurité mises en place par la plateforme.

Les parents et les défenseurs de la sécurité en ligne des enfants doivent être conscients de cette réalité inquiétante. Alors que YouTube s’est engagé à mettre en place des mesures pour protéger les utilisateurs les plus jeunes, cette étude montre qu’il reste encore beaucoup à faire. Il est essentiel que YouTube revoie et améliore son algorithme de recommandation afin de prévenir l’exposition des enfants à des contenus violents.

La sécurité en ligne des enfants doit être une priorité

En attendant que des actions concrètes soient prises, il incombe aux parents et aux éducateurs de surveiller attentivement l’utilisation de YouTube par les enfants. Des filtres parentaux, des contrôles de contenu et une communication ouverte sur les risques associés aux vidéos en ligne peuvent aider à minimiser l’exposition des enfants à des contenus inappropriés.

Il est essentiel que les plateformes en ligne prennent leurs responsabilités en matière de protection des enfants et veillent à ce que leurs algorithmes de recommandation soient sécurisés et appropriés pour tous les utilisateurs, en particulier les plus jeunes. La sécurité en ligne des enfants doit être une priorité absolue, et des mesures immédiates doivent être prises pour résoudre ce problème croissant des recommandations violentes sur YouTube.