ENTREPRISES & STRATÉGIES — Technologies

Face au Harcèlement ou aux dérives sexuelles

Les vigies du net au bord de la crise de nerfs



Les enfants sont des internautes de plus en plus tôt. Et de plus en plus exposés à des prédateurs. Le dialogue avec les parents doit être constant... et ces derniers doivent faire confiance à leur progéniture, assure un expert de Bee Secure. (Photo: Shutterstock)

Les enfants sont des internautes de plus en plus tôt. Et de plus en plus exposés à des prédateurs. Le dialogue avec les parents doit être constant... et ces derniers doivent faire confiance à leur progéniture, assure un expert de Bee Secure. (Photo: Shutterstock)

Pédopornographie, pornographie trash, harcèlement, manipulation: la liste des dérives d’internet et des réseaux sociaux ne cesse de s’allonger. Les vigies du net, professionnelles ou bénévoles, sont au bord d’un chaos que la technologie elle-même ne semble pas capable de régler. 

«Ce jour-là, j'ai failli tout arrêter! C'était en mars. A peu près. L'an dernier.» Chris Pinchen se penche sur son ordinateur portable, pianote une seconde et demie et désigne l'écran de la télévision, sur lequel un site s'affiche. «Tu choisis un film porno et une photo d'Emma Watson, par exemple, et tu places son visage sur une star du porno. Tu vas avoir un film porno dans lequel joue Emma Watson.»

Les charmes méconnus de l'intelligence artificielle auraient eu raison de l'expert de Bee Secure? C'est qu'il a déjà vu ce qui pourrait se passer. Comme cette gamine qui, au lycée, serait victime d'un sale coup d'autres lycéens. En deux secondes, sa vidéo deviendrait virale sur tous les smartphones. Dans un petit pays comme le Luxembourg, n'importe quel homme politique, n'importe quel chef d'entreprise ou personnalité publique pourrait se retrouver dans un de ces films sans qu'il ne soit jamais possible de l'effacer.

Effet dévastateur garanti. Sans débourser un euro. Le «revenge porn» dans toute sa splendeur.

Le porno à la base de tout

Surtout que Deep Mindy n'est pas la seule application de ce type, il en existe une ribambelle qui utilisent parfois les images des webcam girls de Live Jasmin et qui ne prennent qu'une précaution: expliquer à l'internaute que les images ne sont pas stockées sur leurs centres de données, histoire de ne pas s'exposer elles-mêmes aux foudres de la justice.

«N'importe quelle technologie peut être utilisée à des fins criminelles», lâche Pinchen dans un haussement d'épaule de lassitude. «Même si les deep fakes ont été développés pour l'industrie porno, pratiquement toutes les technologies ont été développées pour le porno!»

Pour plus d'un internaute sur deux des 4,54 milliards de personnes qui sont connectées à internet (56%), la désinformation et les fakes news sont un problème. Deux sur trois redoutent surtout que leurs données personnelles soient détournées à d'autres fins, selon le même rapport annuel de We Are Social et de Hootsuite.

Comment faire? E-du-quer! Et éduquer encore. Et éduquer toujours, rabâche l'expert. Qui se repenche sur son clavier pour montrer un autre site. «Quand les gens me demandent comment protéger leurs données, je leur montre ça!» «Ca», c'est le projet de Tactical Tech intitulé «Dating Brokers». Deux hackers allemands ont acheté cinq millions de profils de sites de rencontres pour 136 dollars. Seulement pour montrer combien les internautes en quête d'amour sur les Meetic, Badoo et autres Tinder - l'application qui rapporte le plus au monde - sont «légers» avec leurs données. Tout y est. Sur cette galerie de photos, de visages qui sourient ou de corps en partie dénudés, trente à quarante informations sensibles...

Le message est: sachant que tout ce que vous partagez avec quelqu'un, par SMS, par messagerie ou par les réseaux sociaux et autres applications, se retrouvera un jour dans le domaine public, le mieux est de ne pas partager ce que vous ne pourriez pas assumer publiquement. Même quand c'est trop tentant...

Un avenant au contrat de travail des modérateurs de YouTube

Seulement, le paysage apocalyptique que décrit Pinchen n'est qu'une toute petite partie des horreurs auxquelles sont confrontés les «éboueurs du Net», appelons-les positivement les «vigies du Net».

Au terme d'une année cauchemardesque, fin décembre, les modérateurs de YouTube ont été «invités» à signer un avenant à leur contrat de travail. «Je comprends que le contenu que j'examinerai peut être dérangeant. Il est possible que l'examen d'un tel contenu puisse avoir un impact sur ma santé mentale, et cela pourrait même conduire à un trouble de stress post-traumatique (SSPT). Je profiterai pleinement du programme weCare et demanderai des services de santé mentale supplémentaires si nécessaire. Je dirai à mon superviseur ou à mon conseiller RH si je crois que le travail affecte négativement ma santé mentale», dit le document, révélé par The Verge fin janvier .

Une action positive? Non. Un des géants les plus exposés protège ses intérêts depuis que d'autres modérateurs ont commencé à saisir la justice. Trois semaines plus tôt, début décembre, des employés de CPL Resources à Dublin, ont entamé une action en justice contre Facebook, pour lequel ils travaillent indirectement.

Le cas est bien plus grave pour le réseau social de Marc Zuckerberg que les deux premiers procès intentés en Californie, parce qu'un de ses employés a admis qu'au moins un des Irlandais présentait un risque de type SSPT de type 2, qui va jusqu'au risque de suicide.

Plus de 15.000 personnes travaillent à modérer les contenus de Facebook et depuis que la procédure a été ouverte à Dublin, ces modérateurs «low cost» à Barcelone, Berlin ou en Suède, se renseignent pour se joindre à la plainte ou en déposer une dans leurs pays, dit l'avocat des Irlandais .

Pour 25.000 dollars par mois, rien ne leur est épargné, comme ont commencé à le raconter de nombreux médias depuis deux ans . «Mon premier jour de travail, j'ai vu quelqu'un être battu à mort avec une planche de bois avec des clous dedans et être poignardé à plusieurs reprises. Le deuxième jour était la première fois que je voyais la bestialité sur vidéo - et tout s'est intensifié à partir de là.»

Une situation temporaire, aiment à croire les principales plate-forme incriminées par ces dérives. Elles assurent de plus en plus que les algorithmes vont aider à lutter contre tous les problèmes. Youtube a indiqué qu'un de ses algorithmes permettrait de lutter contre la radicalisation . Faux, répondent d'autres experts qui montrent combien la campagne pour la présidentielle américaine a déjà commencé , sur les mêmes bases que les trois ou quatre dernières.

Le problème n'est pas résolu parce qu'il n'est pas pris de la bonne manière, dit Mike Masnick dans TechDirt . «Nous avons souligné que nous devrions cesser de blâmer la technologie pour des problèmes qui sont en fait sociétaux. En effet, lorsque vous examinez de plus près presque tous les 'gros problèmes technologiques', vous avez tendance à trouver que le problème est lié aux personnes, pas à la technologie.»

Eduquer. Encore. C'est la seule méthode qui vaille pour notre expert, Chris Pinchen. «Les enfants en savent souvent beaucoup plus que les parents sur la sécurité de leur téléphone. Ne pas leur faire confiance est une erreur.» Le Safer Internet Day sera une nouvelle fois, mardi prochain, l'occasion de répéter les consignes d'hygiène numérique... que personne ne suit avant de s'en plaindre. Mettant les vigies du net au bord de la crise de nerfs.