90% des deepfakes répertoriés dans le monde sont pornographiques et utilisés comme des armes contre les femmes.

Les deepfakes sont des vidéos ou photos où ont été incrustés les traits et expressions faciales d’une personne grâce à un certain nombre de photos. Elles permettent de faire faire et dire des choses à des gens en vidéo qu’ils n’ont jamais faite ou dites.

Depuis que la technique se perfectionne, les inquiétudes sur la désinformation sont nombreuses. À ceux qui répondent que sauf produit par les géants du système, la qualité des deepfakes n’est pas au rendez-vous, on dira que la qualité des téléphones sur lesquels sont regardés ces deepfake ne sont pas non plus toujours au rendez-vous et qu’une vidéo moyenne peut parfaitement tromper un écran moyen. Depuis le début, ce n’est pourtant pas les informations ou la géopolitique qui font le plus les frais de ces vidéos, mais les femmes.

Une affaire fait pas mal de bruit au Royaume-Uni en ce moment : celle de Helen Mort, poète et animatrice radio, victime d’une campagne de harcèlement en ligne à base de fausse vidéos pornographiques d’elle. Celui qui a lancé les chiens d’Internet sur elle, avait récolté des photos sur ses réseaux sociaux y compris sur un profil Facebook pourtant supprimé. Elle a appelé la police qui lui a dit ne rien pouvoir faire.

En octobre, Wired révélait l’existence d’un bot capable de créer des deepfakes très rapidement et qui aurait touché plus de 100.000 femmes sur l’application de messagerie Telegram. Korii racontait alors que pour créer ces deepfakes, le bot les extrayait automatiquement des comptes personnels sur les réseaux sociaux, une photo est fournie au logiciel, qui ensuite la dénudait artificiellement avant de la partager dans un canal peuplé de 25.000 membres. Aux Etats Unis comme au Royaume-Unis, des mouvements réussissent enfin à se faire entendre et à militer pour l’interdiction légale des deepfakes pornographiques et non consentis.

Crédit image : Interview d’Angèle en deepfake de son frère Roméo Elvis pour Brut.