La plate-forme de messagerie basée sur le cloud Telegram est un foyer pour deepfakes pornographiques, selon une enquête de sécurité menée par Sensity. L’analyse décrit le messager crypté de bout en bout comme un « écosystème deepfake » où les robots sont capables de transformer des photos de tous les jours de personnes en contenu « dénudé », en particulier de femmes.
Ces robots sont alimentés par l’intelligence artificielle, par Sensity, et effectuent des actions de « décapage » d’une photo sans vêtements, souvent à des fins d’humiliation et d’extorsion publique. L’entreprise décrit ce processus comme une sorte de fonction d’édition qui peut être facilement utilisée par les propriétaires de smartphones et d’ordinateurs traditionnels. Tout ce qu’ils ont à faire est de récupérer une photo de leur galerie d’images personnelle et de permettre aux robots de générer le deepfake. Ces photos peuvent provenir de n’importe où et de n’importe où sur Internet.
Ce que Sensity a trouvé — Voici les principales conclusions de Sensity :
- La société a découvert des robots créant des images qui ont ciblé 104 852 femmes à ce jour.
- Ces images ont ensuite été propagées sur toute la plate-forme jusqu’à la fin juillet de cette année.
- Au cours des trois derniers mois seulement, ces deepfakes ont augmenté de 198 %.
- Au moins 70 pour cent des personnes ciblées ont vu leurs images braconnées sur les réseaux sociaux ou d’autres sources privées.
- Certaines de ces victimes étaient mineures.
- Sur le plan démographique, la société a constaté que Telegram avait reçu de la publicité du site Web russe VK tandis que le deepfake bot avait recueilli la participation de 101 080 personnes. Pour exacerber les choses, les bots fonctionnent gratuitement. Les utilisateurs n’ont rien à payer à moins qu’ils ne souhaitent que le filigrane soit supprimé, ce qui ne prend que 1,50 $ au maximum.
Comment fonctionnent ces bots — Dans les rapports précédents, Contribution a expliqué comment les robots sont capables de générer leurs propres images à partir de sources originales telles que des photos et des vidéos. Dans le cas des bots deepfake de Telegram, ces bots s’appuient sur les réseaux accusatoires génératifs mentionnés précédemment. Ils dépouillent l’image originale de la femme vêtue pour une « approximation réaliste » de l’anatomie de l’individu.
Ce type de synthèse dépend de la capacité du bot à deviner efficacement les parties du corps et la taille de l’individu. Bien sûr, pour que cela fonctionne « parfaitement », ces robots sont entraînés sur de grandes quantités de données visuelles liées au corps des femmes.
C’est une mauvaise nouvelle pour Telegram. Le réseau a déjà une réputation douteuse grâce aux suprémacistes blancs utilisant fréquemment le messager. Maintenant, avec des robots qui fabriquent de faux nus avec des personnes sans méfiance, y compris des mineurs, le programme de messagerie ne fait que consolider son image de plate-forme profondément compromise.
