Transcription automatique. Certains mots ou noms propres peuvent être inexacts.
[00:00]
Imaginez découvrir votre visage dans une vidéo intime que vous n'avez jamais tournée.
[00:05]
Pourtant, cette scène n'a jamais existé.
[00:07]
Mr Deepfakes devient l'un des plus grands réseaux de pornographies non consensuelles au monde.
[00:13]
Plus de 2 milliards de visionnements, près de 70 000 vidéos,
[00:18]
et l'un de ses principaux administrateurs demeure introuvable.
[00:21]
Au cœur de l'enquête, des internautes, des journalistes et, de façon inattendue,
[00:26]
Paris Hilton, qui se cache derrière le site Mr Deepfakes.
[00:31]
Bienvenue à Distorsion.
[00:43]
Sébastien Lévesque, comment ça va aujourd'hui?
[00:45]
Ça va bien, et toi, Emile Gauthier?
[00:46]
Ça va très bien. J'espère que vous allez bien, vous aussi, les Distordieux,
[00:50]
parce qu'on inaugure notre nouveau studio.
[00:53]
Oui!
[00:53]
Oui, on voulait vous montrer ça.
[00:55]
Dans le fond, on a travaillé fort tout l'été, moi et Seb, on s'est bien salis,
[01:00]
on a peinturé, on a investi dans de l'équipement,
[01:05]
parce qu'on avait envie de, vous savez, ça va être nos 10 ans en 2027.
[01:10]
Puis pour nos 10 ans, on vous laisse gâter un peu,
[01:12]
puis on avait envie de faire un virage vidéo.
[01:16]
Donc maintenant, les épisodes de Distorsion vont être filmés.
[01:20]
Donc vous pouvez dès maintenant vous abonner à notre chaîne YouTube,
[01:24]
c'est là que ça va se passer, mais aussi sur les plateformes de podcasts,
[01:28]
parce que Spotify, Apple Podcasts vont intégrer,
[01:31]
c'est déjà le cas au niveau de Spotify,
[01:33]
mais ça va être plus largement disponible au courant des prochains mois.
[01:38]
Puis maintenant, même sur Apple Balado, l'application de Balado,
[01:42]
il va y avoir des podcasts en vidéo.
[01:44]
Donc vous allez pouvoir nous regarder là, évidemment.
[01:47]
Mais ceci dit, on ne va pas négliger la version audio pour autant.
[01:51]
Donc on va toujours être disponible en audio.
[01:53]
Nos épisodes sont conçus pour être écoutables en audio.
[01:59]
Donc moi, personnellement, je suis un peu plus un gars d'audio,
[02:02]
je dois dire, je consomme mes Balado en audio.
[02:04]
Oui, moi aussi, principalement.
[02:06]
Oui, mais l'avantage de la vidéo, c'est que vous allez avoir des images, des inserts.
[02:13]
Lorsqu'on va parler par exemple d'une vidéo particulière,
[02:15]
on va pouvoir insérer la vidéo, des extraits, des choses comme ça.
[02:18]
Donc il va y avoir quand même de l'info complémentaire qui va être disponible.
[02:23]
Oui, ça va être un gros plus pour vous.
[02:25]
Puis souvent, c'est ça, le podcast audio, c'est le fun,
[02:29]
mais ça manque de visuel parfois.
[02:31]
Donc on tente de décrire le plus possible les choses quand c'est pertinent.
[02:35]
Mais là, enfin, vous allez pouvoir le voir directement.
[02:38]
Exactement, donc ça risque d'être très intéressant.
[02:41]
On commence comme ça humblement.
[02:43]
On va s'améliorer avec le temps, vous allez voir.
[02:47]
Là, on est encore en train d'aménager notre espace.
[02:49]
D'ailleurs, il y a des choses qu'on a mis sur nos murs,
[02:52]
notamment cette création ici d'un auditeur qui nous avait amené ça à Gatineau il y a longtemps.
[02:59]
Donc un panneau de distorsion fait en liège.
[03:02]
On en a aussi un de notre ami Simon de Québec qui est imprimé en 3D.
[03:08]
Donc, s'il y a des créations, si vous, vous avez fait des créations de distorsion,
[03:11]
ça va nous faire plaisir de les afficher en studio aussi.
[03:15]
Faites-nous signe.
[03:17]
Puis aussi, il ne faut pas oublier, non seulement la vidéo,
[03:19]
c'est un gros changement pour nous,
[03:20]
mais en plus Seb, on va faire plus de contenu.
[03:24]
Oui, beaucoup plus de contenu.
[03:26]
Oui. Parles-nous en donc un peu.
[03:27]
Oui, bien oui. En fait, vous le savez, généralement,
[03:30]
notre routine depuis plusieurs saisons, c'est d'un épisode à chaque deux semaines.
[03:35]
On fait des saisons, on arrête un peu avant l'été, on arrête dans le temps des fêtes.
[03:39]
Mais là, on veut accélérer la cadence.
[03:42]
On veut avoir un épisode par semaine.
[03:45]
Donc prendre le moins de pause possible, peut-être un petit peu dans le temps des fêtes et tout ça.
[03:50]
Mais sinon, vous allez avoir un rythme assez effréné,
[03:54]
plus d'une quarantaine d'épisodes par année même.
[03:56]
On aimerait monter jusqu'à cinquante parce qu'on a des formats qu'on veut exploiter,
[04:02]
plus le format interview qu'on aimerait bien développer aussi.
[04:06]
Donc, ça va faire partie des nouveaux contenus qu'on va avoir.
[04:09]
Donc, techniquement, par mois, on devrait avoir trois épisodes réguliers
[04:12]
et un épisode d'interview.
[04:14]
C'est ce qu'on vise, peut-être qu'il y en aura plus aussi.
[04:17]
Mais il n'y en aura pas moins, ça, c'est certain.
[04:19]
Puis on veut éclater les formats aussi.
[04:21]
Vous avez vu passer cet été, possiblement, la vidéo sur Sister Aung,
[04:27]
cette Chinoise qui a arnaqué plus de 1600 hommes.
[04:30]
C'est un petit format qui est un peu plus documentaire, tout ça.
[04:33]
Mais on va profiter justement de notre studio pour tourner des vidéos comme ça aussi.
[04:39]
Donc, c'est un peu ça l'objectif, c'est de se donner un genre de terrain de jeu
[04:42]
où on peut faire un peu ce qu'on veut puis créer du contenu.
[04:45]
Puis ça veut dire aussi deux fois plus de contenu disponible au public.
[04:50]
Ça veut dire aussi deux fois plus de contenu sur Patreon.
[04:54]
Parce que là, on n'arrête pas, on continue avec les after-shows.
[04:58]
Donc, ça veut dire que si on fait quatre épisodes par mois, c'est notre objectif.
[05:02]
On verra si on est capable de maintenir le rythme aussi.
[05:06]
Au début, il faut s'adapter et tout ça.
[05:07]
C'est un workflow différent, la vidéo.
[05:10]
Mais oui, c'est ça.
[05:11]
Donc, en théorie, il va y avoir des after-shows pour tout ça.
[05:14]
Donc, ça fait au moins quatre after-shows des primeurs sur Patreon par mois.
[05:19]
Donc, on vous encourage à rejoindre notre Patreon aussi.
[05:22]
Parce qu'il va vraiment avoir énormément de contenu qui vont popper là-dessus
[05:27]
au courant des prochaines semaines.
[05:29]
On fait beaucoup de blablas, on voulait prendre le temps un peu de vous parler
[05:33]
de ce qu'on a fait cet été, puis des développements,
[05:35]
puis comment on enligne les prochaines saisons.
[05:37]
Mais oui, tenez-vous bien, la salle des nouvelles est bien chaude
[05:42]
et puis on devrait sortir plein de contenus dans les prochaines semaines.
[05:46]
On est très excités.
[05:47]
On a aussi, la famille s'agrandit, on va travailler au niveau du montage
[05:51]
avec notre ami Julie et son équipe.
[05:54]
On a Ben aussi qui est avec nous, qui est un peu notre régisseur.
[05:59]
Ben qui éventuellement aura peut-être un micro et une caméra.
[06:03]
C'est bon, jamais.
[06:04]
Mais qui nous donne un coup de main sur place avec nous.
[06:07]
Donc, on est bien entouré.
[06:08]
On a toujours Marianic à la recherche.
[06:10]
Oui, exactement.
[06:11]
Et on poursuit, puis on est très excités pour la saison qui s'en vient.
[06:15]
Ceci dit, on vous invite aussi à checker nos prochaines dates de spectacle.
[06:19]
Je ne veux pas en parler non plus pendant une heure,
[06:21]
mais au DistorsionPodcast.com, vous allez voir.
[06:24]
On va être à Varennes, à Saint-Jean-sur-Richelieu, à Lévis cet automne.
[06:28]
Aussi Drummondville pour l'Halloween.
[06:30]
Ça risque d'être vraiment cool, le show d'Halloween qu'on va faire à Drummondville.
[06:34]
Et Saint-Eustache en 2027.
[06:36]
Il y a plein d'autres dates qui vont s'ajouter.
[06:39]
Restez à l'affût.
[06:40]
Et puis, pour aussi nos 10 ans, on risque de faire des événements bien spéciaux.
[06:44]
Donc, on vous tient au courant là-dessus.
[06:46]
Mais aujourd'hui, Seb, pour le premier épisode de notre nouvelle saison, saison 12,
[06:52]
Mister Deep Fake, c'est un sujet que toi t'as creusé beaucoup.
[06:55]
Oui, oui.
[06:56]
On va parler du monde de la Deep Fake, des vidéos truquées,
[07:00]
de l'utilisation non consensuelle des images.
[07:04]
Et comment des enquêteurs du web, à quelque part,
[07:07]
ont réussi à aller au fond du rabbit hole.
[07:09]
Oui, remonter la trace.
[07:10]
Ça, c'est dans nos cas préférés.
[07:12]
Il y a des tonnes de traces numériques.
[07:14]
Et ce sont les traces numériques qui ont permis du moins d'aboutir à l'enquête.
[07:19]
Puis c'est encore en cours, cette enquête-là,
[07:22]
d'une certaine façon, de Mister Deep Fake.
[07:25]
Il faut toujours se méfier de qui a l'air nos voisins.
[07:29]
Les gens qu'on considère comme ordinaires, des fois,
[07:32]
on sait jamais qu'est-ce qu'ils font dans leur sous-sol,
[07:36]
dans leur temps libre, en fait.
[07:39]
Donc ça peut être assez surprenant, vous allez voir,
[07:41]
quand on va creuser au niveau de l'enquête.
[07:43]
Et c'est un cas qui est principalement canadien,
[07:46]
d'une certaine façon, même s'il y a eu des victimes un peu partout dans le monde.
[07:51]
J'ai vraiment hâte de plonger avec vous là-dedans
[07:54]
parce que les enquêteurs de sources ouvertes,
[07:58]
tant qu'on dit, les gens qui ont fouillé sur le web,
[08:01]
ont réussi, pendant plusieurs années, à remonter la face.
[08:06]
Puis se sont affiliés de vrais journalistes
[08:09]
pour développer un gros dossier d'enquête
[08:11]
puis d'arriver à mettre le doigt sur un des administrateurs de Mister Deep Fake.
[08:17]
Ben oui, on va parler des Bellingcat, entre autres,
[08:20]
ce groupe d'enquêteurs du web.
[08:22]
Ça risque d'être très intéressant.
[08:23]
Donc Seb, je pense qu'on en a assez dit.
[08:25]
Est-ce qu'on est prêt à se lancer
[08:27]
dans l'histoire extrêmement troublante de Mister Deep Fake?
[08:30]
Oui, mais…
[08:32]
Juste avant, Emile, un gros merci à Fizz
[08:34]
qui commandit cet épisode.
[08:36]
Parce qu'aujourd'hui, on plonge dans Mister Deep Fake,
[08:39]
qui est un immense site de deep fakes pornographiques
[08:42]
qui a cumulé des milliards de vues.
[08:44]
Mais derrière un site de cette taille-là,
[08:46]
il y a forcément des gens, une structure, des traces.
[08:49]
Notre question aujourd'hui, c'est
[08:51]
qui se cache réellement derrière Mister Deep Fake?
[08:54]
Comme quoi sur Internet?
[08:56]
Ben, tu ne sais pas toujours qui est derrière les commandes
[08:59]
et puis qui est-ce qui contrôle les réseaux comme ça?
[09:02]
Exact, mais avec Fizz,
[09:04]
que ce soit pour ton mobile, ton Internet ou ta télé,
[09:07]
eh bien c'est toi qui gardes les commandes.
[09:09]
Tout se gère en ligne
[09:10]
et les membres peuvent personnaliser leur forfait selon leurs besoins.
[09:14]
Et côté mobile, Seb,
[09:16]
le prix de ton forfait reste le même tant que tu ne le modifies pas.
[09:20]
En plus, les données inutilisées sont automatiquement reportées au mois suivant.
[09:25]
Ça, j'aurais aimé ça avoir ça pendant mes études.
[09:27]
C'est clair, ça n'existait pas avant ça.
[09:29]
Non, exact.
[09:30]
Et si vous activez un premier forfait Fizz avec le code PODZZ,
[09:37]
vous profitez d'une prime de référence de 25 $,
[09:40]
10 GB de données mobiles gratuites et d'un mois d'Internet gratuit.
[09:45]
Rendez-vous au fizz.ca.
[09:47]
Et maintenant, Seb,
[09:49]
sommes-nous prêts à attaquer l'histoire troublante de Mister Deep Fakes?
[09:53]
Oui, monsieur!
[09:54]
Tu vas voir, Emile, ce qui est fascinant aujourd'hui,
[09:57]
et ça, j'ignorais ça, c'est qu'une partie de la technologie des Deep Fakes,
[10:02]
tout l'ensemble, pas juste le nom consensuel,
[10:04]
a été créée à Montréal d'une certaine façon.
[10:07]
Parce qu'avant d'aller là, enfin, on le sait,
[10:09]
la manipulation d'images, ça n'a rien de nouveau.
[10:12]
Depuis que l'humain est capable de capturer la réalité,
[10:15]
il est aussi capable de la falsifier.
[10:17]
Et à la fin du 19e siècle,
[10:20]
les fameuses photographies de fantômes font sensation à cette époque-là
[10:23]
et grâce à un simple truc de double exposition,
[10:26]
eh bien, il y a certains photographes qui prétendent
[10:28]
immortaliser l'esprit de proches décédés.
[10:31]
Puis il y a des milliers de personnes qui y croient.
[10:33]
Donc déjà, à cette époque, une image suffit à convaincre les gens.
[10:37]
Oui, les fameuses photos de fantômes.
[10:39]
Oui, exactement.
[10:40]
Oui, toutes les fantômes ont juste existé avant l'avenue du numérique.
[10:43]
C'est ça, on n'en voit plus depuis.
[10:45]
Et quelques décennies plus tard,
[10:47]
ce ne sont plus les médiums qui manipulent les photos,
[10:50]
ce sont les gouvernements.
[10:51]
Par exemple, sous Joseph Stalin, en Union soviétique,
[10:55]
il y a des opposants politiques qui étaient tombés en disgrâce
[10:57]
comme Léon Trotsky ou Nikolai Leïov, si je le prononce bien,
[11:02]
qui disparaissent non seulement d'avis publics émils,
[11:04]
mais aussi des clichés officiels.
[11:06]
Et à l'époque, il n'y a pas de Photoshop, hein.
[11:09]
Tout se fait à la main en chambre noire.
[11:12]
Les retoucheurs peuvent découper une silhouette au scalpel
[11:15]
sur un tirage de photos,
[11:17]
gratter directement l'émulsion de gélatine d'un négatif
[11:20]
et reconstruire le décor à la gouache,
[11:23]
à l'encre de chine ou à l'aérographe.
[11:26]
Ça, c'est un genre de petit pistolet qui permet de dessiner.
[11:30]
Une fois la retouche terminée,
[11:32]
l'image est refotographiée
[11:34]
pour produire un nouveau négatif officiel.
[11:36]
Je trouvais ça quand même brillant comme technique.
[11:38]
C'est après ça ces photos-là qu'ils utilisaient dans les journaux
[11:40]
pour faire un peu la propagande politique,
[11:42]
les livres et les différentes affiches.
[11:45]
Une personne tombée en disgrâce, pas de problème,
[11:47]
on le retire de la photographie
[11:49]
comme si elle n'avait jamais existé.
[11:51]
On récrit littéralement l'histoire,
[11:53]
un cliché à la fois de cette façon-là.
[11:55]
Et arrivent les années 90, on le sait,
[11:58]
Adobe commercialise Photoshop.
[12:00]
Ça commence à dater Photoshop,
[12:02]
c'est quand même dans le début des années 90.
[12:03]
Ça fait longtemps que c'est là.
[12:04]
Oui, oui, exact.
[12:05]
Puis ils démocratisent la retouche photo.
[12:08]
Et pour la première fois,
[12:09]
il devient possible avec un simple ordinateur
[12:11]
de modifier une image de façon relativement convaincante.
[12:15]
On utilisait ça, c'est photoshopé.
[12:17]
On utilisait toujours cette expression-là.
[12:20]
On peut effacer un objet, changer un visage,
[12:22]
ajouter un élément qui n'a jamais existé.
[12:25]
Mais malgré cette révolution,
[12:27]
bien tout repose encore sur l'humain.
[12:29]
Chaque retouche demande du temps, de la précision
[12:31]
et quand même une bonne maîtrise du logiciel.
[12:33]
C'est pas si user-friendly que ça, Photoshop.
[12:37]
Mais c'est en 2014 que tout bascule.
[12:40]
Cette année-là, dans la micro-brasserie à Montréal,
[12:43]
les trois brasseurs qu'on connaît tous,
[12:45]
Jan Goodfellow, un doctorant en apprentissage automatique
[12:50]
à l'Université de Montréal,
[12:52]
il discute avec des collègues
[12:53]
d'un problème qui semble impossible à résoudre.
[12:56]
Comment amener une intelligence artificielle
[12:58]
à créer elle-même des images réalistes?
[13:01]
Et selon son propre récit,
[13:02]
l'idée germe ce soir-là
[13:04]
et il rentre chez lui pour la coder la nuit-même.
[13:08]
Bien motivé, l'alcool, des fois,
[13:09]
c'est un bon moteur pour la programmation.
[13:12]
C'est clair.
[13:13]
Et cette intuition donnera naissance
[13:15]
au réseau antagoniste génératif,
[13:18]
ce qu'on appelle le GAN.
[13:20]
L'acronyme, c'est Generative Adversarial Networks.
[13:24]
Et le principe ressemble à un duel
[13:26]
entre un faux monnaieur et un expert en faux billets.
[13:29]
Tu vois, c'est quand même assez brillant comme technique.
[13:32]
Le premier réseau appelle le générateur,
[13:35]
tente de fabriquer une image artificielle
[13:36]
assez convaincante pour la faire passer pour une vraie.
[13:39]
Mais le second réseau, lui,
[13:42]
il s'appelle le discriminateur.
[13:43]
Puis il cherche, au contraire, à démasquer la contrefaçon.
[13:47]
Donc chaque fois que l'expert repère un défaut,
[13:50]
le faux monnaieur apprend son erreur
[13:52]
et améliore son prochain faux.
[13:54]
Donc le discriminateur s'améliore à son tour.
[13:57]
Donc les deux réseaux apprennent ainsi l'un de l'autre
[14:00]
dans une compétition continue.
[14:02]
Et à force d'itération,
[14:04]
le générateur produit des images de plus en plus difficiles
[14:07]
à distinguer des vraies,
[14:09]
parfois même pour des observateurs qui sont expérimentés.
[14:12]
Donc c'est vraiment la machine qui corrige la machine
[14:14]
puis elle apprend d'elle-même.
[14:16]
Cette percée devient un tournant majeur
[14:18]
dans l'histoire de l'intelligence artificielle générative.
[14:21]
Elle ne donne pas directement naissance au deep fake,
[14:24]
mais elle contribue à ouvrir la voie
[14:25]
à une nouvelle génération d'images synthétiques.
[14:28]
Puis les premiers trucages pornographiques popularisés en 2017,
[14:32]
eux, s'appuient surtout sur des autos encodeurs
[14:34]
ou d'autres sortes d'architectures d'apprentissage automatiques.
[14:37]
Ça me rappelle un peu, Seb,
[14:38]
quand on a fait notre expérimentation de deep fake.
[14:41]
Oui.
[14:42]
C'était autour de ces années-là.
[14:43]
2019, oui.
[14:44]
2019, un peu plus tard, mais c'était compliqué.
[14:47]
On avait transformé Seb en Keanu Reeves.
[14:50]
Oui.
[14:50]
C'est disponible sur notre chaîne YouTube.
[14:52]
Puis à l'époque, puis ça ne fait pas si longtemps,
[14:54]
à l'époque, pour faire une deep fake comme ça,
[14:57]
on avait trouvé quelqu'un sur Reddit
[14:58]
qui voulait demeurer anonyme.
[15:00]
Oui, un spécialiste.
[15:01]
Ça lui prenait un 48 heures de rendu
[15:04]
avec le script qu'il programmait.
[15:06]
Ça prenait des centaines de photos de toit,
[15:09]
des photos de Keanu Reeves.
[15:11]
C'est drôle, alors que maintenant,
[15:13]
ça prendrait deux minutes de requête
[15:16]
sur n'importe quel AI.
[15:18]
Oui, exactement.
[15:19]
Quelques photos, une vidéo de base,
[15:21]
puis ils matchent les deux ensemble.
[15:23]
Ça a évolué tellement vite.
[15:24]
Ça a vraiment changé,
[15:25]
puis on vous en parle un petit peu plus.
[15:27]
Par la suite, justement,
[15:28]
les GAN, puis d'autres modèles,
[15:31]
comme les systèmes de diffusion,
[15:32]
permettent de produire des images toujours plus réalistes.
[15:35]
Tout ne part donc pas uniquement des GAN,
[15:38]
mais ils jouent un rôle déterminant
[15:40]
dans l'évolution technologique
[15:41]
qui mène au DeepFake d'aujourd'hui.
[15:44]
C'est à la fin des années 2010
[15:46]
qu'il y a eu des logiciels de trucages faciales,
[15:48]
comme je ne sais pas ce que tu te rappelles de FaceSwap
[15:50]
ou de DeepFaceLab,
[15:53]
qui sont apparus autour de 2017-2018.
[15:55]
C'est drôle parce que FaceSwap,
[15:57]
moi, je tripais tellement quand c'est sorti avec ma fille,
[16:00]
puis je n'arrêtais pas de le faire.
[16:01]
J'étais fasciné quand même pour les échanges de visage.
[16:04]
J'ai retrouvé des fois des vieilles vidéos
[16:06]
que je faisais avec ma fille,
[16:07]
puis elle était tannée à un moment donné,
[16:08]
elle me disait « Ah là, encore tes face swap ! »
[16:10]
Je trouvais ça vraiment drôle parce que quand c'est sorti,
[16:13]
c'est vrai que c'était comme un jeu,
[16:16]
mais en arrière de ça, il y a quand même une technologie,
[16:18]
c'est quand même impressionnant de remplacer des visages
[16:21]
de façon rapide et efficace.
[16:24]
Ça, ça a permis de rendre cette technologie-là
[16:26]
un peu accessible à tout le monde,
[16:28]
puis tu n'avais pas besoin d'une formation
[16:29]
en intelligence artificielle ou quoi que ce soit.
[16:32]
Là où il fallait auparavant comprendre justement
[16:34]
les réseaux neuronaux,
[16:35]
puis programmer des modèles complexes,
[16:37]
maintenant, il faut quelques tutoriels YouTube
[16:39]
qui suffisent désormais pour remplacer
[16:42]
le visage d'une personne par celui d'une autre
[16:43]
dans une vidéo.
[16:45]
Très rapidement, la pornographie devient
[16:47]
l'application numéro un de cette capacité synthétique.
[16:51]
Rien de surprenant.
[16:51]
Comme à chaque percée technologique,
[16:53]
la pornographie donne des premières à se lancer.
[16:56]
Toujours.
[16:57]
Rappelons-nous que le VHS a gagné sur le bêta
[17:00]
au niveau des formats à cause de la porno,
[17:02]
entre autres, parce que c'était plus accessible.
[17:05]
Le bêta est une meilleure technologie,
[17:07]
mais ça a l'air que c'est la porno qui a choisi le VHS
[17:09]
et qui a fait en sorte que les magnétos cassettes VHS
[17:14]
ont pénétré les foyers plus rapidement
[17:16]
que le bêta sans faire de mauvais jeu de boue.
[17:20]
Puis les premières versions reproduisent des résultats
[17:23]
encore imparfaits à cette époque-là.
[17:24]
Les visages va assez légèrement,
[17:26]
certaines expressions qui semblent artificielles,
[17:28]
les arrière-plan présentent des raccords maladroits,
[17:31]
des anomalies anatomiques
[17:33]
qui trahissent parfois le montage.
[17:35]
Puis si on l'a vu dans le truc de Keanu Reeves avec moi,
[17:37]
on voyait dès que je bougeais, c'était pas parfait non plus.
[17:41]
J'avais une plus grosse face que lui aussi,
[17:43]
ça s'adaptait pas tout le temps.
[17:44]
C'était assez parfait.
[17:45]
C'est pas comme personification.
[17:49]
Mais ces imperfections disparaissent presque d'année en année.
[17:52]
Les algorithmes s'améliorent à une vitesse fulgurante.
[17:56]
Les cartes graphiques deviennent plus puissantes
[17:58]
et les bases de données d'entraînement explosent.
[18:01]
Et c'est dans ce contexte technologique-là
[18:03]
que Mr. Deepfakes amorce son ascension.
[18:07]
La plateforme deviendra l'une des plus notoires
[18:09]
et des plus structurées consacrées
[18:11]
à une imagerie sexuelle synthétique non consensuelle.
[18:14]
Et elle se contente pas d'héberger des vidéos.
[18:16]
Elle contribue à personnaliser tout un écosystème clandestin.
[18:21]
Oui, puis on n'aura pas le choix de parler un peu aussi de Reddit, Seb,
[18:24]
parce que c'est un peu là qu'est née
[18:26]
les premières communautés autour de Mr. Deepfake.
[18:30]
Ça commence directement dans les centres d'une autre communauté,
[18:34]
qui est le sous-forum Deepfakes sur Reddit,
[18:38]
qui agit un peu comme un dépôt ouvert
[18:40]
pour les vidéos pornographiques générées par l'IA.
[18:44]
À l'époque, ça mettait en scène surtout des personnalités publiques bien réelles.
[18:48]
Il y a eu quelques scandales d'ailleurs autour de ça.
[18:51]
Le forum explose et approche les 90 000 membres en quelques mois à peine.
[18:56]
Devant la pression publique et les violations évidentes,
[19:00]
Reddit interdit par la suite au début de 2018
[19:03]
les contenus intimes qui sont non consensuels
[19:05]
et ferment le sous-forum.
[19:07]
Et sa communauté va se disperser à ce moment-là.
[19:10]
Même que maintenant, je ne suis plus sûr
[19:11]
que tant que ça place sa pornographie point sur Reddit.
[19:16]
À l'époque, c'était quand même encore 2018,
[19:18]
il n'y a pas si longtemps, mais c'était un petit peu plus wild.
[19:21]
Il y a de la pornographie de base.
[19:24]
Je vois sur certains trucs, ils masquent l'image de base,
[19:27]
c'est du click, mais c'est du soft porn,
[19:30]
des vieilles images de l'actrice porno, j'en vois.
[19:33]
Ce n'est plus comme 4chan.
[19:35]
Non, ils n'ont pas le choix.
[19:37]
Ils ont des réseaux publicitaires,
[19:39]
ils sont rendus tellement mainstream qu'ils ne pourraient pas se permettre.
[19:42]
Ils ont des grands investisseurs aussi derrière et tout ça.
[19:45]
Mais le banissement va surtout créer une méfiance profonde
[19:48]
envers les grandes plateformes technologiques
[19:50]
et une demande immédiate pour un espace indépendant.
[19:53]
C'est en février 2018
[19:55]
qu'un administrateur anonyme qui utilise le pseudonyme DPFKS,
[20:00]
donc Deepfakes, le sang les voyelles,
[20:02]
qui commence à recruter des modérateurs bénévoles,
[20:05]
puis des designers, des rédacteurs, des développeurs
[20:08]
et du soutien en référencement.
[20:11]
L'objectif est de bâtir une plateforme autonome
[20:13]
sous le domaine de Deepfakes, DPFKS.com,
[20:17]
qui deviendra plus tard MrDeepfakes.
[20:20]
Bien avant l'intelligence artificielle,
[20:22]
il y a une communauté consacrée aux faux nus de célébrités
[20:26]
qui existaient déjà sur Usenet.
[20:29]
C'est loin, c'est des babillards.
[20:30]
Oui. En septembre 1996,
[20:33]
un ingénieur informatique canadien qui s'appelait Kerry Pearson,
[20:37]
connu en ligne sous le pseudonyme Looks Lookre,
[20:42]
fonde le groupe Alt Binaries Pictures.nude.celebrities.fake.
[20:48]
C'est un visionnaire.
[20:49]
Oui, c'est ça, exactement, en 1996 déjà.
[20:53]
Il devient l'un des principaux archivistes de cette scène,
[20:57]
si on peut appeler ça une scène, de montage réalisée à la main
[21:00]
avec des logiciels comme Photoshop.
[21:02]
Mais c'est vrai qu'il y en avait déjà à l'époque.
[21:04]
C'était Photoshopé et ça prenait beaucoup de temps.
[21:06]
Oui, exactement.
[21:07]
Puis sur son site, Looks Lookre,
[21:11]
il publie des règles de la communauté
[21:12]
et tente même de justifier sa pratique.
[21:15]
Selon lui, un fantasme artificiel
[21:17]
pourrait être acceptable à condition d'être clairement présenté comme faux.
[21:22]
C'est débattable, ça quand même.
[21:23]
Oui, c'est vrai.
[21:24]
Dans le même souffle, il évoque le sentiment de pouvoir presque divin
[21:30]
que procure le fait d'exposer artificiellement une vedette
[21:34]
pour nourrir les fantasmes des internautes.
[21:37]
C'est donc pas exactement un manifeste qui a écrit,
[21:41]
mais c'est des genres de positions qui veulent publier
[21:43]
dans les guides de communauté du site sous son pseudonyme.
[21:48]
Mais les vedettes n'ont pas signé pour ça.
[21:51]
Bien non, c'est ça.
[21:52]
Même si c'est un fantasme,
[21:54]
puis même si c'est indiqué que ce n'est pas vrai,
[21:57]
je ne trouve pas que c'est éthique de faire ça sur quelqu'un d'autre.
[22:00]
Bien non, c'est clair.
[22:02]
C'est vraiment pour se dédouaner.
[22:03]
Oui, puis est-ce que le fait que tu le fais sur une vedette,
[22:07]
est-ce que ça cancelle l'idée que tu le ferais sur une vraie personne
[22:10]
en échange pour la menacer ou autre?
[22:15]
Donc non, c'est sûr que ce n'est pas très éthique.
[22:19]
Il y a des vedettes éventuellement qui vont même prendre des recours
[22:22]
contre tout ça.
[22:24]
La communauté prétend interdire les montages visant les mineurs,
[22:28]
bien évidemment.
[22:29]
Pourtant, le site affiche aussi une liste de jeunes célébrités
[22:33]
avec l'année où chacune atteindra 18 ans.
[22:36]
Ok, ok, c'est quand même tordu.
[22:38]
Cette contradiction révèle assez rapidement les limites de son
[22:41]
prétendu cas d'éthique.
[22:43]
Carey Pearson meurt en 2004, apparemment de complications
[22:47]
liées au diabète.
[22:49]
Mais la communauté qui l'a contribué à structurer continue de croître.
[22:53]
La technologie va complètement changer,
[22:55]
mais l'idéologie derrière beaucoup moins.
[22:58]
Mister Deep Fakes, le nouveau site, réunit en réalité deux sites.
[23:03]
Il y a la vitrine publique qui permet de regarder les vidéos,
[23:06]
de parcourir les catégories puis de rechercher une célébrité.
[23:09]
Mais le véritable moteur, c'est le forum communautaire de la plateforme
[23:13]
où les créateurs vont échanger leur technique.
[23:16]
Ils vont prendre des commandes même pour ludifier des vedettes.
[23:21]
Puis ils partagent leurs outils pour produire les vidéos
[23:23]
toujours les plus réalistes possibles.
[23:25]
Et là, on va tomber, on va parler un petit peu de Bellingcat,
[23:28]
justement cette organisation-là, d'enquêteurs du web.
[23:31]
Il y a un certain Ross Higgins qui, lui, est chercheur chez Bellingcat.
[23:35]
Et eux, c'est un collectif international et indépendant
[23:39]
spécialisé dans les enquêtes à partir de sources ouvertes.
[23:42]
Ils vont utiliser les outils du web.
[23:44]
Des fois, ils vont aller plus profond que le commun des mortels.
[23:47]
Mais quand même, ils vont utiliser des ressources relativement gratuites
[23:52]
et disponibles pour arriver à piéger des fraudeurs, des arnaqueurs.
[23:57]
Ils sont très impliqués au niveau des crimes sexuels puis du ransom porn.
[24:01]
Oui, oui, exact.
[24:02]
Puis des crimes de guerre aussi, si vous allez voir sur leur site web,
[24:05]
ils analysent beaucoup justement la guerre en Ukraine versus la Russie, l'Iran.
[24:11]
Il y a toutes sortes de révélations qu'ils font aussi à travers ça.
[24:15]
C'est une grosse, grosse équipe répartie un peu partout dans le monde
[24:18]
qui donne un peu de leur temps pour résoudre des enquêtes.
[24:22]
Oui, ça serait peut-être intéressant de faire un épisode sur eux d'ailleurs.
[24:24]
Vraiment, oui, je pense que oui.
[24:28]
Et là justement, Russ Higgins, pour lui, la partie vidéo du site, c'est juste une vitrine.
[24:36]
L'écosystème se construit dans le forum et c'est là qu'il faut aller creuser pour trouver des responsables.
[24:43]
Il y a eu une étude universitaire portant sur une copie de la plateforme en novembre 2023
[24:47]
qui recense plus de 42 000 vidéos, environ 1,5 milliard de visionnements,
[24:53]
c'est quand même beaucoup, et 3 800 personnes ciblées.
[24:58]
C'est ça, c'est des victimes, des gens comme qui ont été utilisés, c'est beaucoup.
[25:02]
Exact, c'est fou.
[25:04]
Et au printemps 2025, Bellingcat rapporte plus tôt près de 70 000 vidéos,
[25:09]
2,2 milliards de vues, puis environ 650 000 membres.
[25:14]
T'imagines le nombre de personnes qui consultent ce site-là, c'est fou, braque.
[25:21]
Je dois avouer que moi, il y a un an ou deux, j'étais tombé dessus, justement,
[25:26]
mais avant qu'on entende parler de tout ça, j'avais ça tellement wrong,
[25:30]
puis j'étais là, non, c'est sûr que ça va mal virer.
[25:33]
Je n'étais pas allé plus loin dans ma recherche,
[25:36]
parce que j'avais entendu un reportage justement que les jeunes subissent ça,
[25:41]
puis je me suis dit, il doit en avoir sur Internet aussi, puis c'est comme ça.
[25:43]
Il était super facile à trouver, il était super bien indexé sur Google.
[25:48]
Aussi, des fois, il y a des questionnements à voir sur nos moteurs de recherche.
[25:53]
Ah oui, ça j'avoue.
[25:55]
Les services d'analyse de trafic estiment également que le site reçoit plus de 18 millions de visites en mars 2025.
[26:02]
Et attention, des visites ne correspondent pas nécessairement à autant de personnes distinctes.
[26:07]
Cette immense bibliothèque est alimentée par très peu de gens.
[26:11]
Et parmi les 1800 comptes ayant publié au moins une vidéo dans l'échantillon,
[26:16]
seulement 657 sont responsables de plus de 95 % de tout le contenu, quand même.
[26:23]
Une petite poignée de producteurs suffit donc à alimenter une plateforme qui est vue par des milliards de fois.
[26:28]
Oui, oui, exact, exact.
[26:30]
C'est toujours ça, c'est toujours le 1, 2 % qui alimentent ça, puis le reste consulte.
[26:35]
Je vais vous parler un peu du modèle d'affaires aussi, parce que ce n'est pas pour rien que ces gens-là,
[26:40]
outre le fait que ce sont des misogynes qui exploitent ce type de site-là.
[26:45]
Ça repose largement sur les commandes personnalisées.
[26:48]
Un peu comme tu disais, les gens peuvent demander une commande d'avoir telle actrice ou telle personne.
[26:54]
Les chercheurs repèrent 830 fils de discussion qui sont consacrés à des demandes payantes,
[26:59]
mais il y en a seulement 58 qui affichent un prix.
[27:02]
Dans cette échantillon-là, la moyenne de prix pour la demande variait entre 87 $ et 50 $ US,
[27:08]
mais ça pouvait aller jusqu'à 1500 $ US aussi.
[27:11]
Il y avait aussi des montants de 1 $, les gens qui s'essayaient.
[27:15]
De son côté, l'administrateur affirme en 2020 que le site lui rapporte entre 4000 et 7000 $ US par mois.
[27:23]
Les revenus semblent provenir de la publicité, je me rends compte qu'il mettait de la pub là-dessus,
[27:27]
des comptes premium aussi et l'écosystème des commandes.
[27:30]
Mais aucune comptabilité complète a été rendue publique, ce ne sont que des estimations.
[27:35]
Et ça, le forum et les échanges entre membres sont souvent cordiaux et étonnamment professionnels.
[27:40]
Ils partagent leurs techniques, corrigent leurs erreurs,
[27:44]
mais dès qu'il est question des victimes, le ton bascule.
[27:47]
Ross Egan, de Billingcat, lui, il résume l'ambiance en un mot, la misogynie.
[27:53]
Il dit en fait que les femmes deviennent de simples matières premières pour les fantasmes de la communauté.
[28:00]
Et la communauté, elle, elle développe son vocabulaire aussi.
[28:03]
On appelle les « cheap fakes » qui sont produits rapidement et vendus à bas prix,
[28:07]
on ne dit donc que des fabrications pas chères, « cheap ».
[28:10]
Des gens qui sont moins bons.
[28:11]
Oui, c'est ça. Tandis que les « art » ou les « masterpieces »
[28:16]
désignent les créations jugées les plus impressionnantes.
[28:19]
Puis il y a un « face set » qu'on dit, mais un ensemble de visages,
[28:23]
c'est une banque de photos justement de même visage,
[28:25]
ça sert à entraîner le modèle.
[28:27]
Puis il y a d'autres applications, comme vous vous parlez,
[28:29]
qui s'appellent « Roop » et « Rope » qui abaissent encore la barrière technique.
[28:33]
Et le logiciel Roop, R-O-O-P, ça a été lancé en 2023.
[28:38]
C'est un logiciel libre « open source » de remplacement de visage,
[28:42]
puis son objectif n'était pas ça.
[28:43]
Mais contrairement à DeepFaceLab, qui exigeait souvent un long entraînement et beaucoup d'images,
[28:51]
lui, il utilise déjà un modèle qui est déjà entraîné.
[28:55]
Donc l'utilisateur a juste à fournir une photo source et une vidéo cible
[28:59]
C'est fou, hein ?
[28:59]
qui apporte le corps, les mouvements et le décor.
[29:02]
Puis le logiciel ensuite automatise une grande partie du remplacement.
[29:07]
Et Roop intègre des mécanismes pour décourager certains usages sexuels.
[29:12]
Et son développement est abandonné.
[29:13]
Mais son cas de source étant donné qu'il est public,
[29:15]
il a été copié et modifié et il a été dérivé pour Rope, R-O-P-E.
[29:22]
Donc Rope, lui, il ajoute une interface accessible,
[29:24]
il retire toutes les restrictions sexuelles.
[29:27]
Donc, sept des neuf principales versions dérivées étudiées
[29:30]
permettent de contourner les protections originales,
[29:32]
ce qui a accéléré leur adoption sur Mr. DeepFace.
[29:35]
Une seule photo peut désormais suffire,
[29:37]
même si les profils, les signes complexes et les changements d'éclairage,
[29:41]
ça produit encore quelques défauts.
[29:43]
Mais malgré tout, ça donne des bons résultats.
[29:45]
Puis pour générer rapidement des grandes quantités de contenu,
[29:48]
la différence est énorme.
[29:49]
Une activité autrefois qui était réservée aux plus patients,
[29:53]
ça devient largement accessible parce que le temps de traitement est très rapide.
[29:57]
Officiellement, le forum interdit de cibler des mineurs,
[30:00]
ainsi que les contenus représentant le viol ou d'autres violences sexuelles.
[30:04]
Mais dans les faits, n'importe qui peut devenir une cible,
[30:07]
une personne avec un simple profil Instagram, une sœur ou une collègue.
[30:13]
Et dans l'étude universitaire dont on vous parlait tantôt,
[30:15]
il y a plus de 1000 vidéos, soit plus de 2 % de l'échantillon,
[30:18]
qui sont associées à des termes évoquants,
[30:20]
le viol, la violence, l'abus ou l'humiliation.
[30:24]
Évidemment, cette classification-là, ce sont des mots-clés,
[30:27]
ils n'ont pas vérifié manuellement chaque vidéo si elle comportait tout ça.
[30:32]
Mais quand même, ça monte un peu, il y a une porosité dans les règles affichées.
[30:35]
Ils laissent passer des trucs qui sont supposés être violents.
[30:39]
Il y a plusieurs conversations qui révèlent aussi la mentalité du forum.
[30:42]
Il y a un utilisateur qui annonce qu'il arrête les « deal fake »
[30:45]
parce qu'il vient de se trouver une copine.
[30:47]
Il y a une autre commande d'une vidéo d'une actrice de 20 ans
[30:51]
qui demande pour la punir d'être, selon lui,
[30:54]
trop en quête d'attention sur les médias sociaux.
[30:57]
Certains se spécialisent même dans la récréation de célébrités actuelles
[31:01]
à la manière des films pornos des années 70,
[31:04]
en recréant les décors et tout ça.
[31:06]
Il y a un membre de l'équipe qui affirme même
[31:07]
qu'une interdiction complète lui ferait probablement du bien.
[31:11]
Elle lui donnerait une excuse pour tourner la page
[31:13]
et se consacrer à des projets créatifs
[31:16]
qu'il pourrait enfin partager sans honte.
[31:19]
Ça, c'est drôle quand tu peux aller lire les témoignages
[31:22]
des gens qui contribuaient à ça.
[31:24]
Mais cette aveu-là est quand même révélateur
[31:27]
parce que même au cœur du système,
[31:29]
l'un de ces artisans semble comprendre
[31:31]
qu'il participe à quelque chose de malsain,
[31:33]
mais ce malaise-là ne le ralentit pas.
[31:36]
Ça ne ralentit pas la machine et tout ça.
[31:39]
« Mr Deepfake », ce n'est qu'un fragment
[31:41]
d'un phénomène beaucoup plus vaste.
[31:43]
Parce qu'il y a eu une étude sectorielle
[31:45]
de plus de 95 000 vidéos de « deepfake »
[31:47]
qui ont été repérées en ligne.
[31:49]
Et « Onufam », eux, estiment que 98 % d'entre elles
[31:54]
de ces vidéos-là sont pornographiques
[31:56]
et que 99 % des personnes ciblées sont des femmes.
[32:00]
Donc, c'est vraiment ciblé là-dessus.
[32:04]
C'est un vrai problème.
[32:05]
Et le nombre de vidéos recensées était 550 %
[32:08]
plus élevé qu'il y a quatre ans auparavant.
[32:11]
Donc, ça part en couilles par rapport à ça.
[32:15]
Et ça ne touche pas juste les célébrités.
[32:16]
C'est ça qui est vraiment dommageable.
[32:18]
C'est un peu ça aussi qu'on va vous parler dans l'after-show,
[32:20]
un cas d'une personne bien normale qui a subi ça.
[32:23]
Et dans une enquête menée par l'organisme Torn
[32:26]
auprès de plus de 1200 jeunes de 13 à 20 ans,
[32:30]
une personne sur huit connaissait quelqu'un
[32:32]
qui avait été visé par une fausse image de nudité
[32:35]
générée par l'intelligence artificielle.
[32:37]
C'est tellement beaucoup pour cette génération-là
[32:39]
qu'eux sont confrontés énormément à ça.
[32:42]
Évidemment, les chiffres qu'on vous drop,
[32:45]
ça ne mesure pas tout ce qui circule en ligne,
[32:47]
mais ça montre que le problème est vraiment massif et genré
[32:51]
et de plus en plus accessible.
[32:54]
Et surtout, derrière chaque vidéo recensée,
[32:56]
il y a une personne bien réelle qui doit vivre avec les conséquences,
[33:00]
vedette ou non.
[33:01]
Ah oui, vedette ou non.
[33:03]
On en a parlé souvent à distorsion,
[33:05]
mais c'est dur par la suite de faire retirer ces choses-là.
[33:08]
C'est presque impossible.
[33:09]
Faire disparaître une vidéo du web, c'est presque impossible.
[33:13]
C'est pas vrai que quand tu coupes la tête du serpent,
[33:15]
il n'y en a pas d'autres qui popent à côté.
[33:18]
Donc encore plus pour les vedettes,
[33:19]
parce que c'est sûr qu'aussitôt qu'il y a eu une capture d'écran
[33:23]
ou quelqu'un qui a téléchargé la vidéo,
[33:25]
il l'a remis à quelque part.
[33:27]
Mais même pour les quidams comme nous,
[33:30]
comme des étudiants et étudiantes
[33:32]
qui se font menacer avec ça,
[33:34]
avec de la revenge porn ou ce genre de deep fake-là,
[33:38]
ça peut être très long de retrouver la paix d'esprit
[33:41]
parce que ça ne disparaît jamais, on dirait.
[33:43]
Non, non, exact, le droit à l'oubli,
[33:45]
puis tous ces beaux droits juridiques
[33:48]
que les moteurs de recherche donnent,
[33:50]
ça efface juste l'indexation,
[33:52]
ça efface pas le contenu.
[33:54]
C'est toujours le combat de David contre Goliath
[33:59]
à chaque fois que quelqu'un veut faire enlever du contenu comme ça.
[34:04]
Il y a encore eu des règlements de point-up cette semaine
[34:07]
d'anciennes victimes justement
[34:09]
qui ont eu des vidéos de revenge porn uploadées sur la plateforme
[34:12]
et ont eu des dédommagements.
[34:15]
Ça fait des années.
[34:17]
Je me demande si ces vidéos-là
[34:19]
ne se retrouvent pas encore sur d'autres clones de point-up.
[34:23]
C'est vraiment une guerre sans fin.
[34:25]
Ah, c'est clair.
[34:26]
On va parler d'ailleurs du coût humain.
[34:28]
Ça fait une belle transition pour ça.
[34:31]
Mister Deep Fake affirmait publiquement
[34:33]
limiter sa base de données aux personnalités publiques bien connues.
[34:36]
Mais dans les faits, la plateforme servait aussi de point de rencontre
[34:39]
pour la diffusion et la création de contenu
[34:42]
qui visait, comme on disait, des milliers de personnes ordinaires.
[34:46]
Et là, je vais vous parler d'une certaine Sarah Zed
[34:49]
qui, elle, c'est son cas à quelque part.
[34:52]
Elle, elle est étudiante à l'Université du Nouveau-Brunswick.
[34:55]
Puis elle lance en 2018 une chaîne YouTube
[34:58]
sur la culture geek et sur les fandoms,
[35:01]
les gens qui sont fanatiques de personnalité.
[35:05]
Et des années plus tard,
[35:06]
des abonnés lui envoient des liens de Reddit et de 4chan.
[35:09]
Puis elle découvre alors sur Mister Deep Fake
[35:13]
des vidéos pornographiques générées avec son visage.
[35:17]
Sarah, elle, elle va dire
[35:19]
qu'elle a eu l'impression qu'on lui avait volé son identité numérique.
[35:23]
Selon elle, banaliser les cas visant des vedettes comme Taylor Swift
[35:27]
normalise aussi l'utilisation de ces outils
[35:30]
contre des personnes moins connues et plus vulnérables.
[35:33]
Parce que oui, Taylor Swift est une de celles
[35:36]
qui va avoir énormément de vidéos à créer
[35:38]
avec son visage.
[35:42]
Et les conséquences peuvent être psychologiques,
[35:45]
professionnelles, mais aussi réputationnelles,
[35:48]
alors que les victimes ont peu de moyens pour se défendre.
[35:51]
Des quidammes comme nous ont moins de ressources
[35:54]
que Taylor Swift, même si c'est triste pour tout le monde.
[35:58]
Oui, oui, exactement.
[35:59]
Et il y a aussi une certaine Patricia Schlosser
[36:02]
qui, elle, est journaliste d'enquête en Allemagne
[36:05]
et est spécialisée dans l'industrie pornographique.
[36:07]
Puis elle, elle va montrer une autre facette du problème.
[36:10]
Il y a un collègue qui l'appelle à un moment donné,
[36:14]
visiblement mal à l'aise, puis lui envoie un lien à elle
[36:17]
vers Mr Deep Fake.
[36:19]
Puis elle va y découvrir des images entièrement fabriquées
[36:22]
où elle apparaît nue, enchaînée et impliquée
[36:25]
dans des actes vraiment dégradants avec des animaux.
[36:28]
Pas de sens.
[36:29]
Et son nom est associé à une étiquette de recherche
[36:32]
particulièrement humiliante aussi.
[36:34]
Et là, c'est bizarre, parce que de la manière qu'elle décrit ça,
[36:37]
son cerveau sait que les images sont fausses,
[36:41]
mais en même temps, elle paraît un peu réelle
[36:43]
parce qu'elle se reconnaît dans les vidéos.
[36:45]
Mais elle sait que ce n'est pas elle entièrement.
[36:48]
Et elle a l'impression de subir une forme d'agression
[36:51]
sans parvenir à nommer exactement ce qu'elle ressent.
[36:54]
J'avoue que le feeling doit être spécial.
[36:57]
Ça doit être tellement bizarre. J'ai essayé de figurer
[36:59]
pendant que je faisais la recherche pour l'épisode,
[37:03]
puis ça doit être vraiment traumatisant.
[37:06]
Oui. Puis après le choc vient la colère.
[37:09]
Puis elle va participer à un reportage
[37:11]
de l'émission STRG-F,
[37:14]
qui est une émission d'enquête allemande,
[37:16]
mais qui est produite par le diffuseur public,
[37:20]
le NDR, puis elle réussit à faire retirer
[37:22]
les images de Mr Deep Fake. Elle parvient ensuite
[37:25]
à remonter jusqu'aux jeunes hommes soupçonnés
[37:27]
de les avoir créés, ces images-là.
[37:30]
Puis elle se présente même chez lui, parle à sa mère,
[37:33]
pendant qu'il refuse de sortir de sa chambre.
[37:37]
Imagine-tu, c'est un peu irréel tout ça.
[37:39]
Mais pour Patricia, l'histoire ne s'arrête pas
[37:42]
aux créateurs présumés de ces images.
[37:44]
Elle veut aussi comprendre la plateforme
[37:46]
qui leur a permis de faire circuler les images.
[37:49]
Exact, exact.
[37:51]
Je vous parle aussi d'une lutteuse canado-américaine,
[37:54]
une certaine Gail Kim, qui découvre aussi
[37:56]
des vidéos à son nom sur Mr Deep Fake.
[38:00]
Mais elle refuse de les regarder. Elle se dit
[38:02]
que savoir qu'elles existent est déjà suffisamment
[38:05]
traumatisant pour elle. Les personnalités publiques
[38:07]
sont elles aussi visées à grande échelle.
[38:10]
Puis en janvier 2024, plus précisément,
[38:14]
des images pornographiques de Taylor Swift
[38:16]
qui ont été créées avec l'A.I.
[38:19]
deviennent virales sur 4chan et puis sur X.
[38:22]
Il y a une publication qui atteint des dizaines
[38:24]
de millions de vues avant son retrait et X
[38:27]
bloque temporairement les recherches sur son nom.
[38:30]
C'est drôle de réaction quand même.
[38:32]
C'est une drôle de façon, c'est un drôle de plaster.
[38:38]
L'affaire donne une visibilité immense
[38:40]
au problème et augmente la pression publique
[38:42]
sans être à elle seule à l'origine du Take It Down Act.
[38:46]
On va en parler tout à l'heure.
[38:49]
Plusieurs années de mobilisation vont être consacrées
[38:51]
par les victimes, des familles et des élus aussi.
[38:54]
On va y revenir. Et check bien ça Seb,
[38:56]
Mr Deep Fake partage aussi une banque de 6000 photos
[39:00]
du visage d'Alexandria Ocasio-Cortez
[39:03]
pour aider les utilisateurs à fabriquer des Deep Fakes.
[39:08]
Je me demande si ce n'est pas
[39:09]
justement les fans de Trump ou les magas
[39:12]
qui sautent là-dessus comme
[39:15]
sur un Napa.
[39:18]
Tu vois vraiment comme s'ils essayaient d'orchestrer
[39:21]
presque une attaque contre eux avec autant de photos.
[39:24]
Exact. Comme un disait, c'est souvent pour les punir.
[39:28]
Ils font ça pour quoi? C'est une sorte de vengeance
[39:30]
contre les femmes.
[39:33]
Comme tu dis, c'est certain qu'il y a des magas là-dedans parce qu'elle est
[39:36]
de gauche, un démocrate.
[39:38]
Oui, ça m'avait troublé ça.
[39:43]
Au Pays-Bas, le député Caroline van der Plas
[39:45]
va prendre position aussi sur le fait et va comparer l'expérience
[39:48]
à une véritable agression sexuelle numérique.
[39:51]
Il y a certaines vidéos qui vont encore plus loin.
[39:54]
L'une montre Greta Thunberg, la militante
[39:58]
et écologiste.
[40:01]
Il la montre ligotée et victime elle aussi
[40:03]
de violences sexuelles.
[40:05]
Une autre met en scène Scarlett Johansson dans une simulation
[40:08]
de meurtre particulièrement réaliste.
[40:12]
Les gens vont vraiment se laisser aller
[40:14]
et faire des demandes spéciales aux gens.
[40:17]
Le phénomène ne vise pas seulement les célébrités.
[40:20]
En Australie, un fonctionnaire va fabriquer plus d'une centaine
[40:24]
de deepfakes sexuelles avec ses propres collègues.
[40:27]
C'est fou ça.
[40:28]
Et là, il y a une commission, le e-Safety Commissioner,
[40:32]
qui rapporte également des codes d'élèves
[40:34]
qui se servent d'application de ce type-là,
[40:37]
de nudification pour s'en prendre à leurs camarades de classe.
[40:40]
Le problème traverse aussi des frontières.
[40:43]
Au Texas, c'est des adolescentes qui sont harcelés sur Snapchat
[40:47]
justement avec des images manipulées par l'AI
[40:50]
de type pornographique.
[40:52]
C'est vraiment un fléau qui est rendu même
[40:54]
dans les écoles primaires.
[40:56]
Même ici au Québec, on ne fait pas abstraction de ça.
[41:00]
Ces cas montrent que le traumatisme ne dépend pas
[41:03]
du réalisme de l'image. Même si c'est imparfait,
[41:06]
c'est des conséquences psychologiques.
[41:08]
C'est un peu l'impression d'être violé dans son intimité.
[41:14]
Même si ce n'est pas ce que plus réaliste,
[41:16]
les gens le savent que c'est probablement faux,
[41:18]
mais quand même, c'est quand même une pratique humiliée.
[41:22]
Oui, tu ne veux pas voir ça.
[41:25]
Là, on va parler un peu de l'enquête, Emile,
[41:27]
parce que pendant des années, ceux qui font fonctionner,
[41:30]
Mr. Deepfakes, eux demeurent des fantômes numériques.
[41:33]
Il y a plusieurs profils qui sont associés à l'administration
[41:36]
et à la modération du site, tous dissimulés derrière des pseudonymes.
[41:40]
Mais un compte finit par se détacher des autres.
[41:43]
Il y a plusieurs équipes qui enquêtent d'abord séparément,
[41:46]
puis certaines unissent leurs forces.
[41:48]
Puis peu à peu, leurs indices convergent vers l'individu
[41:52]
qui semble se cacher derrière ce profil.
[41:55]
Et là, l'étape 1.
[41:57]
On remonte en mars 2024 aux Pays-Bas.
[42:00]
Le choc est brutal. Il y a plusieurs célébrités néerlandaises
[42:03]
qui découvrent qu'elles sont ciblées sur Mr. Deepfake.
[42:07]
Et l'onde de choc attire l'attention d'une firme
[42:09]
spécialisée en renseignement de sources ouvertes,
[42:12]
Sidenti, qui est dirigée par un dénommé Jordy Urbanski.
[42:17]
Urbanski et son équipe se mettent à la tâche.
[42:20]
Il fouille d'anciens pseudonymes oubliés sur des forums automobiles,
[42:23]
des listes de mariages en ligne,
[42:26]
toutes sortes de traces laissées derrière au fil des années.
[42:29]
Petit à petit, il y a un visage qui se dessine
[42:31]
derrière le pseudonyme DPFKS
[42:34]
que tu nous avais parlé au début.
[42:37]
Et à la fin de mars 2024, Sidenti
[42:40]
affirme avoir un dossier complet entre les mains.
[42:42]
L'entreprise transmet ses conclusions
[42:44]
au quotidien néerlandais Algeman Dagblad,
[42:48]
qui publie un article au début d'avril sans dévoiler
[42:52]
publiquement l'identité de l'homme qui soupçonne.
[42:54]
Mais cette distinction est importante.
[42:56]
Sidenti affirme avoir identifié le suspect avant les autres équipes,
[43:00]
mais son nom ne sera révélé publiquement
[43:03]
que l'année suivante lors de l'enquête conjointe.
[43:06]
Et là, on passe à la deuxième étape de l'enquête.
[43:09]
Il y a 9 mois qui passent après cette première intervention
[43:12]
de Sidenti, et en décembre 2024,
[43:15]
il y a un spécialiste danois du nom de Zakaria Amid,
[43:20]
qui travaille pour le média
[43:21]
Jack Dett, qui tombe, lui, sur quelque chose de gros,
[43:26]
et enfouia dans les bases de données
[43:28]
de fuites d'informations.
[43:29]
Ça, ça sert souvent aussi à faire des regroupements,
[43:32]
les différentes fuites de données de toutes sortes de sites banales,
[43:35]
mais souvent, on va utiliser son courriel Gmail
[43:37]
et ses mots de passe et tout ça, et vous allez voir,
[43:40]
il met la main sur une adresse qui est dpfks.com,
[43:45]
a-commercial.gmail.com.
[43:47]
Et cette adresse-là, elle est liée à un mot de passe unique,
[43:50]
11 caractères, qui a été réutilisé encore et encore
[43:53]
sur plein d'autres services en ligne,
[43:55]
qui a pu repérer dans les banques de fuites de données.
[43:59]
Et pour Amid, ce genre de mot de passe,
[44:01]
c'est comme un peu une plaque d'immatriculation numérique.
[44:03]
Seul, ça ne dit pas grand-chose, mais dès qu'il ressort ailleurs,
[44:07]
ça permet de relier les comptes ensemble des identités
[44:10]
et des morceaux d'un puzzle d'une même personne.
[44:13]
Et tous les morceaux pointent vers le même nom,
[44:17]
David Do.
[44:19]
Et Amid compare lui-même sa méthode à un pissenlit.
[44:22]
Chaque piste, c'est une pétale.
[44:24]
Pris seul, ça semble insignifiant, mais une fois qu'on souffle dessus,
[44:29]
tout converge vers le même centre.
[44:32]
Une belle petite analogie.
[44:34]
Et la troisième étape, c'est là que l'équipe de Bellingcat
[44:39]
rentre dans la bataille, si je peux le dire.
[44:41]
C'est l'équipe de Ross Higgins dont on vous a parlé tout à l'heure.
[44:45]
Eux, ils consolident de tous les recoupements,
[44:48]
dont ceux de Patricia, dont on vient de raconter l'histoire.
[44:52]
Elle aussi, elle collabore à l'enquête.
[44:54]
Et en remontant les archives du web
[44:56]
sur archive.com, la Wayback Machine,
[44:59]
les journalistes constatent qu'en 2019,
[45:02]
le formulaire Contactez-nous du site de Mr Deepfakes
[45:05]
redirigeait vers une adresse Gmail directement reliée au site.
[45:10]
Les petites erreurs, ça fait penser à Alpha B
[45:13]
au début des sites,
[45:14]
les formulaires de contact qui laissent leurs vrais courriels.
[45:17]
C'est toujours la première adresse qui est l'adresse d'erreur.
[45:21]
C'est toujours le maillon faible.
[45:22]
En comparant cette adresse avec des données provenant des fuites,
[45:26]
comme on vous disait déjà accessibles aux enquêteurs,
[45:28]
il a relié à un autre compte Hotmail et à David Do.
[45:32]
Higgins comparera plus tard toute l'enquête,
[45:34]
un épisode de Breaking Bad. C'est pour ça que j'aimais ça qu'il disait ça.
[45:38]
Sam Cole qui anime la série Balado,
[45:40]
Understood, des fake porn empire de CBC Podcasts.
[45:44]
Écoutez aussi, c'est très très bon
[45:46]
qui relate un peu le phénomène.
[45:48]
Lui, il pousse la comparaison encore plus loin.
[45:50]
Il parle d'un Walter White canadien.
[45:54]
Pour ceux qui ne connaissent pas la série Breaking Bad,
[45:56]
Walter White, c'est un prof de chimie qui a le cancer.
[46:01]
Puis, on est aux États-Unis pour soigner.
[46:02]
Les frais, ça coûte très très cher.
[46:04]
Donc, il se dirige vers la fabrication de meth.
[46:08]
Exactement, mais d'une qualité impressionnante,
[46:11]
étant donné que c'est un chimiste.
[46:13]
La meth bleue.
[46:14]
Oui, la meth bleue, c'est ça. C'est un peu ça.
[46:17]
Quelqu'un de bien ordinaire qu'on ne soupçonnerait pas du tout
[46:20]
qui est en arrière de ça.
[46:23]
Donc, il amènera même à avoir traversé Higgins pendant qu'il enquêtait.
[46:26]
Il dit qu'il ne contredit pas du tout la comparaison de Walter White canadien
[46:30]
parce qu'il, pendant l'enquête,
[46:32]
il a traversé une sorte de crise de confiance
[46:35]
parce que quand les indices s'accumulaient,
[46:38]
on dirait que la conclusion, ça paraissait un peu impossible
[46:40]
à croire que ce soit cette personne-là, ce certain David Do.
[46:45]
Et là, la dernière étape de l'enquête,
[46:47]
c'est lorsque CBC, le Canadian Broadcasting Corporation,
[46:52]
le penchant radio-canadien anglophone,
[46:55]
si je peux dire,
[46:57]
il y a le journaliste Eric Zetto
[46:59]
qui prend alors le relais sur le terrain à Toronto.
[47:02]
Et au début d'avril 2025,
[47:03]
il se présente directement sur le lieu de travail de David Do
[47:07]
pour lui remettre une lettre en main propre.
[47:10]
Et David affirme ne rien savoir de l'affaire,
[47:13]
il dit être simplement là pour travailler
[47:14]
et s'esquive, s'en va, quitte le journaliste.
[47:17]
Cette première confrontation, ça mène nulle part,
[47:20]
mais quelques semaines plus tard, tout s'accélère.
[47:23]
Mais avant de raconter la suite, il faut toutefois s'arrêter
[47:25]
sur l'homme vers lequel convergent tous ces indices.
[47:29]
Emile, à toi de nous le présenter un petit peu,
[47:32]
ce certain David Do.
[47:33]
Oui, avec grand plaisir, Seb.
[47:36]
David Do, son nom complet, c'est Dewey David Do.
[47:40]
Il est âgé de 36 ans quand l'enquête éclate en 2025.
[47:44]
Il grandit à Kitchener, lui, en Ontario,
[47:47]
puis il obtient à l'Université de Waterloo des diplômes
[47:50]
en sciences biomédicales et en pharmacie.
[47:53]
Il y a un ancien camarade qui se souvient de lui
[47:55]
comme étant un étudiant sympathique,
[47:57]
féru de technologie et toujours prêt à aider les autres.
[48:01]
Au moment des révélations, Do y travaille depuis une dizaine
[48:04]
d'années comme pharmacien-clinicien pour Oak Valley Health,
[48:08]
entre les hôpitaux de Markham,
[48:10]
Stouffville et de Oxbridge.
[48:13]
Selon le registre ontarien de divulgation
[48:16]
des salaires du secteur public,
[48:18]
il gagne environ 121 000 $ dans cette année-là.
[48:21]
Il apparaît même dans des capsules où il conseille.
[48:26]
En fait, il apporte des conseils
[48:28]
à des patients après une chirurgie.
[48:31]
Donc il y a un petit profil public quand même.
[48:33]
Et sur papier, sa vie paraît parfaitement ordinaire.
[48:37]
Il y a une maison à Markham avec sa conjointe,
[48:39]
une voiture Tesla, des photos de famille un peu partout dans la maison,
[48:43]
et il y a une carrière bien respectée.
[48:46]
Mais les enquêteurs retrouvent une série de projets web
[48:48]
de pseudonymes et de contre-liants
[48:51]
progressivement cette identité professionnelle
[48:54]
au réseau derrière Mr Deep Fake.
[48:57]
Et c'est ce contraste qui rend l'enquête si troublante d'ailleurs.
[49:02]
Que ce soit un pharmacien, mais en même temps
[49:04]
qui crée des Deep Fakes à côté, même le plus grand réseau.
[49:07]
Oui, oui, exact.
[49:09]
Et son histoire numérique commence bien avant Mr Deep Fakes.
[49:12]
En fait, à la fin des années 2000, alors qu'il était encore étudiant,
[49:16]
il participe à la création de Xenoa,
[49:19]
qui est un forum de piratage où il utilise le pseudonyme
[49:22]
DDO, David Doe.
[49:25]
Il ne s'y présente pas comme un simple membre,
[49:27]
mais comme le propriétaire et aussi l'administrateur principal.
[49:31]
C'est-à-dire celui qui possède les plus hauts privilèges
[49:34]
techniques sur le forum.
[49:36]
Et au fil des ans, il y a plusieurs pseudonymes
[49:38]
qu'il va enchaîner.
[49:40]
À un moment donné,
[49:46]
on se rend compte qu'il utilise
[49:48]
le pseudonyme DPFKS.
[49:52]
Il va se transformer en d'autres noms éventuellement.
[49:55]
Les enquêteurs relient ces pseudonymes
[49:58]
à ces traces numériques.
[50:00]
Certaines signatures portent même une devise
[50:03]
presque trop parfaite.
[50:05]
C'est-à-dire fake it till you make it.
[50:08]
Quand tu es dans le monde du deep fake,
[50:11]
ça peut envoyer les enquêteurs sur une piste.
[50:14]
Sur le forum, il justifie en 2019
[50:16]
sa position de numéro un par son attachement
[50:19]
à la communauté et son désir de transmettre
[50:22]
ses connaissances. Ailleurs, il évoque sa double vie
[50:24]
presque par accident. Après sa journée de travail,
[50:27]
il dit retourner s'occuper du site.
[50:29]
Il a laissé quand même beaucoup de traces
[50:32]
et beaucoup de témoignages incriminants.
[50:35]
Il recrute des modérateurs, des designers graphiques,
[50:38]
des développeurs, des spécialistes du référencement,
[50:41]
puis il sollicite des services étrangers pour brouiller les pistes.
[50:44]
Il utilise aussi ce qu'il appelle un compte PayPal furtif,
[50:47]
c'est-à-dire un compte associé à une identité
[50:49]
difficile à vérifier afin de compliquer le lien
[50:52]
avec son véritable propriétaire.
[50:54]
Lorsque PayPal le limite et ferme le compte,
[50:59]
il cherche même des sociétés écrans capables
[51:02]
d'accepter des paiements en son nom.
[51:04]
Oui, parce que c'est de plus en plus difficile.
[51:06]
Je me rends compte, PayPal demande de plus en plus
[51:09]
de vraies validations, d'identités pour les comptes
[51:12]
pour éviter ces comptes PayPal furtifs.
[51:16]
Oui, on avait même eu la chienne un bout de temps
[51:18]
parce que PayPal fermait des comptes de créateurs
[51:23]
pour différentes raisons.
[51:24]
Oui, il gelait l'argent ou des choses comme ça.
[51:26]
Oui, c'est ça, même si nous, on n'avait rien à se reprocher.
[51:28]
Exact, mais c'est vrai que ça nous avait fait peur, je me rappelle.
[51:31]
Oui, oui, donc lui, ça y est arrivé aussi.
[51:34]
Et dès 2018, il se plaint aussi que les 15 000
[51:37]
à 20 000 visiteurs quotidiens du site
[51:40]
ralentissent ces infrastructures.
[51:42]
Ça, c'est drôle comme commentaire.
[51:43]
Et selon l'enquête, le compte relié à David Do
[51:46]
ne fait pas qu'administrer le site.
[51:48]
Il publie aussi 161 vidéos truquées, notamment
[51:52]
sur Sandra Bullock, sur Yairi.
[51:55]
Il partage plus de 6000 photos du visage
[51:58]
d'Alexandria Ocasio-Cortez, lui aussi,
[52:00]
pour aider les créateurs. C'est lui qui est en arrière de ça.
[52:03]
Et le site héberge 125 vidéos étiquetées
[52:07]
à son nom, encore une fois, totalisant
[52:09]
environ 5,3 millions de vues.
[52:11]
Et donc, c'est sûr que c'est...
[52:14]
il a joué pour beaucoup dans l'alimentation.
[52:18]
Non seulement il a créé le site et tout ça,
[52:20]
il est derrière sur l'infrastructure, mais lui-même
[52:22]
a alimenté beaucoup la création de DeepFake.
[52:24]
Oui, il a créé beaucoup de contenu. Exact.
[52:27]
Et là, on va se rendre à l'effondrement un peu
[52:29]
de tout ça. Il faut savoir qu'ironiquement,
[52:32]
en avril 2024, il y a un journal néerlandais
[52:35]
qui a réussi à joindre l'administrateur du site.
[52:38]
Puis lui, il prétend l'avoir vendu à quelqu'un d'autre.
[52:40]
Mais aucune preuve n'a jamais confirmé cette vente.
[52:43]
Peut-être un dernier mensonge qui a été mis là
[52:45]
pour brouiller les pistes. Le site ferme finalement
[52:49]
ses portes, Emile, le dimanche précédent
[52:50]
à la publication de l'enquête conjointe.
[52:53]
Puis il y a un message qui a été publié sur le site
[52:54]
de MrDeepFake qui affirme qu'un fournisseur
[52:57]
de services essentiels, toujours un peu louche,
[52:59]
on ne sait pas c'est qui, qui a mis fin à sa collaboration
[53:02]
ainsi qu'une perte de données, étrange,
[53:05]
qui rend toute poursuite impossible. Dans le fond,
[53:07]
ils ont un YP, la base de données, c'est ce qu'on comprend.
[53:11]
Les administrateurs assurent que la plateforme ne reviendra pas.
[53:14]
Mais le lendemain matin, les journalistes attendent
[53:17]
des vitres d'eau devant son garage.
[53:19]
Ils baissent la vitre de sa Tesla, mais refusent de répondre.
[53:22]
Et Zetto, le journaliste de CBC, il insiste
[53:25]
que les personnes ciblées sur le site, ce sont des vraies victimes
[53:28]
avec des vrais dommages psychologiques, des vraies émotions détruites.
[53:32]
Pourquoi fait-il ça? Il pose des questions.
[53:34]
Et quelques jours après la fermeture,
[53:36]
Oak Valley Health, l'employeur de David,
[53:39]
confirme qu'il ne travaille plus pour l'organisation.
[53:41]
Donc il a perdu son emploi. Et au printemps 2026,
[53:44]
le Collège des pharmaciens de l'Ontario
[53:46]
publie ensuite des allégations disciplinaires.
[53:49]
Il lui reproche d'avoir exploité le site
[53:51]
ou d'y avoir publié du contenu entre 2018 et 2025.
[53:56]
C'est pendant sept ans quand même.
[53:58]
C'est presque toute sa carrière. Je pense que c'est 10 ans,
[54:00]
sa carrière de pharmacien.
[54:02]
C'est incroyable. Ils s'ablonnent.
[54:06]
D'après moi, ce n'est plus s'ablonnent.
[54:08]
Mais si elle ne devait pas savoir ça,
[54:10]
tu te rends compte que ton chum est à la tête
[54:13]
d'un site de dits fakes.
[54:17]
Je te sacrerai ça dehors.
[54:20]
Justement par rapport à son emploi,
[54:22]
il y a une audience qui doit avoir lieu,
[54:24]
mais il n'y a encore aucune décision disciplinaire
[54:26]
qui a été rendue par rapport à son statut de pharmacien.
[54:29]
Est-ce qu'il va perdre le droit de pouvoir pratiquer?
[54:32]
C'est toujours juste des allégations.
[54:35]
Il n'y a pas de déclaration de culpabilité professionnelle.
[54:38]
Il y a des élus.
[54:39]
Il y a d'autres pays qui veulent sa peau à des villes.
[54:42]
Le Danemark et le Pays-Bas réclament son extradition.
[54:47]
Mais il n'y a aucune demande formelle
[54:48]
qui a été transmise par un gouvernement au Canada
[54:50]
qui a été rendu public.
[54:52]
Mais eux l'ont dit dans les médias
[54:53]
qu'ils voulaient le faire payer aussi dans leur pays.
[54:56]
Mais la question se heurtrait de toute façon
[54:59]
au principe de la double incrimination.
[55:00]
Je vous rappelle, l'acte reproché pour qu'on puisse extrader
[55:04]
doit constituer un crime dans les deux pays.
[55:07]
Or, pendant une grande partie de l'existence de Mr Deepfakes,
[55:10]
c'est ça le problème, c'est que la loi canadienne
[55:12]
ne mentionne pas explicitement les Deepfakes sexuels.
[55:15]
C'est genre depuis 2025 que c'est vraiment encadré dans la loi.
[55:20]
Il y a même eu des gens, je pense, à Terre-Neuve
[55:22]
ou des cas qui ont été innocentés
[55:26]
parce qu'il n'y avait pas de cadre de loi
[55:28]
pour entrer ce bout-là.
[55:31]
Oui, ce n'est pas tout le temps évident dans tous les pays.
[55:33]
Non, comme je vous dis, le Canada a depuis modifié
[55:37]
son code criminel, mais la non-rétroactivité
[55:40]
des nouvelles infractions et la nature exacte
[55:43]
des gestes reprochés, ça rend toute hypothèse
[55:45]
d'extradition beaucoup plus complexe qu'elle en a l'air.
[55:48]
On ne peut pas rétrobaquer des lois qui n'existaient pas.
[55:52]
Et la fermeture de Mr Deepfakes est une vraie victoire
[55:55]
parce que le professeur Annie Farid,
[55:58]
qui est un expert en criminalistique numérique à Berkeley,
[56:01]
voit toutefois un bon début, mais trop peu et trop tard.
[56:05]
Le répit est donc court.
[56:07]
Mais la communauté ne disparaît pas.
[56:09]
Elle se disperse vers d'autres plateformes moins surveillées
[56:11]
comme Télégram, qui est rendu un lit à toutes sortes
[56:15]
des pires vices humains, et vers des outils qui disent
[56:18]
à donner limité, dont certains peuvent tenter
[56:21]
un remplacement de visage à partir d'une seule photo.
[56:24]
Mais pour les scènes complexes, la qualité demeure
[56:26]
toutefois très variable.
[56:28]
Et là, on va vous parler un peu de l'effet Paris Hilton.
[56:30]
Oui, parce qu'elle est impliquée dans cette histoire.
[56:33]
Paris, depuis quelques années, elle fait quand même des big moves.
[56:36]
Oui, c'est le fun de voir. C'est ça, c'est une fille brillante.
[56:39]
C'est parce qu'on ne la connaissait pas vraiment.
[56:43]
Dans le temps, c'était la petite fille riche,
[56:46]
le magnat de l'hôtel ou la petite fille, je ne sais plus.
[56:51]
Justement, elle-même, elle avait une vidéo
[56:52]
pornographique qui avait été sortie d'elle.
[56:54]
Oui, elle a été victime de quelque sorte,
[56:58]
mais ce n'était pas du défaite.
[56:59]
Oui, mais c'était une vraie fuite orchestrée par son ex.
[57:04]
Si on se dit les vraies affaires,
[57:06]
ce n'était pas de la popularité,
[57:08]
mais ce n'était pas consentant, tout ça.
[57:12]
Après ça, elle a fait des drôles de trucs de télé,
[57:14]
de télé-réalité, tout ça.
[57:16]
On avait l'impression un peu de la juger, ça que je veux dire.
[57:18]
Mais là, un peu comme tu dis, avec ce qui est fait
[57:20]
comme productrice, elle permet à tous de rendre accessible
[57:24]
des trucs qui sont moins connus en faisant ce qui est fait.
[57:27]
Une fois le site fermé, justement,
[57:28]
Paris et David Doe, publiquement associés à son administration,
[57:33]
l'affaire attire une alliée inattendue.
[57:35]
Justement, c'est Paris, elle-même,
[57:37]
qui était ciblée par des Deepfakes sexuelles.
[57:40]
Elle devient la productrice exécutive de Searching for Mr Deepfakes,
[57:44]
qui est une série documentaire de 14 épisodes
[57:46]
créée par la journaliste Laurie Siegel
[57:49]
et diffusée sur le compte de TikTok de Paris directement.
[57:53]
Et l'enquête est aussi adaptée en 4 épisodes
[57:55]
dans la balado Mostly Human with Laurie Siegel aussi.
[57:59]
Et ça fonctionne.
[58:00]
La campagne récolte 26 millions de visionnements
[58:03]
sur les réseaux d'Hilton et de Mostly Human dès sa première semaine,
[58:08]
tandis que les nouvelles personnes ciblées
[58:09]
commencent à raconter leur histoire.
[58:12]
Hilton soutient aussi publiquement le Defiance Act,
[58:16]
qui donnerait aux victimes un recours civil aux Fédérales
[58:18]
aux États-Unis aussi. Mais son impact se fait surtout sentir
[58:21]
après la fermeture, parce qu'elle est arrivée après tout ça.
[58:24]
Ça l'a juste fait connaître, elle a amplifié le dossier
[58:27]
auprès d'un vaste public et elle a fait émerger
[58:29]
des nouveaux témoignages et prolonger la pression politique
[58:32]
aussi parce que c'est toujours long de faire changer les lois.
[58:37]
Elle choisit bien ses combats Paris.
[58:40]
Aux États-Unis, il y a le Take it Down Act,
[58:42]
dont on a parlé un peu tantôt, qui criminalise la publication
[58:45]
ou la menace de publier des images intimes non consensuelles,
[58:49]
qu'elles soient réelles ou générées par l'IA.
[58:52]
Et les plateformes visées doivent aussi les retirer en 48 heures.
[58:56]
C'est quand même big, ça.
[58:57]
Le ministère de la Justice annonce ensuite ce qu'il présente
[59:00]
comme un premier plaidoyer de culpabilité sur cette loi.
[59:03]
Un certain James Strawler II, qui avait diffusé des contenus
[59:07]
sexuels truqués dans une campagne de cyberharcèlement.
[59:10]
Le Royaume Mini va encore plus loin, c'est-à-dire
[59:13]
que créer ou commander une fausse image intime
[59:16]
d'un adulte sans son consentement constitue une infraction,
[59:20]
même si l'image n'est jamais diffusée.
[59:21]
Ça, c'est très bien d'avoir mis ça dans la loi.
[59:24]
Oui, parce que le geste est commis même si ce n'est pas diffusé.
[59:28]
En Corée du Sud, l'approche repose surtout sur la transparence.
[59:33]
C'est-à-dire que les fournisseurs doivent signaler
[59:34]
les contenus synthétiques et marquer clairement
[59:37]
les deepfakes réalistes.
[59:39]
Les deepfakes électoraux sont également interdits avant un scrutin.
[59:43]
Oui, parce qu'en Corée du Sud, il y avait beaucoup de problèmes
[59:45]
pendant les élections avec les deepfakes politiques.
[59:49]
Maintenant, c'est interdit. C'est 90 jours avant les élections.
[59:53]
Tu ne peux pas faire de deepfake.
[59:55]
Mais on dirait qu'avant, tu peux.
[59:57]
C'est comme si le 3 mois avant, pour être sûr de ne pas influencer
[01:00:01]
dans le fond, d'influencer les autres.
[01:00:03]
Je trouvais ça rigolo en guillemets.
[01:00:06]
Mais c'est une problématique qu'on a de plus en plus
[01:00:08]
dans les deepfakes politiques aussi.
[01:00:11]
C'est un enjeu. Il faut qu'il encadre un peu tout ça.
[01:00:14]
En fait, en guise, peut-être de conclusion,
[01:00:16]
on a un peu fait le tour. Qu'en est-il du Canada, Seb,
[01:00:20]
dans toutes ces régulations-là?
[01:00:22]
C'est la Colombie-Britannique qui a eu, dès le départ,
[01:00:26]
déjà un recours civil pour les deepfakes intimes.
[01:00:29]
Tu peux poursuivre quelqu'un au civil.
[01:00:30]
Au fédéral, c'est le Code criminel qui couvre désormais
[01:00:35]
les
[01:00:35]
Il y a des régulations qui sont fabriquées ou modifiées numériquement,
[01:00:37]
mais surtout lorsqu'elles sont diffusées ou utilisées
[01:00:40]
comme menace, leur simple création privée demeure moins clairement
[01:00:44]
couverte qu'au Royaume-Uni.
[01:00:46]
Comme si ce n'était pas directement encadré dans la loi.
[01:00:49]
Ça va dépendre du juge, en fait.
[01:00:52]
Je trouve que là-dessus, il devrait corriger,
[01:00:55]
même si ça vient d'être changé, de l'ajuster.
[01:00:57]
Mais au moins, c'est quand même puni.
[01:01:00]
C'est sûr que dès qu'il est publié, il a le plus d'impact
[01:01:03]
sur quelqu'un d'autre, sur autrui.
[01:01:06]
En conclusion de tout ça, Emile,
[01:01:08]
c'est qu'il y a plusieurs zones d'ombre dans le dossier.
[01:01:13]
Pour conclure, il y a plusieurs questions qui demeurent
[01:01:15]
sans réponse claire.
[01:01:16]
Qui a démasqué David Doe en premier?
[01:01:19]
Ça aussi, ce n'est pas clair. Parce que la firme Sidenti,
[01:01:22]
eux, affirment l'avoir identifié dès mars 2024.
[01:01:25]
Ils n'ont jamais rendu son nom public.
[01:01:27]
Il y a Jack Deck, il y a Politiken, il y a Bellingcat, il y a CBC.
[01:01:31]
Ils ont révélé ensemble, eux, son identité en mai 2025.
[01:01:34]
Mais qui est le premier vraiment qui l'a trouvé, on ne le sait pas.
[01:01:38]
David Doe a-t-il admis quoi que ce soit? Non.
[01:01:40]
Il a été confronté deux fois par des journalistes
[01:01:43]
qui ont refusé de répondre.
[01:01:45]
David Doe, on ne sait pas s'il agissait seul.
[01:01:48]
Bellingcat, ils ont repéré plusieurs autres comptes
[01:01:51]
associés à l'administration du site ou à la modération,
[01:01:54]
dont un autre qui portait le badge de staff d'un employé.
[01:01:59]
Mais on ignore qui les contrôlait,
[01:02:01]
quel pouvoir ils détenaient réellement,
[01:02:03]
s'il s'agissait de personnes distinctes.
[01:02:05]
Des fois, l'administrateur peut lui-même se créer
[01:02:08]
d'autres comptes plus bas pour un peu brouiller les pistes,
[01:02:11]
mais ils n'ont jamais remonté les autres pistes
[01:02:13]
des autres personnes qui géraient le site.
[01:02:17]
Et est-ce qu'il va faire face à la justice?
[01:02:19]
C'est une autre question qu'on a parce qu'il n'y a aucune accusation criminelle
[01:02:22]
qui a été rendue publique au Canada contre lui.
[01:02:24]
Il y a une audience disciplinaire, comme on vous disait,
[01:02:26]
qui est prévue devant le Collège des pharmaciens de l'Ontario.
[01:02:29]
Mais le caractère largement antérieur des activités
[01:02:32]
n'est pas allégué à la nouvelle loi canadienne,
[01:02:35]
mais ça demeure un obstacle important.
[01:02:37]
Le site a fermé juste un peu avant que la nouvelle loi
[01:02:40]
sur les défaits qui arrivent.
[01:02:43]
S'il est accusé, il va falloir qu'il trouve d'autres textes de loi
[01:02:48]
pour essayer de le coincer.
[01:02:49]
Il y a moyen de le faire, mais ça va compliquer le truc.
[01:02:53]
Qui a fait vraiment fermer le site?
[01:02:56]
Il y a aussi l'identité du fournisseur
[01:02:58]
qui a coupé les ponts et qui demeure inconnu.
[01:03:00]
Il y a encore beaucoup de mystère malgré tout.
[01:03:03]
Malgré toute l'enquête qui a quand même révélé qui est,
[01:03:06]
mais il y a beaucoup de zones d'ombre encore une fois dans cette histoire.
[01:03:10]
Exactement.
[01:03:11]
C'est toute une histoire.
[01:03:13]
On espère qu'il n'y en aura pas d'autres, des sites comme ça.
[01:03:19]
C'est sûr que ça a fait énormément jaser.
[01:03:21]
J'ai l'impression qu'on est pensé à une autre étape.
[01:03:23]
C'est ce que j'allais dire.
[01:03:24]
Ça prend des scandales comme ça pour faire bouger les choses.
[01:03:29]
Quand ils commencent à avoir des gens d'accusés,
[01:03:32]
ça a quand même un impact sérieux
[01:03:35]
sur les plateformes qui sont frauduleuses,
[01:03:38]
un peu comme celle-là.
[01:03:39]
Oui, tu as raison, parce que ça a duré à peu près sept ans.
[01:03:43]
Aujourd'hui, une plateforme qui essaierait de copier ce modèle-là
[01:03:46]
ne durerait pas sept ans.
[01:03:48]
Ça a comme un peu passé sous le radar au début.
[01:03:50]
Tant que personne ne s'y intéresse vraiment,
[01:03:52]
cette communauté-là, elle vit, elle grandit, elle émerge,
[01:03:56]
mais tant que les journalistes et tout ça, il n'y a rien qui se passe.
[01:04:00]
C'est un peu un terrain fertile.
[01:04:02]
Comme tu dis, maintenant, je pense que ça ne fonctionnerait plus,
[01:04:05]
heureusement.
[01:04:07]
Mais ça va rester un problème, je pense,
[01:04:10]
qui va être à contrôler sur toutes les discords
[01:04:12]
ou les 4chan de ce monde,
[01:04:15]
tous ces endroits-là où on peut échanger du matériel,
[01:04:17]
les télégrammes, ça n'arrêtera pas.
[01:04:20]
Mais l'avantage, Anne Guillemet, c'est que ces plateformes-là,
[01:04:23]
c'est quand même un peu moins accessible, ça l'est,
[01:04:26]
mais moins qu'un site web indexable sur Google.
[01:04:29]
Comme je te dis, je l'avais trouvé en faisant une recherche sur Google.
[01:04:33]
Je pense que j'avais cherché Deep Fake Nude Celebrities
[01:04:35]
ou quelque chose comme ça, puis c'était dans les premiers sites.
[01:04:38]
Donc, s'il y avait un genre d'enjeux là-dessus,
[01:04:42]
mais c'est ça. En tout cas, on va espérer
[01:04:44]
que ça ne reviendra plus, mais...
[01:04:46]
Tu nous expliqueras en after-show pourquoi tu avais cherché ça sur Google.
[01:04:49]
Sinon, justement, qu'est-ce que tu as prévu pour nous, Sam,
[01:04:52]
pour l'after-show?
[01:04:52]
Oui, j'ai prévu l'histoire de Taylor Klein, en fait.
[01:04:58]
C'est une histoire qui vient du documentaire Another Body.
[01:05:02]
Taylor Klein, c'est une personne qui a vécu...
[01:05:06]
Vraiment, on va aller plus dans le détail d'un témoignage
[01:05:08]
de quelqu'un qui a vécu le partage d'images non consensuels
[01:05:13]
sur toutes sortes de plateformes,
[01:05:14]
dont Pornhub et Mr. Deep Fake, puis les impacts que ça a eu.
[01:05:18]
Mais aussi, comment ils ont tourné le documentaire,
[01:05:22]
il y a une petite twist intéressante
[01:05:24]
par rapport au Deep Fake, que je ne vous en dis pas plus.
[01:05:26]
Intéressant. Eh bien, ça, ça va être disponible sur Patreon,
[01:05:29]
en fait, pour nos abonnements. Oui, oui, exactement.
[01:05:32]
Donc, c'est là que ça se passe pour les after-shows.
[01:05:37]
Bien, je vous remercie de votre écoute, tout le monde.
[01:05:39]
J'espère que vous avez aimé ce nouveau format vidéo.
[01:05:43]
On va s'améliorer avec le temps,
[01:05:44]
on va se mettre à l'aise dans notre nouveau studio.
[01:05:47]
Si vous avez aimé la formule, eh bien, abonnez-vous à la chaîne.
[01:05:50]
Abonnez-vous à la chaîne YouTube.
[01:05:51]
Dites-nous ce que vous en pensez aussi sur Spotify et autres
[01:05:54]
si vous trouvez que, justement, est-ce que le son a changé?
[01:05:57]
Oui, on a des nouveaux micros aussi. Ça ne devrait pas avoir changé beaucoup.
[01:06:00]
On a fait des tests pendant l'été et on n'a pas eu de commentaires,
[01:06:04]
donc ça devrait être bien.
[01:06:07]
Vous savez où nous trouver, on est partout sur les réseaux sociaux,
[01:06:09]
sur Instagram, TikTok, Facebook.
[01:06:11]
On a un groupe de discussion privée aussi sur Facebook.
[01:06:15]
Bien sûr, sur Patreon aussi, sur YouTube.
[01:06:18]
Donc, venez nous faire un coucou, venez nous voir en show aussi.
[01:06:22]
Toutes nos dates de spectacles sont au distortionpodcast.com.
[01:06:25]
Et pour terminer, eh bien, continuons avec la tradition.
[01:06:29]
Seb, on a des shout-outs du Patreon à donner aujourd'hui.
[01:06:32]
Je te laisse commencer.
[01:06:33]
Oui. On remercie, on donne beaucoup d'amour à Noémie JB,
[01:06:38]
Annie T, Nicolas L, Marianne R et Marie-Pierre S.
[01:06:43]
Une grande main d'applaudissement à Simon BB,
[01:06:47]
à Mary, à Ezio89, à Juliane N et à J. Gaudry.
[01:06:54]
Et je poursuis l'amour à nos actionnaires
[01:06:57]
Catou B, Valérie DB, Anick SP, José A et Nix Co.
[01:07:04]
Une bonne table dans le dos à Lucy, à Pascal G,
[01:07:08]
à Anne-Julie S, à Myriam L et à la mystérieuse Audrey.
[01:07:13]
Et je conclue l'amour, mon cher Emile,
[01:07:15]
en remerciant Eve L, Marie M,
[01:07:20]
Adèle C et Guillaume PH.
[01:07:24]
Et pour terminer, Seb,
[01:07:25]
aurais-tu un mot de la fin pour nous ce soir?
[01:07:29]
Les images étaient fausses,
[01:07:30]
mais les conséquences, elles, étaient bien réelles.
[01:07:34]
Ouh!
