Rejoignez Emile et Seb dans cette nouvelle mini-disto où ils plongent dans le monde troublant des deepfakes pornographiques. Découvrez comment cette technologie, apparue en 2017, a été utilisée pour créer des vidéos fausses mais réalistes, souvent à des fins pornographiques. Nous explorons les implications éthiques et juridiques de cette technologie et discutons de l’impact de ces deepfakes sur les individus, en partageant l’histoire de Noelle Martin, une militante qui a été victime d’hypertrucage pornographique. Enfin, nous examinons les statistiques alarmantes sur les deepfakes et discutons des efforts en cours pour réguler cette technologie. Bonne écoute !
Épisode
Mini-Disto - Le deepfake pornographique
Audio
Écouter l’épisode
Transcription de l’épisode
Lire la transcription
Transcription automatique. Certains mots ou noms propres peuvent être inexacts.
Vous êtes sur le point d'écouter une mini disto tirée du journal d'enquête d'Emile et Sébastien.
Hello les distordus et hello Seb!
Hello Emile!
Yes!
Tiens, pourquoi pas un petit bonus cet été 2023 parce qu'on a difficulté à prendre des vacances nous.
Oui, exact, c'est le temps de se lâcher.
Il y a plein de choses, mais oui, puis il y a un sujet que tu voulais nous parler en fait depuis longtemps.
On en parle toujours un petit peu dans différents épisodes, mais là on voulait en parler un petit peu plus précisément parce que ça a été une grosse année pour ce sujet là.
2023, c'est le deep fake. En fait, en français, c'est quoi? C'est l'hypertruquage?
L'hypertruquage, oui, exact.
Vous savez, quand on... excuse-moi, je te coupe Seb, mais quand on surimpose un visage, souvent c'est de gens connus où ça peut être son propre visage sur le corps de quelqu'un d'autre,
mais à la façon vraiment, avec l'intelligence artificielle, d'une façon haute qualité.
Ah oui, aujourd'hui, le temps que nous-mêmes on a fait des tests en 2019 dans notre série télé, ça a énormément changé.
Maintenant, il y a des outils sur le web accessibles pour à peu près Monsieur, Madame, tout le monde.
Puis l'angle que je voulais parler aujourd'hui du deep fake, c'est plus le côté deep fake pornographique en fait.
Parce que ça, c'est oui, par exemple, le deep fake régulier peut amener à de la désinformation.
Par exemple, on met Donald Trump, Barack Obama, Justin Trudeau, Emmanuel Macron qui dit quelque chose qu'il n'a pas dit.
Oui, même du deep fake vocal.
Oui, exactement. Même, on a eu un cas avec une fausse entrevue de Justin Trudeau avec Rogan qui s'est promené aussi et qui était du deep fake vocal.
Quand tu la regardes, tu ne peux pas tant savoir. Tu le sais parce que le premier ministre ne s'irait pas là, on l'aurait su et tout ça.
Mais juste le côté technique, c'est difficile à détecter.
Oui, parce que cette année, ça a aussi été l'année de l'intelligence artificielle, mais surtout apportée au niveau artistique.
Il n'y a pas une semaine où on n'a pas parlé de mid-journée.
Maintenant, ta grand-mère fait des trucs avec Elon Musk sur mid-journée.
Oui, exactement.
Donc, on dirait qu'avec cet avènement-là, le deep fake a pris une autre coche, une autre étape.
Parce que nous, en 2018-2019, quand on avait fait nos tests, on avait fait le visage de Keanu Reeves sur ton casse, ce qui était très crédible.
Oui, exactement.
Juste pour vous dire, on avait trouvé quelqu'un de la communauté Deep Fake sur Reddit pour nous aider avec ça.
Ça lui avait pris... faire le rendu, je pense que son ordinateur, ça lui avait pris 48 heures.
Oui, c'était plusieurs jours, même. Je me demande si ce n'est pas 72.
Oui, où l'ordi ne fait que ça.
Oui, exactement.
Donc, c'était quand même intense. Et maintenant, en quelques clics, en 45 secondes, tu peux avoir un Deep Fake de la même qualité que ce qu'on avait, grâce à l'intelligence artificielle.
Donc, c'est inquiétant.
Ah oui, parce que l'enjeu, c'est de se retrouver justement dans une vidéo pornographique où ce n'est pas toi, mais le mal est fait.
Vous allez voir, je vais vous parler d'une victime, il y en a eu plein, des vedettes et tout ça, mais vraiment une non-name, si je peux me permettre, lorsqu'elle a été victime de ça.
Vous allez voir, c'est un phénomène qui est très dérangeant et qui est difficile de se protéger, en fait, parce que la personne que je vais vous parler, elle,
ils ont pris ses photos sur les médias sociaux, des photos bien banales, mais avec l'intelligence, tu mets... il prend juste ton visage, le reste,
souvent, il applique ça sur des vidéos pornographiques existantes ou des photos existantes, mais le blend, si je peux me permettre, le mélange, le rendu fait qu'on ne peut pas s'en rendre compte,
on ne peut pas faire la différence si c'est bien la personne.
Avant d'aller plus loin, je vais vous faire un petit historique, en fait. La technologie Deepfake a fait son apparition pour la première fois en novembre 2017,
puis c'est ça, je l'ignorais, je dois vous dire, c'était sur Reddit, ou du moins je l'avais oublié, et c'était un utilisateur anonyme,
à du moins qu'il avait utilisé le pseudonyme Deepfakes à l'époque, puis lui, il avait publié une première fois un algorithme qui exploitait d'autres algorithmes,
et on sait, c'est un mélange de technologies qu'on fait du Deepfake, puis il avait donné un peu la recette, et il avait uploadé des fausses vidéos qu'il avait faites à l'époque de quelques vedettes,
puis c'était des vidéos pour adultes, mais c'était sur Reddit, donc ça n'avait pas trop sorti de là, mais un mois plus tard,
Samantha Cole, qui est une excellente journaliste de Motherboard, elle, elle sort toujours beaucoup de sujets super intéressants, elle a découvert cet utilisateur-là,
puis c'est là que ça a été mis un peu plus au grand jour, et que justement, il utilisait des techniques open source pour développer ces trucs,
il n'a pas créé des choses, il a juste utilisé des logiciels existants pour échanger des visages de célébrités féminines la plupart du temps dans des vidéos pornographiques,
et c'est un peu comme ça que ça a commencé. Par contre, je veux juste vous parler qu'il y a eu des techniques sous-jacentes à la création du Deepfake qui ont été développées,
mais pour, comment dire, la bonne chose, en fait, en 1997, il y avait un logiciel qui s'appelait Video Rewrite, qui a été créé par Christophe Bregler, Michel Covell et Malcolm Slaney.
Eux, en fait, ils ont développé un logiciel qui était destiné pour le doublage des films, juste pour replacer les lèvres,
pour que, on le sait, quand on voit des doublures, puis ce n'est pas la même langue, les lèvres ne suivent pas,
mais eux, ils ont développé un logiciel pour adapter les lèvres. Je trouve ça brillant, puis je me demande s'ils utilisent ça encore aujourd'hui.
Peut-être pas ce logiciel-là, mais…
Un auto-tune de mouvement de lèvres.
Oui, exact, exact. Donc ça, au moins, il y avait une utilisation intéressante.
Fait que si on veut remonter l'historique, c'est 1997, mais d'une utilisation professionnelle.
Donc les premières vidéos ont tourné autour de ça.
Juste pour vous dire, c'est quand même un enjeu majeur.
Malgré tout, les plateformes ont interdit, à partir de 2018, le Reddit, Twitter, Discord, même Pornhub, en fait, interdit le partage de contenu deepfake sur leurs plateformes.
Encore là, c'est assez difficile à détecter. Google l'a ajouté aussi dans leur interdiction.
Tapez « deepfake porn » dans Google, vous allez voir des tonnes de résultats, des gros sites dont « Mr. Deepfakes ».
Avant d'y aller, comment dire, c'est vraiment un site porno.
Même eux, ils disent que c'est du fake, au moins.
Mais je voyais des vidéos avec l'actrice d'Harry Potter, plein de comédiennes, c'est malaisant.
Ah, c'est clair.
Taylor Swift, des choses comme ça.
Honnêtement, j'ai sorti mes outils pour visiter.
C'est comme un peu troublant parce que dans le fond, les scènes porno, je pourrais comprendre.
Je pourrais me faire l'avocat de la chose en me disant que si tout était fake, au moins, il n'y a personne qui a été exploité dans le processus.
Mais là, il y a quand même une vraie actrice qui s'est peut-être fait exploiter.
Je crois que je ne prends pas pour acquis que toutes les actrices porno se font exploiter, pas du tout.
Vraiment pas le « shout-out » à nos distordus travailleuses du sexe.
Mais dans ce cas-ci, c'est ça.
Dans le fond, on substitue vraiment le visage d'une vraie personne par celle de… C'est comme doublement fautif, on dirait.
Oui, oui, oui.
Puis même, il y en a qui étaient créatifs.
Ils mettaient Taylor Swift, je ne sais plus, deux autres actrices ensemble.
Je vous laisse figurer, mais c'est vraiment particulier.
Juste en trafic organique, les gens par Google, c'est plus de 5 millions de visites par mois sur ce seul site, Mr. Deepfakes.
C'est assez débile.
Ils disaient qu'en 2020, par exemple, 96 % de tous les Deepfakes étaient pornographiques.
Donc, la désinformation et tout ça, ça reste encore assez anecdotique dans ce cas-ci.
Je vous sors d'autres études par rapport à ça.
Ils disaient qu'en 2019, on recule un peu, il y avait seulement 13 % des gens qui savaient c'est quoi un Deepfake.
Aujourd'hui, je n'ai pas la stat, mais je suis convaincu que c'est beaucoup, beaucoup plus élevé.
Oui, où les gens le savent sans le savoir. Ils ne connaissent pas le terme.
Oui, exactement.
Même qu'en 2022, il y a eu une enquête qui disait que 57 % des internautes prétendaient pouvoir détecter une Deepfake.
Puis 43 % de disaient ne pas pouvoir le faire. Donc, c'est à peu près 1 sur 2 de chaque côté.
J'avoue qu'il y a des cas que c'est très évident, mais il y a certains cas, honnêtement, c'est à s'y méprendre.
En 2019, encore une fois, il y avait à peu près 15 000 vidéos de Deepfakes en ligne, mais ça a doublé juste 9 mois plus tard.
Donc, il y a vraiment eu une explosion. Après notre show télé, c'est sûr que ça a donné l'idée à tout le monde.
Mais plus sérieusement, quand nous on l'a adressé, c'est que ça devenait quand même un phénomène…
Oui, ça devenait presque mainstream.
Oui, c'est ça, grandissant. Donc, on peut voir la courbe par rapport à ça.
Même en 2023, c'est rendu à 500 000 Deepfakes vidéo et vocaux, selon l'entreprise Deep Media, qui sont capables de détecter.
Ils disent qu'en 2022, ça n'a plus que doublé. C'est assez fou.
La proportion est passée de 0.2 à 2.6 aux États-Unis, et de 0.1 à 4.6 en fait, la proportion de Deepfakes parmi toutes les vidéos.
Ça a vraiment augmenté. Au niveau légal aussi, parce que je lisais plusieurs spécialistes et c'est vrai qu'une des solutions, c'est les lois.
Mais encore une fois, pour tout ce qui est Internet, c'est difficile.
La vidéo, la personne qui crée la Deepfake, ça va souvent avec les lois locales où elle habite, mais si elle utilise du matériel qui est d'une autre personne, d'un autre pays, ça, ça a l'air que ça peut complexifier aussi le jugement ou même de porter des accusations contre la personne.
Aux États-Unis, heureusement, il y a beaucoup d'États de plus en plus qui ont interdit la chose, mais ça reste compliqué d'un État à l'autre.
C'est un peu la même chose en France aussi. Le secrétariat d'État numérique a expliqué qu'il est équipé pour lutter contre le Deepfake.
Il y a un arsenal législatif qui est utilisé pour le punir.
Eux, ils considèrent ça dans la même catégorie que des fausses nouvelles en France pour pouvoir le punir.
Et au Canada aussi, quand même, on a des lois, ça implique la pornographie infantile.
Et eux, ils intègrent le Deepfake d'enfants, parce que là, on n'en parlera pas trop du Deepfake d'enfants, mais je le sais que ça existe aussi.
Là, je dois avouer que j'ai pas fait de recherche, ça ne me tentait pas non plus dans le sens que je veux pas voir ça, mais je le sais que c'est un enjeu aussi dans le monde de la pédophilie.
Sur le Dark Web, il y a aussi de plus en plus ce type de vidéos-là qui circulent.
Pour y retrouver votre enfant, sans le vouloir encore une fois, quelqu'un prend une photo sur les réseaux sociaux, l'applique sur…
Ah mon Dieu, ben oui.
Ah non, je le sais, c'est horrible. C'est horrible, mais je le sais que ça aussi, ça circule.
Il n'y a pas beaucoup de stats évidemment sur cette portion-là, un peu encore plus dégueu de tout ça.
Bref, tout ça pour dire que même au Canada, il y a même le droit d'auteur qui embarque aussi pour protéger.
Chaque pays, chacun a leur législation. Ils essaient, on dirait…
À leur façon.
À leur façon, mais malgré tout, je ne sais plus c'est dans quel pays.
Mais il y a des arts de droit que si t'es pas propriétaire de l'image, en tout cas, il y a des trucs.
Des fois, il y a des bypass de lois que les gens peuvent s'en sortir.
En fait, il y a des lois qui datent encore d'une autre époque sur lesquelles s'appuient des nouvelles lois qui font en sorte que ce n'est pas toujours évident.
Mais reste, quand même, je trouve que là-dessus, les gouvernements ont quand même agi, comment dire, pas vite.
Les victimes d'il y a dix ans, ils ne pourraient pas dire ça, mais c'était quand même nouveau.
Mais ils ont quand même, comment dire, ils sont allés dans le bon sens.
Je veux vous donner un cas réel qui est arrivé.
En fait, cette dame-là, elle a révolutionné, si je peux dire ainsi, le côté législatif de ça en Australie.
En fait, elle s'appelle Noël Martin. Elle, c'est une Australienne.
Puis à 18 ans, elle a découvert qu'elle était victime de des fake photos, en fait, pornographiques.
Puis elle, en 2013, elle était toute jeune.
Comme je vous disais, elle avait 18 ans.
Puis c'est des photos. Ils ont utilisé des photos.
Au départ, c'était des photos banales qu'elle avait sur les réseaux sociaux.
Puis elle s'est rendu compte en se googlant par hasard.
Puis elle a vu des photos d'elle nues, mais elle ne l'a jamais pris ou publié ou quoi que ce soit.
À ce moment-là, le mot « deep fake » n'existait pas.
Non, exactement. En 2013, pas du tout.
Elle a dit que c'était une condamnation à perpétuité.
Parce que c'est difficile de retirer ça de l'Internet.
On en a déjà parlé souvent.
Dans la vie, des fois, il faut être résilient.
Ce qu'elle a fait, elle est allée en droit pour combattre ça.
Je vous rappelle qu'elle avait 18 ans quand elle était victime.
Et maintenant, grâce à elle, en 2018, en Australie, il y a des nouvelles lois pour criminaliser la distribution d'images non consensuelles ou de « revenge porn ».
Donc elle a quand même amené.
Elle a fait changer le niveau législatif.
Aujourd'hui, en fait, ces 10 ans, il y a plein d'articles d'elle.
Quand je faisais des recherches qui sont très récents par rapport à ça.
Puis justement, elle a fait une tournée aux États-Unis pour améliorer les lois, soutenir les victimes.
Parce qu'on n'est pas au courant.
C'est très peu médiatisé.
Mais il y a des dizaines de milliers de victimes de ça que leur vie est détruite.
Elle disait qu'il y a des gens qui se retirent d'Internet.
Ils développent des chocs post-traumatiques.
Ça doit être l'enfer.
Parce que même quand tu fais du vrai contenu pornographique, tu te fais intimider.
Imagine quand c'est du faux.
Dans le sens que tu n'as pas voulu ça en plus.
C'était de la famille qui tombe.
On sait à quel point c'est impossible d'enlever des choses d'Internet.
De faire sortir ça de site Web.
On en a tellement parlé.
Exact. Ça revient toujours.
Dans les « deepfakes », ce n'est pas surprenant.
Mais les femmes sont ciblées entre 80% à 90%.
90% à 95%.
C'est des vidéos de femmes.
C'est un peu ça que je voulais vous parler parce que je voulais quand même vous ramener…
Comment dire?
Vous vous conscientisez du sujet.
Des fois, on n'est pas trop conscient que ça existe.
Mais on dirait que là-dessus tout le monde peut être malchanceux.
Oui, c'est clair.
Il peut être vraiment malchanceux.
Une des vedettes qui a été victime, c'est Scarlett Johansson.
Elle, ça a été une des premières vedettes où il y a eu un faux film pornographique qui a été fait avec elle.
Les derniers articles, elle est beaucoup plus zen par rapport à cette situation-là que lorsque c'est arrivé il y a plusieurs années.
Mais quand même, à la base, il y a eu des photos d'elle qui ont été volées nues.
Des vraies photos par contre.
Je voulais vous en parler un petit peu parce que ce n'est pas du défaite, mais juste une petite parenthèse.
La personne qui avait volé s'appelait Christopher Chaney.
Lui, pendant des années, il a piraté 50 comptes, souvent des high clouds ou des choses comme ça, de vedettes et tout ça.
Finalement, les autorités américaines l'ont puni.
10 ans de prison, 150 000 $ en dommages et intérêts.
Même au départ, le procurat demandait 6 ans.
C'est le juge, ou en tout cas, je ne sais plus trop le détail, mais finalement, ils ont voulu donner une peine exemplaire de 10 ans.
Ce qui est quand même bien parce que c'est facile, en guillemets, de hacker des comptes.
Mais après ça, tu rentres dans l'intimité des gens, tu ne peux pas permettre ça.
On en a eu, je ne sais pas si tu as entendu parler au Québec, un dude qui a été condamné pour le même genre de truc.
Il y avait des comptes de Véronique Cloutier, il n'y a pas si longtemps, mais il s'est arrangé en la brosse.
Il a eu quand même une bonne enquête.
Pendant des années, il lisait les textos des gens.
Tu dois tellement te sentir.
C'est incroyable, tu te trouves sous une autre invasion de la vie privée.
Dernière petite chose qui m'exaspère.
En fait, je me suis rendu compte dans mes recherches qu'il y a sur Telegram l'application de messagerie,
un peu mystique, mais dans le sens qu'elle est très encryptée.
Tout ce qui est là-dessus est toujours un peu secret.
C'est comme un écosystème à part entière.
Il y a un bot qui existe depuis juillet 2019 qui s'appelle un bot Deep Fake.
Sur Instagram, je ne sais pas trop comment y accéder.
Il y a 7 chaînes qui sont connectées à ça.
Tu y envoies des photos d'image que tu veux et automatiquement,
il va te retourner des images pornographiques de la personne d'une manière assez instantanée.
Les dernières stats qu'on avait en juillet 2020,
il estimait à 24 000 images qui avaient été quand même partagées et retravaillées.
Ça, c'est en 2020.
Je me demandais s'il est encore actif.
Et oui, il est encore actif.
Wired UK a fait un article pas si longtemps que ça.
Ils disent qu'ils ont de la misère à la télégramme.
Ils disent qu'il n'est pas capable de l'arrêter.
Ça, on dirait que j'ai de la misère à comprendre.
Mais je n'ai pas fouillé sur le détail.
Je ne sais pas comment fonctionnent les bottes sur la télégramme.
Imagine comment...
Il est laissé à lui-même.
Comme on dit, c'est des outils tellement accessibles pour n'importe qui.
Quelqu'un qui veut se venger, même à l'école secondaire,
quand tu es plus jeune et un peu naïf,
tu peux tomber dans cette forme de fausse Revenge porn.
Je peux dire que quand à l'école, tu pognes sa photo.
Après ça, tu mets ça sur un...
Tu t'envoies ça à tout le monde.
Ça, c'est un truc du numérique qui fout la chienne un peu.
Tu ne veux vraiment pas être victime de ça.
C'est tellement saunois.
Bref, j'espère avoir éclairé sur le sujet.
Il n'y a même pas de moyens de se protéger.
C'est ce qui est étrange.
En plus, ne pas publier sur les réseaux sociaux.
À un moment donné, on ne peut pas dire ça.
Ça ne fait pas de sens.
Voilà.
On est même plus dans le souvent.
On vous dit, n'envoyez pas de nous.
Ou du moins, faites attention quand vous envoyez des photos nues de vous.
Mais là, ce n'est même pas ça.
On ne peut même pas dire ça.
Voilà.
Yes.
Merci Seb pour cette mise à jour.
Vous, les dits tordus, dites-nous ce que vous en pensez du Deep Fake.
Est-ce que ça vous fait peur?
Est-ce que vous avez déjà eu de l'expérience avec ça?
Laissez-nous savoir.
Sinon bien, on se dit à très bientôt.
Bye bye.
Écouter Distorsion
Écouter