En décembre 2024 et janvier 2025, une nouvelle tendance, surnommée “Minion gore”, a envahi TikTok, Instagram et X. Propulsée par un filtre IA, elle permet de transformer les personnages et les décors des vidéos en univers inspirés des films d’animation des Minions.Si les premières créations étaient amusantes et inoffensives, la tendance a rapidement dérapé. Des vidéos ultraviolentes, accompagnées d’audio perturbant, ont commencé à circuler, suscitant une vague d’inquiétude. Ce phénomène relance une fois de plus le débat sur la modération du contenu sur les réseaux sociaux.
Épisode
Des vidéos des Minions par IA qui dérapent (Mini-Disto)
Audio
Écouter l’épisode
Transcription de l’épisode
Lire la transcription
Transcription automatique. Certains mots ou noms propres peuvent être inexacts.
Vous êtes sur le point d'écouter une mini-disto tirée du journal d'enquête d'Emile et Sébastien.
Hello tout le monde, ici Emile pour une mini-disto. Encore une fois, je ne risque pas de vous donner foi en l'humanité avec cette histoire.
Vous connaissez sans doute les Minions, ces petites bêtes loufoques créées par Illumination dans les films Détestables Moi ou encore Despicable Me.
Ils sont drôles, rigolos et se mettent toujours dans des situations impossibles.
Les Minions ont en quelque sorte redéfini la franchise de films d'animation pour enfants depuis le premier film sorti en 2010.
En tout et partout, la franchise des Minions cumule des recettes de plus de 5 milliards de dollars américains au box-office, sans compter son impact culturel inestimable.
Évidemment, il y a eu des tonnes de produits dérivés.
Mais aussi, les Minions ont même fait une apparition aux Jeux Olympiques de Paris en 2024, conduisant un sous-marin sous la Seine.
En décembre 2024 et janvier 2025, les Minions ont fait d'autres apparitions dans nos fils de médias sociaux, mais pas pour les mêmes raisons.
Et celles-ci sont assez glauques.
Une nouvelle tendance, surnommée Minion Gore ou encore Horror Minion, est arrivée sur TikTok, Instagram et X,
alors qu'un filtre contrôlé par l'IA permet de mettre en ligne des vidéos où les personnages et les décors sont remplacés par les personnages et les univers des Minions.
Mais ce n'est pas si simple.
Tout débute alors que certains internautes ont repéré la plateforme Runway, spécialisée en effets spéciaux générés par l'IA.
La plateforme a un outil appelé Gen3Alpha qui permet de faire ce qu'on appelle du vidéo sur vidéo,
c'est-à-dire d'appliquer une vidéo existante, un style provenant d'une autre vidéo, utilisant évidemment les forces de l'intelligence artificielle.
Runway est une plateforme sérieuse qui collabore sur de réelles productions hollywoodiennes.
Ainsi, quelqu'un pourrait donner comme commande à l'outil, par exemple, de prendre une vidéo familiale de Noël et de lui appliquer le style d'une vidéo des Simpsons.
Comme ça, on peut faire rire sa famille et garder un bon moment de temps passé en famille.
C'est donc ce qui est arrivé ici.
Des gens ont commencé à utiliser la plateforme pour modifier des vidéos familiales anodines et les amener dans le style des films d'illumination.
À voir les résultats, il semble que Runway soit très performante pour adapter le style des petits bonhommes jaunes.
Jusque-là, la trend est bien anodine et rigolote, jusqu'à ce que certains viennent gâcher le party.
Des vidéos ont commencé à apparaître sur TikTok où quelque chose ne sonne pas très juste.
On voit des minions faire des trucs bizarres, comme tomber par terre et faire des gestes un peu incompréhensibles, comme courir en groupe pour tenter de sortir d'un immeuble.
Mais dans l'audio, le son que l'on entend ne fait aucun sens dans la vidéo.
Dans plusieurs cas, on entend des gens hurler, parfois ce sont des bébés qui pleurent.
Mais que se passe-t-il avec nos minions ?
Des internautes croient reconnaître dans une de ces vidéos bizarres l'audio provenant d'une autre vidéo qui a fait le tour du web.
Celle de la tuerie de la mosquée de Christchurch en 2019. Oui, oui, vous avez bien entendu.
En mars 2019, Branton Tarrant a utilisé tout un arsenal d'armes semi-automatiques pour abattre de sang-froid les fidèles assistants à la prière du vendredi dans deux mosquées, diffusant des images de son attaque en direct sur les réseaux sociaux.
Ses victimes étaient toutes musulmanes et comprenaient des enfants, des femmes et des personnes âgées.
Il a fait 51 victimes en tout, un vrai carnage.
Cette vidéo avait été modérée à l'époque, mais Internet étant ce qu'il est, il est demeuré des copies existantes sur des sites non recommandables et sur le Dark Web.
Des utilisateurs de TikTok ont donc produit ces vidéos en utilisant la vidéo de la tuerie en soi et en lui donnant le style des films des minions.
Et à partir de là, la vidéo est recopiée et se retrouve partout sur le fil de plusieurs enfants et ados qui scrollent sans fin sur TikTok.
C'est assez traumatisant, je peux vous dire, de regarder une vidéo étrange de minion sur un fond sonore de massacre dans une mosquée.
Je ne souhaite à personne de vivre l'expérience.
Parfois, ces vidéos sont modérées rapidement car les internautes les rapportent, mais dans d'autres cas, il en prend des jours et elles sont toujours copiées et recopiées de toute façon et repartagées partout.
Dans les autres vidéos troublantes que j'ai vues, un minion est en train de pleurer sur une trottinette, mais dans l'audio, on entend clairement un petit garçon qui intimide une petite fille qui est elle sur la trottinette réellement.
C'est à crever le cœur, même si c'est beaucoup plus soft que la vidéo de la tuerie dans la mosquée.
Dans une autre, un minion en fait tomber un autre en le poussant dans la rue dans un décor de film d'animation pour enfants, mais en réalité, la vidéo utilisée à la source en est une où un homme en poignard d'un autre sur la rue et l'homme en question va tomber et éventuellement décéder dans la rue.
Une autre vidéo semble anodine alors qu'on croit voir des minions jouer dans une salle de bain, mais l'audio est insupportable, car en réalité, il s'agit d'une vidéo où on voit une victime se faisant torturer par des membres de cartels mexicains.
J'ai pu voir ces vidéos au moment où j'enregistre ce podcast sur TikTok, preuve qu'elles n'ont pas été toutes modérées à ce jour.
Cette méthode de montage par l'intelligence artificielle semble compliquer la modération des plateformes face à des vidéos graphiques tristement célèbres qui, auparavant, ne se trouvaient que dans les recoins les plus sombres d'Internet.
Les mêmes illégales de posséder certaines de ces vidéos, et là, elles se retrouvent en quelque sorte partagées à des millions de jeunes.
Presque à chaque fois, on y voit le filigrane de Runaway dans le bas de la vidéo, et on s'entend ici que l'entreprise n'y est pour rien.
Maintenant, je reviens dans le passé pour vous parler d'un autre événement dont vous avez peut-être déjà entendu parler tristement.
Ronnie McNutt est un vétéran américain de 33 ans ayant servi en Irak.
Il souffrait de dépression et du syndrome de stress post-traumatique lié à son expérience militaire.
À cela s'ajoutaient des difficultés personnelles, notamment une récente rupture avec sa petite amie de l'époque, qui l'ont plongée dans un état émotionnel fragile et dépressif.
Le 31 août 2020, après avoir consommé de l'alcool, Ronnie a décidé de diffuser un live stream sur Facebook depuis son appartement à New Albany, au Mississippi, aux États-Unis.
Au cours de cette diffusion, il a manipulé une arme à feu tout en exprimant son désespoir, ce qui a rapidement alarmé ses proches et sa famille.
Ces derniers ont tenté de le contacter par téléphone et via les commentaires du live stream pour le dissuader, tandis que la police s'établissait un périmètre autour de son domicile.
Malgré ses efforts, la situation a pris une tournure tragique lorsque Ronnie s'est tiré une balle sous le menton à 22h33, mettant fin à ses jours devant environ 200 000 spectateurs en direct, live sur Facebook.
L'événement était tragique et traumatisant pour ceux qui ont assisté à cette scène.
La vidéo est restée en ligne pendant près de trois heures avant d'être retirée par Facebook, mais des extraits ont rapidement circulé sur d'autres plateformes comme TikTok et Instagram.
Cet événement tragique a suscité une vive indignation face à la lenteur des réseaux sociaux à modérer ce type de contenu et a ravivé aussi les discussions sur la santé mentale des vétérans ainsi que sur la prévention du suicide.
La vidéo en tant que telle a été sauvegardée sur Internet par d'autres utilisateurs et a été rendue disponible sur des sites peu fréquentables du web de surface ainsi que sur le dark web.
Imaginez-vous donc que les vidéos de cette scène, représentées dans le style d'un film des minions, a aussi été mise en ligne sur TikTok, avec un filtre appliqué sur le visage de Ronnie.
Et comme vous pouvez vous en attendre, elle est devenue virale.
Au moins, certains influenceurs sur TikTok ont commencé à lancer des alertes et des appels au rapport de ces vidéos et de ces chaînes.
Comme ça, TikTok et Instagram peuvent supprimer ces vidéos une après l'autre.
Mais l'humanité étant ce qu'elle est, d'autres utilisateurs dans les commentaires indiquent aux autres où trouver les vidéos qui ont été recopiées ou, encore pire, où trouver les vidéos originales.
Parce qu'évidemment avec tout ça, il y a une résurgence de ces vidéos-là qui avaient en quelque sorte disparu du web de surface.
D'autres vidéos incluent des séquences de violence liées à des cartels, des exécutions publiques, des accidents sur des chantiers et même des images de guerres en Ukraine,
toutes transformées pour ressembler à des scènes humoristiques ou innocentes avec les personnages des minions.
Ces vidéos exploitent le contraste entre l'esthétique joyeuse et enfantine des minions et la gravité des contenus qu'elles dissimulent, rendant leur impact encore plus perturbant.
Après, des rumeurs encore plus inquiétantes ont commencé à surgir sur Reddit et ailleurs,
comme quoi le fameux filtre des minions aurait été appliqué à des films pornographiques ou, encore pire, à des vidéos de bestialité ou encore d'abus sur mineurs.
Mais personnellement, je ne suis jamais tombé sur de telles vidéos ni vue de preuves concrètes de leur existence, donc possiblement qu'il ne s'agit que de rumeurs.
Malheureusement, je ne serais pas surpris que ces rumeurs soient fondées.
Mais qui sont ces gens qui publient ces vidéos? Que sait-on sur eux?
Pas grand-chose, en fait. La plupart des comptes qui publient sont anonymes et semblent souvent provenir de Russie, étrangement.
Mais peut-on vraiment se fier aux infos qu'on trouve ou encore aux langues utilisées dans les descriptions de ces vidéos?
Car ces gens n'ont aucun intérêt à voir leur identité révélée au grand jour.
Ce sont certainement des gens très à l'aise avec les technologies pour utiliser les outils de Runway, et vu l'effet viral du début de la trend,
fort est à parier que les premières publications proviennent d'une certaine communauté probablement très organisée,
parce qu'on sent un effet de groupe derrière les premières vidéos diffusées.
Mais on n'en sait pas plus pour l'instant.
Comment éventuellement modérer ce genre de trend?
Il y a un certain Annie Farid, qui est professeure à l'Université de Berkeley,
un des principaux experts mondiaux en manipulation d'images numériques, ainsi que développeur de photo-DNA,
une des technologies les plus utilisées pour l'identification et le filtrage de contenu.
Lui, il lui a donné une très courte interview à 404 Media, qui sont les premiers à avoir sorti cette histoire de filtre de Minion.
Ce qu'il nous dit, Dr Farid, c'est que dans la plupart des cas,
les techniques qui servent à hacher l'empreinte numérique
ne parviennent pas à détecter de manière fiable ces variantes de vidéos-là.
Ce qu'il dit aussi, c'est qu'en partant du contenu original violant les règles de modération,
il serait possible pour les plateformes de créer ces variations en Minion,
de les re-hacher d'une certaine façon et d'en extraire une empreinte numérique,
puis d'ajouter ces signatures à leur base de données à modérer.
L'efficacité de cette approche, dit-il, dépendrait de la robustesse de l'algorithme de hachage
et de la capacité à imiter étroitement le contenu produit par d'autres.
Et bien sûr, cela ressemblerait à un jeu un peu du chat et de la souris,
car les créateurs remplaceraient les Minions éventuellement par d'autres personnages animés.
Donc, on n'en a pas fini avec ce genre de tendance.
Ce n'est donc pas un problème simple à résoudre.
Aussi, une tendance comme celle-ci peut solidement créer des dommages à une marque,
surtout une pour enfants comme celle des Minions.
Ni Illumination et ni Runway ont commenté la situation.
Je suppose qu'ils préfèrent laisser le temps faire les choses.
Mais le pire, évidemment, c'est le dommage créé aux proches et familles des réelles victimes
des vidéos réelles qui, eux, voient leur traumatisme revenir encore une fois vers eux
sur un fond de moquerie.
Je n'ose pas imaginer les émotions vécues par ces gens-là.
Donc, si vous tombez sur une de ces vidéos sur TikTok ou ailleurs, les Distordus,
rapportez-la à la plateforme pour qu'elle puisse la modérer.
Et là-dessus, on se reparle très bientôt pour une autre histoire bizarre.
Écouter Distorsion
Écouter