Les Deepfakes générés par IA se propagent - 2024
|

Les DeepFakes générés par IA se propagent, le cas Taylor Swift

L’usage de l’intelligence artificielle (IA) pour générer des DeepFakes (contenus synthétiques ou hypertrucage) suscite des inquiétudes dans la société. La plus médiatisée concerne Taylor Switft. À la suite d’une campagne de DeepFakes pornographique la visant, la chanteuse a exprimé sa colère et envisagerait de porter plainte devant les instances judiciaires. Cependant, ses fans ont déjà pris des mesures pour défendre leur idole et ont même attiré l’attention de la Maison-Blanche.

Au-delà, de ces DeepFakes sur Taylor Switft, l’IA est devenue un véritable problème sur les réseaux sociaux, en particulier sur X. A tel point, que lorsque l’on consulte le réseau d’Elon Musk, nous avons souvent l’impression d’entrer dans une réalité alternative. Les DeepFakes générés par IA y sont très nombreux. Ils participent également à des campagnes de désinformation, souvent pilotée par la Russie.

En France, en Allemagne et plus globalement en Europe les cas avérés sont de plus en plus nombreux. Les gouvernements s’inquiètent particulièrement de l’impact sur nos démocraties et sur les élections.

Der Spiegel a révélé que des experts au sein du ministère des Affaires étrangères ont repéré une campagne russe organisée sur la plateforme de messagerie de Elon Musk, X. Les inquiétudes au sein du gouvernement fédéral concernant une possible ingérence électorale s’intensifient. En France, nous ne sommes pas épargnés par le phénomène. En particulier sur les sujets qui touchent à la guerre en Ukraine mais aussi sur des sujets de société, l’objectif est d’amplifier les tensions existantes, de diviser et de décrédibiliser le pouvoir. Semer le chaos, exploiter les tensions pour déstabiliser.

X monterait un nouveau centre de surveillance pour combattre les DeepFakes et la désinformation ?

Le réseau social X est vivement critiqué pour son inaction, que ce soit les DeepFakes générés par IA ou encore la désinformation. Dans un premier temps, la réponse de X a été de mettre en place les notes de communauté, en s’appuyant sur des utilisateurs avertis pour rédiger les notes qui apparaissent sous les publications trompeuses ou erronées. C’est une solution souvent utilisée qui permet aux sociétés de se reposer sur sa communauté pour résoudre des problèmes de modération, tout ceci gratuitement.

Cependant les notes de communauté ne sont pas suffisantes. Elles arrivent souvent trop tard, alors que le Tweet a déjà été consulté de nombreuses fois. Elles se reposent entièrement sur les utilisateurs. Il est parfois très long de vérifier les informations et c’est une tâche qui peut être extrêmement chronophage, alors que les utilisateurs ne reçoivent aucune rémunération.

Selon Bloomberg et l’AFP, X (anciennement Twitter) prévoit d’établir un « Centre de confiance et de sécurité » au Texas. Ceci afin de surveiller et réprimer le contenu illégal, notamment la pornographie infantile, en embauchant 100 gestionnaires de contenu pour cette mission.

Ce centre sera chargé de traquer les contenus liés à la pornographie infantile et de contribuer à l’application des politiques de régulation des plateformes concernant les discours haineux et les contenus violents. Auparavant, le 26 janvier, X avait annoncé sur son propre blog son intention d’appliquer une politique de tolérance zéro envers la pornographie infantile.

Le cas des Deepfake par IA sur Taylor Swift

X est actuellement dirigé par Elon Musk, PDG de Tesla et principal actionnaire. Récemment, X a été vivement critiqué pour avoir diffusé des images DeepFakes de la célèbre chanteuse américaine Taylor Swift.

Le terme « DeepFake » est une combinaison des mots anglais « deep learning » et « fake », désignant la création de faux contenus tels que des images, des enregistrements audios et des vidéos grâce à la technologie de l’IA.

Les DeepFakes de Taylor Swift manipulent son visage et ses gestes de manière très explicite.

DeepFakes IA
Image générée par Dall-E

Les technologies IA de Microsoft auraient permis la création des DeepFakes

Cette controverse a également touché Microsoft, avec des allégations selon lesquelles le DeepFakes de Taylor Swift aurait été créé à l’aide de l’outil de création basé sur l’IA de Microsoft, appelé « Designer« .

Microsoft a immédiatement lancé une enquête. Satya Nadella, PDG de Microsoft, a récemment déclaré lors d’une interview télévisée que le DeepFakes de Taylor Swift était « choquant et répugnant« , soulignant la nécessité d’agir rapidement pour lutter contre ce phénomène.

Il a également insisté sur l’importance de mettre en place des mécanismes de sécurité technologique pour favoriser la création de contenus sûrs, une démarche déjà en cours. Il a ajouté que la réglementation pourrait être plus efficace lorsque la loi, les organismes chargés de l’application de la loi et les plateformes technologiques travaillent de concert.

Au-delà du cas Taylor Swift, les risques de la désinformation par DeepFakes

Il convient de noter que les problèmes liés aux DeepFakes par IA ne sont pas nouveaux. Ils sont très utilisés pour créer des contenus pornographiques. Toutefois c’est en politique que le phénomène est le plus alarmant, il est mondial et représente une véritable menace. Les Deepfakes peuvent parfois être utilisés dans le but d’influencer et de changer le comportement de la population, ou bien pour discréditer une personnalité.

En 2022, lors de l’invasion russe en Ukraine, la chaîne d’information Ukraine 24 a publié une vidéo sur son site internet, affirmant qu’elle aurait été enregistrée par le président ukrainien Volodymyr Zelensky. Dans cette vidéo, il appelle la population à remettre leurs armes.

En 2023, les élections Slovaques sont marquées par une vague de DeepFakes générées par IA. Par exemple, un faux enregistrement audio en question présente deux voix présumées appartenant à Michal Šimečka, dirigeant du parti libéral Progressive Slovakia, et Monika Tódová du quotidien Denník N. Ils semblaient discuter de méthodes visant à manipuler les élections, notamment en achetant des votes au sein de la minorité Rom défavorisée en Slovaquie.

L’avenir des DeepFakes générés par IA

L'avenir des DeepFakes générées par IA
Image générée par Dall-E

Un appel croissant à une réglementation stricte des DeepFakes se fait entendre. Aux États-Unis, seulement neuf États interdisent la création ou la diffusion de photos DeepFakes sans le consentement des personnes concernées, et il n’existe aucune réglementation fédérale à ce sujet.

En France, le 4 juillet 2023, le Sénat a examiné un projet de loi visant à sécuriser l’environnement numérique. Deux amendements gouvernementaux ont été adoptés ce jour-là, concernant l’encadrement légal des DeepFakes.

Le premier amendement propose de modifier le code pénal pour punir la publication de contenus visuels ou sonores générés par des algorithmes et reproduisant l’image ou les paroles d’une personne sans son consentement. Le deuxième amendement crée un nouvel article dans le code pénal, réprimant la publication de montages à caractère sexuel réalisés avec les paroles ou l’image d’une personne sans son consentement. Ces amendements sont avant tout fait pour protéger les personnes victimes de harcèlement par l’intermédiaire des DeepFake par Intelligence Articifiel. Il reste le problème de la désinformation.

Combattre la désinformation par l’accès à l’information et la transparence, opposer la vérité au mensonge

Cependant comme l’indique le rapport de l’ONU, au lieu de mettre en place des restrictions, il est recommandé aux États de favoriser et de défendre les médias libres et autonomes. De favoriser au maximum la transparence et l’accès à l’information pour renforcer la confiance dans les institutions publiques, la gouvernance et les procédures. De plus, ils devraient promouvoir l’engagement du public à toutes les échelles et faciliter des discussions et des échanges constructifs.

Plusieurs pays ont instauré des initiatives d’éducation numérique et médiatique visant à encourager une participation en ligne plus robuste et significative. Ces programmes favorisent l’acquisition de compétences en pensée critique, ce qui aide les individus à repérer, dévoiler et démystifier la désinformation.

La meilleure arme contre les DeepFakes et plus généralement la désinformation reste votre sens critique. Quelques soit vos idées politiques, restez critiques à l’égard des informations que vous trouvez sur les réseaux sociaux et Internet.

Méfiez-vous des contenus qui cherchent à attiser votre mécontentement ou votre colère. N’hésitez pas à demander les sources, vérifiez les informations sur des sources reconnues comme les sites de médias professionnels. Enfin n’hésitez pas à signaler des contenus illicites avec la plateforme Pharo ou encore directement sur le réseau social. Cependant dans le cas de X, la plateforme a montré de nombreuses défaillances dans le traitement des contenus sensibles.

A lire aussi

A lire également

5 1 vote
Article Rating
S’abonner
Notification pour
guest

0 Comments
Commentaires en ligne
Afficher tous les commentaires