La Californie vient d’adopter une législation visant à lutter contre l’usage des deepfakes dans les campagnes électorales, en réponse à la propagation croissante de contenus « trompeurs » sur les réseaux sociaux. Cette loi pourrait bien poser problème à des figures influentes telles qu’Elon Musk, qui aime partagé des deepfakes de la vice-présidente Kamala Harris. Par peur de perdre leur monopole de la diffusion de l’information ? ou de perdre le pouvoir de manipuler les masses ? Comme durant le COVID, la Californie via le gouverneur Gavin Newsom, s’est exprimé sur la nécessité de freiner les manipulations numériques visant à induire les utilisateurs des plateformes en erreur. Mais cette législation présente bien des failles. Du fait, qu’elle viole les droits constitutionnels, en vertu du 1er amendement, qui protège la liberté d’expression.
This is amazing 😂
— Elon Musk (@elonmusk) July 26, 2024
pic.twitter.com/KpnBKGUUwn
Le gouverneur de Californie, Gavin Newsom, a approuvé trois lois cette semaine visant à combattre la désinformation générée par l’IA, mais les détracteurs affirment que cette législation pourrait devenir un outil déguisé pour imposer la censure. Si la satire et la parodie restent protégées, le partage de contenus trompeurs avec l’intention de nuire pourrait avoir des conséquences juridiques sérieuses pour des personnalités influentes comme Elon Musk.
Une loi contre les manipulations numériques
« Je viens de signer un projet de loi visant à rendre cela illégal dans l’État de Californie », a déclaré Newsom dans un tweet, faisant référence à une AII Deepfake Musk republiée plus tôt cette année qui a fait apparaître Kamala Harris s’est qualifiée de candidate incompétente
La loi californienne AB 2839, signée par le gouverneur Newsom, est un texte qui cible la distribution de deepfakes trompeurs dans les communications électorales. Elle ne s’attaque pas directement aux créateurs de ces contenus, mais plutôt aux utilisateurs des réseaux sociaux qui les partagent en toute connaissance de cause.
Un deepfake est une technique basée sur l’intelligence artificielle (IA) qui permet de créer des vidéos, des images ou des enregistrements audio très réalistes en modifiant ou en manipulant des visages, des voix ou des expressions. Le terme combine « deep learning » (apprentissage profond) et « fake » (faux). Ces technologies très convaincantes, sont souvent utilisées dans le but de faire croire qu’une personne a dit ou fait quelque chose qu’elle n’a pas réellement dit ou fait.
Cette législation s’inscrit dans un contexte où les fausses informations, amplifiées par l’intelligence artificielle, peuvent avoir un impact significatif sur le cours des élections. Cette loi permet à un juge d’ordonner le retrait d’un contenu ou d’infliger des amendes aux utilisateurs qui diffusent ces deepfakes.
Musk dans la ligne de mire
Cette législation semble être une réaction au bond de popularité de Trump actuellement. Elon Musk,soutien à Trump, avec ses millions d’abonnés sur la plateforme X (anciennement Twitter), est désormais dans la ligne de mire.
I just signed a bill to make this illegal in the state of California.
— Gavin Newsom (@GavinNewsom) September 17, 2024
You can no longer knowingly distribute an ad or other election communications that contain materially deceptive content — including deepfakes. https://t.co/VU4b8RBf6N
« Je viens de signer un projet de loi visant à rendre cela illégal dans l’État de Californie », a déclaré Newsom dans un tweet, faisant référence à une Deepfake de Musk faisant apparaître Kamala Harris.
En partageant à plusieurs reprises des deepfakes de Kamala Harris, Musk pourrait être confronté à cette nouvelle loi. Dernièrement, Elon Musk a partagé une image générée par intelligence artificielle (IA) de Kamala Harris en dirigeante communiste.
Bien que ces deepfake soient souvent perçues comme des parodies, la frontière entre satire et tromperie devient floue lorsque des millions de personnes peuvent potentiellement être trompées, selon le gouverneur Newson.
Le gouverneur Newsom a fait savoir que les personnalités comme Musk ne seraient pas au-dessus des lois, tout en soulignant que l’humour et la parodie ne sont pas menacés par cette législation.
La désinformation en ligne devenue une fixation démocrate
L’AB 2839 impose des restrictions particulièrement sévères dans les 120 jours précédant une élection, période durant laquelle tout contenu trompeur concernant un candidat californien, qu’il soit local ou national, est susceptible de faire l’objet de poursuites.
Ce cadre vise à protéger l’intégrité des élections face aux manipulations numériques. Kamala Harris et Donald Trump, tous deux candidats potentiels sur les bulletins de vote de l’État, pourraient donc se retrouver au cœur de cette législation.
Cependant, si un deepfake est accompagné d’un avertissement explicite mentionnant sa nature fictive, il ne tomberait pas sous le coup de la loi.
Pour mémoire, Hillary Clinton a attribué sa défaite en 2016 à la désinformation russe et, cette semaine encore, elle a demandé que les diffuseurs de telles fausses informations en ligne soient poursuivis. La lutte contre la désinformation en ligne est devenue une priorité pour les démocrates depuis les élections de 2016, conduisant à la création d’une Unité de renseignement spécialisée dans ce domaine.
