Claire Poirson a apporté des éclaircissements juridiques dans le cadre du podcast FOcUS de RTL sur les #deepfakes , présentée par Martial YOU et avec Gerald Holubowicz, fondateur de la newsletter « Synth » et Benjamin Hue, journaliste spécialiste Tech à RTL.

Sujet de l’émission : les deepfakes menacent-ils notre démocratie ?

le Deepfake :  technique d’hyper trucage utilisant l’intelligence artificielle #IA qui consiste notamment à superposer des traits humains sur le corps d’une autre personne, ou à manipuler les sons, pour générer une expérience humaine réaliste.

Grâce l’AI, on peut donc modifier une image, une vidéo, un audio, une voix pour prêter à quelqu’un un comportement ou des propos qu’il n’a pas tenus.

 A première vue, le but est bien souvent de créer des infox et des canulars et de nous faire rire. ex) Le pape en doudoune, Obama et Merkel faisant des pâtés de sable…

Mais la réalité peut être tout autre :

Les dangers des deepfakes sont réels et difficiles à juguler :

1.pour les personnes : 94 % des deepfakes sont à caractère pornographique et touchent en très grande majorité les femmes. Par l’effet viral du deepfake l’atteinte à la vie privée est potentiellement très grave
2. pour les #entreprises, qui peuvent être victimes d’arnaques encore plus difficiles à déjouer (avec le visage et la voix du Président…), les deepfakes accruent leur risque #cyber, voire leur réputation en cas de fausse déclaration du management sur les #réseauxsociaux, sur le site internet de l’entreprise piraté …
3.pour la #démocratie : les deepfakes peuvent se révéler une arme de communication redoutable dans la déstabilisation des pays en temps de guerre, de retour de la « guerre froide » et en période d’élections.

Claire Poirson a rappelé les actions juridiques qui pourraient être engagées contre les auteurs de deepfakes. L’arsenal législatif existe tant civil que pénal, qui doit être renforcé par le projet de loi visant à sécuriser et à réguler l’espace numérique (si cette loi voit le jour) et le règlement européen IA ACT.
Devant les objectifs de célérité et d’efficacité des mesures pour lutter contre les deepfakes qui pour l’instant font sérieusement défaut, elle souligne que la prévention reste aussi et surtout de mise.