Deepfakes : lorsque la fraude rencontre la crise de la preuve

Le clonage vocal constitue désormais l’un des usages les plus préoccupants des deepfakes pour les entreprises.

Quelques secondes d’une intervention publique peuvent suffire à reproduire la voix d’un dirigeant, usurper son identité et déclencher une fraude : ordre de virement, communication d’informations sensibles, manipulation d’un collaborateur…

Notre associée Claire Poirson est intervenue dans le podcast 𝗖𝗧𝗥𝗟+𝗦(𝗮𝗳𝗲), présenté par Philippine Dolbeau pour ESET France, afin d’analyser les conséquences juridiques de cette évolution.

Au-delà de la fraude, les deepfakes remettent en question l’appréciation de l’authenticité des preuves

L’image, la voix ou la vidéo ont longtemps constitué des éléments particulièrement convaincants dans un contentieux.

Que se passe-t-il lorsque leur authenticité devient elle-même contestable ?

Un deepfake a déjà été invoqué comme moyen de défense devant une juridiction française. Avec la progression rapide des technologies génératives, l’identification d’une manipulation pourrait demain devenir beaucoup plus complexe, avec des conséquences directes sur l’administration et l’appréciation de la preuve.

Pour les entreprises, le risque doit donc être traité en amont

Les procédures de vérification, la cybersécurité, les dispositifs de gestion de crise et les processus internes de validation doivent désormais intégrer l’hypothèse d’une usurpation par IA.

Le droit appréhende progressivement ces pratiques, notamment au travers de la loi SREN et du règlement européen sur l’intelligence artificielle (AI Act).

Mais la réglementation ne peut, à elle seule, prévenir une fraude reposant précisément sur la capacité à créer artificiellement de la confiance.

Face aux deepfakes, le premier enjeu est donc autant juridique que pragmatique : ne plus considérer comme authentique ce qui paraît simplement vraisemblable.

Claire Poirson