Genre et IA : FIRSH auditionné par le Haut Conseil à l’Egalité entre les femmes et les hommes (HCE)

Le Haut Conseil à l’Égalité entre les femmes et les hommes est une instance consultative indépendante placée auprès du Premier ministre. Il contribue au débat public sur les politiques relatives aux droits des femmes et à l’égalité entre les femmes et les hommes, et formule des recommandations à destination des pouvoirs publics.

Le HCE conduit actuellement un travail consacré au thème « Genre et Intelligence Artificielle », dans le cadre de l’élaboration d’un rapport. Son objectif : documenter les effets différenciés des technologies d’IA, identifier les risques de reproduction ou d’amplification des inégalités et éclairer l’action publique en matière de régulation, de prévention des discriminations et de justice sociale. Une commission ad hoc a été constituée afin de mener ces travaux, aux côtés de la Formation Égalité professionnelle du HCE.

Dans ce cadre, le cabinet FIRSH a été auditionné afin de partager son expertise sur l’appropriation de l’IA, ses effets sur l’égalité entre les femmes et les hommes et les risques juridiques associés à certains de ses usages.

Cette audition a notamment porté sur les travaux du Livre blanc du FIRSHLab consacré aux deepfakes, sur la multiplication des deepfakes à caractère sexuel et, plus largement, sur les discriminations que les outils algorithmiques et les systèmes d’intelligence artificielle sont susceptibles d’engendrer à l’égard des femmes.

Les échanges ont ainsi permis d’aborder une question centrale :

Le droit est-il aujourd’hui en capacité de protéger efficacement les femmes face aux nouveaux risques créés par l’intelligence artificielle ?

Deepfakes sexuels, outils de « nudification », diffusion non consentie de contenus intimes, cyberharcèlement, biais algorithmiques dans l’emploi, la santé ou l’accès aux services : l’IA peut amplifier et industrialiser des violences et des discriminations préexistantes, tout en faisant apparaître de nouveaux enjeux juridiques, techniques et probatoires.

Claire Poirson a également présenté plusieurs modèles et initiatives étrangers susceptibles d’éclairer la réflexion française, sur la base des travaux comparatifs conduits par le #FIRSHLab avec son comité d’experts internationaux : Sun Hee Kim, Sion Kim, Alexander Schmid, Nikhil Narendran, David Zou, Agnes Hammarstrand, Sebastian Torres, Laura Harper, Gemma Jones, Takashi Nakazaki, Alan Campos Elias Thomaz, Juliana Gebara Sene Ikeda.

FIRSH est le premier cabinet d’avocats français à conduire, avec un comité d’experts internationaux, des travaux de recherche structurés et comparatifs consacrés aux deepfakes.

Le Livre Blanc « Démêler le vrai du faux à l’ère des deepfakes : est-ce encore possible ? » ne se limite pas à dresser un état des lieux des risques mais analyse les solutions juridiques existantes et leurs limites, ainsi que leur nécessaire adaptation face aux 4 enjeux majeurs liés aux deepfakes : la sécurité démocratique, la cybersécurité des entreprises, la protection des personnes notamment des mineurs et la protection des créations.

Nous remercions le Haut Conseil à l’Égalité pour cette audition et pour la qualité des échanges.