AI Act : la Commission précise la classification des systèmes d’IA à haut risque

Article 6 de l’IA Act

Pour rappel, l’article 6 énonce les règles relatives à la classification de systèmes d’IA comme systèmes à haut risque. En particulier, la législation sur l’IA recense deux types de systèmes d’IA « à haut risque » :

• Systèmes d’IA intégrés dans des produits réglementés par la législation harmonisée de l’Union sur la sécurité des produits
• Systèmes d’IA susceptibles d’avoir une incidence significative sur la santé, la sécurité ou les droits fondamentaux des personnes dans des cas d’utilisation spécifiques énumérés dans la législation sur l’IA

La Commission a publié un projet de lignes directrices relatives à la classification des systèmes d’IA dit « à haut risque » visés à l’article 6 du règlement.

Points clés

1. Les lignes directrices accompagnent les fournisseurs et les déployeurs de systèmes d’IA à apprécier si leur système d’IA présente ou non un risque élevé

2. Elles dressent une liste non exhaustive d’exemples qui couvrent une grande variété de domaines et de cas d’utilisation, laquelle pourra être mise à jour par la Commission et dont voici quelques illustrations en matière d’administration de la justice :

• Caméras de vidéosurveillance installées dans les murs et/ou les plafonds d’un stade : Si un incident se produit pendant un match, les données biométriques capturées (images faciales) sont comparées à une base de données biométrique afin d’identifier les auteurs, sans la participation active des visiteurs du stade. Ce système d’IA est classé à haut risque
• Un système de vidéosurveillance avec reconnaissance faciale installé à l’entrée d’un stade afin de détecter les personnes figurant sur une liste noire et interdites d’accès au stade grâce à un contrôle d’accès direct : les personnes physiques doivent participer activement, c’est-à-dire se présenter devant le système d’IA pour pouvoir accéder au stade, de sorte que ce système d’IA ne serait donc pas classé à haut risque

Délais d’application et d’exécution

Les lignes directrices confirment le report des dates d’entrée en vigueur des dispositions concernées de l’IA Act. Ainsi :

• Les règles applicables aux systèmes utilisés dans certains domaines à haut risque — y compris la biométrie, les infrastructures critiques, l’éducation, l’emploi, la migration, l’asile et le contrôle aux frontières — s’appliquent à partir du 2 décembre 2027.
• S’agissant des systèmes intégrés dans des produits tels que la robotique et les machines industrielles, les règles s’appliquent à partir du 2 août 2028.

Parole d’expert

Bien que non contraignantes, les lignes directrices de la Commission dictent de facto la politique de contrôle et de sanction qui serait appliquée par les autorités de régulation.

Firsh accompagne les entreprises pour procéder à un audit de leurs solutions d’IA et les assiste dans leur classification au regard de l’IA Act.