Auditer ses algorithmes : se préparer aux exigences de l'IA Act en pratique

L'entrée en vigueur de l'IA Act impose aux entreprises utilisant des systèmes à "Haut Risque" de mener des audits algorithmiques réguliers sous peine de lourdes sanctions financières.

Les points clés de l'audit

• Explicabilité : Être capable d'expliquer comment l'algorithme est arrivé à une décision.
• Non-discrimination : Vérifier que les données d'entraînement ne contiennent pas de biais (sexe, âge, origine).
• Sécurité et robustesse : S'assurer que le système résiste aux pannes et attaques.

Mettre en place un registre interne

Il est conseillé de documenter chaque étape du cycle de vie du modèle : de la collecte des données d'entraînement aux tests de production en passant par le monitoring de dérive.