Sommaire des exigences réglementaires de la LIAD
Obligation
Rôle
Exerce une activité réglementée et, dans
le cadre de cette activité, traite ou
rend disponibles
des données anonymisées.
Établir des mesures concernant la manière dont les données sont anonymisées et l’utilisation ou la gestion des données anonymisées.
a.
Tenir des documents sur les mesures d’anonymisation.
b.
Responsable de n’importe quel système d’IA.
Évaluer si le système d’IA est « à incidence élevée ».
a.
Tenir des documents sur les motifs qui justifient cette évaluation.
b.
Responsable d’un système d’IA à incidence élevée.
Établir des mesures visant à cerner, évaluer et atténuer les risques de
préjudice ou de résultats biaisés.
a.
Établir des mesures pour surveiller la conformité et l’efficacité des
mesures d’atténuation
b.
Tenir des documents sur les mesures d’atténuation et de surveillance
mises en place
c.
Informer le ministre si l’utilisation du système cause un préjudice
important ou est susceptible de le faire
d.
Publier en ligne une description du système en langage clair
e.
Activités | Attentes
Activités
Attentes
Gérer l’exploitation du système
Une personne qui supervise le système pendant son utilisation, y compris le démarrage ou l’arrêt de son fonctionnement, la surveillance et le contrôle de l’accès à ses résultats pendant son fonctionnement et la modification des paramètres relatifs à son fonctionnement.
Utiliser les systèmes comme prescrit
Évaluer et atténuer les risques
Assurer une surveillance continue
du système
Par exemple, consigner et surveiller les résultats du système, mettre en place des mécanismes de surveillance et de supervision humaine, et intervenir au besoin en fonction des paramètres opérationnels.
Rendre le système disponible
Une personne qui déploie un système entièrement fonctionnel, qu’elle en soit ou non le développeur, dans le cadre d’une transaction commerciale, par l’entremise d’une interface de programmation d’application ou en rendant le système opérationnel accessible au public.
Tenir compte des utilisations potentielles lors du déploiement
Prendre des mesures pour s’assurer que les utilisateurs sont conscients des restrictions et des limites du système
Par exemple, il peut s’agir de documenter les efforts de conformité, de renseigner les utilisateurs sur les jeux de données utilisés, les limites et l’utilisation appropriée, et d’évaluer l’évolution des risques associés
au déploiement du système.
Concevoir ou développer le système
Un concepteur est une personne qui détermine les objectifs, les besoins de données, les méthodologies, les algorithmes ou les modèles du système d’IA.
Un développeur est une personne qui traite des jeux de données, qui forme des systèmes utilisant les jeux de données, qui modifie les paramètres du système, qui développe et modifie les méthodologies, les algorithmes ou les modèles utilisés dans le système, ou qui teste le système.
Prendre des mesures pour cerner et traiter les risques en matière de préjudice et de biais
Documenter l’utilisation appropriée et les limites
Ajuster les mesures si nécessaire
Par exemple, pour les concepteurs de systèmes, il peut s’agir de procéder à une évaluation initiale des risques et de décider si l’utilisation de l’IA est appropriée.
Activités | Contenu de la description
Activités
Contenu de la description
Gérer l’exploitation du système
Utilisation réelle du système
Types de contenu qu’il génère
Décisions, recommandations ou prédictions qu’il prend ou fait
Mesures d’atténuation établies
Rendre le système disponible
Utilisation visée du système
Types de contenu qu’il doit générer
Décisions, recommandations ou prédictions qu’il doit prendre
Mesures d’atténuation établies
Pour les développeurs de systèmes, il peut s’agir de documenter les jeux de données et les modèles utilisés, d’effectuer l’évaluation et la validation, d’intégrer des mécanismes de surveillance et de suivi et de documenter les utilisations appropriées et les limites.