Announcing development of Trust Meter Technical Specification
IDRC would like to announce development of a new Technical Specification for Standards Council of Canada (SCC) called Trust Meter.
The Trust Meter Technical Specification will support development of an inclusive and balanced data environment, beginning with persons with disabilities and extending to other marginalized groups. The Trust Meter Technical Specification outlines the requirements for notifying AI systems operators when the scenario, group or individual about whom the AI-based decision is made, is out-of-distribution relative to the training set the model is trained on. In such cases, the AI is unreliable to make these decisions.
The Trust Meter project is being advanced under SCC’s AI and Data Governance (AIDG) Program. For more information about this project, please contact Vera Roberts (vroberts@ocadu.ca).
IDRC est heureux d’annoncer l'élaboration d’une nouvelle spécification technique pour le Conseil canadien des normes (CCN) appelée Indicateur de confiance.
La spécification technique du Indicateur de confiance soutiendra le développement d’un environnement de données inclusif et équilibré, en commençant par les personnes en situation de handicap et en s’étendant à d’autres groupes marginalisés. La spécification technique Indicateur de confiance décrit les exigences pour aviser les opérateurs de systèmes d'IA lorsque le scénario, le groupe ou l'individu sur lequel la décision basée sur l'IA est prise est hors distribution par rapport à l'ensemble de formation sur lequel le modèle est formé. Dans de tels cas, l’IA n'est pas fiable pour prendre ces décisions.
Le projet Indicateur de confiance est développé dans le cadre du programme du gouvernance d'IA et des données du CN. Pour plus d'informations sur ce projet, veuillez contacter Vera Roberts vroberts@ocadu.ca.