Utilisation de l’IA : cadre de gouvernance pour les conseils d’administration

Les politiques évoluent, et les conseils d’administration doivent en faire autant

L’IA évolue rapidement, tout comme les discours relatifs à sa gouvernance, à la confidentialité et à l’utilisation des données. Le Commissariat à la protection de la vie privée du Canada insiste d’ailleurs pour que les systèmes d’IA respectent les principes fondamentaux de la confidentialité tels que le consentement, la transparence et l’explicabilité, surtout lorsqu’il est question de données personnelles. Les lois et règlements internationaux peuvent également avoir une incidence sur vos politiques, à plus forte raison si vous faites des affaires à l’étranger.

En tant qu’administrateurs, vous devez donc vous attendre à ce que vos activités soient scrutées à la loupe non seulement par les organismes de réglementation, mais aussi par la clientèle, les employés et le grand public. Conséquemment, vos systèmes d’IA doivent être à la fois accessibles, fiables et conformes. Êtes-vous en mesure d’expliquer comment ils prennent des décisions? Documentez-vous la façon dont ils sont créés et testés? Réalisez-vous des audits ou des évaluations internes pour vous assurer que ces systèmes fonctionnent comme prévu?

Il ne s’agit pas d’enjeux techniques, mais de gouvernance. Les conseils d’administration doivent s’assurer que les systèmes d’IA sont utilisés de façon à limiter les risques, en plus de veiller à ce que les utilisateurs soient informés des biais que ces outils peuvent reproduire.

Prévoir l’imprévisible

Même les systèmes d’IA les plus performants peuvent être imprévisibles. Les échecs de l’IA — qu’ils soient attribuables à des biais, à un dysfonctionnement ou à une mauvaise utilisation — peuvent être lourds de conséquences. Les administrateurs doivent être en mesure de repérer les situations délicates qui pourraient en découler et modifier le plan d’intervention de l’organisation en conséquence. Le nouveau plan devrait inclure une chaîne de commandement claire pour la prise de décisions liées à l’IA et une stratégie de communication axée sur la transparence et la responsabilité.

Tout ceci passe par une bonne planification. Le CA a-t-il anticipé les pires scénarios et déterminé comment l’organisation allait y répondre? Des plans de continuité des affaires ont-ils été adoptés en cas de défaillance du système, de mauvaise utilisation, de dysfonctionnement ou de panne? L’organisation peut-elle s’adapter rapidement aux nouvelles réglementations et aux attentes du public?

Les administrateurs doivent également s’assurer que les systèmes d’IA sont constamment sous surveillance — pas seulement à l’étape du lancement, mais tout au long de leur cycle de vie. Pour ce faire, ils doivent notamment suivre les indicateurs de rendement clés et procéder à l’évaluation des rapports périodiques qui font état du rendement, des risques, des enjeux éthiques, etc.

L’IA transforme les organisations

L’IA vient bouleverser le fonctionnement des entreprises et, conséquemment, ce à quoi les conseils d’administration doivent porter attention. Même si elle se développe à un rythme effréné, il est important de voir ces changements comme un levier de transformation et non comme un boulet.

L’IA permet en effet aux administrateurs de démontrer leur intégrité, de poser des questions délicates et de déterminer comment l’utilisation de la technologie peut refléter la mission et les valeurs de leur organisation. Elle ne concerne pas seulement la technologie, mais aussi les gens qui s’en servent. Une bonne gouvernance permet de garder le cap sur cette réalité.

Une bonne gouvernance, c’est quoi, concrètement?

Les conseils d’administration peuvent utiliser l’IA pour améliorer la gouvernance de leur organisation d’une multitude de façons :

Aide à la prise de décisions

L’IA peut fournir des données approfondies sur les tendances du marché, votre positionnement par rapport à la concurrence et vos indicateurs de rendement. Ces données peuvent aider à prendre de meilleures décisions stratégiques.

Gestion des risques

L’IA peut surveiller en permanence les risques liés à la cybersécurité, à la conformité réglementaire, aux finances, aux opérations, etc. Elle peut ainsi alerter rapidement les administrateurs en cas de problème.

Conformité réglementaire

Les systèmes d’IA peuvent suivre l’évolution des exigences réglementaires dans différentes provinces et signaler automatiquement les lacunes sur le plan de la conformité, afin que l’organisation puisse s’adapter aux exigences en constante évolution.

Optimisation de l’efficacité des réunions

L’IA peut générer automatiquement des ordres du jour, résumer des rapports volumineux, suivre la mise en œuvre des plans d’action et rédiger des procès-verbaux. Les administrateurs peuvent ainsi consacrer plus de temps aux discussions stratégiques et moins aux tâches administratives.

Suivi du rendement

Les tableaux de bord des systèmes d’IA permettent de voir en temps réel les principaux indicateurs de rendement et de durabilité de même que les données opérationnelles. Les administrateurs peuvent donc avoir une meilleure idée de ce qui se passe entre les réunions.

Analyse des parties prenantes

L’IA peut analyser les opinions des parties prenantes en s’appuyant sur diverses sources, notamment les réseaux sociaux, les communications avec les investisseurs et les rétroactions des employés, ce qui éclaire les administrateurs sur les perceptions et les préoccupations externes.

Liste de vérification pour administrateurs avisés

L’IA transforme les organisations et les secteurs d’activité, et votre CA doit aborder cet enjeu de front. Avant votre prochaine réunion, posez-vous les questions suivantes :

• Savons-nous comment l’IA est utilisée dans notre organisation et quelles décisions elle influence?
• Avons-nous la certitude que nos systèmes d’IA cadrent avec nos valeurs? Avons-nous réalisé des tests pour nous assurer que les décisions prises sont justes, inclusives et exemptes de préjugés?
• Est-ce que les rôles et responsabilités entourant la gestion de l’IA sont clairement définis? Avons-nous établi une procédure d’escalade en cas de problème?
• Les systèmes que nous créons sont-ils accessibles et vérifiables? Pourraient-ils facilement être soumis à un contrôle réglementaire?
• Recevons-nous régulièrement des mises à jour sur les risques liés à l’IA, son rendement et les tendances émergentes?
• Avons-nous examiné de possibles scénarios de défaillance et mis à jour notre plan d’intervention en conséquence?
• Consacrons-nous suffisamment de ressources à notre formation pour nous permettre de superviser adéquatement les systèmes d’IA?