Conférence Collision : gouvernance et gestion de l’IA
Collision est l’une des plus importantes conférences sur la technologie et les entreprises en démarrage en Amérique du Nord. On aurait pu penser que l’édition de Toronto aurait résolument fait l’apologie de l’IA, mais les discussions, plus pondérées, étaient plutôt axées sur l’approche à adopter pour déployer et gérer cette technologie déjà bien implantée.
Voici trois points à retenir pour les CPA qui utilisent ou envisagent d’utiliser l’IA. Vous pouvez également lire les autres ressources de CPA Canada sur ce sujet .
Sortir l’IA de la boucle de la validation de principe
Selon Aidan Gomez, cofondateur de Cohere, entreprise canadienne spécialisée en IA, si 2023 a été l’année de la validation de principe, 2024 doit être celle de la mise à feu. Il a insisté sur l’importance pour les entreprises de sortir de la boucle de la validation de principe, cette approche qui consiste à investir en permanence dans le développement de petits projets ponctuels sans les mettre en œuvre à plus grande échelle.
D’autres conférenciers ont expliqué que même si les entreprises ne permettent pas à leurs employés d’utiliser l’IA générative, ces derniers trouveront quand même un moyen de le faire. Aussi ont-ils mis en garde non seulement contre le risque de tomber dans le piège d’un investissement excessif sans l’obtention de résultats concrets, mais contre celui d’empêcher le recours à ces outils de productivité. L’utilisation abusive de l’IA pose son lot de menaces – perte de données exclusives, atteinte à la vie privée, failles de sécurité – que des lignes directrices écrites ne suffisent pas à contrer.
Sécurité et confiance, un avantage concurrentiel
Un volet important était consacré à la sécurité et à la gouvernance de l’IA, en particulier au rôle de la réglementation dans une gestion fiable et responsable de cette technologie. Un point pertinent a été soulevé : puisque plusieurs pays, dont le Canada, commencent à peine à réglementer l’IA, les entreprises qui prennent en charge la sécurité et qui intègrent rapidement des programmes d’IA responsable dans leurs activités jouiront d’un avantage concurrentiel. Celles qui considèreront la confiance et la sécurité comme une valeur ajoutée pour leurs clients et parties prenantes en récolteront les fruits dans l’écosystème actuel, surtout axé sur les avancées technologiques.
Gouvernance et collaboration : des leviers essentiels
Toujours sur le thème de la sécurité et de la confiance, des conférenciers ont souligné le rôle qu’une gouvernance organisationnelle appropriée devrait jouer pour renforcer la confiance à l’égard de l’IA et gérer les risques posés par celle-ci. À cet égard, quelques indications pratiques :
- La gouvernance de l’IA requiert l’élaboration de politiques alignées sur cette technologie et sur les risques qui y sont propres (compréhensibilité, transparence, dérive des modèles, biais, etc.).
- Les services des TI ont besoin d’aide pour comprendre, contrôler et surveiller les applications d’IA. Les experts internes, qui comprennent les besoins de l’entreprise et des utilisateurs, doivent participer aux tests et au contrôle de l’exactitude des données de sortie.
- Les conseils d’administration doivent comprendre les risques propres aux systèmes d’IA. Leur gouvernance et leur gestion étant des enjeux de leadership, les conseils et les hauts dirigeants doivent participer au décloisonnement au sein de leur organisation pour favoriser une collaboration et une gouvernance efficaces.
La gouvernance de l’IA est un domaine dans lequel les CPA peuvent jouer un rôle important. Grâce à leur compréhension des processus et à leur expertise en matière de stratégies, de risques et de contrôles, ils peuvent guider l’intégration de l’IA à la stratégie de l’entreprise. CPA Canada met à la disposition de ses membres ses plus récentes indications quant à la gouvernance organisationnelle de l’IA. Pour en savoir plus, parcourez ses ressources en matière d’IA.