Comptabilité | Intelligence artificielle

L’éthique doit être au cœur des outils IA

Conférencier à un symposium sur l’éthique, Jeff Lui souligne la nécessité de l’approche multidisciplinaire dans les projets d’intelligence artificielle.

A Facebook IconFacebook A Twitter IconTwitter A Linkedin IconLinkedin An Email IconCourriel

« Ce qui me préoccupe avec l’IA, ce sont les êtres humains qui travaillent en coulisses pour concevoir les systèmes » explique Jeff Lui, Directeur de la pratique Intelligence artificielle de Deloitte. (Shutterstock/Gorodenkoff)

Jeff Lui est fasciné par les êtres humains.

Des êtres qui pensent, qui apprennent, qui travaillent. Directeur de la pratique Intelligence artificielle (IA) de Deloitte, il s’intéresse vivement à la relation qui se noue entre l’humain et la machine, surtout du côté des outils à créer.

« Avec l’IA, ce qui me préoccupe, ce sont les êtres humains qui travaillent en coulisses pour concevoir les systèmes. L’essentiel sera de s’assurer qu’ils évoluent dans un cadre éthique rigoureux. Nous sommes en fait à la merci de ceux qui créent les outils, et pour le moment, le domaine reste à baliser, d’où des risques de dérapage. »

C’est précisément « le prisme de l’éthique » qu’abordera M. Lui au Ethics Symposium, édition 2019, les 25 et 26 avril. Présentée par le Centre for Accounting Ethics (de l’Université de Waterloo) et CPA Canada, la rencontre sera l’occasion d’explorer l’influence de la technologie sur divers aspects de l’exercice de la profession comptable. (Voir Les comptables ne peuvent que tirer avantage de l’IA)

L’ENTONNOIR DE L’ÉTHIQUE

M. Lui raconte qu’on lui demande souvent de parler des implications de l’introduction d’applications d’IA dans une organisation. « La façon dont les choses se font est assez uniforme, dans une banque, une usine ou ailleurs. Toutefois, nombreux sont les enjeux éthiques à considérer. Il faut bien surveiller la façon dont les données seront exploitées. Comment les systèmes seront-ils déployés? Que dire du caractère équilibré ou biaisé inhérent au développement d’une application? La prise de conscience des enjeux sous-jacents n’est pas forcément au rendez-vous. »

Au symposium, Jeff Lui présentera les grandes lignes d’un cadre à quatre étapes qu’il appliquer pour examiner l’esquisse d’un projet IA avec le client. « Chaque étape vise à répondre à une question fondamentale. C’est en quelque sorte un entonnoir décisionnel. »

1. JUSTIFICATION : QUE CONSTRUIRE, AU JUSTE?

« Il y a beaucoup de battage autour de l’intelligence artificielle, au point où tout le monde s’inquiète et se dit qu’il faut absolument concevoir un outil IA, soutient M. Lui. Mais il faut être clair sur ce que l’IA peut faire et ne peut pas faire. Souvent, lorsqu’une entreprise me confie ce qu’elle a comme idée, je réponds qu’elle n’a pas besoin d’une application IA; une simple macro ou un outil de robotisation des processus fera l’affaire. Il s’agit de courtes séquences de code rédigées pour l’exécution d’une tâche unique ou d’une série de tâches, mais le processus ne relève pas de l’IA ou de l’apprentissage machine. »

2. SUR LE PLAN PHILOSOPHIQUE, Y A-T-IL LIEU DE CRÉER L’OUTIL?

L’entreprise qui a une application d’apprentissage machine en tête doit d’abord décider si elle a intérêt à la mettre en chantier et si elle a raison de le faire.

« À mon avis, il y a des choses qui n’ont aucune raison d’être. Vu l’état actuel du monde, je crois qu’il vaut mieux éviter de créer des armes fondées sur l’IA. C’est pour ainsi dire une bombe nucléaire dont le déclenchement serait décidé par un ordinateur. Pourtant, bon nombre de pays semblent s’engager dans cette voie, parce qu’aucune disposition ne l’interdit, pour le moment. »

3. ÉQUITÉ : ET LES PARTIS PRIS?

Après avoir déterminé qu’il convient de développer votre outil IA, vous devrez juger s’il répond à des critères d’équilibre et d’équité. Par exemple, on s’assurera qu’aucun groupe démographique n’est sous-représenté dans l’ensemble de données utilisé pour développer l’application.

« Avant d’approuver une demande de carte de crédit, beaucoup de banques se tournent vers l’IA pour prédire si un nouveau client fera bel et bien ses remboursements, explique M. Lui. Mais elles se fondent sur des méthodes et des ensembles de données qui n’ont pas vraiment évolué, en 15 ans. Je leur suggère de faire preuve de prudence. Il y a 15 ans, l’approbation se faisait selon des paramètres bien différents. Peut-être que les hommes bénéficiaient d’un préjugé favorable, par exemple. Autrement dit, si l’entreprise se base sur des réalités et des données d’une autre époque, pour son algorithme d’apprentissage machine, elle risque de perpétuer des partis pris et des injustices sans le savoir. »

4. SÉCURITÉ : ET LA PROTECTION, UNE FOIS L’OUTIL EN PLACE?

L’étape finale consiste à déterminer si l’outil IA risque d’être victime de piratage ou d’être altéré à des fins malveillantes.

« Je me méfie quand les éditeurs de logiciels et entrepreneurs prétendent que leur algorithme d’apprentissage machine est d’une exactitude irréprochable. C’est qu’ils n’ont pas compris les implications du piratage éventuel, affirme M. Lui. Pourtant, saccager ces applications n’est qu’un jeu d’enfant pour un informaticien mal intentionné qui voudrait se venger, par exemple, en détruisant la plateforme d’IA de sécurisation d’un entrepôt. »

APPROCHE MULTIDISCIPLINAIRE

M. Lui est d’avis que l’éthique joue un rôle important dans chaque facette de l’aventure de l’IA. « Ces outils ne se créent pas d’eux-mêmes. Il faudra des êtres humains pour comprendre comment ficeler le tout. »

C’est l’une des raisons pour lesquelles M. Lui conseille d’adopter une approche multidisciplinaire pour le développement d’applications IA. « Mobilisons des comptables, des économistes, des avocats, des anthropologues – nous avons besoin du point de vue de tous, insiste-t-il. En fait, nous tentons de reproduire le miracle de la pensée, au moyen de la technologie, et nous devons donc réunir le bagage nécessaire pour y parvenir. »

Pour l’éthicien, les CPA ont assurément une place à prendre à la table où se réunissent les parties interpellées par l’IA. « N’allez pas croire que vos opinions seront reléguées à l’arrière-plan du simple fait que vous n’êtes pas expert en programmation, ou que vous commencez à peine à comprendre de quoi il retourne et en quoi les systèmes influeront sur votre travail. Il y a des occasions à saisir partout. C’est pourquoi je dirais que vous devez vous intéresser à l’éthique derrière l’IA, ou, à tout le moins, aux composantes techniques de base et à la manière dont le virage va modifier vos activités quotidiennes. Et nous devons tous réfléchir aux répercussions sur la main-d’œuvre, quand auront été éliminées certaines tâches routinières. Je crois que tous les intéressés ont leur mot à dire. »

Envie d’entendre M. Lui développer ces points de vue? Cliquez ici pour vous inscrire au quatrième Ethics Symposium, les 25 et 26 avril, à Toronto. Le thème retenu : l’impact de la technologie sur la déontologie, le professionnalisme et le jugement en comptabilité.

APPROFONDIR L’IA

Mégadonnées et intelligence artificielle – L’avenir de la comptabilité et de la finance est la deuxième d’une série de publications de CPA Canada consacrées à l’IA. La première, Introduction d’un CPA à l’IA : Ce que vous devez savoir, des algorithmes à l’apprentissage profond vise à initier les CPA à cette nouvelle réalité : on y trouve une explication des termes clés ainsi que des réflexions sur l’évolution du traitement des données, de l’IA et de la puissance informatique.