"Concept avec un écran plein de glitching de données informatiques binaires dans le mot" Erreur "en rouge"

On a beau se dire que ces outils sont fiables, il n’en demeure pas moins que les ordinateurs ont parfois des pépins, d’ampleur et de portée variables, et aux conséquences tantôt mineures, tantôt graves. (Photo de antb)

Nouvelles | Canada | Tendances

Quand l’IA faillit à la tâche

L’apprentissage machine connaît des ratés? Voilà l’occasion pour les créateurs derrière la machine de parfaire leur art.

A Facebook IconFacebook A Twitter IconTwitter A Linkedin IconLinkedin An Email IconCourriel

Téléchargement automatique d’un balado, consultation programmée de Waze pour déterminer le meilleur itinéraire... les applis n’en finissent plus de nous étonner. L’intelligence artificielle et l’apprentissage machine sont maintenant imbriqués dans notre vie quotidienne.

On a beau se dire que ces outils sont fiables, il n’en demeure pas moins que les ordinateurs ont parfois des pépins, d’ampleur et de portée variables, et aux conséquences tantôt mineures, tantôt graves. Par exemple, un salarié a été congédié à la suite d’une bourde informatique après qu’un logiciel eut mis fin à son contrat par erreur. Il a fallu trois semaines d’intervention par des humains pour corriger l’erreur à sa source.

Pensons aussi aux robots conversationnels de Facebook. L’entreprise avait créé des systèmes d’intelligence artificielle capables de « converser » entre eux, mais les informaticiens ont tôt fait de constater que ces robots avaient développé et utilisaient un langage secret. Les responsables leur ont vite fermé le caquet.

« Ce qu’il ne faut pas oublier, c’est que l’intelligence artificielle, ou IA, est une technologie particulière, qui est toujours mise à contribution dans des contextes particuliers », explique Tero Karppi, chargé d’enseignement à la Faculté des sciences de l’information de l’Université de Toronto et à l’Institute of Communication, Culture, Information and Technology, rattaché à cette université. « Or, ces contextes mettent en relief les failles qui surviennent et aident à déterminer la gravité et l’importance desdites failles. »

Il mentionne, par exemple, les itinéraires définis par certaines applications de navigation pendant les feux de forêt de 2017 en Californie. Certes, ces applis donnaient des tuyaux au sujet des routes moins encombrées, mais ne savaient pas que celles-ci menaient aux incendies.

« Évidemment, la circulation était fluide sur ces voies, mais les conditions étaient loin d’être sûres... un aspect que ces systèmes ne pouvaient prendre en considération, déplore Karppi. Les nouvelles technologies font ressortir des faiblesses ou des lacunes qui n’ont pas été envisagées au départ. »

Les erreurs qui touchent les systèmes d’IA sont souvent attribuables au codage initial. Avery Swartz, entrepreneure et experte en technologies, explique que les développeurs mettent à contribution du code existant au moment d’écrire de nouveaux programmes. « Un système d’IA sera donc aussi bon et utile que ce pour quoi ses concepteurs l’auront programmé; il ne fournira que le type de données qu’on aura bien voulu lui faire générer », résume-t-elle.

S’agissant des erreurs commises par les ordinateurs, une théorie veut qu’on laisse ceux-ci faire leurs erreurs pour qu’ils en tirent des leçons, comme le feraient les êtres humains.

Martin Lavoie, vice-président aux ventes et aux finances à Expérience, l’une des plus grandes firmes de solutions en dotation TI au Canada, donne son point de vue : « Les êtres humains font des erreurs et peuvent les corriger. Pour les robots, il en va de même, mais s’ils ne peuvent apprendre à corriger leurs erreurs, c’est là que les problèmes s’amplifient. » Il insiste aussi sur l’importance du code. « Tout commence par la programmation. L’apprentissage machine est fondé sur du code informatique, qui doit être de qualité; on ne peut pas y échapper. »

Il poursuit : l’intelligence artificielle en est à ses balbutiements. Comme pour toute nouvelle technologie, c’est au début que les erreurs se manifestent le plus. « Les résultats sont instables, au départ, et on procède par essais et erreurs. Par la suite, les choses finissent par fonctionner rondement. Les entreprises seront de mieux en mieux préparées. Celles qui développent des systèmes d’intelligence artificielle n’ont dégagé que la pointe de l’iceberg, si on peut dire; elles connaissent les problèmes et s’emploient à les régler. »

POUR EN SAVOIR PLUS

CPA Canada publiera un guide d’introduction à l’intelligence artificielle cet automne, ainsi qu’un document portant sur l’incidence de l’IA sur la profession comptable. Notre organisation sensibilise aussi les comptables aux conséquences des erreurs commises par les systèmes d’IA dans un webinaire intitulé Les CPA face aux nouveaux enjeux technologiques.