Passer au contenu principal
La couverture du livre La Bienveillance des machines est illustrée
Articles de fond
Magazine Pivot

Une révolution tranquille en mode numérique

Penser les transformations de l’humain sous l’influence du numérique grâce à la philosophie.

La couverture du livre La Bienveillance des machines est illustréeOmniprésentes et omniscientes, les applis de nos téléphones lisent en nous comme dans un livre ouvert, nous dictant souvent quoi ressentir. (tous droits réservés)

Applications qui déterminent notre humeur. Robots qui s’adaptent à notre comportement. Caméras qui devinent nos gestes. Sommes-nous allés trop loin? Trop vite? Quels sont les risques? Voici quelques-unes des questions que pose La Bienveillance des machines. Comment le numérique nous transforme à notre insu (Seuil, 2022), de Pierre Cassou-Noguès.

LE SYNDROME DU THERMOMÈTRE

Ni technophobe ni technophile, le professeur de philosophie à l’Université Paris 8 illustre comment, au nom du progrès, nous avons laissé le numérique envahir nos vies et transformer notre quotidien, sans nous interroger sur les mutations induites ni prendre de distance. Nous utilisons désormais un écran pour tout : compter nos pas comme nos pulsations, gérer nos comptes et nos rendez-vous, ou savoir quoi écouter. Et qui fait encore l’effort de retenir des numéros de téléphone?

Omniprésentes et omniscientes, les applis de nos téléphones lisent en nous comme dans un livre ouvert, nous dictant souvent quoi ressentir – rien de tel que des like pour aller mieux! Et Cassou-Noguès d’évoquer le syndrome du thermomètre, en référence à un oncle qui décidait s’il avait chaud ou froid (ou s’il était bien) seulement après consultation de la température extérieure.

Car c’est un fait : confier à des algorithmes la tâche de décrypter ce qui devrait relever d’une expérience intérieure ne nous gêne plus, y compris lors d’élections (à la manière d’une boussole électorale). Cependant, si fondamentalement « je pense, donc je suis », qu’advient-il de notre intériorité (notre pensée, nos sentiments) quand je n’est plus celui qui pense?

UN MONDE DE ZOMBIES

Pour le philosophe, le numérique a aussi introduit une désynchronisation du temps, nous permettant de mener différentes tâches simultanément. Si peu d’émissions de télévision attirent encore les foules d’antan (les mêmes émissions qui étaient chargées de fournir aux annonceurs du « temps de cerveau disponible », selon le PDG d’une chaîne française), la bataille se joue à présent au niveau individuel, en ligne.

Selon une récente enquête NETendances menée par l’Académie de la transformation numérique de l’Université Laval, les adultes québécois passent en moyenne plus de 3,5 heures par jour sur les réseaux sociaux (4,5 heures chez les 25-34 ans et 5 heures chez les 18-24 ans). Or, « tout ce que nous faisons sur Internet, tous nos clics, la durée de notre présence devant un flux d’images, ont une valeur » et laissent des « traces que des algorithmes mobilisent au profit d’un tiers », rappelle Cassou-Noguès.

Et puis il y a toutes ces publicités, qui n’ont pas pour seul but de nous inciter à acheter les marchandises qu’elles présentent, mais qui visent à rendre leur objet attrayant. Autrement dit, plus nous sommes exposés à ces publicités, plus nous contribuons à en augmenter leur désirabilité, explique-t-il.

Notre temps de loisir est ainsi entré dans la sphère de la production, constate Cassou-Noguès. « Les plateformes numériques semblent mettre à profit un triple travail de l’utilisateur, un travail dans la production de contenus (blogs, profils Facebook, vidéos sur YouTube), un travail dans la production de traces, et un travail zombie analogue à celui qui a lieu devant la télévision par le fait de se rendre disponible à la publicité. »

« Le capitalisme contemporain a donc besoin d’une foule de zombies, ou de nous, zombies, quelques heures par jour, aussi bien que des travailleurs immatériels », note Cassou-Noguès. Il anticipe déjà une société faite de robots industriels qui « fabriquent tout ce dont les humains ont besoin pour vivre et tout ce qu’ils peuvent désirer de superflu […] Il resterait des ouvriers mais sur un ou deux continents seulement, où se trouveraient les usines. »

UNE SUPPOSÉE BIENVEILLANCE

Alternant les références autant à Platon, Derrida ou Lacan qu’à d’innombrables œuvres de fiction, l’auteur consacre de nombreuses pages aux progrès faits en neurosciences pour « lire » notre cerveau ainsi qu’aux algorithmes prédictifs, notamment à la base des applications de « santé mentale numérique ». Il s’attarde aussi sur les robots compagnons chargés d’assurer une présence, jusque dans notre intimité, et illustre à quel point les machines gagnent du terrain.

Se posant en lanceur d’alertes du possible, Cassou-Noguès souligne que tous ces systèmes censés veiller sur nous (nous « bien-veiller ») sont devenus une forme de vie. « Les machines se développent, bien qu’elles ne possèdent ni la conscience humaine, ni la vie animale, ni même une autonomie au sens où elles pourraient se passer de l’humain. Machines et humains s’entraident comme deux espèces vivant en symbiose. »

Ouvrage fouillé, exigeant et parfois difficile, La Bienveillance des machines est un essai ambitieux sur l’ampleur de la révolution numérique en cours. Il porte un regard critique sur cette servitude confortable dans laquelle nous nous complaisons trop souvent sans vouloir en connaître le prix.

BONNES FEUILLES

Prenez le temps d’explorer votre créativité et apprenez à observer les choses avec un œil neuf. Voyez pourquoi la langue française est loin d’être inclusive et plongez dans cette sélection de livres inspirants.