Fausse alarme? Non, vrai danger.
Professeur de gestion au MIT, investisseur dans les titres techno, l’expert en fausses nouvelles Sinan Aral lève le voile sur les médias sociaux.
L’auteur est catégorique : propulsées par l’émotion et la négativité sur les médias sociaux, les fausses nouvelles prennent de vitesse les vraies nouvelles. Colportés avec un malin plaisir par des intermédiaires qui croient tirer les ficelles, rumeurs et racontars font la pluie et le beau temps sur les places boursières : les fausses nouvelles y auraient trois fois plus de poids que les vraies. À l’échelle planétaire, la désinformation aurait souvent fait pencher la balance et orienté le vote d’une tranche d’électeurs. C’est « une machine à déformer la réalité » que lance l’engrenage des plateformes en ligne, souligne Sinan Aral dans The Hype Machine. Les mensonges s’y transmettent « à la vitesse de l’éclair »; la vérité avance à pas de tortue.
Professeur de gestion au MIT, investisseur dans les titres techno, l’expert en fausses nouvelles lève le voile sur les médias sociaux. Dans une prose vive qui s’appuie sur maintes études, Sinan Aral, qui a longuement travaillé pour des géantes des TI, explique que promesses et périls vont ici de pair, dans son analyse rigoureuse et bien argumentée. Pendant la pandémie, on aura diffusé aussi bien des informations vitales que des élucubrations sur de pseudo-cures délétères. Tant de mauvaises nouvelles sur les fausses nouvelles! L’auteur assène un choc au lecteur pour mieux le convaincre.
Méfions-nous de la désinformation. La manipulation du cours des valeurs mobilières et l’ingérence électorale par des agents à la solde des Russes sont déjà là, mais nous n’avons encore rien vu. L’ère des vidéos hypertruquées est à nos portes.
L’apprentissage profond, qui passe par les réseaux antagonistes génératifs, pose en adversaires deux systèmes : le premier génère des données synthétiques, et le second s’efforce de séparer le vrai du faux. Le premier apprend du second, et à l’instar des médias sociaux, il se nourrit de lui-même : il passe de la présentation de divers choix à la prise en compte des sélections faites, puis à une offre précise, ciblée, persuasive. La fausse vidéo est déjà étonnamment convaincante. Si voir, c’est croire – on retient 10 % de ce qu’on lit, mais 95 % de ce qu’on regarde –, les fausses nouvelles seront bientôt plus aguichantes que jamais.
Il faut donc agir. Les parties prenantes (entreprises, gouvernements et utilisateurs) peuvent actionner des leviers, séparément ou en combinaison, pour influer sur quatre dimensions : le code qui régit les plateformes sociales; les flux financiers qui y circulent (les avantages pécuniaires générés par leur modèle); les normes suivies par l’industrie; et les lois qui la réglementent.
La boucle de rétroaction des médias sociaux favorise la polarisation, en raison des préférences cataloguées et des recommandations transmises par les amis. Sinan Aral propose de revoir le bouton J’aime : on cliquerait plutôt sur un bouton Vrai (« Je crois que c’est vrai ») ou Fiable (« La source m’inspire confiance »). Un score de véracité s’ajouterait aux profils Twitter, d’après une évaluation des messages antérieurs par des vérificateurs de faits. Si des cotes élevées attirent des adeptes sur Twitter et Facebook, ce remaniement du code poussera la « machine à engouement » vers le positif. Tout comme les riches s’enrichissent, la popularité fait boule de neige sur les médias sociaux. Les normes de l’industrie évoluent déjà, bien que lentement; les utilisateurs conviennent que « sur Twitter, retweeter ne signifie pas forcément approuver ».
Utopie, direz-vous? Pensez alors à un angle d’attaque qui a fait ses preuves. Quand l’argent coule à flots, il faut remonter à la source. Aux États-Unis, la démarche conduit immédiatement à des considérations antitrust. Facebook, en particulier, doit-elle être démantelée? M. Aral émet des réserves. Certes, on évoque le monopole d’Amazon, qui vend ses propres produits sur sa propre plateforme, et peut faire jouer les règles en sa faveur. Mais Facebook, omnipotente elle aussi, s’abstient d’abuser de son pouvoir pour serrer la vis aux consommateurs : ses services sont gratuits. Ce qui en fait un monopole, dans la mesure où de jeunes pousses n’auraient aucune chance contre elle, c’est son manque d’interopérabilité. Demandez à Facebook votre graphique social (une base de données de contacts qui s’arrimerait à un autre réseau), et vous n’obtiendrez pour ainsi dire rien d’utile, ni quoi que ce soit qui pourrait nuire à la rentabilité de la géante.
Et le cadre législatif, alors? Il incombe aux États d’obliger les plateformes technologiques, en particulier les réseaux sociaux, à faciliter l’extraction des données propres à l’utilisateur. Selon le même principe, la Federal Communications Commission, aux États-Unis, a exigé la transférabilité des numéros de téléphone en 1996. Dans l’univers des médias sociaux, la concurrence fait défaut, et son émergence forcerait les acteurs à voir les consommateurs comme des clients à servir, et non plus comme des ressources à exploiter. L’auteur recommande donc d’imposer la transférabilité des données pour permettre l’essor de plateformes qui afficheraient éventuellement des boutons Vrai ou Fiable. D’autres remaniements s’ajouteraient, afin d’éviter que les fausses nouvelles ne riment avec rentabilité (YouTube a retiré les publicités qui accompagnaient les vidéos antivaccination). On ne peut guère espérer plus, de la part des gouvernements et des plateformes elles-mêmes, sans nuire aux promesses des médias sociaux, jumelées à des périls.
À en croire Sinan Aral, pour le reste, il n’en tient qu’à nous, la troisième partie prenante. Une fois la concurrence arrivée, les consommateurs devront choisir les valeurs à respecter et se tourner vers les plateformes qui y souscrivent. Le virage se fera par étapes, conclut-il, mais ce sera le meilleur moyen de dompter la machine à engouement.