Quand Facebook met la démocratie à mal

Manifestations spontanées motivées par des mèmes viraux. La violence et les émeutes sont alimentées par de fausses informations haineuses, souvent sur le «terrorisme» de groupes marginalisés. C’est une histoire que nous avons vue jouer récemment dans le monde entier, de la France à l’Allemagne, en passant par la Birmanie, le Sri Lanka et le Nigeria. Les particularités sont différentes - le prix de l'essence a été le déclencheur en France, des mensonges sur les attaques à la machette au Nigeria - mais un élément a été présent à chaque fois: Facebook. Dans chacun de ces pays, le pouvoir de la plate-forme d’accélérer la haine et la désinformation s’est traduit par une violence réelle. Les Américains regardaient ce genre de choses avec la conviction réconfortante qu’il ne pouvait pas se produire ici. Mais nous avons appris que les États-Unis ne sont pas aussi exceptionnels que nous l’aurions pensé, pas plus que les sociétés contemporaines ne sont aussi protégées du conflit civil que nous l’espérions. Imaginez un scénario assez proche: c’est l’hiver 2020 et Donald Trump, qui a perdu la réélection par une marge plus rapprochée que prévu, est en pleine attaque, attiser des histoires de fraude électorale fugitive. Les groupes de protestation locaux se regroupent autour des publications sur Facebook qui attaquent des libéraux, des «illégaux» meurtriers, des féministes. (C’est essentiellement ce qui s’est passé en France l’année dernière avec les «groupes de colère» qui sont à l’origine des protestations contre le gilet jaune.) Les théories du complot à la manière de Pizzagate courent à travers ces groupes et enflamment leurs membres les plus extrêmes. Ajoutez à cela une population qui est, contrairement à celles de la France et du Nigéria, armée jusqu'aux dents, et la photo devient assez sombre. En d’autres termes, bien que cela ait déjà facilité l’élection d’un démagogue déterminé à attiser les préjugés raciaux, à enrichir sa famille et à vendre l’intérêt national américain, les médias sociaux n’ont peut-être pas encore montré le pire qu’il puisse faire pour une société divisée. Et si nous ne maîtrisons pas la puissance des plates-formes, nous pourrions assister à une dégradation de la situation plus rapidement que prévu. Ce pronostic peut paraître sombre, mais il ne vise pas à vous obliger à stocker des produits en conserve ou à faire des recherches sur le droit de l’immigration néo-zélandais. Ses simplement pour intensifier l'urgence avec laquelle nous réfléchissons à ce problème, pour lui apporter le genre d'attention que nous avons apporté à d'autres moments où une seule société - Standard Oil, AT & T, Microsoft - a accumulé un degré de pouvoir inacceptable sur le sort de notre société. société. Dans le cas des plateformes sociales, leur pouvoir est exercé sur la monnaie de la démocratie: l'information. Près de 70% des adultes américains déclarent recevoir certaines de leurs informations via les médias sociaux. C’est un changement important non seulement en termes de distribution, mais également en termes de contrôle de la qualité. Avant la publication, pratiquement toutes les institutions distribuant des informations disposaient de normes de vérification, aussi minces soient-elles ou si elles étaient compromises. Facebook n'en a pas. À l’heure actuelle, nous pouvons concocter presque n’importe quelle «nouvelle» information au hasard et, pour aussi peu que 3 $ par jour, pour la «dynamiser» via le moteur de publicité de la plate-forme, plus de 3 400 personnes la verront chaque jour comme si elle était tout simplement naturelle dans leur alimentation. Ce n'est pas hypothétique. C’est précisément ce que Les serviteurs de Vladimir Poutine, la campagne Trump et ses alliés l’ont fait en 2016. Et pourquoi pas? Facebook leur a montré la voie, en envoyant des membres du personnel dans des campagnes pour s'assurer qu'ils savaient comment obtenir exactement les messages qu'ils voulaient avant les personnes les plus susceptibles. Facebook et nous tous avons été réveillés lorsque nous avons appris à quel point de mauvais acteurs mettaient ce type de leçons en pratique. Mais ne vous y trompez pas: si Facebook et YouTube, Twitter et les autres plates-formes ont peut-être été véritablement choqués par ce qui s'est passé en 2016, la désinformation et la manipulation ne sont pas un problème pour leur entreprise. C’est le cœur même du modèle, c’est pourquoi ils ne le répareront jamais seuls.