La manipulation numérique de masse, un nouveau risque immatériel
Depuis le début du XXe siècle, la manipulation est devenue une science, en même temps qu’un art pratiqué des « ingénieurs des âmes humaines » issus pour la plupart du monde de la publicité, des relations publiques, de la communication politique ou du divertissement. Passés maîtres dans l’art d’influencer les masses à leur insu, en tirant profit des avancées des sciences et des techniques, ils ont bouleversé les règles du jeu politique tout en permettant le triomphe de la société de consommation. D’Ivy Lee à Ernest Dichter, en passant par Albert Lasker, Edward Bernays ou John Hill, ils ont contribué à façonner le consentement au service de leur clients politiques ou industriels, en s’appuyant sur les médias de masse. Ces « maîtres du faire croire » ont ainsi très souvent contribué, dans les démocraties occidentales, à réduire ou limiter les risques tant politiques que sociaux.
Or, depuis moins de trois décennies une nouvelle génération de manipulateurs de masse s’est appuyée sur Internet et le numérique pour produire de nouvelles techniques de manipulation qui ne visent plus tant à conformer les attitudes et fabriquer le consentement démocratique qu’à cloisonner les individus, de semer la discorde au sein des sociétés, de rendre impossible tout compromis, et de favoriser la défiance. Croyant servir le bien commun, le chercheur Brian Jeffrey Fogg a inventé la « technologie persuasive », en appliquant les principes de la psychologie sociale à l’interaction entre les humains et la machine. Ses découvertes ont permis à ses élèves de Stanford de rendre les interfaces numériques des réseaux sociaux à la fois addictives et manipulatrices. Fils de psychiatre et ancien étudiant en psychologie à Harvard, Mark Zuckerberg a conçu avec Facebook une arme de manipulation massive, capable de modéliser, de prédire et d’influencer les attitudes et les comportements de ses 2,8 milliards d’utilisateurs. Ses outils publicitaires combinent non seulement tous les acquis de la persuasion de masse depuis un siècle mais aussi les trois grandes approches de l’intelligence artificielle : l’approche inductive, par l’analyse prédictive des données des internautes, l’approche déductive, par les expériences menées sur ses utilisateurs, et l’apprentissage profond, qui permet par exemple d’identifier l’état émotionnel ou psychologique de ces derniers. Parmi les « ingénieurs du chaos », Steve Bannon, est celui qui a le plus tôt compris le potentiel de ces outils pour déstabiliser l’ordre politique, et y est concrètement parvenu, avec Cambridge Analytica. La manipulation numérique est donc devenue un risque immatériel majeur, dont la Commission européenne s’est récemment saisie en prévoyant dans son projet de Règlement sur l’intelligence artificielle l’interdiction des « systèmes ou applications d’Intelligence artificielle qui manipulent le comportement humain pour priver les utilisateurs de leur libre arbitre ». Il reste à savoir si ce n’est pas trop peu, ni trop tard.
David Colon est enseignant et chercheur à Sciences Po, où il enseigne l’histoire de la communication. Il est l’auteur de Propagande (Flammarion, « Champs Histoire », 2021) et des Maîtres de la manipulation. Un siècle de persuasion de masse (Tallandier, septembre 2021). Il a reçu le prix Akropolis 2019 et le prix Jacques Ellul 2020.