Manipuler les gens vers l’extrême-droite [CA4]

…avec la colère, la menace à l’identité sociale et le jeu à somme nulle

Précédemment, nous avons vu comment Cambridge Analytica (CA) procédait pour manipuler les élections en pompant les données des personnes (notamment 87 millions de profils Facebook). À partir de celles-ci et de leur analyse avec le filtre des recherches scientifiques (en interne de leur entreprise ou via des savoirs déjà connus par ailleurs), ils utilisaient ces informations pour cibler certaines personnes, pour induire certains comportements électoraux chez eux (abstention, dégoût pour leur candidat de prédilection, mobilisation pour leur candidat).

On a vu qu’à partir de 2014, Steve Bannon prend les rênes de CA avec pour plan sous-jacent de stimuler et d’exploiter l’alt-right, puis l’entreprise œuvre principalement pour les Républicains. Aujourd’hui, on va davantage entrer dans le détail du jeu scientifique de l’entreprise, grâce aux révélations1 de Christopher Wylie, l’ancien directeur de recherche. Notre but sera de comprendre sur quels biais, caractéristiques psychologiques CA appuyaient, ce qui nous permettra d’envisager des préventions à ces manipulations.

Christopher Wylie «  »J’ai créé l’outil de guerre psychologique de Steve Bannon »: rencontrez le lanceur d’alerte de la guerre des données » Source : https://www.theguardian.com/news/2018/mar/17/data-war-whistleblower-christopher-wylie-faceook-nix-bannon-trump

Rappelons que l’objectif de CA n’était en rien de faire avancer la science ou d’étudier les phénomènes psychologiques dans une perspective thérapeutique : d’une part, ils n’avaient aucun intérêts à savoir si leurs découvertes étaient reproductibles ou décrivant quelque chose de valide pour tout humain ; leur intérêt était de voir si ça pouvait marcher pour manipuler leurs cibles, qu’importe si le champ académique était en débat à ce sujet, du moment que ça marchait sur les cibles, pour les résultats qu’ils visaient. D’autre part, leurs expériences n’avaient aucune espèce d’éthique : elles ne visaient pas le bien-être, ne visaient pas la diminution du mal-être, ne visaient pas à comprendre des phénomènes mystérieux. Ils cherchaient juste à savoir comment contrôler des individus et groupes pour les amener à faire ce qui avait de l’intérêt pour les clients de CA, et ce contrôle pouvait passer par le fait de stimuler leur biais, exploiter leurs défauts, nourrir leur mal-être.

La totalité du dossier ici en PDF : CA.pdf  ; ou en epub : CA.epub

Les articles précédents de ce dossier : 


Fox news, fournisseur d’identité sociale


L’identité sociale, selon Tajfel et Turner (1979) renvoie à la conscience qu’a un individu d’appartenir à un groupe social, aux significations qu’il accole à cette appartenance et l’importance qu’il lui donne. Cette identité sociale peut avoir une forte influence sur les pensées et les comportements d’un individu qui veut maintenir une identité sociale positive pour conserver une bonne image de soi.

Sur le coin en bas à droite, on voit que dans la théorie de l’identité sociale classique, une unique affiliation à une identité sociale risque très rapidement de tomber dans une mécanique ethnocentrique, c’est-à-dire un « nous contre eux », parce qu’elle serait une comparaison constante entre les groupes. L’endogroupe « beurre salé » ne se définissant que par la faiblesse supposée de l’exogroupe « beurre doux », on imagine rapidement les compétitions et batailles pour se rendre plus « fort » que l’autre identité sociale, et les préjugés, stéréotypes lancé l’un à l’autre. Cependant, d’une part les personnes ont plusieurs identités sociales dont elles choisissent certaines valeurs et pas d’autres, peuvent être inclusives (et voir les exogroupes avec respect et amitié), ne pas penser les relations sociales sur un mode hiérarchique, retourner les stigmates (les « infériorités » attribuées à son groupe sont retournées pour en faire une force), valoriser l’identité personnelle singulière en collectif et ne pas se réduire à membre de groupe (soi et les autres), etc. Source du schéma : https://fr.wikipedia.org/wiki/Th%C3%A9orie_de_l%27identit%C3%A9_sociale

Les significations et l’importance de cette identité peuvent être conditionnées par un média : Wylie donne l’exemple de Fox News qu’il a découvert sur le tard, étant canadien. Le rituel devant la chaine lui fait penser aux rages rooms (des salles emplies d’objets qu’on a le droit de casser, permettant de se défouler). Les spectateurs s’installent devant la télé et semblent attendre de se sentir insultés, puis ils s’enragent devant ce qu’ils voient et reviennent à leur petite vie accompagnée de ce que je qualifie d’erreurs ultimes d’attributions, et de l’idée que tout leur mal-être provient de « privilèges » accordés aux minorités2. Qu’est-ce qui se passe ici ?

Nous avons parlé des erreurs ultimes d’attribution ici :

Wylie remarque qu’avant d’implanter ces erreurs d’attribution, la chaîne américaine amorce constamment l’identité sociale d’un « Américain ordinaire » et lui associe des pensées qu’il doit avoir, dont l’idée d’être Républicain. Puis ensuite, s’ils rapportaient que Trump était accusé de racisme, les spectateurs s’énervaient parce que c’était comme si on les attaquait eux. Si un autre groupe – imaginé adversaire de leur identité sociale – émettait une critique telle que la dénonciation du racisme, alors cela était perçu comme une tentative de les faire taire.

Il y a donc comme une très forte sensibilité à la réactance ; si la personne se croit attaquée dans son identité non pas tant par la force du signal qui est ici assez faible (remarque générale « le racisme c’est pas bien »), mais bien plutôt parce que cette remarque vient d’un exogroupe (les Démocrates), alors cette expression même vidée d’agressivité est perçue comme une attaque personnelle, une tentative de muselage et l’individu renforce alors ses positions (vers « je ne vais certainement pas changer mon racisme ou m’occuper de cette question »).

On a parlé de réactance ici : 

Ce que ferait Fox News d’un point de vue « biais » serait donc :

1. Fabriquer une identité sociale fermée, non inclusive, et la renforcer constamment,

2. Exposer cette identité sociale à des « menaces ».

3. Ce qui aurait pour conséquence de générer de la colère puis un phénomène de réactance face au contenu et aux personnes décrites comme menaçantes, ce qui renforce au passage l’adhésion à cette identité sociale unique, fermée et non inclusive.

Par exemple dans leur titre « Le peuple américain en a assez des politiques d’extrême gauche qui lui sont imposées » puis en sous-titre de l’image de Biden « la VRAIE menace à la démocratie », et dans le titre en bas « l’assaut des démocrates sur la démocratie ». Source : https://www.foxnews.com/media/katie-pavlich-american-people-enough-far-left-policies

La facilité de menacer les gens qui sont dans le zero sum game


Cambridge Analytica testera alors si un sentiment de menace à l’identité sociale ne servirait pas à alimenter certaines opinions, surtout lorsqu’elle est couplée à une erreur logique d’un jeu à somme nulle (zero sum game). Cette erreur consiste à interpréter toutes les situations comme ayant les règles d’un jeu d’échecs : on gagne lorsqu’on prend à l’autre ses forces (ou qu’on bloque celles-ci), on perd lorsque l’adversaire prend nos forces ou nous prive de possibilités. Et comme dans un jeu d’échecs, même une action de l’adversaire qui ne bloque pas, ne prive pas de forces, peut être perçue avec suspicion. De façon proactive, cette erreur nous ferait voir toute situation sociale comme un moyen d’occuper le terrain, de duper l’adversaire, le priver de ses mouvements ou prendre ses forces pour gagner. Et gagner, dans un jeu à somme nulle, c’est dominer. Donc selon cette perception, soit on perçoit la vie sociale sous un angle quelque peu parano « on veut me duper, me dominer, m’écraser, me priver de mes forces » soit on le voit sous un angle proactif de domination « je peux les exploiter, les écraser, prendre tout pour moi. Et je peux être fier si je domine comme ça« .

Dans l’excellente série « le jeu de la dame », Beth explique qu’elle aime les échecs et ses 64 cases parce que c’est un monde sur lequel elle peut agir, exercer un contrôle, un monde prédictible, calculable. Je me demande s’il n’y a pas de ça lorsqu’on se met à tout interpréter selon un jeu à somme nulle, y compris lorsque ce ne sont pas les règles de la situation : ça rend les possibilités claires, on peut prédire les tentatives de contrôle sur nous ou être proactif en tentant de dominer ; et on adopterait ce filtre perspectif parce qu’on aurait eu l’habitude d’environnements sociaux suivants ces règles ou encore parce qu’on n’aurait pas appris ou compris les autres jeux aux règles différentes. Tout est tellement plus simple à comprendre, – surtout au niveau social – lorsqu’on délimite les possibilités selon un mode « perdre » ou « gagner ». Le problème c’est que les relations sociales enrichissantes, plaisantes, sont des jeux à somme non nulle ou coopératif, les bénéfices doivent être mutuel, réciproques, l’autre doit être considéré comme un allié, un égal pour « gagner » cette récompense qu’est le comblement de la proximité sociale.

Cette erreur, c’est l’impression que l’attention portée à un exogroupe serait égale à une attention moindre portée à son endogroupe. On peut tout interpréter selon cette erreur, par exemple que l’accession à des droits d’une personne aurait pour conséquence moins de droits pour nous, que des aides sociales à tel groupe déboucheraient à moins d’aide pour notre groupe, etc. Et évidemment tout ça met davantage en réactance, parce que chaque acte de l’exogroupe est interprété alors comme une privation, une atteinte au droit de l’endogroupe.

À noter que cette erreur de logique ressemble fortement aux croyances que portent les narcissiques « ton échec est mon succès » (qui peut être aussi « mon succès dépend de ton échec »), sauf qu’ils l’appliquent à tout. Par exemple l’incel Eliott Rodger, narcissique dit vulnérable, pouvait interpréter le fait de ne être servi en premier du gâteau comme une façon de l’inférioriser, comme une terrible injustice (or il est plus probable que la personne ait servi un autre en premier parce qu’elle était plus proche d’elle dans l’espace par exemple). Un couple qui marchait juste dans la rue était considéré comme un affront pour lui, parce qu’il était célibataire. Or ces personnes étaient juste en train de vivre, elles n’avaient certainement pas pour but d’enrager les célibataires qu’elles croiseraient.

Cambridge analytica verra que l’attention accordée aux minorités est effectivement perçue par ces individus comme une menace à l’identité sociale à cause de cette logique erronée qui consiste à tout interpréter comme un jeu à somme nulle.

CA a fait des expériences pour tenter de diminuer ce sentiment de menace, en demandant aux sujets dans ce jeu à somme nulle de s’imaginer être des superhéros invincibles. Puis il leur posait des questions sur leurs exogroupes qu’ils discriminaient, comme les immigrés, les gays, etc. Et effectivement, lorsqu’ils s’imaginaient invincibles, ils les considéraient comme moins menaçants.

Autrement dit, ces individus se sentent si fragiles face à des personnes différentes (qui ne font qu’exister) qu’il leur faudrait des super-pouvoirs pour se sentir en confiance : voilà pourquoi on parle souvent de fragilité blanche et/ou masculine pour décrire ces individus, ils sont sensibles à des menaces totalement imaginaires, puisque factuellement l’exogroupe ne leur fait strictement rien dans la situation.

Ci-dessus, on voit que pour cet individu d’extrême droite, les étrangers qui lui font peur sont des voisins noirs… qui sont extrêmement polis et l’aident à faire des courses. Si l’on en croit les expériences de Cambridge Analytica, la seule façon de lui enlever sa peur serait de lui offrir des superpouvoirs surnaturels pour « supporter » cette situation prosociale intergroupe qu’est la politesse et l’entraide…

La leçon de ces résultats pourrait tout aussi bien être inversée : si on veut augmenter les tensions entre groupes, alors il s’agirait d’amplifier le sentiment d’impuissance, de mortalité et de manque de pouvoir des gens3; on peut aussi tout à fait tabler sur le fait que des situations qui rendent factuellement impuissantes les personnes, comme un confinement avec des règles strictes, augmente drastiquement le sentiment de menace à l’identité sociale. Il suffirait alors qu’un leader politique s’empare de ce mal-être et dirige les affects négatifs comme étant de la responsabilité d’un exogroupe, et il remporterait l’adhésion de beaucoup.

Ici, les tests de CA semblaient plutôt assez raccords avec des objectifs qu’on se donnerait dans la recherche en psycho (c’est-à-dire diminuer le sentiment de menace), mais malheureusement ce ne fut pas tout le temps le cas. Ces tests lui permirent au contraire de créer des récits où « les relations de race sont un jeu à somme nulle4 » puis le mécanisme de réactance a pris le relai :

« Cela signifie que lorsque les cibles tombaient sur des clips mettant en scène des candidats ou des célébrités critiquant des déclarations racistes, cette exposition n’avait d’autre effet que de raffermir un peu plus le point de vue raciste de la cible au lieu de la pousser à remettre en question ses croyances. Ainsi, si vous arriviez à associer de manière organique le point de vue sur la race à la question de l’identité avant que le sujet soit exposé à un contre-récit, ce dernier serait dès lors considéré comme une attaque directe contre l’identité du sujet. Ce qui était vraiment utile pour Bannon, dans la mesure où cela revenait à vacciner les groupes ciblés contre tous les contre-récits critiquants l’ethno-nationalisme. Ainsi se créait une étrange boucle récursive dans laquelle les opinions racistes du groupe se radicalisaient un peu plus à chaque fois qu’elles étaient exposées à une critique.  »

Mindfuck, Christopher Wylie

 

Attention, ceci étant dit, cela ne veut pas dire qu’il n’existe pas des situations de jeu à somme nulle, par exemple sur le terrain médiatique, lors des campagnes, effectivement on est dans un jeu à somme nulle : les médias donnent plus ou moins de temps d’antenne à tel ou tel parti, lésant certains au profit d’autres. Ici l’erreur n’est pas de qualifier cela de jeu à somme nulle. L’erreur serait de croire qu’un parti est lésé, perdant à ce jeu, alors que ce n’est pas le cas voire même le contraire.

On a vu ça en France récemment avec l’extrême droite qui n’arrête pas de se plaindre d’être muselée, censurée etc… mais qui dans les faits occupe majoritairement l’attention dans les médias. Les personnes d’extrême droite serait dans une erreur de se plaindre d’être « censurée », cependant si c’était les écolos qui s’en plaignaient, ce ne serait pas une erreur : on voit qu’effectivement ils ont très peu de temps médiatique à disposition. Source : Médiatisation des candidat.e.s à l’élection présidentielle 2022 dans l’audiovisuel, Nicolas Hervé, 2021 https://www.herve.name/research/nherve_presidentielle_2022_v1.0.pdf

On voit que cette erreur d’interprétation est très propice à faire se développer une colère et des affects négatifs pour quantité de choses, surtout sur la facette « perdant », mais aussi sur la facette « gagnant » qui est de se féliciter d’avoir démoli/privé un autre, ce qui est tout aussi sapant à long terme car c’est se priver de relations sociales enrichissantes qui sont forcément à somme non nulle. Cela amène à croire que les relations, la société sont un gigantesque jeu compétitif, ça amène à une comparaison sociale permanente avec les autres (qui est aussi très nuisible au moral), à une hiérarchisation des personnes (ce qui amène à soutenir des inégalités qui nous nuisent presque tous, à souffrir de complexes d’infériorité), à des motivations extrinsèques (n’être motivé que parce que telle activité augmenterait sa « valeur » financière ou de notoriété ; là aussi les motivations extrinsèques sont corrélées avec un mal-être cf ETP).


Générer de la colère pour abattre les capacités à raisonner et viraliser les contenus


CA exploitait la colère parce qu’on sait que celle-ci affecte la capacité à chercher des informations, amène à tirer des conclusions hâtives (que les personnes peuvent d’ailleurs regretter). De plus, les algorithmes des réseaux sociaux vont favoriser des contenus générant beaucoup de réactions, il y aura plus de re-partage si le contenu met en colère. Il y avait donc tout intérêt pour eux à tabler sur cette émotion qui de plus est moteur d’action, d’engagement (la colère pousse à se mettre en action).

Ils ont testé cela en montrant en premier lieu à leurs échantillons des graphiques sur des sujets non controversés (taux d’utilisation du téléphone, ventes de voitures, etc…). Ces graphiques étaient presque tous bien interprétés par les personnes. Mais l’intitulé des graphiques était faux, les chiffres concernaient des sujets à débat aux États-Unis, comme le nombre de morts par armes à feu, l’inégalité de revenus et le changement climatique. Puis CA montrait les vrais intitulés de ces graphiques à des personnes préalablement mises en colère : elles avaient du mal alors à l’interpréter, alors que les premières fois cela n’avait pas posé de problème.

CA a aussi remarqué que la colère amenait à être plus punitif envers les exogroupes. Ils ont testé l’idée d’entrer en guerre contre la Chine ou le Mexique, expliquant au passage les problèmes économiques que cela générerait aux USA. Les sujets qui avaient été amorcés à la colère étaient prêts à soutenir cette guerre, du moment que cela pouvait servir à « punir » les immigrés et ce qu’importent les conséquences économiques pour eux.

Autrement dit, cela nous apprend aussi que ce n’est pas parce que les gens sont « cons » qu’ils interprètent mal des contenus de ce genre, ni qu’il y ait besoin de les « éduquer » : c’est la colère qui va les priver de la capacité à bien interpréter, que ce soit via un événement précédent ou du fait qu’un sujet soit polémique, donc associé à des débats générant un fort potentiel de colère.

Donc CA a vu le fait de mettre en colère les gens comme utile pour servir les campagnes de leurs clients, pour augmenter une adhésion, dégoûter d’un candidat, mais aussi pour « allumer un feu » sur les réseaux sociaux. L’un de ces clients, des membres d’un parti pro-brexit, expliquent qu’il s’agit d’allumer une flamme (diffuser une fake news qui va énerver, choquer, faire s’insurger) puis de mettre un immense ventilateur devant (exploiter les réseaux sociaux façon CA en faisant se diffuser la fake news par certains profils) pour faire s’étendre l’incendie5. Et ça marche, à cause du contenu, de l’émotion qu’il génère, des profils choisis pour le partager, et des algorithmes des réseaux sociaux qui favorisent beaucoup plus les contenus aux affects négatifs, mais aussi parce qu’on est également plus attentifs et on réagit plus à des choses négatives qu’à celle positives.

La suite : rendre plus explicitement raciste…

 


Sources


Image d’entête, des membres de l’alt-right à Charlottesville : https://www.nbcnews.com/think/opinion/alt-right-fueled-toxic-masculinity-vice-versa-ncna989031

Livres

  • Mindfuck, Christopher Wylie
  • Understanding peace and conflict through social identity theory, McKeown, Haji, Ferguson, 2016
  • Handbook of trait narcissism, chapitre 5, Brummelman, Gürel, Sedikides, 2018

Articles

Articles de recherches autour de l’identité sociale

  • Bringing together humanistic and intergroup perspectives to build a model of internalisation of normative social harmdoing, Amiot, 2019
  • Collective narcissism and intergroup hostility: the dark side
    of ’in group love’, Golec de Zavala, Agnieszka, 2011
  • Social identity threat across group status: Links to psychological well-being and intergroup bias through collective narcissism and ingroup satisfaction. Bagci, S. C., Stathi, S., & Golec de Zavala, A., 2021.
  • Zero-Sum Thinking as Mediator of the Relationship of National Attitudes with (Un)willingness to Host Refugees in own Country Jarosław Piotrowski, Joanna Rózycka-Tran, Tomasz Baran, Magdalena ̇ Zemojtel-Piotrowska, 2018
  • Nice and Nasty: The Formation of Prosocial and Hostile Social Movements Emma Thomas, Laura Smith, Craig McGarty, Tom Postmes 2010

Auditions


Notes de bas de page


1Dans cet article, ce sera principalement issu de son ouvrage Mindfuck

2Il a pu s’en rendre compte en faisant des études qualitatives ; non seulement ils constataient des liens entre les données, mais plus encore il allait parfois à la rencontre de certains profils avec qui il avait des entretiens.

3Les expériences de « saillance de la mort » montrent que si on évoque la mort à des personnes, celles-ci émettent plus d’ethnocentrisme, plus de punitivité ; on en avait parlé largement ici : https://www.hacking-social.com/2018/01/22/tmt1-quand-avoir-peur-de-penser-a-la-mort-rend-ethnocentrique-la-theorie-de-la-gestion-de-la-terreur/

4Christopher Wylie, Mindfuck.

5Ils avouent explicitement cette stratégie ainsi que l’usage de fake news devant le parlement anglais, ici : https://www.youtube.com/watch?v=IWQh2lHqYek ; vous pouvez aussi retrouver l’extrait en question dans ce reportage : https://www.youtube.com/watch?v=MBc_V7xNzCE

Viciss Hackso Écrit par :

Attention, atteinte de logorrhée écrite et sous perfusion de beurre salé. Si vous souhaitez nous soutenir c'est par ici : paypal ♥ ou tipeee ou ♣ liberapay ou utip ; pour communiquer ou avoir des news du site/de la chaîne, c'est par là :

4 Comments

  1. […] nous avons vu les études préliminaires de Cambridge Analytica (CA) sur l’identité sociale, les menaces à celle-ci, le jeu à somme non nulle et la colère. Il s’agissait pour CA de voir quel genre de récit aller « allumer un feu » sur les […]

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.

Quelques livres