…avec la colère, la menace à l’identité sociale et le jeu à somme nulle

Précédemment, nous avons vu comment Cambridge Analytica (CA) procédait pour manipuler les élections en pompant les données des personnes (notamment 87 millions de profils Facebook). À partir de celles-ci et de leur analyse avec le filtre des recherches scientifiques (en interne de leur entreprise ou via des savoirs déjà connus par ailleurs), ils utilisaient ces informations pour cibler certaines personnes, pour induire certains comportements électoraux chez eux (abstention, dégoût pour leur candidat de prédilection, mobilisation pour leur candidat).

On a vu qu’à partir de 2014, Steve Bannon prend les rênes de CA avec pour plan sous-jacent de stimuler et d’exploiter l’alt-right, puis l’entreprise œuvre principalement pour les Républicains. Aujourd’hui, on va davantage entrer dans le détail du jeu scientifique de l’entreprise, grâce aux révélations¹ de Christopher Wylie, l’ancien directeur de recherche. Notre but sera de comprendre sur quels biais, caractéristiques psychologiques CA appuyaient, ce qui nous permettra d’envisager des préventions à ces manipulations.

Rappelons que l’objectif de CA n’était en rien de faire avancer la science ou d’étudier les phénomènes psychologiques dans une perspective thérapeutique : d’une part, ils n’avaient aucun intérêts à savoir si leurs découvertes étaient reproductibles ou décrivant quelque chose de valide pour tout humain ; leur intérêt était de voir si ça pouvait marcher pour manipuler leurs cibles, qu’importe si le champ académique était en débat à ce sujet, du moment que ça marchait sur les cibles, pour les résultats qu’ils visaient. D’autre part, leurs expériences n’avaient aucune espèce d’éthique : elles ne visaient pas le bien-être, ne visaient pas la diminution du mal-être, ne visaient pas à comprendre des phénomènes mystérieux. Ils cherchaient juste à savoir comment contrôler des individus et groupes pour les amener à faire ce qui avait de l’intérêt pour les clients de CA, et ce contrôle pouvait passer par le fait de stimuler leur biais, exploiter leurs défauts, nourrir leur mal-être.

La totalité du dossier ici en PDF : CA.pdf  ; ou en epub : CA.epub

Les articles précédents de ce dossier : 

• Comment manipuler les élections ? L’affaire Cambridge Analytica [CA1]
• Comment manipuler les élections avec l’abstention, l’intimidation et le dégoût [CA2]
• Viraliser l’extrême-droite : le plan de Bannon [CA3]

Fox news, fournisseur d’identité sociale

L’identité sociale, selon Tajfel et Turner (1979) renvoie à la conscience qu’a un individu d’appartenir à un groupe social, aux significations qu’il accole à cette appartenance et l’importance qu’il lui donne. Cette identité sociale peut avoir une forte influence sur les pensées et les comportements d’un individu qui veut maintenir une identité sociale positive pour conserver une bonne image de soi.

Les significations et l’importance de cette identité peuvent être conditionnées par un média : Wylie donne l’exemple de Fox News qu’il a découvert sur le tard, étant canadien. Le rituel devant la chaine lui fait penser aux rages rooms (des salles emplies d’objets qu’on a le droit de casser, permettant de se défouler). Les spectateurs s’installent devant la télé et semblent attendre de se sentir insultés, puis ils s’enragent devant ce qu’ils voient et reviennent à leur petite vie accompagnée de ce que je qualifie d’erreurs ultimes d’attributions, et de l’idée que tout leur mal-être provient de « privilèges » accordés aux minorités². Qu’est-ce qui se passe ici ?

Nous avons parlé des erreurs ultimes d’attribution ici :

Wylie remarque qu’avant d’implanter ces erreurs d’attribution, la chaîne américaine amorce constamment l’identité sociale d’un « Américain ordinaire » et lui associe des pensées qu’il doit avoir, dont l’idée d’être Républicain. Puis ensuite, s’ils rapportaient que Trump était accusé de racisme, les spectateurs s’énervaient parce que c’était comme si on les attaquait eux. Si un autre groupe – imaginé adversaire de leur identité sociale – émettait une critique telle que la dénonciation du racisme, alors cela était perçu comme une tentative de les faire taire.

Il y a donc comme une très forte sensibilité à la réactance ; si la personne se croit attaquée dans son identité non pas tant par la force du signal qui est ici assez faible (remarque générale « le racisme c’est pas bien »), mais bien plutôt parce que cette remarque vient d’un exogroupe (les Démocrates), alors cette expression même vidée d’agressivité est perçue comme une attaque personnelle, une tentative de muselage et l’individu renforce alors ses positions (vers « je ne vais certainement pas changer mon racisme ou m’occuper de cette question »).

On a parlé de réactance ici : 

Ce que ferait Fox News d’un point de vue « biais » serait donc :

1. Fabriquer une identité sociale fermée, non inclusive, et la renforcer constamment,

2. Exposer cette identité sociale à des « menaces ».

3. Ce qui aurait pour conséquence de générer de la colère puis un phénomène de réactance face au contenu et aux personnes décrites comme menaçantes, ce qui renforce au passage l’adhésion à cette identité sociale unique, fermée et non inclusive.

La facilité de menacer les gens qui sont dans le zero sum game

Cambridge Analytica testera alors si un sentiment de menace à l’identité sociale ne servirait pas à alimenter certaines opinions, surtout lorsqu’elle est couplée à une erreur logique d’un jeu à somme nulle (zero sum game). Cette erreur consiste à interpréter toutes les situations comme ayant les règles d’un jeu d’échecs : on gagne lorsqu’on prend à l’autre ses forces (ou qu’on bloque celles-ci), on perd lorsque l’adversaire prend nos forces ou nous prive de possibilités. Et comme dans un jeu d’échecs, même une action de l’adversaire qui ne bloque pas, ne prive pas de forces, peut être perçue avec suspicion. De façon proactive, cette erreur nous ferait voir toute situation sociale comme un moyen d’occuper le terrain, de duper l’adversaire, le priver de ses mouvements ou prendre ses forces pour gagner. Et gagner, dans un jeu à somme nulle, c’est dominer. Donc selon cette perception, soit on perçoit la vie sociale sous un angle quelque peu parano « on veut me duper, me dominer, m’écraser, me priver de mes forces » soit on le voit sous un angle proactif de domination « je peux les exploiter, les écraser, prendre tout pour moi. Et je peux être fier si je domine comme ça« .

Cette erreur, c’est l’impression que l’attention portée à un exogroupe serait égale à une attention moindre portée à son endogroupe. On peut tout interpréter selon cette erreur, par exemple que l’accession à des droits d’une personne aurait pour conséquence moins de droits pour nous, que des aides sociales à tel groupe déboucheraient à moins d’aide pour notre groupe, etc. Et évidemment tout ça met davantage en réactance, parce que chaque acte de l’exogroupe est interprété alors comme une privation, une atteinte au droit de l’endogroupe.

Cambridge analytica verra que l’attention accordée aux minorités est effectivement perçue par ces individus comme une menace à l’identité sociale à cause de cette logique erronée qui consiste à tout interpréter comme un jeu à somme nulle.

CA a fait des expériences pour tenter de diminuer ce sentiment de menace, en demandant aux sujets dans ce jeu à somme nulle de s’imaginer être des superhéros invincibles. Puis il leur posait des questions sur leurs exogroupes qu’ils discriminaient, comme les immigrés, les gays, etc. Et effectivement, lorsqu’ils s’imaginaient invincibles, ils les considéraient comme moins menaçants.

Autrement dit, ces individus se sentent si fragiles face à des personnes différentes (qui ne font qu’exister) qu’il leur faudrait des super-pouvoirs pour se sentir en confiance : voilà pourquoi on parle souvent de fragilité blanche et/ou masculine pour décrire ces individus, ils sont sensibles à des menaces totalement imaginaires, puisque factuellement l’exogroupe ne leur fait strictement rien dans la situation.

Ci-dessus, on voit que pour cet individu d’extrême droite, les étrangers qui lui font peur sont des voisins noirs… qui sont extrêmement polis et l’aident à faire des courses. Si l’on en croit les expériences de Cambridge Analytica, la seule façon de lui enlever sa peur serait de lui offrir des superpouvoirs surnaturels pour « supporter » cette situation prosociale intergroupe qu’est la politesse et l’entraide…

La leçon de ces résultats pourrait tout aussi bien être inversée : si on veut augmenter les tensions entre groupes, alors il s’agirait d’amplifier le sentiment d’impuissance, de mortalité et de manque de pouvoir des gens³; on peut aussi tout à fait tabler sur le fait que des situations qui rendent factuellement impuissantes les personnes, comme un confinement avec des règles strictes, augmente drastiquement le sentiment de menace à l’identité sociale. Il suffirait alors qu’un leader politique s’empare de ce mal-être et dirige les affects négatifs comme étant de la responsabilité d’un exogroupe, et il remporterait l’adhésion de beaucoup.

Ici, les tests de CA semblaient plutôt assez raccords avec des objectifs qu’on se donnerait dans la recherche en psycho (c’est-à-dire diminuer le sentiment de menace), mais malheureusement ce ne fut pas tout le temps le cas. Ces tests lui permirent au contraire de créer des récits où « les relations de race sont un jeu à somme nulle⁴ » puis le mécanisme de réactance a pris le relai :

« Cela signifie que lorsque les cibles tombaient sur des clips mettant en scène des candidats ou des célébrités critiquant des déclarations racistes, cette exposition n’avait d’autre effet que de raffermir un peu plus le point de vue raciste de la cible au lieu de la pousser à remettre en question ses croyances. Ainsi, si vous arriviez à associer de manière organique le point de vue sur la race à la question de l’identité avant que le sujet soit exposé à un contre-récit, ce dernier serait dès lors considéré comme une attaque directe contre l’identité du sujet. Ce qui était vraiment utile pour Bannon, dans la mesure où cela revenait à vacciner les groupes ciblés contre tous les contre-récits critiquants l’ethno-nationalisme. Ainsi se créait une étrange boucle récursive dans laquelle les opinions racistes du groupe se radicalisaient un peu plus à chaque fois qu’elles étaient exposées à une critique.  »

Mindfuck, Christopher Wylie

Attention, ceci étant dit, cela ne veut pas dire qu’il n’existe pas des situations de jeu à somme nulle, par exemple sur le terrain médiatique, lors des campagnes, effectivement on est dans un jeu à somme nulle : les médias donnent plus ou moins de temps d’antenne à tel ou tel parti, lésant certains au profit d’autres. Ici l’erreur n’est pas de qualifier cela de jeu à somme nulle. L’erreur serait de croire qu’un parti est lésé, perdant à ce jeu, alors que ce n’est pas le cas voire même le contraire.

On voit que cette erreur d’interprétation est très propice à faire se développer une colère et des affects négatifs pour quantité de choses, surtout sur la facette « perdant », mais aussi sur la facette « gagnant » qui est de se féliciter d’avoir démoli/privé un autre, ce qui est tout aussi sapant à long terme car c’est se priver de relations sociales enrichissantes qui sont forcément à somme non nulle. Cela amène à croire que les relations, la société sont un gigantesque jeu compétitif, ça amène à une comparaison sociale permanente avec les autres (qui est aussi très nuisible au moral), à une hiérarchisation des personnes (ce qui amène à soutenir des inégalités qui nous nuisent presque tous, à souffrir de complexes d’infériorité), à des motivations extrinsèques (n’être motivé que parce que telle activité augmenterait sa « valeur » financière ou de notoriété ; là aussi les motivations extrinsèques sont corrélées avec un mal-être cf ETP).

Générer de la colère pour abattre les capacités à raisonner et viraliser les contenus

CA exploitait la colère parce qu’on sait que celle-ci affecte la capacité à chercher des informations, amène à tirer des conclusions hâtives (que les personnes peuvent d’ailleurs regretter). De plus, les algorithmes des réseaux sociaux vont favoriser des contenus générant beaucoup de réactions, il y aura plus de re-partage si le contenu met en colère. Il y avait donc tout intérêt pour eux à tabler sur cette émotion qui de plus est moteur d’action, d’engagement (la colère pousse à se mettre en action).

Ils ont testé cela en montrant en premier lieu à leurs échantillons des graphiques sur des sujets non controversés (taux d’utilisation du téléphone, ventes de voitures, etc…). Ces graphiques étaient presque tous bien interprétés par les personnes. Mais l’intitulé des graphiques était faux, les chiffres concernaient des sujets à débat aux États-Unis, comme le nombre de morts par armes à feu, l’inégalité de revenus et le changement climatique. Puis CA montrait les vrais intitulés de ces graphiques à des personnes préalablement mises en colère : elles avaient du mal alors à l’interpréter, alors que les premières fois cela n’avait pas posé de problème.

CA a aussi remarqué que la colère amenait à être plus punitif envers les exogroupes. Ils ont testé l’idée d’entrer en guerre contre la Chine ou le Mexique, expliquant au passage les problèmes économiques que cela générerait aux USA. Les sujets qui avaient été amorcés à la colère étaient prêts à soutenir cette guerre, du moment que cela pouvait servir à « punir » les immigrés et ce qu’importent les conséquences économiques pour eux.

Autrement dit, cela nous apprend aussi que ce n’est pas parce que les gens sont « cons » qu’ils interprètent mal des contenus de ce genre, ni qu’il y ait besoin de les « éduquer » : c’est la colère qui va les priver de la capacité à bien interpréter, que ce soit via un événement précédent ou du fait qu’un sujet soit polémique, donc associé à des débats générant un fort potentiel de colère.

Donc CA a vu le fait de mettre en colère les gens comme utile pour servir les campagnes de leurs clients, pour augmenter une adhésion, dégoûter d’un candidat, mais aussi pour « allumer un feu » sur les réseaux sociaux. L’un de ces clients, des membres d’un parti pro-brexit, expliquent qu’il s’agit d’allumer une flamme (diffuser une fake news qui va énerver, choquer, faire s’insurger) puis de mettre un immense ventilateur devant (exploiter les réseaux sociaux façon CA en faisant se diffuser la fake news par certains profils) pour faire s’étendre l’incendie⁵. Et ça marche, à cause du contenu, de l’émotion qu’il génère, des profils choisis pour le partager, et des algorithmes des réseaux sociaux qui favorisent beaucoup plus les contenus aux affects négatifs, mais aussi parce qu’on est également plus attentifs et on réagit plus à des choses négatives qu’à celle positives.

La suite : rendre plus explicitement raciste…

Sources

Image d’entête, des membres de l’alt-right à Charlottesville : https://www.nbcnews.com/think/opinion/alt-right-fueled-toxic-masculinity-vice-versa-ncna989031

Livres

• Mindfuck, Christopher Wylie
• Understanding peace and conflict through social identity theory, McKeown, Haji, Ferguson, 2016
• Handbook of trait narcissism, chapitre 5, Brummelman, Gürel, Sedikides, 2018

Articles

• Médiatisation des candidat.e.s à l’élection présidentielle 2022 dans l’audiovisuel, Nicolas Hervé, 2021 https://www.herve.name/research/nherve_presidentielle_2022_v1.0.pdf
• https://www.theguardian.com/news/2018/mar/17/data-war-whistleblower-christopher-wylie-faceook-nix-bannon-trump

Articles de recherches autour de l’identité sociale

• Bringing together humanistic and intergroup perspectives to build a model of internalisation of normative social harmdoing, Amiot, 2019
• Collective narcissism and intergroup hostility: the dark side
  of ’in group love’, Golec de Zavala, Agnieszka, 2011
• Social identity threat across group status: Links to psychological well-being and intergroup bias through collective narcissism and ingroup satisfaction. Bagci, S. C., Stathi, S., & Golec de Zavala, A., 2021.
• Zero-Sum Thinking as Mediator of the Relationship of National Attitudes with (Un)willingness to Host Refugees in own Country Jarosław Piotrowski, Joanna Rózycka-Tran, Tomasz Baran, Magdalena ̇ Zemojtel-Piotrowska, 2018
• Nice and Nasty: The Formation of Prosocial and Hostile Social Movements Emma Thomas, Laura Smith, Craig McGarty, Tom Postmes 2010

Auditions

• https://www.youtube.com/watch?v=n8Dd5aVXLCc
• https://www.youtube.com/watch?v=6bG5ps5KdDo
• https://www.youtube.com/watch?v=MBc_V7xNzCE
• https://www.youtube.com/watch?v=_sUvKvoK9I8
• https://www.youtube.com/watch?v=d40RWyBnOBQ
• https://www.youtube.com/watch?v=u-FlWZ1BOcA
• https://www.youtube.com/watch?v=fD2briZ6fB0
• https://www.youtube.com/watch?v=MBc_V7xNzCE

Notes de bas de page