Comment manipuler les élections ? L'affaire Cambridge Analytica

Hacking-social.com

Peut-on utiliser Facebook, les réseaux sociaux, Internet pour changer le cours d'une élection ? Oui.

Peut-on utiliser Facebook et les autres réseaux sociaux pour créer et stimuler des mouvements extrémistes haineux, harcelant en masse et diffusant des fakes news ? Oui.

Peut-on utiliser conjointement les apports académiques de la psychologie (sociale, de la personnalité notamment), des mathématiques, du numérique pour détecter les opinions politiques à l'insu des personnes et jouer avec ? Oui.

Peut-on mettre la main sur des millions de données personnelles d'un autre pays historiquement "ennemi", jouer avec, et les faire adhérer à une image positive de notre leader ? Oui.

Peut-on exploiter notre personnalité, nos vulnérabilités, nos biais pour changer notre probable vote ? Oui.

Peut-on stimuler ce qui nuit à notre bien-être, accentue nos problèmes, nous enfonce dans le pire, nous coupe de ce qui nous ferait du bien dans le but de créer du chaos ou faire remporter un candidat ? Oui.

Si je me permets d'affirmer tout ceci, c'est qu'en 2018, on a découvert que c'est bien ce que faisait Cambridge Analytica (une entreprise parmi d'autres de la galaxie SCL), et ce au mépris des lois, des règles démocratiques, de toute éthique. Grâce aux journalistes, aux lanceurs d'alerte, aux témoignages conséquents au congrès américain et au parlement anglais, aux milliers de pages de leaks de documents de l'entreprise, on en sait aujourd'hui beaucoup sur ces manipulations politiques internationales.

Si je vous en parle aujourd'hui, c'est parce que, d'une part nous allons subir des élections dont les campagnes sont d'ores et déjà assez pénibles, mais aussi parce que c'est un cas d'école sur comment les connaissances scientifiques en psychologie - par ailleurs souvent dénigrée ou perçue avec dédain - peuvent être exploitées et avoir un pouvoir considérable. Non, les études sur les Big Five et la personnalité, quand bien même elles peuvent paraître pour certaines "stupides", ne sont pas bullshit : mises bout-à-bout, elles peuvent être transformées en instrument de contrôle et de manipulation.  

À cette histoire, les lanceurs d'alerte, les institutions qui ont été chargées d’enquêter sur CA/SCL ont fait des recommandations politiques pour protéger les données. Au niveau citoyen et militant, c'est une  mis en lumière pour un plus large public des questions de sécurité numériques. Mais de mon côté, je vais

Excepté le fait de vous exposer cette histoire totalement ahurissante pour vous informer en cette période électorale, mon but sera de tenter de vous livrer de quoi permettre une analyse que CA pouvait avoir sur vous concernant votre personnalité. Plus on se connaît, plus on peut décider et se refuser d'être entraîné dans un courant de manipulation. Or, il me semble qu'il y a très peu de moyens de connaître sa personnalité : quand bien même on aurait passé les Big Five sur un site internet, on déduit rarement tout ce que cela implique comme force d'attraction, de répulsion, d'inaction ou d'actions. Au passage, attention aux tests psy sur Internet, car non seulement ils ne sont pas fiables, mais plus encore comme nous le verrons ils peuvent être un vrai cheval de Troie pour récolter des données privées.

De plus, quand on parle de personnalité, on peut croire que ses traits sont rigides, or on sait aujourd’hui qu’il y a une plasticité de la personnalité, que celle ci peut changer selon les contextes, voire carrément se transformer (et ce, sans que ce soit pathologique, cela peut même être une très bonne nouvelle). Même si vous avez passé le test avec un psychologue ou dans le cadre professionnel, je doute qu'on vous ait restitué l'aspect politique lié au détail de votre personnalité, alors c'est aussi ce dont je parlerais à terme.

C'est donc ce que j'essayerai de vous livrer dans ce dossier, avec cette théorie un peu folle que si on pouvait s’approprier les connaissances propres à sa personnalité, alors peut-être aurait-on plus de latitude de décision et d’autonomie quant à céder ou non face à une manipulation se basant sur ces mêmes connaissances.. Par ailleurs, se connaître ne me semble jamais inutile, cela permet d’affûter ses forces, surmonter des vulnérabilités, exister plus vivement, mieux interagir avec autrui.

Mais avant cela, on va chercher à comprendre cette affaire d'ingénierie sociale politique, ce hack des psychologies et de la démocratie, ce nudge politique des réseaux sociaux, cette exploitation massive des données personnelles.

1. C'est quoi Cambridge Analytica, SCL ?

Cambridge Analytica (CA) n'est qu'une "marque" étasunienne noyée dans une galaxie d'entreprises nommées généralement SCL (Strategic Communication Laboratorie), entreprises partageant de mêmes équipes, de mêmes techniques, de mêmes données. Ces mêmes groupes pouvaient avoir différents noms selon les opérations en cours (par exemple aggregateIQ s'appelait par ailleurs SCL Canada). Les employés pouvaient avoir plusieurs cartes de visite : par exemple, la lanceuse d'alerte Brittany Kaiser se présentait différemment selon les opérations et clients, travaillant soit pour CA, soit pour SCL group.

Un "échantillon" de la galaxie d'entreprises SCL ; à noter que le lanceur d'alerte Christopher Wylie, face à ce schéma, a rapporté qu'il y avait sûrement bien d'autres entreprises à y rajouter. Selon les leaks que j'ai pu voir, on pourrait par exemple rajouter SCL canada /AiQ, SCL defence, SCL india, SCL.cc, etc.

La multiplication des groupes permettait de surmonter les lois de chaque pays, cela a permis par la suite de brouiller les pistes en cas d'accusation, ce qui a été notamment le cas dans l'affaire du Brexit¹. Cambridge Analytica a été créée parce qu'il est interdit aux États-Unis qu'une entreprise étrangère  participe de près ou de loin à des élections nationales, il fallait donc une filiale étasunienne.

CA/SCL était donc l’un des organismes privés de stratégie de communication œuvrant dans le cadre d’élections dans divers pays. Ses clients provenaient du champ militaire, politique ou du monde des affaires, et il s'agissait de faire gagner le candidat que les clients souhaitaient voir gagner. SCL a travaillé sur 200 élections à travers le monde.

Document de CA à destination des clients ; leak disponible ici : https://archive.org/details/ca-docs-with-redactions-sept-23-2020-4pm/page/n12/mode/2up

Comment CA manipulait-elle les élections ?  

- Elle captait et utilisait une masse énorme des données personnelles. Cette utilisation des données provenant en partie des réseaux sociaux (surtout de Facebook) et cette aspiration des données s'est faite sans consentement éclairé des usagers (notamment pour l'usage politique).

Ici une liste des données récupérées : d'une part, les données démographiques (âge, genre, ethnicité, religion, éducation, revenus, propriété, statut socio-économique, facteurs géographiques) et d’autre part celles psychographiques (données de consommation, style de vie, styles et patterns d'achat, engagement politique et/ou civique, opinions, etc.). Pour ces données, il s'agit de tout ce qui peut être capté via les réseaux sociaux, mais aussi tous les services liés aux loisirs (abonnement à des clubs, à des journaux, etc.). Et enfin il y a les données de personnalité qui ont pu être captées directement via des tests (le NEO-PI échelle raccourcie) ou par déduction algorithmique (à partir des réseaux sociaux). Les logos sous les listes représentent là où les données ont été achetées (ou captées). La fin de la  dernière colonne (Persuasion) représente quelles notions peuvent être utiliser pour manipuler (réciprocité, autorité, peur, preuve sociale, rareté). Cependant, dans sa conférence, il ne détaille pas ces points.

Source : https://www.youtube.com/watch?v=n8Dd5aVXLCc

- Les données ont permis de mesurer la personnalité des gens (Big Five). Pour 320 000 profils Facebook cela a été fait directement par le test de l'app "thisisyourdigitallife", pour les autres données cela pouvait être déduit par algorithmes construits à partir de cette base de données. À partir d'un certain nombre de likes, de posts, l'algo peut déduire la personnalité que vous montrez sur ce réseau en question (vous pouvez d'ailleurs le tester ici :  https://applymagicsauce.com/demo ; je vous conseille de la désactiver après utilisation, cela a beau être mis à disposition par le champ académique, selon les sources que j'ai pu lire, Cambridge encourage la monétisation des travaux parmi ses chercheurs, donc je ne peux pas vous garantir l'usage de cet algo ).

D'un côté, le haut de l'iceberg (données démographiques, géographiques, données de consommation, de médias) donne une toute petite image du comportement de la personne. Or, c'est là ce qui est uniquement utilisé traditionnellement pour les campagnes ; Alexander Nix, le PDG de CA/SCL argumente en disant qu’il est ridicule de penser que toutes les femmes, parce qu'elles sont femmes, auront le même comportement, et ainsi de suite pour les groupes étudiés selon uniquement leur âge, leur ethnicité etc.C'est ce qu'il y a dessous, soit la partie immergée, qui fera le comportement : les valeurs, les motivations, les leviers de persuasion, la sociabilité, l'attachement, l'amorçage, approche/évitement BIS-BAS, les affiliations normatives, la cognition implicite, le locus de contrôle, cadres ethnoculturels, la personnalité, etc. implicitement, il dit donc que c'est sur la psychologie qu'il faut se baser en plus des données habituelles pour influencer les comportements, les données socio-politiques classiques n’étant pas suffisantes.  

Source : https://www.youtube.com/watch?v=6bG5ps5KdDo

- L'application mesurant la personnalité ("thisisyourdigitallife") a permis également de collecter les profils facebook des amis. De 320 000 profils collectés, CA/SCL a pu entrer en possession de 87 millions de profils (contenant donc toutes les données tels que l'âge, le genre, la ville, les likes, les posts, les pages aimées, les messages privés, etc.).

- CA/SCL avait une méthode scientifique (et une équipe de chercheurs en psychologie) pour mesurer en amont quels messages passerait bien ou non : à partir d'échantillon de 40 000 personnes dont ils avaient d'immenses sommes d'informations, ils recueillaient des réponses à des questionnaires, mesuraient l'opinion favorable ou non face à un message pour savoir s'ils allaient l'utiliser pour la campagne.

« En octobre 2016, un mois avant l’élection, l’enregistrement d’une émission de la chaîne NBC, Access Hollywood, avait été rendu public. Dans cet enregistrement de 2005, on entendait Trump faire étalage de sa misogynie et de son sentiment de toute-puissance. Il se vantait d’attraper les femmes « par la ch***e » et de les soumettre contre leur volonté. Dans la foulée, Cambridge Analytica a effectué une étude sur un groupe test d’électeurs indécis dans des swing states de la toute première importance. Surnommée « le pussy model », elle a été conçue dans le but d’évaluer les réactions à cet enregistrement. Les résultats étaient ahurissants. Chez les « indécis », il a produit un effet favorable (c’est-à-dire une hausse de la cote de popularité de Donald Trump), majoritairement chez les hommes, mais aussi chez certaines femmes.

J’ai essayé de chasser cette idée de mon esprit. C’était révoltant ».

L’affaire Cambridge Analytica, Brittany Kaiser

Connaissant la personnalité des gens sur leur réseau social préféré et ceci couplé à des tas d'autres données et tests, il était facile pour eux de les pousser à voter pour le candidat client de CA ou SCL, avec des messages extrêmement personnalisés : c'est le microciblage comportemental.

 Ici deux campagnes de pubs différentes pour défendre le port d'arme. À gauche un profil à haut névrosisme et haute conscienciosité a été ciblé par une image anxiogène d'attaque ; à droite une personne hautement agréable et hautement fermée (ce qui pourrait être un profil autoritaire/RWA) a été ciblé par un message accès sur la tradition et la famille. Source :  https://www.youtube.com/watch?v=n8Dd5aVXLCc

- Les campagnes de CA ou SCL consistaient parfois à décourager certains électeurs à voter pour un candidat en le dénigrant.

Ici leur campagne contre Hillary Clinton ; les articles et les publicités ont fait 50 millions d'impressions sur Facebook, 25 millions sur display, 8 millions sur Search (= via Google), 3 millions de vues sur Youtube, 3,6 millions sur Snapchat, 1 million sur Twitter. Cela a augmenté de 8% les intentions de vote pour Trump en Floride, parmi ceux qui ont vu cette campagne  ; le leak est disponible ici : https://twitter.com/HindsightFiles/status/1317155497364115456

- Les messages de campagne étaient changés en fonction de la population-cible, à travers les réseaux sociaux, mais aussi IRL.

Personne ne recevait le même message ni voyait les mêmes pubs (y compris TV). Le candidat-client (par exemple Trump) ne parlait pas des mêmes thèmes selon la zone où il allait, sachant quel genre de population indécise s'y trouvait et ce à quoi elle se préoccupait. Alors que l'immigration était le thème majeur, si CA avait repéré que dans telle zone a forte population d'indécis la préoccupation était l'éducation, alors le candidat ne parlait que d'éducation ; c'est peut-être pour cela qu'on voyait tant d'américains se sentir si compris par Trump durant la campagne.

- Les recherches Google étaient orientées pour faire en sorte que les personnes tombent en premier sur les messages pro-trump, anti-hillary :

 Par exemple, si les gens tapaient "trump guerre irak" alors ils tombaient sur une page disant que Clinton avait voté pour la guerre en Irak, que Trump y était opposé. Il s'agissait de "contrôler la première impression", "aller vers le négatif concernant les positions de Clinton et exposer les scandales", "conduire le trafic vers les questions pertinentes" (s'ils tapaient plan économique de Trump, ils étaient envoyés vers la page de présentation de son plan). Source, plaquette de CA à destination des futurs clients,  le leak est disponible ici : https://twitter.com/HindsightFiles/status/1317155497364115456

Une entreprise d'extrême droite ???

Cambridge Analytica n'a œuvré que pour des candidats républicains et son conseil d'administration était politiquement d’extrême droite (financement par le clan Mercer ; Steve Bannon a créé et dirigé un temps CA). Breitbart, un magazine en ligne d'extrême droite dont Bannon était à la tête, était aussi client de CA/SCL ; le lanceur d'alerte Christopher Wylie rapporte aussi des expériences pour un client "mystère" où il s'agissait carrément de stimuler certains profils pour finalement construire des groupes de l'Alt Right (on y reviendra).

Les employés, notamment ceux qui ont lancé l'alerte, étaient progressistes, voire d'ex-militants démocrates, ce qui est aussi un phénomène étonnant.

Le tableau de bord auquel le candidat client pouvait avoir accès (ici Ted Cruz, républicain), ici pour l'Etat d'Iowa. Il y avait indiqué la présence de démocrates (bleu), de républicains (rouges) et en blanc les indécis. Dans la conférence il montre un groupe de 45 000 personnes qui est caractérisé par un bas névrosisme, une basse ouverture et pour les autres traits, moyens. Pour eux, il a été décidé de les cibler sur le droit au port d'armes (qui est traditionnel aux USA, donc qui peut plaire à des personnalités basses en ouverture ; sans doute qu'ils n'ont pas appuyé ici sur la peur car ce groupe avait un bas névrosisme, de tels messages n’auront donc pas eu grand effet).

À noter que l'utilisation des données personnelles pour établir une campagne politique n'a pas été l'exclusivité de CA ou de SCL, déjà Obama le faisait. Et cela a fait l'objet d'un débat lors des témoignages devant le congrès où les républicains ont fortement argumenté sur ce point². La lanceuse d'alerte Brittany Kaiser, qui a participé à la campagne de 2007 d'Obama, rapporte néanmoins qu'il n'y avait pas de campagne de dénigrement de l'adversaire. Techniquement, l'équipe démocrate n'avait pas accès non plus aux traitements via la personnalité qui a été importé par le chercheur en psychologie sociale Kogan à travers sa société GSR pour SCL elections.

Cependant, comme Wylie l'a dit au congrès américain, qu'importe le parti qui l'utilise, cette captation des datas et leur traitement, puis le microciblage qui inondait l'univers des personnes de pubs et liens, pose un problème au processus démocratique lui-même. Les personnes sont alors mises dans un compartiment informationnel qui les coupent du reste des préoccupations du pays, et ses biais sont exploités pour que jamais elles n'en sortent, croyant davantage aux fake news qu'aux informations crédibles, accusant les informations solides d'en être des fausses, et les algorithmes alimentant leurs motivations à demeurer dans cet unique compartiment car ils ne leur proposent qu'un même univers.

Est-ce possible en France ?

À noter que CA a essayé de démarcher des politiciens français, mais sans succès (du moins sur les informations que l'on a³). Pour les élections 2017, à l’issue de leur présentation, l’équipe de Sarkozy a refusé de faire appel à eux arguant qu'en France une telle exploitation des données provoquerait un scandale énorme. Dans le conseil d'administration de CA, Bannon aurait préféré démarcher Lepen ; il a, d’ailleurs été vu à ses côtés.

A l'audition de Wylie (disponible ici : https://www.youtube.com/watch?v=X5g6IJm7YJQ ) , le journaliste Paul Olivier Dehaye a déclaré qu'en France un moyen de collecter massivement des données (pour ensuite les monétiser) pouvaient se faire via les partis politiques, puis que cela pouvait ouvrir l’accès aux listes électorales.  

Globalement, la lanceuse d'alerte Brittany Kaiser signalait qu'en Europe, il y a plus de protection de données et de lois empêchant une telle collecte et utilisation des données. Est-ce que cela veut dire qu'un genre de CA ne pourrait pas advenir en France ? Je ne sais pas.

Récemment Facebook a fait stopper une campagne publicitaire de Zemmour pour l'adhésion à son parti⁴, elle ne semblait pas employer un ciblage particulier et semble avoir eu peu de succès mais ça m'a beaucoup rappelé l'imagerie des campagnes de CA.

En France, il y aurait environ 70 personnes ayant utilisé "l'app thisisyourdigitallife" et à partir de cela 211 000 profils français ont été récupéré par CA/SCL environ vers 2014  ; vous pouvez vérifiez via facebook si vous avez été touché avec ce lien : https://www.facebook.com/help/1873665312923476?helpref=search&sr=1&query=cambridge ; plus d'infos ici : https://www.numerama.com/tech/343243-a-partir-daujourdhui-vous-saurez-si-cambridge-analytica-a-mis-la-main-sur-vos-donnees.html et là https://www.numerama.com/politique/340758-mark-zuckerberg-les-memes-reglages-de-confidentialite-seront-deployes-dans-le-monde-entier.html

Et maintenant ?

- En 2018, Alexander Nix, à la tête de CA est suspendu suite à un reportage fait en caméra cachée où Nix dévoilait à des clients comment il utilisait des pots-de-vin, des prostituées et d'anciens espions pour piéger des candidats. On peut voir le reportage ici : https://www.youtube.com/watch?v=mpbeOCKZFfQ

Il a été interdit de poste de direction pour sept années⁵.

- En 2018, Cambridge Analytica, puis ses autres groupes (SCL), se déclarent en faillite suite aux révélations et scandales.

Des journalistes se demandent où les données vont atterrir et craignent que l'entreprise renaisse de ses cendres à travers la société d'Emerdata ; il y a énormément  d'ancien de CA et SCL à sa tête, et l’entreprise offre des services similaires :  https://fr.wikipedia.org/wiki/Emerdata_Limited

https://www.theregister.com/2018/05/02/cambridge_analytica_shutdown/

- En 2018, des entreprises revendant des données de façon illégale ont été condamnées ; par exemple Emma's Diary | Lifecycle Marketing, une entreprise qui fournit des conseils en matière de grossesse et de garde d'enfants, avaient vendu ces données à Experian Marketing Services qui a profilé les mères pour le parti travailliste anglais en vue des élections de 2017. Évidemment, les parents n'avaient pas consenti à ce que leurs données personnelles soient utilisées à des fins politiques. L'entreprise a eu une amende de 140 000 £.

- En 2019 SCL, la société-mère de CA a reçu une amende d'environ 16 600 euros. https://www.lebigdata.fr/cambridge-analytica-condamne-uk

- En 2020, Facebook a reçu une amende de 5 milliards de dollars pour violation de la vie privée des consommateurs https://www-ftc-gov.translate.goog/news-events/press-releases/2019/07/ftc-imposes-5-billion-penalty-sweeping-new-privacy-restrictions?_x_tr_sl=auto&_x_tr_tl=fr&_x_tr_hl=fr

Collusion russe ???

À noter que les étasuniens ont été très préoccupés aussi par la question de la collusion russe via CA/SCL, plusieurs éléments leur laissant à craindre que les données des 87 millions de profils Facebook américains auraient pu tomber dans les mains des Russes.

Le professeur Kogan (qui s'est renommé depuis "Spectre"), qui avait aussi ces données, travaillait  avec les chercheurs russes pour contrer le cyberharcèlement (recherches qui pourraient hypothétiquement tout à fait être retournées pour faire l'inverse, et nourrir des opérations de trolling qui, elles, ont été effectivement révélées). Étonnamment, à l'audition au parlement anglais, il a été révélé que l'entreprise de Kogan (GSR) était domiciliée à une adresse inexistante mais connue pour être utilisée par des oligarques russes. Kogan n'a pas donné d'explications à ce sujet prétextant qu'il n'était pas au courant.

Nix, le PDG de SCL a fait des présentations à des entreprises russes, dont Lukoil, une compagnie pétrolière que le congrès américain a signalée être en rapport avec les services de renseignements russes. Le lanceur d'alerte Wylie qui a assisté à ces présentations,  a trouvé cela très intriguant, parce que Nix leur a présenté des opérations de désinformations hautement politiques (or, il s'agissait d'une compagnie pétrolière, pourquoi tenter de lui vendre ce genre d'opération?). Lorsque Wylie lui a demandé  les vrais buts derrière cette présentation, Nix n'a jamais voulu lui répondre.

Wylie a aussi constaté que lors de tests qu'ils faisaient à SCL/CA pour mesurer l'opinion des personnes, il y avait beaucoup de questions sur Poutine, sur leur opinion au sujet de la Russie. Il ne savait pas du tout d'où cela venait, qui avait fait cette requête ; par ailleurs, bien que SCL travaille pour de nombreux autres pays, il n'a jamais vu ça pour d'autres leaders politiques. Ce qui est amusant, c'est que même en France j'ai l'impression d’avoir vu cette vague "pro-poutine" sur les réseaux sociaux, un temps où il était perçu et vendu comme "cool".

Autre fait étrange, l'affaire d'ingérence russe "Internet Research Agency", oeuvrant notamment durant la campagne de Trump. Il s'agissait d'une agence de trolls professionnels russes qui se chargeaient de monter les Américains les uns contre les autres en se faisant passer pour soit des profils hautement progressistes, soit d’extrême-droite. Ils déployaient massivement des fakes news (parfois RT par Trump lui-même), organisaient des manifestations via Facebook d'une façon qu'elle dégénère. Étonnamment, le congrès américain révèle qu'ils ciblaient les mêmes profils que CA : peut-être qu'ils avaient le même set de données que CA/SCL (donc ce qui supposerait qu'ils l'ont eu soit via CA/SCL, soit via Kogan, de façon directe ou par hack). Zuckerberg a confirmé aussi au congrès américain qu'il semblerait il y avoir un lien.  Wylie pose l’hypothèse que peut-être que les russes avaient leurs propres algorithmes ayant détecté que ces profils étaient les "meilleures" cibles, ce qui est aussi probable. Il y a des profils psychologiques plus "aptes" à réagir vite, à partager tels types de fausses nouvelles ou à s'engager dans telle opération).

¹C'est AiQ qui s'est occupé des partis pro-brexit, mais l’entreprise a pu nié avoir les datas de SCL puisqu’elle était une "autre" entreprise. Or, c'est impossible qu’elle n’ait pas eu accès à de ces données parce que ses équipes ont construit Rippon, un logiciel qui permettait de traiter les datas, donc impossible de faire le logiciel sans ces données. AiQ est introuvable sur le Net sauf à la contacter sous son autre nom qui est « SCL canada » qu'on pouvait retrouver sur le site de SCL group. Cela a été beaucoup discuté au parlement anglais : https://www.youtube.com/watch?v=X5g6IJm7YJQ et https://www.youtube.com/watch?v=wqxx_Ixo1bo

²Ici, au témoignage de Wylie devant le congrès en 2018 : https://www.youtube.com/watch?v=PCpDi57x4uc

³Cf Brittany Kaiser, l'affaire Cambridge Analytica, 2019

⁴https://www.numerama.com/politique/801419-les-pubs-politiques-du-parti-deric-zemmour-sur-facebook-sont-elles-legales.html

⁵https://www.theguardian.com/uk-news/2020/sep/24/cambridge-analytica-directorship-ban-alexander-nix

2. Comment manipuler les élections avec l'abstention, l'intimidation et le dégoût

À l'élection présidentielle de 2017, je me rappelle que pas mal de gens sur les réseaux sociaux vantaient l'abstentionnisme comme une forme de militantisme. Ils encourageaient à ne pas se déplacer aux urnes comme acte de protestation. Problème : d'une part, il est impossible de distinguer l'abstention qui serait due à des circonstances absolument non militantes de celles qui le seraient ; et d'autre part, un niveau d'abstention élevé n'amorce aucun changement structurel (et sera très souvent récupéré par des partis politiques de tous bords qui pourront y plaquer l’interprétation de son choix).

Je comprends totalement le dégoût pour le jeu politicien dont nous sommes les pions, je comprends tout à fait qu'on ne se déplace pas aux urnes par un sentiment d'impuissance, par conviction qu'on ne compte pas. Je comprends qu'on ne se déplace pas aux urnes parce qu'on a oublié de faire les démarches administratives, je comprends qu'on fuit devant le spectacle des urnes et son ballet officiel. Parce qu'on ne se sent pas à sa place, parce qu'on a l'impression qu'on va y faire un faux pas, parce qu'on sent qu'on va nous regarder de travers. La flemme d'aller voter cache parfois un sentiment d'illégitimité à avoir le droit de faire comme le citoyen lambda, parce que les autres administrations nous ont déjà assez fait morflés comme ça. Moi-même j'ai partagé ce sentiment "c'est pas pour moi", "c'est pas ma place", et enfin une rationalisation cynique "de toute façon ça sert à rien".  Ça fait parti du package de galères du quotidien, au bout d'un moment on ne croit plus en rien.

Et parfois, on a tout simplement d'autres problèmes à gérer, et ce n'est pas grave de n'avoir pas réussi à voter, il n’y a pas à culpabiliser.

C'est tout autre chose d'en faire une posture politique militante qu'on essaye de populariser sur le Net comme étant l'unique bonne chose à faire. Là, j'ai du mal à cautionner, j'ai du mal à voir l’intérêt, surtout au vu de ce qu'on va voir aujourd'hui.

Une communication de découragement à voter peut servir les intérêts d'un candidat qui gagnera de ces quelques voix qui n'auront pas voté contre lui, c'est donc marcher totalement dans le jeu politique - parfois très manipulatoire - des candidats. C'est comme si à un jeu d’échecs, un participant avait le pouvoir d’empêcher de déplacer ou de faire quoi que ce soit avec un pion : c'est le priver d'une source de pouvoir pour gagner, il peut donc en tirer avantage.

Et c'est ce qui s'est passé à Trinité-et-Tobago.

Encourager l'abstention pour faire gagner un candidat : l'exemple de CA/SCL à Trinité-et-Tobago

En 2010, l'entreprise SCL, maison mère du scandale Cambridge Analytica a oeuvré une première fois à Trinité-et-Tobago⁶.

Leurs opérations ayant été une réussite,  Alexander Nix, le PDG de SCL vantait ces opérations à d'autres futurs clients. La lanceuse d’alerte Brittany Kaiser a révélé⁷ ces présentations ici, Nix y explique la situation électorale à Trinité-et-tobago :

" On a deux partis principaux. Le parti des Noirs et le parti des Indiens. Tous les Indiens votent pour le parti indien, et tous les Noirs… bref, vous avez compris le principe. Quand les Indiens sont au pouvoir, les Noirs n’obtiennent rien, et vice versa. C’est une bataille permanente."⁸

SCl décide de cibler la jeunesse :

"On s’était renseignés, vous voyez, et il en était ressorti deux idées importantes. Premièrement, toute la jeunesse de ce pays se sentait délaissée, les Indiens comme les Noirs. Deuxièmement, seules les familles indiennes avaient un principe hiérarchique fort, pas les familles noires. Et, ça, c’était tout ce qu’on avait besoin de savoir."⁹

Les membres de l'équipe de SCL décident d'impulser un mouvement qu'ils nomment "do so" qui véhicule l'idée de ne pas voter :

Présentation commerciale de SCL révélé par Brittany Kaiser, exposée dans le documentaire The great Hack.

"Du coup, on a ciblé les jeunes. Tous les jeunes. Les Indiens, et les Noirs aussi. On collait des affiches comme celle-là, et puis on encourageait les graffitis, on filait aux gamins de la peinture jaune, des pochoirs et des rouleaux. La nuit, ils se posaient dans leur voiture, ils fumaient un joint, et puis ils faisaient le tour du pays en posant des affiches partout, ils se faisaient poursuivre par la police, tous leurs copains faisaient pareil. C’était génial. On s’amusait comme des petits fous. Cinq mois de chaos total."¹⁰

Pourquoi faire ça ?

"C’était comme faire acte de résistance contre le gouvernement, mais aussi contre la politique, le vote… Très vite, ils ont commencé à tourner leurs propres vidéos YouTube, et ils ont recouvert la maison du ministre de graffitis. Un vrai carnage. Et c’était une excellente stratégie parce qu’on savait, on était certains à 100 % qu’au moment du vote les Noirs n’iraient pas, mais que tous les Indiens iraient quand même, parce que les jeunes Indiens font ce que disent leurs parents, et leurs parents leur diraient d’aller voter".¹¹

Présentation commerciale de SCL révélée par Brittany Kaiser, exposée dans le documentaire The great Hack. Ici les jeunes avaient couvert de graffitis la maison du Premier ministre.

Et la stratégie de SCL a fonctionné, il y a eu une différence d'abstention de 40% sur la tranche 18-35 ans, ce qui a donné 6% à leur candidat, ce qui était suffisant pour le faire gagner.

Pas besoin de manipuler les masses, le microciblage suffit…

À noter que c'est une stratégie récurrence chez CA/SCL : il ne s'agit pas de retourner les votes ou les opinions d'une énorme masse, c'est toujours ciblé à quelques groupes seulement. Les élections se remportent souvent à quelques voix près, ainsi il suffit d'amorcer un changement de comportement sur quelques  individus pour changer les résultats.

Explication du microciblage par Cambridge Analytica, schéma issu de leur présentation aux clients, disponible ici : https://archive.org/details/ca-docs-with-redactions-sept-23-2020-4pm/page/n12/mode/2up. À noter qu'à Trinité-et-tobago le microciblage comportemental n'était a priori pas encore employé, le psychologue Kogan n'avait sans doute pas encore déployé son test de personnalité, ni capté les données de 87 millions de personnes sur Facebook qui ont été la base de la construction des modèles de prédiction créés.

C'est une leçon énorme à mon sens, parce que souvent on a une espèce de biais à croire qu'il faut que la masse de gens change d'avis ou de comportement pour voir des changements, or, tout tend à montrer le contraire. Ce sont des minorités (au sens numérique) qui amorcent les changements, que ce soit dans la conquête malhonnête du pouvoir, mais également dans ces évolutions et transformations sociales à la fois honnêtes et résistantes. Trop souvent j'ai vu des militants se désoler que leur message ne soit pas connu ou compris à l'échelle nationale, comme s'il fallait remporter la majorité des voix : or, le pouvoir - qu'importe sa nature ou son éthique - se construit en minorité numérique, l'influence peut s'étendre à partir d'une minime portion d'individus. Par contre, que ce soit dans des formes de résistance altruiste ou par une conquête manipulatrice, cette petite portion d'individus est très active, engage des forces et des moyens d'une façon créative, que ce soit une créativité manipulatrice ou altruiste. L'argent et les moyens matériels comptent énormément, mais il peut y avoir des dépenses faramineuses infécondes s'il n'y a pas des formes de créativité (machiavélique ou altruiste) qui les innervent.  Ensuite, il s'agit d'une dynamique qui peut avancer toute seule, comme on l'a vu avec Do so qui a fait ses propres initiatives tant sur le plan attentionnel (vidéo, musiques), qu'activistes.

Une surveillance de masse ?

Plus tard, le ministre de la Sécurité nationale de Trinité-et-tobago a contacté SCL : il voulait savoir s'il était possible d'identifier les Trinidadiens ayant le plus de probabilité de commettre un crime. En interne, le lanceur d'alerte Christopher Wylie raconte¹² qu'ils avaient surnommé l'opération "minority report¹³". SCL a pu se voir fournir les données personnelles de recensement du pays, désanonymisées. Puis ils ont pu "profiter" des tuyaux des télécoms. Concrètement, Wylie raconte qu'ils pouvaient choisir une adresse IP d'une personne du pays et l'espionner en direct : il raconte comment lui et Nix suivait un inconnu dont la navigation internet varier entre du porno et une recette de plantain, qu'ils pouvaient savoir où il se situait exactement et qu'ils s'amusaient à découvrir en même temps le lieu avec google maps. Comme dans un jeu vidéo.

Cette capacité d'espionnage, les politiciens de Trinité la qualifient de fiction, ils accusent aussi les parlementaires anglais et américains de délirer :

"Je présume que les autorités du Parlement britannique et du Congrès américain sont délirantes et que la Trinité mentionnée dans toutes ces procédures n'est pas un lieu réel mais un lieu dans un film sur Netflix, sorti de l'imagination de quelqu'un".¹⁴

Lors des témoignages au congrès américain ou au parlement britannique, cette affaire de surveillance n'a pas été évoquée. Seule la première affaire de stimulation de l'abstention a été évoquée par les parlementaires britanniques¹⁵, car celle-ci est largement documentée puisqu'elle était employée pour convaincre d'autres clients.

J'ai donc hésité à en parler, mais il s’avère que d'autres lanceurs d’alertes anonymes de SCL ont fourni des documents prouvant cette histoire au Guardian/Observer :

"Les documents vus par l' Observer montrent qu'il s'agissait d'une proposition visant à capturer en masse l'historique de navigation des citoyens, à enregistrer les conversations téléphoniques et à appliquer le traitement du langage naturel aux données vocales enregistrées pour construire une base de données de la police nationale, avec des scores pour chaque citoyen sur sa propension à commettre un crime".¹⁶

Un lanceur d'alerte anonyme dit " le plan présenté au ministre c'était Minory Report. C'était du pré-crime. Et le fait que Cambridge Analytica travaille maintenant [en 2017] à l'intérieur du Pentagone est, je pense, absolument terrifiant"¹⁷.

Une investigation sur cette surveillance de masse a été ouverte à Trinité, mais Wylie ne veut pas venir témoigner sur place tant que sa sécurité n'est pas assurée¹⁸, parce qu'il sait qu'il y a beaucoup de criminalité. Il prend des précautions car son prédécesseur à SCL, au même poste de direction de recherche est mort¹⁹ au Kenya lors d'une affaire qui a mal tourné, semblerait-il d'un empoisonnement.

Qu'en penser alors ? Ce qui est certain, c'est que la création du mouvement Do So pour inciter certains Trinidadiens  à l'abstention a été faite par SCL n'a rien d'un délire, qu'elle a marché, et qu'ils s'en sont vantés auprès de nombreux clients, comme on peut le voir dans les leaks. Et il est quasi certain que le projet "Minory report" de Trinité-et-Tobago a au moins été amorcé.

Documents de SCL remis au parlement anglais, où l'entreprise se vante de leurs opérations internationales. On voit que l'histoire de Trinité-et-tobago est explicitement rapportée, comme celle du Nigeria dont on va parler ensuite. Vous pouvez le trouver ici :  https://www.parliament.uk/globalassets/documents/commons-committees/culture-media-and-sport/Chris-Wylie-Background-papers.pdf

Intimider pour contrôler les votes : l'exemple de CA/SCL au Nigeria

En 2007, SCL avait une première fois travaillé au Nigeria pour le candidat Umanu Musa Yar'adua. Celui-ci avait si peur de perdre l'élection qu'il voulait la truquer. Or cela aurait provoqué un tollé parmi les citoyens si cela se savait. SCL a donc eu l'idée d'ébruiter ce projet de trucage des élections des années en avance. SCL et Nix parle de "vaccination" de la population : si l'information est exposée en avance sur une longue période, alors l'inquiétude est moindre, comme un corps ne s'affole pas d'une maladie pour laquelle il a été préparé par le vaccin. Seulement, la métaphore de Nix s’arrête ici : un vaccin sert à préparer des défenses contre le mal, pas à le laisser s'étendre. Or ici il s'agit davantage d'abattre les défenses et la résistance citoyenne pour que le mal puisse s'installer sans souci.

Kaiser rapporte que les observateurs électoraux de l'union européenne l'ont considérée comme la pire élection jamais vue²⁰. Nix avait également une autre métaphore pour expliquer l'efficacité de cette technique aux autres clients :

" Vous savez, a-t-il expliqué aux hommes assis dans la pièce (c’étaient toujours des hommes) sur ce ton complice et condescendant que je trouvais si détestable, si vous tombez sur votre femme au lit avec un autre homme, vous le tuerez de vos propres mains. Mais, si vous apprenez l’existence de cet amant petit à petit, vous ne serez pas aussi susceptible de recourir à la violence".²¹

En 2014, SCL travaille cette fois au Nigeria pour valoriser la campagne de Jonathan Goodluck ayant pour adversaire Muhammadu Buhari. Ce n'est pas Goodluck leur client, mais des milliardaires nigériens qui s’inquiètent de la potentielle arrivée au pouvoir de Buhari, tant pour leurs affaires que pour la vie de leur famille. L'équipe de campagne de Goodluck n'était pas du tout au courant ou en lien avec ce travail.

C'est Brittany Kaiser qui s'occupe de vendre le contrat à ces clients (pour 1,8 million de dollars), qui propose d'abord de transférer l'argent en liquide dans un jet privé ou caché dans les parois d'une voiture. SCL refuse et demande un virement classique.

Ils ont très peu de temps à disposition avant la date de l’élection ; elle rapporte une campagne presque classique, avec des pubs sur tous médias, des interviews sponsorisées, des microtrottoirs. Ils n'avaient pas le temps pour le microciblage selon elle, et SCL ne pouvait pas leur garantir une victoire étant donné le peu de temps à disposition.

L'élection est repoussée, car Boko Haram (un groupe terroriste) perturbe le pays et il y a des problèmes logistiques.

Kaiser doit négocier un nouvel accord pour que SCL puisse continuer jusqu'à cette nouvelle date, mais les Nigériens sont déjà mécontents, car ils ne voient pas concrètement ce qui a été mis en oeuvre.

 Le deuxième contrat n'aboutit pas, Buhari remporte les élections.

Qu'est-ce qui s'est passé durant ce premier contrat ? Wylie l'a appris lors d'une présentation de Nix à des clients russes, une compagnie pétrolière²².

SCL a d'abord fait appel à d'autres personnes pour avoir des infos sur Buhari. Kaiser dit²³ qu'elle a été mise en contact avec eux, qu'elle savait juste qu'ils étaient israéliens et qu'ils s'occupaient de cybersécurité. Puis elle a pu constater qu'ils étaient "trop" efficaces, parce qu'ils avaient carrément rapporté des vidéos de l'autre parti, en interne. Il savait parfaitement s'infiltrer et obtenir des informations que personne n'était censé avoir. Par exemple, ils ont obtenu (par hack?) les dossiers médicaux des personnes, ont fait savoir à SCL que Buhari avait un cancer. Kaiser dit qu'ils n'ont pas utilisé ces informations.

Selon Wylie, les parlementaires anglais et le congrès américain, il s'agirait de Black cube, une entreprise avec d'anciens agents du renseignement israélien.

Parallèlement, la campagne numérique est hautement sournoise : des pubs racoleuses sont placées sur Google ou des sites de news. Si les Nigériens cliquaient dessus, alors ils tombaient sur une vidéo décrivant ce qui se passerait si Buhari arrivait au pouvoir, avec des images réelles de meurtres épouvantables. Je vais les décrire et mettre un lien qui montre certaines images, vous pouvez sauter le prochain paragraphe si vous souhaitez éviter de voir le descriptif de cette violence.

La vidéo en question est en partie ici : https://www.youtube.com/watch?v=KOpKkgXNb50 . On ne peut la voir qu'en connexion autorisée au plus de 18 ans, mais les passages glauques ont été supprimés : dans la vidéo originale, on voyait des démembrements, un homme sciant la gorge d'un autre homme, une femme attachée, aspergée d'essence puis brûlée vive, le tout avec des messages anti-islam décrivant tous les musulmans comme violents.  

On était donc ici sur un mode opératoire visant à terrifier les électeurs afin qu'ils ne votent pas pour Buhari et se déplace pour voter pour Goodluck.

Il est assez difficile de dénouer le sujet de cette vidéo, Kaiser dit qu'elle a appris ensuite la nature de cette campagne, et que c'était une vidéo parmi 50 ou 60, et que cela ne l’a pas alarmée au point de vouloir quitter l'entreprise à ce moment-là (contrairement à beaucoup d'autres). Nix dit que la vidéo n'avait pas été conçue par SCL (ce qui est vrai) et qu'elle a été rejetée (ce qui est faux).

Dégoûter pour mieux contrôler : l'exemple de la campagne anti-Clinton par CA

Les États-Unis vus selon Cambridge Analytica/SCL, lors de leur travail avec les républicains permettant de "localiser les groupes cibles d'électeurs actuels et potentiels" ; en rouge les républicains, en bleu les démocrates, en vert les électeurs à retourner en leur faveur. Document issu d'une présentation à des clients, disponible ici :  https://archive.org/details/ca-docs-with-redactions-sept-23-2020-4pm/page/n12/mode

Comme nous l'avions vu dans la présentation générale du travail de Cambridge Analytica / SCL, lorsqu'ils travaillent sur les données, les électeurs peuvent être classés : d'une part, les noyaux durs de chaque parti, qui iront voter comme prévu et ne changeront pas d'avis.

 "Républicain de base. Jack est plutôt décontracté, mais il est aussi un adepte des règles. Il pense que la société doit être dirigée d'une certaine manière et que chacun doit jouer son rôle. Il ressent un fort sentiment de camaraderie avec ses amis proches". On voit qu'ils ont détecté que la personnalité des républicains était caractérisée par une haute agréabilité et une haute consciensiosité, un score moyen-bas en extraversion, un score bas en nevrosisme et une basse ouverture. Ça corrobore tout à fait avec d'autres études en psycho qui avait détecté que les votants du Brexit et de Trump était caractérisé par une basse ouverture et une haute conscienciosité, mais aussi avec une haute anxiété (Obschonker 2018a). À noter que le RWA et/ou SDO (donc les profils autoritaires) sont corrélé aussi avec une basse ouverture (cf méta-analyse de Sibley et Duckitt 2008 ; ou "Left and Right", Jost). Dans l'interprétation elle-même d'OCEAN (surtout le NEO-PI-R), la haute ouverture est corrélée au progressisme (si elle est associée avec une haute agréabilité) ou à des formes de libertarianisme (si la haute ouverture est associée avec une basse agréabilité). Document issu d'une présentation à des clients, disponible ici :  https://archive.org/details/ca-docs-with-redactions-sept-23-2020-4pm/page/n12/mode

Et d'autre part CA classait les électeurs retournables, à persuader en priorité :

 "Persuasion prioritaire. Linda peut sembler un peu égocentrique tant qu'elle va bien, que tout va bien. Mais au fond, elle veut le meilleur pour tout le monde. Elle aime la structure et savoir qu'il y a un plan en place".  On voit que ce sont les mêmes caractéristiques de personnalité, mais en plus modéré.Sur la page de droite :"La recherche indique que le groupe cible prioritaire de persuasion est composé de républicains doux et de démocrates limites. Ils sont susceptibles de voter, mais ils n'ont pas encore décidé pour qui ils voteront. Les messages à ce groupe devraient être axés sur l'accord et l'acceptation. Ils doivent se connecter avec Thom Tilis et sentir qu'il est le bon choix pour eux". Document issu d'une présentation à des clients, disponible ici :  https://archive.org/details/ca-docs-with-redactions-sept-23-2020-4pm/page/n12/mode

« Joker. Steve est heureux d'aller où la vie le mène et ne se soucie pas vraiment de la politique des partis. Mais il est ouvert aux nouvelles idées, d'où qu'elles viennent, donc si vous trouvez un problème qui l'intéresse vraiment, il écoutera ce que vous avez à dire".  On voit que la grande différence dans son score OCEAN, c'est une ouverture moyenne, ce qui veut dire qu'il peut à la fois pencher vers le conservatisme comme le progressisme, là où des scores très hauts ou très bas fixent en quelque sorte le progressisme ou le conservatisme.Sur la page de droite : "Groupe de jokers.  Les recherches indiquent que le groupe cible des jokers est composé de républicains modérés peu fidèles, et de démocrates limites. Leur vote n'est pas garanti, pas plus que leur partisanerie. Ils sont moins intéressés par les clivages politiques, donc les messages à ce groupe devraient être concentrés sur les membres les plus provocants, sur les questions spécifiques qui sont les plus importantes pour eux".  Si j'ai bien compris, il s'agit pour CA de s'appuyer sur la provocation, parce que n'étant pas intéressé par la politique, ce groupe n'entendra pas  le message si le politicien ne provoque pas un débat houleux sur les thèmes qui le préoccupe. Documents issus d'une présentation à des clients, disponible ici :  https://archive.org/details/ca-docs-with-redactions-sept-23-2020-4pm/page/n12/mode

Mais CA ne se contentaient pas de convaincre ces "jokers", ces "cibles prioritaires".

Supprimer les votes pour Clinton

Comme on l'a vu à Trinité-et-tobago et au Nigéria, un moyen de tenter de remporter l’élection était non pas l’obtention de vote mais la suppression de votes, c'est-à-dire pousser les citoyens à s'abstenir, ou encore les dégouter de voter pour le candidat qu'ils avaient choisis.

Il en a été de même durant la campagne de Trump où CA a beaucoup misé sur une campagne anti-Clinton qui reposait sur l'idée qu'elle était corrompue :

"Hillary ne peut pas assurer notre sécurité", "Hillary Clinton est toujours en train de mentir", "mensonges + corruption = Hillary Clinton", "Stoppons Hillary Clinton avant qu'il ne soit trop tard", "Faisons perdre la corrompue Hillary" (...) Document issu d'une présentation à des clients, disponible ici : https://archive.org/details/ca-docs-with-redactions-sept-23-2020-4pm/page/n12/mode

Et cette campagne anti-Clinton a d'abord été un succès de captation de l'attention :

Impressions" c'est le nombre d'affichage des pubs, les colonnes CPC (cout par clic) et CPM (coup par mille) correspondent au prix des publicités. Le chiffre le plus important c'est le CTR "click through rate" c'est la proportion entre les personnes qui voient la pub et cliquent dessus, cela indique une certaine performance. Au niveau attentionnel, le nombre de vues des vidéos avait son importance : au total la campagne anti-clinton a fait 25 millions de vues. Globalement la campagne a permis selon CA surtout d'augmenter les intentions de votes pour Trump. Document issu d'une présentation à des clients, disponible ici : https://archive.org/details/ca-docs-with-redactions-sept-23-2020-4pm/page/n12/mode

CA a aussi pris en cible les Afro-américains, en leur envoyant une vieille vidéo où Clinton tenait des propos racistes, ce qui pouvait les décourager à voter pour elle. Voici la vidéo en question, mais qui, sans doute a été proposée de manière de façon plus courte :

https://www.politifact.com/factchecks/2016/aug/28/reince-priebus/did-hillary-clinton-call-african-american-youth-su/, surtout au passage à 1.00 où elle commence à parler de superprédateurs sans empathie : https://www.youtube.com/watch?v=j0uCrA7ePno

Ils ont aussi utilisé une vidéo où Michelle Obama disait "Si vous ne savez pas tenir votre maison, comment voulez-vous en faire autant avec la Maison Blanche ?" pour la faire passer comme une pique adressée à Hillary Clinton. La vidéo en question : https://www.youtube.com/watch?v=lNj06em7cfo

Or Michelle Obama n'a jamais dit ces propos dans un contexte d'attaque à Hillary Clinton, comme l'explique Kaiser :

" Dans le discours original, la future première dame [Michelle Obama] expliquait comment son couple continuait de se concentrer sur leur famille et sur l’emploi du temps de leurs filles, même en pleine campagne. Elle avait alors lancé : « Si vous ne savez pas tenir votre maison, comment voulez-vous en faire autant avec la Maison Blanche ? ». Sans trop de surprise, cette citation a été tirée de son contexte et on en a fait une pique adressée à Hillary Clinton. Le verbatim des propos de Michelle Obama avait beau révéler la vérité, beaucoup de médias n’en ont pas tenu compte et en ont tiré la conclusion, inexacte et trompeuse, qu’elle critiquait Hillary Clinton.

Grâce aux efforts de notre équipe chargée du numérique, ces propos de 2007 ont refait surface. À la différence près qu’en étant déformés ils rendaient service à Trump. En utilisant ce même extrait hors de son contexte, mais en lui donnant une forme et une intention différentes, le staff du milliardaire a donné l’impression que Michelle Obama avait « frappé en dessous de la ceinture » et critiqué Hillary Clinton ainsi que les frasques de son mari. Le sexisme venait d’être transformé en arme de campagne. La vidéo est devenue virale, en faisant mine de monter l’une contre l’autre deux démocrates, deux femmes. Alors qu’en réalité il ne s’agissait que d’une manipulation grossière.

Les statistiques de la vidéo étaient encore plus troublantes. Du côté du candidat républicain, on s’était évidemment aperçu que beaucoup de femmes de centre-gauche étaient légèrement conservatrices. Les valeurs traditionnelles étaient plus importantes à leurs yeux que l’antipathie que leur inspirait Donald Trump. Et la vidéo a réduit les chances pour que ces femmes aient envie de donner leur voix à la candidate démocrate".

On trouve aussi dans le Washington Post le vrai détail de ces propos : https://www.washingtonpost.com/news/fact-checker/wp/2016/11/01/did-michelle-obama-throw-shade-at-hillary-clinton/

Ces manipulations sont extrêmement bien renseignées, notamment parce que CA/SCL n'a pas arrêté de s'en vanter et de les montrer comme exemples à leurs futurs clients. Dans les leaks, presque chaque plaquette datant d’après cette histoire revenait sur la campagne anti-Clinton (d'ailleurs beaucoup plus que sur l'aspect pro-Trump).

Ici leurs statistiques pour leur campagne pour dénigrer les opposants, sur Youtube. "Can't run her house" est la vidéo de Michelle Obama dont on a parlé précédemment. On voit ici que même si les vues sont relativement basses, le CVR est élevé. Cependant, CA a préféré dépenser plus d'argent sur les pubs Facebook et google.

Le seul point flou qui a été discuté au parlement anglais et au congrès américain est la collusion entre Wikileaks et CA ; durant la campagne, Wikileaks a fait sortir des mails compromettants de Clinton, les parlementaires ont voulu savoir les liens entre CA et Wikileaks, mais ceux-ci n'ont pas été vraiment prouvés. Julian Assange préférait aussi que Clinton ne soit pas au pouvoir, selon ce qu'en a rapporté Kaiser²⁴, mais il n'y a pas eu de contrat officiel entre CA et Wikileaks.

À noter que les affaires citées ici ne sont que quelques exemples que j'ai choisis parce que ce sont ceux que j'ai trouvés les plus documentés, notamment via les leaks ; puis les plus discutés au parlement anglais. SCL se vantait d'avoir participé à 200 élections à travers le monde, il y a eu quantité d'autres stratégies mises en oeuvre, sans doute, certaines moins pernicieuses, peut-être d'autres pires.

"CA Political travaille dans le cadre d'élections dans le monde entier depuis plus de 25 ans, devenant la principale entreprise de campagnes basées sur les données dans le monde entier, soutenant à la fois les titulaires et les challengers dans les processus démocratiques sur tous les continents. Ayant travaillé dans certaines des démocraties les plus peuplées au monde, ainsi que dans certaines des arènes politiques les plus compétitives, nous savons comment gagner des élections." Cela vient d'un leak que vous pouvez trouver ici : https://archive.org/details/ca-docs-with-redactions-sept-23-2020-4pm/page/n12/mode/2up

⁶ C'est un petit pays d'un peu plus d'un million de personnes, dans les Caraïbes ; https://fr.wikipedia.org/wiki/Trinit%C3%A9-et-Tobago

⁷On entend l'audio dans le documentaire "The Great Hack", on trouve aussi les propos de Nix dans "l'affaire Cambridge Analytica" de Brittany Kaiser

⁸Alexander Nix, propos exposés dans le documentaire "The Great Hack" et également dans "L'affaire Cambridge Analytica" de Brittany Kaiser

⁹Alexander Nix, propos exposés dans le documentaire "The Great Hack" et également dans "L'affaire Cambridge Analytica" de Brittany Kaiser

¹⁰Alexander Nix, propos exposés dans le documentaire "The Great Hack" et également dans "L'affaire Cambridge Analytica" de Brittany Kaiser

¹¹Alexander Nix, propos exposés dans le documentaire "The Great Hack" et également dans "L'affaire Cambridge Analytica" de Brittany Kaiser

¹²Dans son ouvrage "Mindfuck"

¹³En référence au film de Steven Spielberg, lui-même adapté d’une nouvelle de Philip K. Dick (où il est question d’arrêter les criminels avant qu’ils n’aient commis leurs crimes grâce à de nouvelles techniques prédictives.

¹⁴Keith Rowley, Premier Ministre de Trinité-et-tobago  en 2015 et 2020

 https://www.stabroeknews.com/2020/05/08/news/regional/trinidad/trinidad-cambridge-analytica-case-closed-after-witness-fails-to-show-up/

¹⁵À l'audition de Wylie : ; rapidement évoquée aussi à l'audition de Nix

¹⁶ https://www.theguardian.com/technology/2017/may/07/the-great-british-brexit-robbery-hijacked-democracy

¹⁷https://www.theguardian.com/technology/2017/may/07/the-great-british-brexit-robbery-hijacked-democracy

¹⁸https://newsday.co.tt/2019/07/31/cambridge-analytica-whistleblower-fears-coming-to-tt/

¹⁹Évoqué à l'audition de Wylie :  et dans son ouvrage Mindfuck

²⁰L'union européenne n'a pas été la seule à y voir des problèmes : http://www1.rfi.fr/actufr/articles/088/article_51259.asp

²¹Propos d'Alexander Nix rapportés par Brittany Kaiser dans son ouvrage "l'affaire cambridge analytica".

²²La situation en elle-même a intrigué le Parlement anglais et le congrès américain, parce que Lukoil est en lien avec les renseignements russes et que Nix leur a exposé des méthodes électorales, ainsi que vanter d'avoir des tonnes de données Facebook sur les Américains.

²³Au parlement anglais : https://www.youtube.com/watch?v=wqxx_Ixo1bo

²⁴ Dans son ouvrage "L'affaire Cambridge Analytica".

3. Viraliser l'extrême-droite : le plan de Bannon [CA3]

Est-ce que l'affaire Cambridge Analytica (CA) a été un complot visant à augmenter le versant conservateur/extrême droite de la population anglo-saxonne ? Puis, une fois les pions rassemblés,  s'agissait-il pour Steve Bannon de se servir d'eux sur l'échiquier politique de Trump, du brexit et des élections européennes ?

L'Alt-right²⁵, cette extrême droite émergeant du Net aux États-Unis, serait-elle une invention de Cambridge Analytica /SCL ?

En France, les médias ont couvert l'affaire Cambridge Analytica (CA) sur l'aspect manipulatoire de la campagne de Trump et du Brexit, ont parlé du rôle laxiste de Facebook sur les données personnelles utilisées à des fins politiques par CA, et un peu des algorithmes détectant notre personnalité pour contrôler notre comportement électoral. Le lien avec l’extrême droite a été également évoqué via Bannon, mais rarement en connectant tous ces éléments à son rôle à CA.

Excepté dans ce reportage ci-dessous qui en parle rapidement ; on voit aussi que Bannon soutenait les gilets jaunes, mais en tentant de faire passer l'interprétation qu'ils étaient en colère à cause de l'immigration (le tout en s'appuyant discrètement sur une fake news) ; on voit aussi qu'au Royaume Unis, les politiciens versant du côté de l’extrême droite sont assez décomplexés à avouer leur usage de fake news  : https://www.youtube.com/watch?v=MBc_V7xNzCE

Mais ce qu'a révélé Christopher Wylie dans son ouvrage Mindfuck va encore plus loin : on voit carrément des opérations qui testaient de très larges échantillons de personnes, avec des méthodes scientifiques, sur ce qui nourrirait une adhésion à l’extrême droite. Puis ils ont exploité ces résultats pour "créer" l'alt-right, d'une part en stimulant des biais, en s'appuyant sur ce qui marchait le mieux et en ciblant des profils détectés comme prompts à relayer impulsivement cette propagande. Et ça aurait marché.

Ce rôle de CA dans les plans d’extrême droite de Bannon est peu connu car peu rapporté : il n'est pas évoqué par la lanceuse d'alerte Brittany Kaiser (ce qui semble assez logique puisqu'elle n'avait pas pour rôle la recherche mais la vente de contrat à des clients), ni rapporté par les lanceurs d'alertes anonymes en contact avec The Guardian (cependant Wylie serait en contact avec eux, il s'appuie peut-être sur leur propos sans pouvoir explicitement les citer, pour leur sécurité et volonté d'anonymat), et lors des témoignages au congrès américain ou à la commission du parlement britannique, l'aspect "stimuler l’extrême-droite" n'est pas évoqué.

Aujourd'hui, on va se concentrer sur le plan de Bannon, puis dans les prochains articles on se concentrera sur les expériences menées par CA pour stimuler l’extrême droite.

Petite précision sur mes buts

Mon but n'a rien d'un militantisme politique, je me fiche du parti que vous défendez, je n'ai aucun intérêt personnel à voir une personne de droite devenir de gauche ou inversement. Ce que j'estime important, c'est que les personnes puissent le faire selon leur choix personnel et réfléchi, en toute autonomie.

Si on vous a volé la possibilité même de choix et qu'on vous a délimité votre horizon, alors le choix en toute autonomie n'a pas pu se faire, ce qui est le cas avec l'affaire CA. Ce qui est aussi à chaque fois le cas dans des idéologies type alt-right, incel (que je catégorise très différemment d'une adhésion à la droite "classique", ici ce sont des formes autoritaires très particulières qui ne représentent pas la droite en général).

Mon but est, par l'exposition de cette histoire, d'envisager une prévention à ce genre de manipulation ou au moins de proposer des moyens afin de ne pas être pris dans ses filets.

Le père de Cambridge Analytica : Steve Bannon

Actuellement, Bannon se dit nationaliste économique, populiste ;  il a passé sa vie à tenter de faire gagner des républicains, à soutenir les courants d’extrême droite y compris les plus fascistes/néonazis en Europe ou ailleurs.

Dès le lycée, pour gagner une présidence, il s'appuie sur le phénomène de réactance, en disant qu'il est le seul à être contre l'establishment qui oppresse/manipule/contrôle tout, prive de liberté. C'est un thème qu'on trouve récurrent aux États-Unis, qui a pu aussi percer dans des courants d’extrême-droite émergeant d'Internet en France, où pendant un temps ses influenceurs se présentaient comme "dissidents", révélant "la vérité" et les "manipulations" des gauchistes/du gouvernement/etc. Et pour preuve qu'ils disent des "vérités qui dérangent", c'est qu'ils se feraient "censurer".

On trouve aussi l'exploitation de la réactance dans le fait de signaler tout le temps une censure qui aurait lieu à leur égard, pratique assez commune chez des gens qu'on voit énormément dans les médias - en France, comme Zemmour par exemple. Mais il en va de même pour les républicains étasuniens tels que Ted Cruz :  aux auditions des témoins liés à CA²⁶, Cruz appuyait énormément sur le fait du risque que Facebook les censure suite à cette affaire et celle des fakes news des trolls russes, et que ça, c'était pas bien. Ted Cruz a été client de CA, ce scandale a dû l'embêter un peu :  j'y vois donc une tentative  de détourner la conversation sur un sujet qui l'écarte d'une affiliation au scandale.

Bannon fit également plusieurs documentaires pro-républicains, notamment après le 11 septembre 2001 dans le but de propager aussi l'idée que la culture (et l'identité) américaine serait menacée par les musulmans. Ce format de propagande²⁷ ne fonctionna pas très bien en comparaison de ce qu'il fit après.  

Parallèlement, il est dans le business et il dirige une entreprise de goldfarming²⁸ dans World Of Warcraft. La pratique finit par devenir un scandale, des manifestations se lèvent en ligne, il est forcé de fermer. C'est une énorme leçon pour lui - non pas en matière d'échec -, mais parce qu'il y découvre avec intérêt que les gamers représentent une force et que celle-ci est encore inexploitée à des fins politiques.

Puis il rejoint le média d’extrême-droite Breitbart, et prend sa présidence à la mort du fondateur. Progressivement, il transforme encore plus Breitbart en le faisant davantage glisser vers le champ de l’extrême droite, le but étant d'injecter des récits, de changer la culture vers toujours plus d’idées d’extrême droite. Plus tard, Breitbart (US) fournira les données de ces utilisateurs à Cambridge Analytica en tant que client, CA travaillera notamment à des campagnes pour Breitbart, mais le mouvement inverse s'est semble-t-il fait également (utiliser les données des utilisateurs de Breitbart mais aussi son contenu, pour d'autres opérations)²⁹.

Un échantillon des titres de Breitbart, où l'on voit les thèmes de l'alt right : «La contraception rend les femmes moches et folles» ; «Changement climatique: le canular qui nous coûte 4 milliards par jour»  ; «Le politiquement correct protège la culture du viol musulmane»  ; "Les droits des homosexuels nous ont rendus plus bêtes, il est temps de retourner au placard" ; A noter qu'évidemment on trouve aussi des articles anti-démocrates, anti-trans, anti-noirs, etc.

Bannon, toujours dans un esprit de fascination quant au pouvoir "monstrueux³⁰" des gamers, va être très attentif au gamergate : les partisans du gamergate pensent globalement qu'il y a un complot féministe parmi les journalistes, développeurs, game designer, marques, qui veulent s'attaquer à leurs jeux et les oppressent par exemple en y mettant une diversité ethnique ou de genre parmi les personnages. C'est aussi une oppression selon eux que des personnes diverses, non blanches, femmes, LGBT, soient des actrices et acteurs importants ou reconnus dans le milieu.  Alors qu'eux préféreraient qu'il n'y ait que des héros ou des représentants du milieu du gaming comme eux, blancs et mâles, parce que sinon ils n'arrivent plus à réussir à s'identifier et se sentent rejetés, ce qui est injuste à leur sens parce que c'est leur milieu à eux et pas aux autres. On verra dans un autre article qu'il s'agit d'une pensée emprunte d'une erreur logique de "jeu à somme nulle". Leur mouvement procédera par harcèlement massif et systématique des femmes du milieu, afin de les évincer.

Bannon embauchera une personne du gamergate (Milo Yiannopoulos) à Breitbart et le média se positionnera toujours aux côtés de ces gamers, stimulant par rebond les campagnes de harcèlement et globalement une idéologie d’extrême droite de guerre contre la diversité humaine. Bannon dit ouvertement :

"J'ai réalisé que Milo pouvait connecter très vite ces gamins. Vous pouvez activer cette armée. Ils arrivent par le gamergate et ensuite on les dirige vers la politique et Trump" Devil's bargain, Joshua Green, 2017.

Bannon exploitera ensuite cette armée, l'amenant progressivement à étendre cette haine à des critères plus larges concernant l'alt-right, par exemple les amener à haïr aussi des démocrates ; ces manoeuvres d'influence se seraient faites via la diffusion d'articles de Breitbart, notamment à travers les forums de jeu vidéo et des lieux où se trouvaient ces gamers à la fois envieux d'une idée de la masculinité stéréotypée et terrorisée par l'idée issue de leur erreur de logique de jeu à somme nulle que la présence de femmes vole leurs jeux, leurs places, etc. Milo semble avoir été le pont entre des communautés néonazies, Breitbart et cette création de l'alt-right s'exprimant par des harcèlements en masse³¹.

Comme les branches d'un arbre, l'alt-right étasunienne semble donc naitre en partie du gamergate, mais aussi de vieilles idées d’extrême droite comme on en trouve dans le tea party³² ou en Europe, et d'une dynamique antisociale sur 4chan /8chan / reddit, avec un croisement évident avec des communautés Incel. Un peu plus tard en 2017, on voit aussi des évolutions conspirationnistes avec Qanon (groupe qui croit par exemple que des vedettes démocrates, soi-disantes pédophiles, extraient du sang des enfants pour en faire des cures de jouvence³³), mais toujours sur une même ligne pro-Trump -clefs dont la popularité n'est pas sans lien avec CA (par exemple le "deep state" est une expression dont CA a testé la valeur "marketing" en 2014).

Le tout aurait donc été stimulé par les recherches en psychologie de CA qui ont mis en valeur les biais et leviers sur lesquels appuyer pour renforcer cette extrême droite, en faire une armée de haters, de trolls, de disséminateur sur les réseaux sociaux à leur service. Le terme de guerre est ouvertement employé³⁴ par Bannon pour qualifier ce combat contre leurs exogroupes (femmes, mulsulmans, mexicains, afro-américains, LGBT, progressistes, démocrates, etc.), notamment dans sa gestion de Breitbart.

Pour reprendre l'image donnée par un des politiciens du Brexit³⁵, CA et ses clients d’extrême droite allumaient un feu, puis passaient un ventilateur dessus pour en faire un incendie. Ce ventilateur, c'était à la fois une machine qui avait capté 87 millions de profils facebook complet, les avait associés à des tonnes de banques de données, les avait appareillés d'algorithmes pouvant faire d'énormes études et ainsi prédire les comportements. CA travaillait ensuite à microcibler le groupe qui serait le plus efficace en terme de "ventilateur" pour propager l'incendie et savaient comment l'y inciter sans qu'il se rende compte de la manipulation.

Et toutes ces "branches" de l’extrême droite, que ce soit le travail de Breitbart, de Bannon, de CA  (pour l'aide à la victoire de Trump et le vote du brexit), aurait participé à influencer des opérations comme l'assaut du capitole.

La création de Cambridge Analytica par Bannon

Bannon co-fonde CA en 2013/2014 alors qu'il est encore à Breitbart, et la dirigera jusqu'en 2016 : il devient alors directeur de Campagne de Trump, campagne pour laquelle CA travaillera très activement.

Habituellement, à SCL (entreprise mère de la future Cambridge Analytica), c'était Alexander Nix qui rencontrait les futurs clients, mais cette fois-ci, il envoie Wylie à sa place, pour présenter ce qu'ils peuvent faire avec les datas. Wylie ne sait pas du tout qui est ce "Steve d'amérique" (c'est ainsi que Nix le  présenta) qu'il va rencontrer et Bannon n'est pas très connu à l'époque (2013).

Quand bien même Wylie n'est pas très conservateur, le courant passe bien, voire très bien, parce que la discussion dure quatre heures.

Bannon est très calé sur un tas de sujets :

"Nous avons parlé pendant quatre heures – de politique, bien sûr, mais aussi de mode, de culture, de Foucault, de la féministe de la troisième vague Judith Butler, et de la nature du « Moi fracturé ». À la surface, Bannon semblait tout à fait prévisible – encore un vieux Blanc hétéro – mais il parlait avec une sorte de conscience sociale à laquelle je ne m’étais pas du tout attendu. En fait, j’ai rapidement décidé qu’il était plutôt cool". Mindfuck, Christopher Wylie

Ils parlent aussi des MMORPG, des mèmes, des gamers ; ils se trouvent une passion commune pour l'évolution de la culture, Bannon à travers le cinéma, Wylie à travers la mode.

" Ce n’était pas un politicard, mais plutôt un frère en geekerie avec qui je pouvais librement parler." Mindfuck, Christopher Wylie

Puis Bannon s'interroge sur comment changer la culture. Wylie lui explique que pour décrire une culture, on emploie souvent le vocabulaire de la personnalité : par exemple, on considère souvent la culture italienne comme plus extravertie que d'autres. Et là, il commence à lui expliquer ce qui sera bientôt les modes de fonctionnement de CA : si à partir de données on peut inférer et/ou mesurer certaines caractéristiques (par exemple l'extraversion), qu'on peut utiliser ces caractéristiques pour décrire une culture sur une courbe de distribution , c'est-à-dire que les citoyens italiens auraient pour moyenne générale une haute extraversion (même si évidemment il en existe en moyenne ou basse extraversion, il ne serait pas majoritaire), alors donc on peut mesurer cette culture.

Juste à titre d'illustration, voici l'exemple d'une courbe de distribution, non des Italiens, mais de 293 Chinois utilisant Weiboi, un réseau social chinois ; les profils extravertis sont à partir de 45, les profils introvertis sous 35 (entre les deux, ce sont les ambiverts). L'étude semble avoir aussi permis de créer un outil de détection de la personnalité à partir de l'analyse de l'activité de ces 293 personnes. Extroverts Tweet Differently from Introverts in Weibo, Zhou, Xu, Zhao 2017 https://www.researchgate.net/publication/315456499_Extroverts_Tweet_Differently_from_Introverts_in_Weibo

Et si on veut transformer cette culture maintenant définie de façon mesurable - par exemple, en diminuant son extraversion - on peut le faire en pistant constamment ceux qui représentent le plus cette caractéristique (une haute extraversion) et attaquer, dégrader cette extraversion pour la rendre plus basse.

"Ce que les données nous permettent de faire, c’est de désagréger cette culture pour obtenir des individus qui deviennent alors des unités influençables au sein de la société" Mindfuck, Christopher Wylie

Wylie donne à Bannon un autre exemple sur la façon de rendre une population résistante à l’extrémisme :

"Vous devez d’abord identifier les individus les plus susceptibles d’être ciblés par des messages idéologiques, déterminer les caractéristiques qui les rendent vulnérables au récit/contagion, puis leur inoculer un contre-récit afin de modifier leur comportement." Mindfuck, Christopher Wylie

La même chose peut bien évidemment être fait pour augmenter l'extrémisme, là encore on détermine les caractéristiques qui les rendent vulnérables à un récit extrême, puis on les nourrit encore et encore de récits extrêmes pour vraiment les radicaliser, voire en faire des soldats prêts à se sacrifier.

Tout ceci peut être également pensé dans une logique de hack, d'ingénierie sociale : le hackeur-manipulateur repère d'abord une vulnérabilité du système - qui est ici un système humain, donc cela va passer par s'appuyer sur ses biais, ses caractéristiques personnelles avec lesquelles il pourra jouer, puis les exploiter.

Mais à ce stade, Wylie ne prend pas conscience que si Bannon s’intéresse tant à une littérature plutôt à gauche, à la connaissance culturelle et à des hypothèses de la changer, ce n'est pas juste par intérêt académique, c'est parce qu'il veut en quelque sorte hacker le progressisme, mener une guerre culturelle contre lui. Et c'est pourquoi, lorsque Wylie commence à lui montrer tous les datas récupérées à Trinité-et-tobago, la façon dont les habitants sont connus (et donc exploitables), Bannon est très intéressé et se demande s'il est possible de faire ça aux États-Unis. C'est un oui, alors quelque temps après, Bannon met en contact SCL avec les Mercer - un clan milliardaire conservateur - qui finira par investir plusieurs dizaines de millions de dollars dans CA, l'antenne américaine de SCL.

À noter que Bannon ne cache pas sa technique pour convaincre des riches donateurs de participer à des projets liés à des visées d’extrême droite/de conservatisme ; dans le reportage ci-dessous, il explique qu'il leur fait tout simplement peur. Ces riches ont généré leur fortune par l'exploitation des gens, les gens sont de plus en plus colères contre eux à cause d'énormes inégalités de revenus, ils risquent d'aller donc du côté du socialisme / communiste. Or les riches y voient une menace pour leurs finances, leurs statuts, sont donc prêts à investir dans toute entreprise qui permettent de contrecarrer une "gauchisation" des personnes / de la société ou de renforcer un conservatisme qui les protégera.

Des recherches scientifiques utilisées pour l'extrême droite

SCL/CA commençait toujours par faire des recherches préliminaires avant de mettre en place les actions pour ses clients : d'abord on teste les échantillons de personnes pour voir leur avis, leurs réactions, la façon dont ils fonctionnent. Après, ils établissent les actions sur la base de ce qu'ils ont découvert.

Figure 1: Au fond c'est le même procédé qu'on voit dans ce schéma de JTRIG, un service de renseignements anglais : d'abord de l'humint, c'est-à-dire une collecte d'informations, plus une activation de ces informations pour des actions d'influence pour mettre des individus ciblés dans son camp, et une autre activation offensive contre le groupe à démoraliser (notamment grâce aux influencés précédemment mis sous contrôle). C'est une pratique aussi nommée guerre psychologique ou psyop. À noter qu'on voit aussi chez JTRIG que la psycho y est extrêmement utilisée (personnalité, avec le modèle OCEAN, la psychopathologie, les motivations), dont la psychologie sociale (les théories de l'identité sociale, la preuve sociale, les dynamiques de groupe). Ce travail nourrit les techniques d'influences puis de perturbation (les missions de JTRIG était "détruire, démentir, dégrader et perturber des groupes cibles") : là on voit des techniques de manipulation similaires à celles citées par Nix pour présenter CA ou rapportées par Wylie : biais de confirmation, biais retrospectif, amorçage , etc. Source, leak de Snowden : https://theintercept.com/2014/02/24/jtrig-manipulation/

  Il faut se rappeler que contrairement à la recherche,  CA a ici accès à des échantillons de personnes parfois énormes (ils pouvaient tester 40 000 personnes ; mais ils avaient 87 millions de profils à disposition), d'une très grande variété en termes d'âge, de genre, de profession, de localisation etc., et en plus, extrêmement bien renseignés d'ores et déjà sur plein de variables. Par exemple, il y avait 320 000 profils dont il connaissait la personnalité - et d'autres variables que Kogan n'a pas révélées³⁶, cumulés avec toutes ces données :

Source : présentation de CA par Nix https://www.youtube.com/watch?v=n8Dd5aVXLCc et https://www.youtube.com/watch?v=6bG5ps5KdDo

À noter que Kaiser aussi rapporte qu'ils avaient entre 2000 et 5000 points de données par américain³⁷ ce qui peut générer un niveau d'information énorme sur un individu et effectivement faciliter énormément n'importe quelle manipulation sur lui.

Et tout ça était utilisé au service d'une augmentation de l'alt-right, vers une mobilisation à voter républicain, ou encore pour le vote pro-brexit ; sur le plan psychologique, c'est une catastrophe parce qu'ils ont cherché à augmenter les biais (ou à s'en servir), ont exploité, stimulé et renforcé des caractéristiques individuelles connues pour causer du mal-être (triade noire, névrosisme) tant chez les individus que les groupes qu'ils peuvent viser avec une forte violence.

Dans les prochains articles, nous allons parler de chaque notion sur laquelle CA a travaillé et comment elle les a utilisés, on va les étayer avec d'autres recherches dont les détails sont accessibles (car ce n'est pas le cas des études de CA, faites pour leur bénéfice privé).

On verra :

La menace à l'identité (CA tentait de l'augmenter)

L'erreur de logique de jeu à somme nulle (CA tentait de l'augmenter)

La croyance en un monde juste (CA tentait de l'augmenter)

Le "politiquement correct", que seraient des formes d'introjections (CA l'a étudié pour la transformer en identification fermée pour l’extrême droite)

La triade noire (psychopathie, machiavélisme, narcissisme) : comment CA a fait de ces profils ses pions

Puis on reviendra sur l'affaire CA avec un nouvel acteur qu'est Aleksandr Kogan et comment ce chercheur en psychologie sociale a collaboré pour permettre des manipulations sur la base des caractéristiques de personnalité.

²⁵Extrême droite émergeant principalement du Net aux États-Unis, le terme a été employé une première fois en 2010. Ce courant est suprémaciste blanc, anti-immigration, anti-féminisme, anti-LGBTI+, antisémite, islamophobe, anti-démocrate, conspirationniste, anti-multiculturaliste, anti-mondialisation, etc.

²⁶Dans celle de Wylie https://www.youtube.com/watch?v=d40RWyBnOBQ et de Zuckerberg https://www.youtube.com/watch?v=u-FlWZ1BOcA

²⁷Lui-même qualifie certaines de ses productions vidéo comme de la propagande, cf le documentaire "Steve Bannon : le grand manipulateur"

²⁸ Entreprise chargée de collecter des objets précieux dans World Of Warcraft pour les revendre à des joueurs qui veulent avancer plus vite que les autres

²⁹Chris Vickery, spécialiste en sécurité, a trouvé sur internet des preuves des opérations de SCL/CA/AiQ car elles n'étaient pas sécurisées ; dedans il a découvert le lien entre CA/SCL et Breitbart qu'il explique ainsi aux parlementaires anglais  ici : https://data.parliament.uk/WrittenEvidence/CommitteeEvidence.svc/EvidenceDocument/Digital,%20Culture,%20Media%20and%20Sport/Disinformation%20and%20%E2%80%98fake%20news%E2%80%99/Oral/82471.html :  "Christian Matheson : Chris, je voudrais vous poser quelques questions sur Breitbart, si vous me le permettez. Je comprends qu'il y a une référence dans les fichiers GitLab [fichiers de SCL/CA/AiQ que Chris Vickery a découvert] au processus de numérisation de Breitbart et à un projet de rapport. Est-ce que cela vous dit quelque chose ? 

Chris Vickery : Oui, il y a un projet là-dedans qui a à voir avec la publicité de Breitbart et Breitbart, les utilisateurs de Breitbart, la numérisation et le scraping de Breitbart et je pense que cela conduira probablement à quelques terriers de lapin à l'avenir car plus  d'esprits pourront se pencher sur cela . Il semble que Breitbart faisait partie d'une campagne consistant à collecter des messages pour des publicités ou à extraire des messages de Breitbart ou à les donner à Breitbart. Je n'ai pas vu de références à Breitbart UK, mais il y a beaucoup d'interactions avec le site basé aux États - Unis de Breitbart .

Q2610 Christian Matheson : Vous mentionnez des terriers de lapin. Quel genre d'applications pourrions-nous voir? 

Chris Vickery : Si vous vouliez automatiser le processus ou créer un processus d'envoi d'images, de phrases et de messages publicitaires au mouvement conservateur de la droite alternative en Amérique ou ailleurs, Breitbart serait un merveilleux fournisseur d'informations, d'images, de messages qui résonnent avec gens. Cela vous donnerait également la possibilité de tirer des commentaires et des sentiments et d'affiner davantage votre message, de voir ce qui fonctionne et ce qui ne fonctionne pas. Si vous travaillez directement avec Breitbart - Cambridge Analytica, je crois, a affirmé à un moment donné qu'ils étaient un distributeur d'informations Breitbart - vous avez accès à toutes les analyses des utilisateurs, les analyses des visites, l'interaction, les utilisateurs eux-mêmes. Vous avez une mine d'informations à extraire qui résonne très rapidement et facilement avec le mouvement alt-right.

Q2611 Christian Matheson : Oui. Il y avait un e-mail qu'Oczkowski, chef de produit chez Cambridge Analytica, a envoyé en janvier indiquant qu'ils étaient le vendeur exclusif des données Breitbart. 

Chris Vickery : Eh bien, il se peut très bien que vous voyiez le squelette ou le cadre de base de la façon dont ces données sont recueillies, ou que vous interagissiez avec leur processus dans les projets qui se trouvent sur ce disque dur[ disque dur donné à la commission qui contient les données qu'il a trouvées] . Je ne serais pas surpris si cela s'avérait être quelque chose qui est devenu ce qu'ils utilisent aujourd'hui.

Q2612 Christian Matheson : Il y avait une référence dans cet e- mail aux balises DMP. Avez-vous une idée de ce qu'ils sont, de ce que cela signifie? 

Chris Vickery : Balises de plate-forme de gestion de données probablement. C'est probablement de cela qu'il s'agit, et le marquage peut être utilisé de toutes sortes de façons, mais généralement en suivant les utilisateurs, en suivant les sujets, en suivant les mots clés, en voyant qui interagit avec quoi et avec quel sentiment et en le diffusant et ce qui va où. C'est un très bon moyen de déterminer ce qui fonctionne et ce qui ne fonctionne pas et qui vous devriez cibler.

³⁰C'est le terme qu'il emploie, cf The Devil's bargain, Joshua Green, 2017.

³¹Voir ici les leaks de mails autour de Breibart, entre Milo et Bannon : https://www.vox.com/2017/10/5/16433172/buzzfeed-report-breitbart-documents-milo ; un des harcèlement de masse organisé :  https://www.independent.co.uk/news/world/americas/america-top-neo-nazi-website-daily-stormer-orders-followers-harass-funeral-heather-heyer-victim-charlottesville-violence-a7895496.html

³²On y retrouve des libertariens et des conservateurs, ils sont pour la réduction du rôle de l'État, anti-avortement, sceptique à l'égard du réchauffement climatique, pour la peine de mort, adversaire du système de santé mis en place par Obama. cf wikipédia https://fr.wikipedia.org/wiki/Tea_Party_(mouvement_politique)

³³Qanon, wikipédia

³⁴Dans les leaks de mails autour de Breibart : https://www.vox.com/2017/10/5/16433172/buzzfeed-report-breitbart-documents-milo ; un des harcèlement de masse organisé :  https://www.independent.co.uk/news/world/americas/america-top-neo-nazi-website-daily-stormer-orders-followers-harass-funeral-heather-heyer-victim-charlottesville-violence-a7895496.html

³⁵Wigmore ; il n'a pas hésité à le dire clairement aux parlementaires anglais :

³⁶ J'ai de forts soupçons sur le fait d'avoir glissé des items de la triade noire, parce que Wylie décrit des opérations impliquant des profils à haut score sur la triade noire. Or, effectivement au vu des datas, peut-être qu'il est possible d'inférer ces variables des résultats au big five (par exemple une très basse agréabilité + une basse conscienciosité tend à être associés à des comportements antisociaux ; le narcissisme vulnérable à un nevrosisme haut et une agreabilité basse ;  cf Rolland L'évaluation de la personnalité). Mais je me demande s'ils n'ont pas cherché encore plus directement ces variables, parce que Wylie signale bien toute absence de lien avec la personnalité, ce qui suppose la présence d'autres mesures.

³⁷À son audition avec le parlement anglais et dans son ouvrage "l'affaire Cambridge Analytica"

4. Manipuler les gens vers d’extrême-droite : colère, menace à l'identité sociale, jeu à somme nulle

Précédemment, nous avons vu comment Cambridge Analytica (CA) procédait pour manipuler les élections en pompant les données des personnes (notamment 87 millions de profils Facebook). À partir de celles-ci et de leur analyse avec le filtre des recherches scientifiques (en interne de leur entreprise ou via des savoirs déjà connus par ailleurs), ils utilisaient ces informations pour cibler certaines personnes, pour induire certains comportements électoraux chez eux (abstention, dégoût pour leur candidat de prédilection, mobilisation pour leur candidat).

On a vu qu'à partir de 2014, Steve Bannon prend les rênes de CA avec pour plan sous-jacent de stimuler et d'exploiter l'alt-right, puis l'entreprise œuvre principalement pour les Républicains. Aujourd'hui, on va davantage entrer dans le détail du jeu scientifique de l'entreprise, grâce aux révélations³⁸ de Christopher Wylie, l'ancien directeur de recherche. Notre but sera de comprendre sur quels biais, caractéristiques psychologiques CA appuyaient, ce qui nous permettra d’envisager des préventions à ces manipulations.

Rappelons que l'objectif de CA n'était en rien de faire avancer la science ou d'étudier les phénomènes psychologiques dans une perspective thérapeutique : d'une part, ils n'avaient aucun intérêts à savoir si leurs découvertes étaient reproductibles ou décrivant quelque chose de valide pour tout humain ; leur intérêt était de voir si ça pouvait marcher pour manipuler leurs cibles, qu'importe si le champ académique était en débat à ce sujet, du moment que ça marchait sur les cibles, pour les résultats qu'ils visaient. D'autre part, leurs expériences n'avaient aucune espèce d’éthique : elles ne visaient pas le bien-être, ne visaient pas la diminution du mal-être, ne visaient pas à comprendre des phénomènes mystérieux. Ils cherchaient juste à savoir comment contrôler des individus et groupes pour les amener à faire ce qui avait de l’intérêt pour les clients de CA, et ce contrôle pouvait passer par le fait de stimuler leur biais, exploiter leurs défauts, nourrir leur mal-être.

Fox news, fournisseur d'identité sociale

L'identité sociale, selon Tajfel et Turner (1979) renvoie à la conscience qu'a un individu d'appartenir à un groupe social, aux significations qu'il accole à cette appartenance et l'importance qu'il lui donne. Cette identité sociale peut avoir une forte influence sur les pensées et les comportements d'un individu qui veut maintenir une identité sociale positive pour conserver une bonne image de soi.

Sur le coin en bas à droite, on voit que dans la théorie de l'identité sociale classique, une unique affiliation à une identité sociale risque très rapidement de tomber dans une mécanique ethnocentrique, c'est-à-dire un "nous contre eux", parce qu'elle serait une comparaison constante entre les groupes. L'endogroupe "beurre salé" ne se définissant que par la faiblesse supposée de l'exogroupe "beurre doux", on imagine rapidement les compétitions et batailles pour se rendre plus "fort" que l'autre identité sociale, et les préjugés, stéréotypes lancé l'un à l'autre. Cependant, d'une part les personnes ont plusieurs identités sociales dont elles choisissent certaines valeurs et pas d'autres, peuvent être inclusives (et voir les exogroupes avec respect et amitié), ne pas penser les relations sociales sur un mode hiérarchique, retourner les stigmates (les "infériorités" attribuées à son groupe sont retournées pour en faire une force), valoriser l'identité personnelle singulière en collectif et ne pas se réduire à membre de groupe (soi et les autres), etc. Source du schéma : https://fr.wikipedia.org/wiki/Th%C3%A9orie_de_l%27identit%C3%A9_sociale

Les significations et l'importance de cette identité peuvent être conditionnées par un média  : Wylie donne l'exemple de Fox News qu'il a découvert sur le tard, étant canadien. Le rituel devant la chaine lui fait penser aux rages rooms (des salles emplies d'objets qu'on a le droit de casser, permettant de se défouler). Les spectateurs s'installent devant la télé et semblent attendre de se sentir insultés, puis ils s'enragent devant ce qu'ils voient et reviennent à leur petite vie accompagnée de ce que je qualifie d'erreurs ultimes d'attributions, et de l’idée que tout leur mal-être provient de "privilèges" accordés aux minorités³⁹. Qu'est-ce qui se passe ici ?

Wylie remarque qu'avant d'implanter ces erreurs d'attribution, la chaîne américaine amorce constamment l'identité sociale d'un "Américain ordinaire" et lui associe des pensées qu'il doit avoir, dont l’idée d'être Républicain. Puis ensuite, s'ils rapportaient que Trump était accusé de racisme, les spectateurs s’énervaient parce que c'était comme si on les attaquait eux. Si un autre groupe - imaginé adversaire de leur identité sociale - émettait une critique telle que la dénonciation du racisme, alors cela était perçu comme une tentative de les faire taire.

Il y a donc comme une très forte sensibilité à la réactance ; si la personne se croit attaquée dans son identité non pas tant par la force du signal qui est ici assez faible (remarque générale "le racisme c'est pas bien"), mais bien plutôt parce que cette remarque vient d'un exogroupe (les Démocrates), alors cette expression même vidée d'agressivité est perçue comme une attaque personnelle, une tentative de muselage et l'individu renforce alors ses positions (vers "je ne vais certainement pas changer mon racisme ou m'occuper de cette question").

Ce que ferait Fox News d'un point de vue "biais" serait donc :

1. Fabriquer une identité sociale fermée, non inclusive, et la renforcer constamment,

2.  Exposer cette identité sociale à des "menaces".

3. Ce qui aurait pour conséquence de générer de la colère puis un phénomène de réactance face au contenu et aux personnes décrites comme menaçantes, ce qui renforce au passage l'adhésion à cette identité sociale unique, fermée et non inclusive.

Par exemple dans leur titre "Le peuple américain en a assez des politiques d'extrême gauche qui lui sont imposées" puis en sous-titre de l'image de Biden "la VRAIE menace à la démocratie", et dans le titre en bas "l'assaut des démocrates sur la démocratie". Source : https://www.foxnews.com/media/katie-pavlich-american-people-enough-far-left-policies

La facilité de menacer les gens qui sont dans le zero sum game

Cambridge Analytica testera alors si un sentiment de menace à l'identité sociale ne servirait pas à alimenter certaines opinions, surtout lorsqu'elle est couplée à une erreur logique d'un jeu à somme  nulle (zero sum game). Cette erreur consiste à interpréter toutes les situations comme ayant les règles d'un jeu d’échecs : on gagne lorsqu'on prend à l'autre ses forces (ou qu'on bloque celles-ci), on perd lorsque l'adversaire prend nos forces ou nous prive de possibilités. Et comme dans un jeu d’échecs, même une action de l'adversaire qui ne bloque pas, ne prive pas de forces, peut être perçue avec suspicion. De façon proactive,  cette erreur nous ferait voir toute situation sociale comme un moyen d'occuper le terrain, de duper l'adversaire, le priver de ses mouvements ou prendre ses forces pour gagner. Et gagner, dans un jeu à somme nulle, c'est dominer. Donc selon cette perception, soit on perçoit la vie sociale sous un angle quelque peu parano "on veut me duper, me dominer, m'écraser, me priver de mes forces" soit on le voit sous un angle proactif de domination "je peux les exploiter, les écraser, prendre tout pour moi. Et je peux être fier si je domine comme ça".

Dans l'excellente série "le jeu de la dame", Beth explique qu'elle aime les échecs et ses 64 cases parce que c'est un monde sur lequel elle peut agir, exercer un contrôle, un monde prédictible, calculable. Je me demande s'il n'y a pas de ça lorsqu'on se met à tout interpréter selon un jeu à somme nulle, y compris lorsque ce ne sont pas les règles de la situation : ça rend les possibilités claires, on peut prédire les tentatives de contrôle sur nous ou être proactif en tentant de dominer ; et on adopterait ce filtre perspectif parce qu'on aurait eu l'habitude d'environnements sociaux suivants ces règles ou encore parce qu'on n'aurait pas appris ou compris les autres jeux aux règles différentes. Tout est tellement plus simple à comprendre, - surtout au niveau social -  lorsqu'on délimite les possibilités selon un mode "perdre" ou "gagner". Le problème c'est que les relations sociales enrichissantes, plaisantes, sont des jeux à somme non nulle ou coopératif, les bénéfices doivent être mutuel, réciproques, l'autre doit être considéré comme un allié, un égal pour "gagner" cette récompense qu'est le comblement de la proximité sociale.

Cette erreur, c'est l'impression que l'attention portée à un exogroupe serait égale à une attention moindre portée à son endogroupe. On peut tout interpréter selon cette erreur, par exemple que l'accession à des droits d'une personne aurait pour conséquence moins de droits pour nous, que des aides sociales à tel groupe déboucheraient à moins d'aide pour notre groupe, etc. Et évidemment tout ça met davantage en réactance, parce que chaque acte de l'exogroupe est interprété alors comme une privation, une atteinte au droit de l'endogroupe.

À noter que cette erreur de logique ressemble fortement aux croyances que portent les narcissiques "ton échec est mon succès" (qui peut être aussi "mon succès dépend de ton échec"), sauf qu'ils l'appliquent à tout. Par exemple l'incel Eliott Rodger, narcissique dit vulnérable, pouvait interpréter le fait de ne être servi en premier du gâteau comme une façon de l'inférioriser, comme une terrible injustice (or il est plus probable que la personne ait servi un autre en premier parce qu'elle était plus proche d'elle dans l'espace par exemple). Un couple qui marchait juste dans la rue était considéré comme un affront pour lui, parce qu'il était célibataire. Or ces personnes étaient juste en train de vivre, elles n'avaient certainement pas pour but d'enrager les célibataires qu’elles croiseraient.

Cambridge analytica verra que l'attention accordée aux minorités est effectivement perçue par ces individus comme une menace à l'identité sociale à cause de cette logique erronée qui consiste à tout interpréter comme un jeu à somme nulle.

CA a fait des expériences pour tenter de diminuer ce sentiment de menace, en demandant aux sujets dans ce jeu à somme nulle de s'imaginer être des superhéros invincibles. Puis il leur posait des questions sur leurs exogroupes qu'ils discriminaient, comme les immigrés, les gays, etc. Et effectivement, lorsqu'ils s'imaginaient invincibles, ils les considéraient comme moins menaçants.

Autrement dit, ces individus se sentent si fragiles face à des personnes différentes (qui ne font qu'exister) qu'il leur faudrait des super-pouvoirs pour se sentir en confiance : voilà pourquoi on parle souvent de fragilité blanche et/ou masculine pour décrire ces individus, ils sont sensibles à des menaces totalement imaginaires, puisque factuellement l'exogroupe ne leur fait strictement rien dans la situation.

La leçon de ces résultats pourrait tout aussi bien être inversée : si on veut augmenter les tensions entre groupes, alors il s'agirait d'amplifier le sentiment d'impuissance, de mortalité et de manque de pouvoir des gens⁴⁰; on peut aussi tout à fait tabler sur le fait que des situations qui rendent factuellement impuissantes les personnes, comme un confinement avec des règles strictes, augmente drastiquement le sentiment de menace à l'identité sociale. Il suffirait alors qu'un leader politique s'empare de ce mal-être et dirige les affects négatifs comme étant de la responsabilité d'un exogroupe, et il remporterait l'adhésion de beaucoup.

Ici, les tests de CA semblaient plutôt assez raccords avec des objectifs qu'on se donnerait dans la recherche en psycho (c’est-à-dire diminuer le sentiment de menace), mais malheureusement ce ne fut pas tout le temps le cas. Ces tests lui permirent au contraire de créer des récits où "les relations de race sont un jeu à somme nulle⁴¹" puis le mécanisme de réactance a pris le relai :

"Cela signifie que lorsque les cibles tombaient sur des clips mettant en scène des candidats ou des célébrités critiquant des déclarations racistes, cette exposition n’avait d’autre effet que de raffermir un peu plus le point de vue raciste de la cible au lieu de la pousser à remettre en question ses croyances. Ainsi, si vous arriviez à associer de manière organique le point de vue sur la race à la question de l’identité avant que le sujet soit exposé à un contre-récit, ce dernier serait dès lors considéré comme une attaque directe contre l’identité du sujet. Ce qui était vraiment utile pour Bannon, dans la mesure où cela revenait à vacciner les groupes ciblés contre tous les contre-récits critiquants l’ethno-nationalisme. Ainsi se créait une étrange boucle récursive dans laquelle les opinions racistes du groupe se radicalisaient un peu plus à chaque fois qu’elles étaient exposées à une critique. " Mindfuck, Christopher Wylie

Attention, ceci étant dit, cela ne veut pas dire qu'il n'existe pas des situations de jeu à somme nulle, par exemple sur le terrain médiatique, lors des campagnes, effectivement on est dans un jeu à somme nulle : les médias donnent plus ou moins de temps d’antenne à tel ou tel parti, lésant certains au profit d’autres. Ici l'erreur n'est pas de qualifier cela de jeu à somme nulle. L'erreur serait de croire qu'un parti est lésé, perdant à ce jeu, alors que ce n'est pas le cas voire même le contraire.

On a vu ça en France récemment avec l’extrême droite qui n’arrête pas de se plaindre d'être muselée, censurée etc... mais qui dans les faits occupe majoritairement l'attention dans les médias. Les personnes d'extrême droite serait dans une erreur de se plaindre d'être "censurée", cependant si c'était les écolos qui s'en plaignaient, ce ne serait pas une erreur : on voit qu'effectivement ils ont très peu de temps médiatique à disposition. Source : Médiatisation des candidat.e.s à l'élection présidentielle 2022 dans l’audiovisuel, Nicolas Hervé, 2021 https://www.herve.name/research/nherve_presidentielle_2022_v1.0.pdf

On voit que cette erreur d'interprétation est très propice à faire se développer une colère et des affects négatifs pour quantité de choses, surtout sur la facette "perdant", mais aussi sur la facette "gagnant" qui est de se féliciter d'avoir démoli/privé un autre, ce qui est tout aussi sapant à long terme car c'est se priver de relations sociales enrichissantes qui sont forcément à somme non nulle.  Cela amène à croire que les relations, la société sont un gigantesque jeu compétitif, ça amène à une comparaison sociale permanente avec les autres (qui est aussi très nuisible au moral), à une hiérarchisation des personnes (ce qui amène à soutenir des inégalités qui nous nuisent presque tous, à souffrir de complexes d'infériorité), à des motivations extrinsèques (n'être motivé que parce que telle activité augmenterait sa "valeur" financière ou de notoriété ; là aussi les motivations extrinsèques sont corrélées avec un mal-être).

Générer de la colère pour abattre les capacités à raisonner et viraliser les contenus

CA exploitait la colère parce qu'on sait que celle-ci affecte la capacité à chercher des informations, amène à tirer des conclusions hâtives (que les personnes peuvent d'ailleurs regretter). De plus, les algorithmes des réseaux sociaux vont favoriser des contenus générant beaucoup de réactions, il y aura plus de re-partage si le contenu met en colère. Il y avait donc tout intérêt pour eux à tabler sur cette émotion qui de plus est moteur d'action, d'engagement (la colère pousse à se mettre en action).  

Ils ont testé cela en montrant en premier lieu à leurs échantillons des graphiques sur des sujets non controversés (taux d'utilisation du téléphone, ventes de voitures, etc...). Ces graphiques étaient presque tous bien interprétés par les personnes. Mais l'intitulé des graphiques était faux, les chiffres concernaient des sujets à débat aux États-Unis, comme le nombre de morts par armes à feu, l'inégalité de revenus et le changement climatique. Puis CA montrait les vrais intitulés de ces graphiques à des personnes préalablement mises en colère : elles avaient du mal alors à l'interpréter, alors que les premières fois cela n'avait pas posé de problème.

CA a aussi remarqué que la colère amenait à être plus punitif envers les exogroupes. Ils ont testé l'idée d'entrer en guerre contre la Chine ou le Mexique, expliquant au passage les problèmes économiques que cela générerait aux USA. Les sujets qui avaient été amorcés à la colère étaient prêts à soutenir cette guerre, du moment que cela pouvait servir à "punir" les immigrés et ce qu'importent les conséquences économiques pour eux.

Autrement dit, cela nous apprend aussi que ce n'est pas parce que les gens sont "cons" qu'ils interprètent mal des contenus de ce genre, ni qu'il y ait besoin de les "éduquer" :  c'est la colère qui va les priver de la capacité à bien interpréter, que ce soit via un événement précédent ou du fait qu'un sujet soit polémique, donc associé à des débats générant un fort potentiel de colère.

Donc CA a vu le fait de mettre en colère les gens comme utile pour servir les campagnes de leurs clients, pour augmenter une adhésion, dégoûter d'un candidat, mais aussi pour "allumer un feu" sur les réseaux sociaux. L'un de ces clients, des membres d’un parti pro-brexit, expliquent qu'il s'agit d'allumer une flamme (diffuser une fake news qui va énerver, choquer, faire s'insurger) puis de mettre un immense ventilateur devant (exploiter les réseaux sociaux façon CA en faisant se diffuser la fake news par certains profils) pour faire s'étendre l'incendie⁴². Et ça marche, à cause du contenu, de l'émotion qu'il génère, des profils choisis pour le partager, et des algorithmes des réseaux sociaux qui favorisent beaucoup plus les contenus aux affects négatifs, mais aussi parce qu’on est également plus attentifs et on réagit plus à des choses négatives qu'à celle positives.

³⁸Dans cet article, ce sera principalement issu de son ouvrage Mindfuck

³⁹Il a pu s'en rendre compte en faisant des études qualitatives ; non seulement ils constataient des liens entre les données, mais plus encore il allait parfois à la rencontre de certains profils avec qui il avait des entretiens.

⁴⁰Les expériences de "saillance de la mort" montrent que si on évoque la mort à des personnes, celles-ci émettent plus d'ethnocentrisme, plus de punitivité ; on en avait parlé largement ici : https://www.hacking-social.com/2018/01/22/tmt1-quand-avoir-peur-de-penser-a-la-mort-rend-ethnocentrique-la-theorie-de-la-gestion-de-la-terreur/

⁴¹Christopher Wylie, Mindfuck.

⁴²Ils avouent explicitement cette stratégie ainsi que l'usage de fake news devant le parlement anglais, ici : https://www.youtube.com/watch?v=IWQh2lHqYek  ; vous pouvez aussi retrouver l'extrait en question dans ce reportage :  https://www.youtube.com/watch?v=MBc_V7xNzCE

5. Viraliser l’extrême droite : supprimer le "politiquement correct", exploiter la croyance en un monde juste, manipuler la triade noire

Précédemment nous avons vu les études préliminaires de Cambridge analytica (CA) sur l'identité sociale, les menaces à celle-ci, le jeu à somme non nulle et la colère. Il s'agissait pour CA de voir quel genre de récit aller "allumer un feu" sur les réseaux sociaux et permettre de viraliser des contenus d’extrême-droite. Aujourd'hui on continue d'explorer ces études qui s'inscrivent dans le plan de Bannon, à commencer par celles portant sur leur ciblage : CA ne manipulait pas les "masses", mais certains profils spécifiques qu'on va progressivement découvrir.

Pour rappel, CA faisaient des expériences suivant un protocole scientifique, mais le but n'était en rien de faire progresser la science ou de les mener dans une optique thérapeutique : leur intérêt était de voir si ça pouvait marcher pour manipuler leurs cibles vers des comportements visés, à savoir s'engager dans le bord politique de leurs clients (Républicains).

Passer du "politiquement correct" à une motivation à être ouvertement raciste

J'avoue n'avoir jamais vraiment compris cette expression de "politiquement correct", parce que ça me semblait une notion totalement fourre-tout où n'importe quoi de totalement opposé pouvait être mis dans le même paquet. Et c'est le cas souvent. Mais dans l'esprit de Bannon, puis avec le travail scientifique de CA par la suite, on pourrait dire que cela désigne (selon eux) des individus affichant des valeurs progressistes/de gauche/anti-discriminations, mais qu'ils n'y croient pas et ne vivent pas selon ces valeurs. Au fond, ces individus dits "politiquement correct" seraient racistes et auraient un comportement raciste.

Cependant, à mon sens, si le « politiquement correct » désigne un écart entre valeurs qu’on affiche et valeurs qu’on soutient en son fond (et qu’on cache ou qu’on n’assume pas), alors on peut dire qu’il y a également un "politiquement correct" de droite voire même un "politiquement correct" de centre/neutre/apolitique, tout dépend des environnements sociaux, des différents contextes ou circonstances. Ces gens affichent des valeurs affiliées à certains courants politiques ou se disent "apolitiques" et pourtant leurs attitudes et comportements sont liés à toute autre valeur politique.

L'individu émet une opinion pour bien paraître, parce qu'il se sent obligé de soutenir cette opinion, ou encore parce que cela semble ce qui est correct à dire dans la situation sociale, non parce qu'il y croit vraiment ni se comporte  comme tel. On pourrait dire que ces motivations politiques ne sont pas intégrées, ne sont pas autodéterminées.

Je vais qualifier ce « politiquement correct » d'introjection (motivation à régulation introjectée) voire de régulation externe, c'est-à-dire qu'une opinion de droite ou de gauche pourrait n'être dite / vantée que pour bien paraitre aux yeux d'un environnement social dans laquelle elle est dite, mais sans que l'idée soit en harmonie avec la vie et les valeurs de l'individu. À noter que la régulation introjectée est généralement la plus répandue parmi la population pour quantité d'activités, d'attitudes, de valeurs, etc. Que ce soit à gauche ou à droite, je pense que des tas d'opinions sont introjectées mais très rarement intégrées. Classiquement la SDT dit que seuls les comportements ou attitudes prosociales peuvent être vraiment intégrées (à la différence de celles antisociales qui comportent une part d'attaque à autrui, comme peut l'être le racisme, le sexisme etc.), mais de récentes recherches postulent que des comportements nuisibles peuvent être autodéterminés (donc à motivation intrinsèque, intégrée et/ou identifiée, cf Amiot 2019), bien qu'effectivement les contenus prosociaux soient toujours plus facilement intégrés. C'est aussi pour cela que les leaders autoritaires raccrochent toujours un but (pseudo)prosocial à leurs opérations meurtrières (par exemple pour T4, une opération consistant à tuer les  handicapés et malades allemands, cela était justifié par les nazis comme la solution la plus bienveillante à leur égard, cf  Au fond des ténèbres: Un bourreau parle : Franz Stangl, commandant de Treblinka, Gitta Sereny,  2013)

CA a demandé à ses sujets si ça les dérangeait de voir leur fille épouser un Mexicain (ce qui n'est pas sans rappeler les items utilisés pour mesurer l'ethnocentrisme⁴³). Puis CA leur demandait "aviez-vous l'impression que vous étiez dans l'obligation de dire ça ?" et ils pouvaient ensuite modifier leur réponse initiale.  C'est un protocole astucieux comme tout autant piégeant : l'individu qui effectivement est dans l'introjection ou la régulation externe⁴⁴ (voir schéma au-dessus) pourrait répondre qu'effectivement il s'est senti un peu forcé de répondre cela, parce qu'il avait répondu "oui" pour bien paraître, pour ne pas être mal perçu. Mais ça pourrait être aussi une amorce à mettre en doute que l'avis initial ne serait pas le nôtre, que cela nous a été forcé. Malheureusement, Wylie ne donne pas les résultats à ces tests, si ce n'est qu’apparemment cela a confirmé à Bannon que beaucoup de gens avait des valeurs anti-racistes introjectées / à régulation externe, émettaient donc un "politiquement correct" alors qu'en fait ils étaient potentiellement racistes. On pourrait rapprocher ces découvertes de celles d’Altemeyer qui décrit⁴⁵ que les hauts scores RWA (autoritarisme de droite à haut préjugés) ne se reconnaissait pas lorsqu’on leur présentait des profils hauts RWA.

Mais plutôt que d'être dans une démarche d'autodétermination en aidant les personnes à avoir des valeurs intégrées antiracistes (parce que cela permet d'être moins oppressant, donc d'avoir plus de relations sociales positives avec n'importe qui, par conséquent de se donner plus de chance d'avoir des besoins de proximité sociale comblés), Bannon pensait que la "libre pensée" était que les gens puissent assumer leur racisme. À partir de leurs introjections, il voulait les faire passer à une régulation identifiée ou intégrée au contenu de cette identité sociale qu'on a vu précédemment de "l'Américain normal". C’est-à-dire que plutôt que de secrètement haïr tous les exogroupes et leur reprocher de tout prendre à cause de leur perspective à somme nulle, de cacher leur idée qu'il faille leur enlever des droits/leur faire la guerre, il s'agirait de l'endosser pleinement et ouvertement.

Bannon voit aussi dans ces expériences une confirmation de sa pensée politique : les démocrates, malgré un discours "berçant⁴⁶" les minorités, seraient tout aussi racistes que les autres. Et il veut lever l’hypocrisie de ces individus de se dire non-raciste et en faire des "libres penseurs" : autrement dit, qu'ils assument pleinement leurs opinions racistes. Et c'est pour cela que Bannon voit des communautés telles que 4chan, celle du gamergate ou des incels comme des groupes d'individus qui révèlent leur vrai "moi" sans le filtre du « politiquement correct »  - que je qualifierais plus d'introjection - leur interdisant de se dévoiler en public. Wylie emploie carrément la métaphore du placard pour les décrire⁴⁷ : comme les gays, ils se sentent empêchés de révéler leur vraie identité, qui serait celle d'un américain raciste (c’est là l’analogie de Wylie, qui ne consiste aucunement à y décrire une équivalence, mais plutôt à montrer la stratégie rhétorique et politique de CA et Banon).

Effectivement, Bannon a raison sur l'hypocrisie qu'on ressent face à quelqu'un qu'on repère en introjection. Cependant, ça ne me semble pas qu'un problème de gauche. Par exemple, dans la première etude⁴⁸  sur les autoritaires les chercheurs avaient repérés des "pseudodémocrate" : plein d'autoritaires se cachaient derrière des formules qui pouvaient passer pour démocratique, mais qui masquaient un autoritarisme comme par exemple "je ne suis pas raciste MAIS". Ceux-ci pouvaient par ailleurs s'identifier à des partis conservateurs, il ne se disaient pas forcément progressistes.

Mais il est vrai qu'on voit des hypocrisies majeures de ce genre également chez des gauchistes, par exemple j'ai vu des individus se vantant d'avoir des postures féministes qui n'étaient adoptées que pour être bien perçus (alors qu'ils se comportaient de façon sexiste voire étaient coupables d'agressions sexuelles), j'ai vu des individus vantant un antiracisme sur la scène médiatique, mais en privé faisais preuve d'un racisme explicite ouvertement insultant, etc.

A noter qu’il est d’ailleurs possible de supposer que cet écart entre valeurs affichées par convention et attitudes/comportements effectifs sont au cœur de nombreuses confusions dans les recherches portant sur l’autoritarisme, car il y a dispute entre chercheurs autour de la question de l’autoritarisme de gauche, certains postulant qu’il y a là un autoritarisme spécifique à la gauche, d’autres affirmant qu’il s’agit tout simplement de l’autoritarisme de droite hypocritement caché.

Il y a un problème d'internalisation des valeurs, et cela quel que soit le parti dont se revendiquent les individus. Aussi, cette dysharmonie entre discours et comportement peut parfois avoir des résultats particulièrement étonnants : j'ai vu des individus qui affichaient parfois des discours d'un racisme extrême (vraiment, c'était un discours nazi, avec des fantasmes d'extermination), mais qui dans les faits... avaient aidé secrètement des sans-papiers à s'en sortir, en hébergeaient illégalement parfois. Et un autre jour, ils allaient à des congrès politiques vantant la fermeture des frontières et l’arrêt de l'immigration où ils applaudissaient, au premier rang. Parfois, les personnes ont une haute incohérence entre leurs valeurs, pour le pire comme le meilleur.

Comme Bannon, j'estime que ça serait bénéfique pour tout le monde d'être au clair avec ces valeurs/comportements et que l'hypocrisie cesse, que chacun assume ses idées clairement, y compris si ça ne va pas du tout dans le sens de ce que j'estime la "bonne" chose ou que cela me dessert totalement,  par exemple qu'untel qui se disait pro-féministe s'assume antiféministe : au moins, ça clarifierait la situation à venir. Feinter une position alors qu'on pense le contraire ou qu'on fait le contraire n'est en rien souhaitable, ça produit généralement des comportements nuisibles.

A cet égard, j'ai eu presque moins de pénibilité à des discussions que j'ai pu avoir avec des incels assumant leur déshumanisation (mais répondait sincèrement à mes questions par exemple) que des gauchistes qui faisait semblant de me respecter... mais ne m'abordait que pour parler des tâches ménagères/du foyer⁴⁹.  

Cependant mon accord avec Bannon s’arrête là, parce que lui ne veut pas simplement lever les hypocrisies, mais augmenter les rangs de l’extrême droite, notamment en stimulant les pires affects, les traits les plus antisociaux afin d'utiliser ces soldats comme agents du chaos pour créer un changement culturel anti-progressiste.

 Il est lui aussi hypocrite lorsqu'il dit vouloir libérer les gens, parce que toutes ses manœuvres montrent au contraire qu'il cherche à les influencer selon ses plans, que ce soit les échantillons testés via CA, mais aussi les donateurs à qui il fait appel, les partis qu'ils tentent de conseiller, etc.

Utiliser la croyance en un monde juste⁵⁰ pour convaincre dans les récits

La croyance en un monde juste consiste à croire que le monde est fondamentalement juste. Par conséquent, si le monde est ainsi perçu par un individu, celui-ci considérera que les causes d’une injustice sont en partie ou complètement imputable à la victime elle-même, qu’au fond la victime « l’a un peu mérité », voire « l’a bien cherché », même quand le sort de la victime ne peut lui être imputable (comme un accident subit, une maladie, etc.).

Les personnes fortement disposées à la croyance en un monde juste ont tendance à mettre la faute sur les victimes d'agressions sexuelles par exemple, parce que cela leur permet de gérer l'angoisse qui adviendrait si elles pensaient qu'il existe des menaces environnementales incontrôlables. Et c'est pour cette raison que la croyance en un monde juste s'éveille tout particulièrement lorsque l'individu est en impuissance face à un évènement . Par exemple, il pourrait croire une victime de violence si c'est un ami et qu'il peut lui apporter du soutien (l’aider avec des démarches judiciaires, l’écouter, etc.), par contre ne pas croire une victime des mêmes violences qu'il verrait témoigner dans un reportage, parce qu'il ne peut pas l'aider IRL. Comme l'absence de contrôle sur la situation lui est insupportable et qu’il ne peut rien faire pour modifier le sort de la victime, il estime alors que c'est la faute de la victime. Ce qui justifie au passage le pourquoi il ne peut pas aider, ça calme les peurs et fait disparaître leurs sentiments d'impuissance, bien que cette attribution causale soit particulièrement cruelle et injuste pour la victime.  Cela lui permet aussi d’éteindre son aversion à la douleur d’autrui, en rationalisant le sort de la victime comme une juste conséquence de son comportement, parfois en s’imaginant que son sort lui sera finalement bénéfique comme les croyances liés à la punition.

Politiquement, cela a des conséquences graves, car les victimes répugnent à en parler, à témoigner ou à faire appel à la justice parce qu'elles sentent qu'on va leur reprocher leur comportement, les rendre fautives alors qu'elles peuvent déjà avoir subi des violences dévastatrices. Parfois, les victimes elle-mêmes peuvent en venir à se dévaloriser via la croyance en un monde juste en s’imaginant responsable en partie de leur sort, ce qu’on retrouve par exemple chez les femmes victimes de profondes inégalités professionnelles, cf par exemple Hafer, C. L., & Olson, J. M. (1993).

Au final, la croyance en un monde juste peut servir à protéger les offenseurs de toute accusation, que ce soient des violeurs, agresseurs, institutions injustices, environnements sociaux violents/injustes, politiques violentes/injustes ; ainsi ils peuvent continuer sans que quiconque ne les arrête dans leurs manoeuvres violentes/injustes sur autrui, puisque ce seront toujours leurs victimes qui seront mises sur le ban des accusés et pas eux. La croyance en un monde juste a ce paradoxe de participer au final à créer un monde injuste, à maintenir un statu quo injuste.

Un exemple de croyance en un monde juste sous un - formidable - documentaire de Marinette décrivant le cyberviolences conjugales ( https://youtu.be/xaPE-O44G3s  ) :

À ces personnes étant dans une croyance en un monde juste, CA leur a fourni des récits à forte teneur religieuse : « Dieu est bon et juste, n’est-ce pas ? Les riches ont été bénis par Dieu pour une raison, n’est-ce pas ? Parce qu’Il est juste. Les minorités se plaignent de moins recevoir, mais sans doute y a-t-il une raison à cela – parce qu’Il est juste. N’est-ce pas sinon remettre en question la parole divine ? » ; certains y adhéraient vivement.

Puis cela a permis à CA de cultiver des points de vue plus punitifs pour « les autres » :

"Si le monde est juste et gouverné par un Dieu juste, alors les réfugiés souffrent pour une raison. Avec le temps, les sujets tiennent de moins en moins compte de la légitimité des demandes d’asile au regard de la loi américaine pour se concentrer sur la raison pour laquelle les réfugiés devraient être punis et la manière dont il convient de le faire. Dans certains cas, plus la demande d’asile était légitime, plus la réponse du sujet était violente. Les cibles [individus atteints de croyance en un monde juste] étaient de moins en moins concernées par ces réfugiés hypothétiques, et davantage par le fait de maintenir coûte que coûte la cohérence de leur vision du monde. Si vous avez beaucoup investi dans l’idée que le monde est juste, toute indication du contraire peut être ressentie comme une grave menace"

La croyance en un monde juste est pour certains comme la fondation sur laquelle reposent toutes leurs idées, donc ils vont la défendre coûte que coûte parce que sinon cela reviendrait à remettre en cause, repenser absolument toutes leurs idées et représentations de la société.

Donc, à mon sens, cela ne sert à rien de les "éduquer" ou de tenter de leur convaincre qu'ils pensent de façon fausse : par réactance, ils renforceraient leurs croyances, et ils percevraient cette tentative d'"éducation" comme un bulldozer voulant détruire tout leur édifice de pensées, une grave menace. Il me semble davantage nécessaire de remédier à ce qui nourrit cette croyance, à savoir l'impuissance et les angoisses existentielles. Certains environnements sociaux peuvent aussi renforcer la croyance en monde juste, notamment ceux qui font de la méritocratie l’un de leurs piliers, ce qu’on peut retrouver dès l’école : il s’agirait de repenser ces structures, leurs buts, leurs visées.  

On peut aussi cesser de vendre l'absence de croyance en un monde juste (ou l'absence de croyances en général) avec une représentation dépressive, cynique, morbide, désabusée.

Il s'agit de plutôt mettre en valeur d'à quel point être conscient des injustices et problèmes permet de rendre son existence palpitante car cela permet d'essayer d'y remédier. Plutôt que d'un fatalisme, j'y vois au contraire une source de sens à l'existence : comme la société a des aspects injustes, alors notre existence peut être mise en œuvre pour tenter d'y remédier. Chaque problème est alors comme une quête à résoudre, un défi, et on découvre progressivement qu'on peut parfois réussir à aider à surmonter ces injustices et problèmes, ensemble et avec nos singularités réunies.

Je pense à des histoires de vies épiques comme celle des sauveteurs évoqués dans la personnalité altruiste (conscients des horreurs injustes et y remédiant, qu'ils soient athées, agnostiques ou croyants en diverses religions),  ou encore les profils de vie comme évoqué dans les recherches de Mihaly qui sont tout simplement épiques et d'un sens extrêmement puissant, tout en ayant une conscience et une sensibilité constante aux problèmes et injustices.

À noter que la croyance en un monde juste n'est pas qu'un phénomène qui n'adviendrait qu'aux personnes religieuses : il peut y avoir des croyants, pratiquants et professionnels dans leur religion, qui sont tout à fait conscients qu'il y a des injustices dans le monde et qui s'active à y remédier parce qu'ils estiment que c'est totalement raccord avec leurs croyances, notamment de compassion, d'aide à autrui etc. Et des athées ou agnostiques peuvent être totalement dans une croyance en un monde juste. Toutes les configurations sont possibles.

Stimuler l'alt-right en se basant sur les profils les plus dangereux

Après toutes ces phases d'observation, de tests, un client "inconnu⁵¹" amène CA/SCL à cibler certains profils : ceux avec des caractéristiques de la triade noire (psychopathie, narcissisme, machiavélisme) et ceux avec un haut névrosisme.

"À partir des données que CA avait collectées, l’équipe fut capable d’identifier des individus qui possédaient à la fois un score élevé en neuroticisme [=névrosisme] et les caractéristiques de la « sombre triade », ainsi que ceux qui étaient davantage sujets à des impulsions colériques et des pensées conspirationnistes que le citoyen moyen. Cambridge Analytica les cibla, introduisant des récits via des groupes Facebook, des publicités, ou des articles dont l’entreprise savait, grâce à ses tests en interne, qu’ils avaient de grandes probabilités d’attiser la colère de ce segment très étroit d’individus possédant ces caractéristiques. CA voulait provoquer les individus, les pousser à s’engager".

Ils les ciblent parce que les algorithmes de Facebook marchent, comme d'ailleurs à peu près tous les réseaux sociaux, à "l'engagement" qu'il faut augmenter, car cela augmente l'exposition à la publicité qui est leur revenu.

Or on comprend vite que des profils impulsifs par exemple sont une cible de choix à manipuler sur les réseaux sociaux : ils likeront, partageront beaucoup sans trop vérifier, c'est facile de les faire réagir vite avec peu.

"Il se trouve que les contenus les plus engageants sur les réseaux sociaux sont souvent horribles et construits pour provoquer la colère. "

De manière générale, notre attention est davantage attirée par des stimuli menaçants que joyeux, et c'est tout à fait normal si on se réfère à notre nature d'animal social qui a dû lutter pour la survie pendant des lustres : il est effectivement utile, dans une perspective de survie, de capter rapidement et efficacement les sources de dangers, les menaces potentielles, y compris sur des signaux faibles. Et souvent cela capte plus notre attention qu'un message positif (par exemple, une solution à un problème, une découverte scientifique, un commentaire joyeux, etc.), à moins que celui-ci représente la perspective d'une énorme "récompense" (par exemple, des pubs promettant de devenir richissime sans rien faire).

On comprend aussi que cibler prioritairement des profils hautement colériques/hostiles permet de créer une base qui relayera beaucoup de contenus bien spécifiques (notamment ceux perçus comme une menace à l'identité sociale avec une logique à somme nulle) ou réagira beaucoup et avec de fortes offensives.

Quant au profil à triade noire, la recherche a effectivement montré un lien entre triade noire et trolling et comportements hostiles⁵². Bien que les narcissiques semblent moins attirés par le trolling, leur narcissisme est très exploitable et exploité ; ci-dessous, Wylie raconte des opérations militaires de SCL (maison mère de CA) où il s'agissait de semer le chaos dans un groupe de narcotrafiquants pour augmenter les conflits en interne, la fuite d'information et la défection :

"Les cibles privilégiées sont généralement celles présentant des traits narcissiques ou névrotiques, dans la mesure où elles font montre de moins de résilience psychologique face à la pression de nos contre-récits. En effet, le neuroticisme peut rendre un individu plus facilement sujet à l’idéation paranoïde, dans la mesure où il aura tendance à ressentir davantage d’anxiété, fera preuve d’une plus grande impulsivité, et aura tendance à se reposer sur l’intuition plus que sur la pensée délibérative. Quant aux individus obtenant des scores élevés sur l’échelle du narcissisme, ils se montreront davantage sujets aux sentiments d’envie et d’injustice, deux émotions qui sont de puissants motivateurs menant à des comportements de désobéissance aux règles et de remise en cause de la hiérarchie. Ceci signifie que ces cibles auront une tendance accrue à développer le sentiment illégitime d’être harcelées, persécutées, et d’être victimes d’un traitement injuste. Ce sont les cibles les plus faciles quand il s’agit de semer les graines de la subversion au sein d’une plus grande organisation. Par la suite, cette leçon constituera l’un des fondements du travail de Cambridge Analytica pour catalyser une insurrection de l’alt-right en Amérique. [...] Que les choses soient claires : ces opérations ne constituent en aucun cas une forme d’accompagnement thérapeutique ; il s’agit bel et bien d’attaques psychologiques en règle. Il est important de rappeler que, dans un contexte militaire, la question de la puissance d’agir ou du consentement de la cible est hors sujet. La cible est l’ennemi."

Si vous vous demandez à quoi ressemble concrètement ce genre de profil, la biographie d'Eliott Rodgers⁵³, au profil incel, est un cas d'école à ce sujet : narcissique vulnérable, il se sentait toujours envieux de tout le monde et voyait des injustices dans des détails qui ne sont en rien des persécutions ou harcèlement ou oppressions. Par exemple, il était capable de faire des crises énormes parce qu'on ne lui avait pas servi du gâteau en premier. Il se sentait persécutait par la simple présence de couples dans la rue (qui ne faisaient rien d'autre que de passer dans son champ de vision), se déchaîner de haine parce qu'un de ses colocataires non-blanc était en couple et que c'était injuste (parce qu'il estimait lui être supérieur donc mériter plus que lui d'être en couple). Il a même réussi à s'enrager et vivre comme une injustice le fait de ne pas gagner à la  loterie.

Et jamais il ne se questionnait sur le fait que son attitude de déshumanisation, sa haine envers tout le monde pouvait être au coeur de ses problèmes relationnels, il ne lui venait pas du tout à l'esprit que l'amour demande une réciprocité et que celui-ci n'arrivera jamais si on persiste à haïr l'autre.

C'est pour cela que Wylie parle de sentiment illégitime d'injustice, c'est parce que ce que ces profils qualifient d'injustice ne sont pas des oppressions et ne sont en rien injustes. Il s'agit juste des détails de la vie quotidienne qu'ils n'arrivent pas à interpréter correctement à cause de leur égocentrisme et égoïsme. Pour eux, autrui est une sorte de PNJ⁵⁴ qui n'a pas de vie propre à lui. Si un PNJ fait quelque chose, ce n'est pas parce qu'il mènerait sa vie d'humain singulier, mais parce qu'il chercherait à susciter quelque chose chez le joueur principal que se pense être le narcissique, ce seul vrai vivant sur la planète. Ainsi, le narcissique ne respecte qu'autrui que s'il est à son service total, s'il mène une vie "inférieure" à lui, qu'il n'a rien de plus que lui et qui lui donne tout quitte à se sacrifier. Ce sacrifice n'est que "normal" pour le narcissique qui estime toujours mériter d'avoir tout, et il ne renvoie jamais la pareille, ne donne pas en retour.

Leur narcissisme les conduit donc à vouloir tout, tout de suite, à croire qu'ils ont plus de droits, plus de mérite que les autres, que la vie et même le hasard doit se plier à ce qu'ils veulent, y compris quand ça nuit aux autres. Et ils estiment n'avoir rien à donner, ni en aide ou effort, parce que leur présence devrait suffire à nous émerveiller.

 Et on découvre ici en plus que les narcissiques sont hautement utilisables dans des démarches de manipulation.

Exploiter la triade noire

Après ce profilage, s'en suit une opération de désinformation : CA se met à faire des faux forums, des fausses pages facebook, des faux groupes ; personne dans l'entreprise ne s'en inquiète car c'est une pratique commune, ils ne savent même pas qui a commandité cette opération.

"L’entreprise travaillait au niveau local, créant des pages d’extrême droite portant des noms vagues comme « Les patriotes du comté de Smith », ou encore « J’aime mon pays ». Grâce à la manière dont fonctionnait l’algorithme de recommandation de Facebook, ces pages apparaissaient dans le fil d’actualité de personnes ayant déjà liké des contenus similaires. Quand les utilisateurs rejoignaient les faux groupes créés par CA, ils y découvraient des vidéos et des articles qui jetaient de l’huile sur le feu. Les conversations s’échauffaient sur la page du groupe et tout le monde se plaignait, ceci ou cela était tellement horrible ou injuste… CA avait réussi à briser les barrières sociales et à construire des relations entre les différents groupes. Et, pendant ce temps-là, elle testait et raffinait ses messages pour obtenir un engagement maximum. Désormais, Cambridge Analytica disposait d’utilisateurs qui 1) s’identifiaient en tant que membres d’un groupe extrémiste, 2) formaient un public captif, et 3) pouvaient être manipulés avec des données."

Mais cela ne s’arrêtera pas là puisque CA aurait organisé des évènements IRL pour que ce public particulier se rencontre, surtout dans les comtés où se déroulait la primaire républicaine :

« Les équipes de CA choisissaient des lieux de taille modeste – un café, un bar – pour que la foule se sente plus grosse qu’elle ne l’était. Les gens qui s’y rendaient découvraient leurs frères en colère et sous l’emprise de la paranoïa. Cela les conduisait naturellement à avoir l’impression de faire partie d’un mouvement gigantesque, ce qui les autorisait en retour à se nourrir les uns les autres, sans retenue, de leurs peurs et de leur complotisme ».

Le "nous contre eux" se développa de plus en plus parmi eux, la dynamique était lancée et les algorithmes jouaient en la faveur des plans mis en oeuvre par CA, coinçant ces profils dans une bulle d'information toujours plus complotiste, paranoïaque, exploitant leur narcissisme et leur névrosisme.

« Avec le temps, l’entreprise parvint à créer un mouvement national de citoyens conspis et névrosés. L’alt-right. »

Si l'on résume les manœuvres de CA, on a donc :

- Des tactiques de guerre psychologique, de "psyop" longtemps expérimenté à travers des élections dans des tas de pays.

- Des expériences scientifiques testant des biais, des caractéristiques psychologiques menant à comprendre quels sont les récits qui seraient d'une part fortement relayés et qui, d’autre part, engageraient les personnes vers une adhésion toujours plus fortes à des idéologies d’extrême droite.

- Ces expériences et tactiques ont permis aussi de savoir quel type de personnes cibler pour obtenir un maximum de viralité autour de ces récits d’extrême droite (triade noire / nevrosisme).

Durant certains évènements, comme la campagne de Trump par exemple, les étapes ont pu être inversées : ils ciblaient d'abord selon les caractéristiques de la personnalité, et proposaient des récits ou contenus différents  parce qu'à ce moment le "vol" des 87 millions de profils Facebook était effectif, notamment grâce au travail d'un psychologue social, Kogan.

⁴³Personnalité autoritaire echelle E ou encore la manitoba scale

⁴⁴C'est moi qui qualifie ce phénomène d'introjection et de régulation externe, Wylie n'emploie pas ces termes.

⁴⁵Dans son ouvrage The authoritarian, disponible ici : https://theauthoritarians.org/options-for-downloading-authoritarian-nightmare/

⁴⁶Ce sont les termes de Wylie - à noter que lui-même fait partie de ces exogroupes cible et perçu comme "menace", car il est gay et il a été aussi fortement discriminé et harcelé en milieu scolaire en raison d'un handicap.

⁴⁷Dans son ouvrage Mindfuck.

⁴⁸The Authoritarian Personality, Studies in Prejudice Series, Volume 1 ; T.W. Adorno, Else Frenkel-Brunswik, Daniel J. Levinson and R. Nevitt Sanford  On en a parlé ici dans un dossier : https://www.hacking-social.com/2017/01/16/f1-espece-de-facho-etudes-sur-la-personnalite-autoritaire/  et dans deux vidéos : https://youtu.be/2__Dd_KXuuU ; https://youtu.be/o2DEESuEOJk

⁴⁹Au début, je croyais que c'était à cause de mon introversion ("aurais-je été trop silencieuse  ?"), puis j'ai découvert en discutant avec des collègues qu'il faisait ça avec toutes les femmes créatrices de contenus... quand sur plusieurs jours on vous renvoie à une unique condition supposée de femme de ménage, et ce malgré vos explications sur votre activité pro répétées ou des démonstrations que vous avez d'autres intérêts que celui d'un lave-vaisselle, ça pose vraiment un climat de merde.

⁵⁰Dans  Mindfuck, la croyance en un monde juste est rapporté  comme "hypothèse du monde juste" mais il s'agit de la même notion.

⁵¹Wylie ne sait pas d'où venaient les ordres, et ils avaient l'habitude à SCL de ne pas être trop au courant, alors il n'a pas cherché à savoir. Le seul lien que j'ai trouvé entre cette mesure spécifique de la triade noire est que l'été 2014 Kogan a fait une API mesurant la triade noire avec des spécialistes de St Petersbourg (Russie) ; l'information été retrouvée par une journaliste : https://twitter.com/carolecadwalla/status/975905472069988352 .Officiellement, Kogan conseillait une équipe de chercheurs russes qui travaillaient sur le cyberharcèlement  entre 2015 et 2017 ( https://www.reuters.com/article/us-facebook-cambridge-analytica-kogan-idUSKBN1GX2F6 ). La date ne colle pas, mais les recherches sont cohérentes et son aide à cette équipe avait été validée par l'université de Cambridge. Le problème est le pont entre ses mesures de la triade noire via CA et pour qui. Personnellement, j'avais pour hypothèse que le client était Breitbart, parce que vu les projets de Bannon et la suite de ce qui a été fait avec les fausses pages facebook, ça semblait cohérent si le but était de rassembler l'alt-right pour en faire un mouvement plus uni et radical. Mais on sait aussi que c’est vers cette date que CA pitchait à Lukoil, un producteur de pétrole russe (apparemment connecté aux services de renseignements russes selon le congrès américain) ; cette affaire a alerté la commission parlementaire américaine et anglaise, parce que Nix n'a pas hésité à leur vanter d'avoir des millions de données sur les Américains et à leur présenter aussi toutes les opérations comme à Trinité-et-tobago, au Nigeria. C'était insensé de parler de tout ça à une entreprise qui n'avait rien à voir avec des campagnes électorales. Pour Wylie, cette affaire avec Lukoil n'est sans doute pas un complot de Nix avec les Russes, il estime que Nix a été juste stupide de se vanter de tout ça. Bref, personnellement j'estime ne toujours pas savoir qui a commandité cette affaire de ciblage des personnes à haute triade noire, je ne sais pas quel rôle a eu Kogan dans cette affaire, ni s'il y avait un autre but que le fait de créer une alt-right avec des personnes hautement machiavéliques/psychopathes/narcissiques autour de fausses pages facebook et autres manigances.

⁵²On en a parlé ici https://www.hacking-social.com/2016/01/26/2-les-resistances-du-net-le-trolling/ ; l'étude en question est de Buckels, Trapnell et Paulhus (2014) et dévoile que l'activité préférée sur le net des personnes sadiques, machiavélique ou psychopathes est de troller. Cependant, au vu de la date de 2014 de cette étude, je ne sais pas si CA s'est basée dessus. En tout cas, Yanina Ledovaya, une chercheuse russe de St. Petersbourg qui avait collaboré avec  Kogan ( https://www.rnz.co.nz/news/world/353140/cambridge-analytica-academic-advised-russians ) a par la suite publié plusieurs études sur les liens entre traits de la triade noire et comportements hostiles sur facebook "Corrélats lexicaux, morphologiques et sémantiques des traits de personnalité de la triade noire dans les textes facebook russes " en 2017 ( https://www.scopus.com/record/display.uri?eid=2-s2.0-85018382233&origin=inward&txGid=1b252bbd5d72f42b854e03f7142fdf91 ) ; et en 2018 "Personnalités sombres sur Facebook : comportements et langage en ligne nuisibles" https://www.scopus.com/record/display.uri?eid=2-s2.0-85030258986&origin=inward&txGid=29d4efa154dba2427cb476200697b901 . Je ne sais pas si ces études sont en lien avec le travail qu'à pu faire Kogan à CA, c’est-à-dire à l'API qu'il a fait sur facebook afin de mesurer la triade noire.

⁵³disponible ici https://www.documentcloud.org/documents/1173808-elliot-rodger-manifesto ; on en a parlé aussi dans notre dossier sur le narcissisme ici : https://www.hacking-social.com/2019/09/23/n1-3-le-narcissisme/

⁵⁴PNJ personnage non joueur. Si vous n'êtes pas familier des jeux vidéo, généralement les personnages non joueurs ont un comportement très restreint, ont une boucle plus ou moins définie selon le jeu, et ne sont là que pour servir directement ou indirectement le joueur (soit comme aide, obstacle, ou tout simplement comme décorum). PNJ est devenu aussi une insulte pour qualifier des gens estimés comme passifs, limités, non autonomes, stupides, prédictibles. Parfois je me demande si lorsqu'on insulte quelqu'un de PNJ on n'estime pas un peu qu'on voudrait que les autres soient à notre service et se comportent comme on le voudrait (perspective égocentrée) ou encore parce qu'on estime que ces gens n'ont pas de vie propre à eux-mêmes, qu'ils sont pilotés par un code stéréotypé. Bref, j'estime que cette insulte pourrait être interprétée sous une perspective de gauche ("faut sortir les gens de leur boucle d’obéissance, les aider à s'autonomiser") comme d’extrême droite narcissique ("si tu agis sans me servir, dans un sens qui ne me plaît pas, t'es rien, t'es pas vivant" dans cette perspective de droite, on peut dire que l’insulte de PNJ s’inscrit dans les processus d’infra/déshumanisation).

6. Quand la psycho sert à manipuler sur Facebook

Précédemment, nous avons vu comment Cambridge Analytica / SCL jouait avec les données  pour  viraliser l’extrême-droite ; on voyait déjà que l’entreprise se basait sur les connaissances en psychologie ( notamment sociale) pour comprendre comment « allumer un feu » sur les réseaux sociaux. Aujourd’hui, on se centre plus particulièrement sur le rôle des chercheurs en psychologie. Comment leurs recherches sur la personnalité ont-elles pu devenir une opération de manipulation politique à grande échelle sur Facebook ?

L'entrée de la psychologie à SCL/CA

On a vu précédemment que Wylie (doctorant en machine learning⁵⁵) s'occupait de la direction des recherches à SCL/CA, mais il n'a pas été le seul à concevoir la machine de prédiction de la personnalité utilisée par CA. Il travaillait avec Tadas Jucikas docteur en biologie computationnelle⁵⁶, qui a créé le système automatisé de collecte de données de CA, couplé à un dispositif algorithmique à base de deep learning⁵⁷. Dans l'équipe, se trouve Brent Clickard, docteur en psychologie à Cambridge : c'est en partie lui qui fera le pont entre SCL et les professeurs de Cambridge spécialisé en psychométrie⁵⁸, dont Aleksandr Kogan, psychologue social.

Jucickas et Clickard ont une nouvelle entreprise, « genus ai »,  qui semble faire un peu comme CA. C’est de l’intelligence artificielle mise au service d’un marketing de ciblage :  https://www.buzzfeednews.com/article/ryanmac/these-men-helped-create-cambridge-analytica-here-is-their et https://genus.ai/

Kogan travaille déjà en tant que chercheur en collaboration avec Facebook, notamment sur les émotions, l'altruisme, les liens amicaux entre personnes de différents pays, et l'impact de ces liens sur les donations lors de catastrophes. Selon Kogan "l'entreprise était très ouverte à ce qu'on joue avec ses données", le management de Facebook laissait ses employés ouvrir la porte à ce jeu, parce que cela "les rendait heureux⁵⁹".

SCL est intéressé par les compétences de Kogan et lui fait signer un premier contrat pour participer au projet Trinité de 2014, profilage psychographique criminel via l'interception des données de la population et leur analyse. Son rôle aurait été d'apporter son expertise pour modéliser un ensemble de structures psychologiques associées à un comportement déviant, antisocial⁶⁰. En échange de ce travail, il négocie l’accès aux données des 1,3 millions de trinidadiens pour ses propres recherches.

Aleksandr Kogan, en photo pour un article où il se défend de ne pas être un espion russe : https://www.buzzfeednews.com/article/ryanmac/facebook-cambridge-analytica-aleksandr-kogan-not-spy

Kogan s’intéresse rapidement à ce que SCL/CA trafique aux États-Unis, où il y a déjà un modèle algorithmique, mais pour lequel il manque à l’équipe des variables permettant de prédire des caractéristiques psychologiques. Leurs données socio-démographiques permettent déjà de prédire par exemple les revenus, donc le statut économique. La fréquentation de tel type de supermarché, la localisation en sont des bons indicateurs (ce serait par exemple la différence entre une personne faisant exclusivement ses courses au Biocoop VS une autre personne exclusivement à Lidl ou Aldi, on se doute bien qu'il ne s'agit pas de personnes ayant le même statut économique).

Kogan fait rencontrer à SCL Michal Kosinski et David Stillwell, dont l'étude de 2013 est particulièrement connue, je suis même tombée dessus dans un manuel sur la psychologie de la personnalité⁶¹.

L'étude de Kosinski

Dans cette étude de 2013⁶², les chercheurs avaient proposés aux utilisateurs de Facebook de participer à divers questionnaires⁶³ et ils ont mis tout cela en relation avec leurs pages Facebook (notamment leurs likes).  Sur 90% des personnes, des associations sur la base de régressions linéaires ont été faites entre leur données des questionnaires et leurs likes, et pour les 10% des personnes restantes, ils ont tenté de prédire leur personnalité, mais aussi l'intelligence, le genre, l'orientation sexuelle, la religion, s'ils étaient blancs ou noirs, leur consommation d'alcool, etc. Et la prédiction a assez bien marché :

Les corrélations entre valeur prédites et valeur réelle. On voit ici qu'il y a donc une excellente prédiction sur la couleur des personnes (entre blanc ou noir, à 0,95), puis le genre (0,93), puis de savoir si un homme est gay (0,88), sur le parti politique (entre démocrate ou républicain à 0,85), la religion (entre chrétien ou musulman à 0,82), si une femme est lesbienne (0.82). Les autres corrélations sont aussi assez fortes. Source : https://www.pnas.org/content/110/15/5802

Figure 2: Ici les corrélations sont beaucoup moins fortes entre valeurs prédites et valeurs réelles, exceptées pour l'âge. Les barres transparentes correspondent aux corrélations entre test et retest. Par exemple pour la première barre de satisfaction de vie, entre les premiers tests réels des personnes et d'autres tests réels, il n'y a que 0.44 de corrélation, parce qu'effectivement c'est quelque chose qui varie énormément. On est plus ou moins satisfait de notre vie selon les périodes. La capacité à résoudre des matrices de Raven, "intelligence" à 0,78 ne varie pas beaucoup, on garde cette plus ou moins grande capacité dans le temps. Source : https://www.pnas.org/content/110/15/5802

Dans le détail, on voit qu'il y a certains points évident entre les likes et le fait de deviner si par exemple quelqu'un est démocrate ou républicain (il aura liké des pages de républicains ou de démocrates), un chrétien ou un musulman aura liké des pages liées à sa religion. D'autres associations sont plus subtiles mais là aussi assez humainement prédictible de ce qu'on sait des big five (les bas agréables auront likés des pages comme "je déteste tout le monde"). Et d'autres associations sont carrément étranges et je ne pense pas que quelqu'un de sérieux s'avancerait à faire des prédictions comme « les fumeurs aimeront les pages "vivement l'été" ». L'algo permet de voir des associations que personne n'aurait osé tester tant elles paraissent étranges.

Ici juste les associations entre les traits des Big Five et les likes ; Vous pouvez consulter la totalité ici : https://www.pnas.org/content/pnas/suppl/2013/03/07/1218772110.DCSupplemental/st01.pdf

Cependant, il y a un problème, selon le papier de l'étude il y aurait eu 58 000 participants. Selon le manuel en français dans lequel j'ai vu cette étude⁶⁴ ainsi qu'une autre source, il y aurait eu⁶⁵, 6 millions.

Est-ce que je me serais trompée de recherches ? Stillwell et Kosinski se retrouvent à la liste d'auteurs d'autres papiers la même année, on trouve une étude utilisant encore des échantillons d'utilisateurs de Facebook (75 000), étudiant cette fois les expressions et termes, notamment associés à la personnalité⁶⁶.  

SCL/CA est très intéressée et veut que Kosinski et Stillwell reproduise cela pour eux : les chercheurs expliquent qu'il suffit de payer quelques dollars chaque personne afin qu'elles remplissent les questionnaires de l'application Facebook, avec en prime toutes les données des amis de ce premier échantillon qui seront pompées sans leur consentement direct. Et un utilisateur pouvant avoir parfois des centaines d'amis, les données peuvent se multiplier de façon massive, ce qui expliquerait ce chiffre de 6 millions. Cela est confirmé par une autre source⁶⁷, qui répète ce chiffre de 6 millions en disant que seul 30 à 40% de l’échantillon avait choisi de partager ses données (contrairement aux profils des amis "pompés" par les fonctionnalités Facebook de l'époque), et c'est pour cela que les papiers de recherche s'en tiennent au chiffre de 58 000 participants, c'est la proportion de gens qui avait consenti.

SCL/CA est prêt à investir ce qu'il faudra pour reproduire cette expérience à leur profit, c'est-à-dire d'une part le fait de capter toutes ces datas, et d’autre part d'avoir un modèle de prédiction sur des variables psychologiques telle que la personnalité. Rappelez-vous aussi que la détection politique du modèle est aussi celle qui est la plus solide (.85 de corrélation entre valeurs réelles et celles prédites, ce qui est une grosse corrélation). Kosinski accepte si l'entreprise le paye un demi-million de dollars en avance et qu'ensuite CA donne 50% de toutes les royalties issues de l’exploitation des données récoltées. Nix le PDG refuse parce qu'il n'est pas sûr que cela puisse marcher, ce qu’ils vont faire du modèle n'est pas encore certain, c'est un investissement trop risqué.

Kogan propose alors un autre deal à SCL/CA : il est ok de reproduire l'expérience de Kosinski pour eux, il demande juste de l'argent pour payer ce premier échantillon et demande en échange juste le droit d'exploiter toutes les données et le modèle pour ses propres recherches. Cette fois, le deal est accepté.

Kogan crée avec un partenaire et sous la demande de Nix une entreprise qui se nomme GSR (global science research) et qui permet de recevoir les 800 000 dollars qui ont permis de recruter les premiers testeurs de "this is your digital life" une app qui contient un questionnaire de personnalité sur la même base que Kosinski (le test IPIP NEO) et quelques autres variables , puis le modèle d'analyse est reproduit. Rien n'indique que c'est SCL/CA, donc une entreprise aux fins de campagne politique, qui aura le bénéfice majeur de ces données, Kogan indique dans les conditions d'utilisations de This is your digital life "nous utilisons cette app pour nos recherches et pour comprendre comment les gens de Facebook et leur données peuvent prédire différents aspect de leur vie⁶⁸". Kogan s'en est défendu devant le Parlement anglais en disant que cela a servi un moment ses recherches, mais les parlementaires ont rappelé que ces données avaient prioritairement pour but d'être exploitée pour des fins politiques. Il a aussi argué que c'était la mode à l'époque, "c’était une pratique normale d'avoir des conditions d'usage du service très générales⁶⁹". Au Sénat américain⁷⁰, il dira que c'est Wylie qui les as rédigés.

Non seulement Kogan (et Wylie) ment par omission aux participants de cet échantillon, Facebook permet aux concepteurs d'app de pomper des données d'amis qui n'ont rien demandé et n'ont rien fait avec l'app en question, mais en plus l'exploitation politique n'a rien de partial et ne servira qu'à mobiliser pour les républicains ou à démobiliser les démocrates.

 Au parlement anglais, lorsque les parlementaires lui demandent s'il se rendait compte qu'il travaillait pour des politiciens aux projets "méchants⁷¹", Kogan répond qu'il ne voulait pas voir ni savoir à l'époque. Même s'il n'était pas d'accord avec leur position, les positions de ces politiciens lui semblaient raisonnables ; il argue que la science lui a appris à faire attention avant de juger.

À une interview avec la BBC radio 4 (ci-dessous en vidéo), avant son entretien avec le Parlement anglais, il a dit l'inverse concernant Trump  :

"Si vous aviez su que vos données auraient servi à la campagne de Trump, comment vous seriez-vous senti ? Ce serait absolument horrible, Mr Trump n’est pas quelqu’un dont les valeurs s’alignent aux miennes” https://www.youtube.com/watch?v=vvtCNPnQtnY

Fin 2014 Rust, chercheur à Cambridge, commence à craindre que les travaux de Kosinski (dont les données) soient regroupés avec ceux de Kogan. Il commence à tirer la sonnette d'alarme à ce moment-là⁷², notamment en fournissant des documents au Guardian, ce qui a fait bannir Kogan de Facebook. En 2015, les app sont suspendus, ainsi que d'autres du même genre ("you are what you like", "apply magic sauce" - pour cette dernière on peut l'utiliser encore si on le souhaite, en téléchargeant ses données Facebook, ou en donnant l’accès de l'app à Twitter). Ce premier scandale de 2015 s’arrête rapidement puisque l’équipe de SCL/CA dit qu'elle n'utilise plus ces données de Facebook, qu'elles ont été supprimées. Facebook n'a rien fait d'autre que de leur demander de supprimer, ils n'ont pas vérifié (c'est techniquement difficile à vérifier, étant donné qu’il est possible de les copier et de les stocker n’importe où). SCL/CA a en fait continué d’exploiter ces données.

Quand Kogan lance l'alerte sur un lanceur d'alerte

Wylie quitte CA vers fin 2014, crée Eunoia Technologies  avec l'ex-équipe de CA, à savoir Brent Clickard, Tadas Jucickas et d'autres. Kogan y travaillera aussi.  Eunoia fait le même travail que CA et apparemment Wylie aurait voulu créer "le rêve humide de la NSA".

Une présentation d’Eunoia Technologies pour les clients ; Source : https://www.buzzfeednews.com/article/ryanmac/cambridge-analytica-chris-wylie-eunoia-trump-campaig

Bien que l'avocat de Wylie dit qu'Eunoia n'avait aucune donnée, ce n'est pas ce qu'affirme Kogan :

"Enfin, GSR [l’entreprise de Kogan] a conclu un accord avec Eunoia (la société de Chris Wylie) à l'été 2014 pour fournir les données de l'application GSR à Eunoia en échange de l'obtention d'autres ensembles de données commerciales d'Eunoia. En vertu de cet accord, GSR a fourni à Eunoia une copie de toutes les données de l'application GSR pour les personnes qui ont signalé leur emplacement aux États-Unis ainsi que des analyses de personnalité GSR sur certaines des données. Après qu'Eunoia n'ait pas fourni les données promises à GSR, GSR a demandé à Eunoia de détruire les données de l'application GSR qui avaient été transférées. Pour plus de clarté, il existe une différence substantielle entre les données fournies par SCL et la société de M. Wylie. SCL n'a jamais eu accès, du moins par GSR, aux données brutes de Facebook contenant tous les Likes. SCL n'a reçu que des informations démographiques (si disponibles, nom, date de naissance, lieu (ville et état), sexe) et des prédictions de personnalité et, plus tard en 2015, l'ensemble limité de 500 pages "J'aime" spécifié en 2015, représentant 4 % de l'ensemble des J'aime.  Ceci est en contraste avec le contrat avec l'entité Eunoia de M. Wylie, où Eunoia a reçu toutes les pages comme les données ainsi que les dyades. "

https://www.parliament.uk/globalassets/documents/commons-committees/culture-media-and-sport/Written-evidence-Aleksandr-Kogan.pdf

À noter qu'il y a aussi une fuite d'une partie des données récoltées par Kosinski  :

"[les] Informations personnelles exposées [...] donnaient accès aux scores de personnalité "Big Five" de 3,1 millions d'utilisateurs. [...] Les informations d'identification ont également permis d'accéder à 22 millions de mises à jour de statut de plus de 150 000 utilisateurs, ainsi qu'à des détails tels que l'âge, le sexe et le statut relationnel de 4,3 millions de personnes. [...] Les enquêtes de Facebook et du Commissariat à l'information devraient tenter de déterminer qui a accédé aux données de myPersonality et à quoi elles ont servi. Cependant, comme il a été partagé avec tant de personnes différentes, il sera très difficile de suivre tous ceux qui en ont une copie et ce qu'ils en ont fait. Nous ne saurons jamais exactement qui a fait quoi avec cet ensemble de données. " Huge new Facebook data leak exposed intimate details of 3m users | New Scientist

Cet ensemble de données pouvait être consulté d'une façon qui était anonymisée (on ne pouvait pas retrouver des individus, cependant au vu de la quantité de données, les experts doutent de la solidité de ce processus d'anonymisation) pour les personnes considérées comme « collaborateur » du projet. Ainsi 280 personnes y ont eu accès en partie, que ce soit dans le champ académique, mais aussi auprès d’entreprises comme Facebook, Google, Microsoft et Yahoo. Il était extrêmement facile d'y accéder car un nom d'utilisateur ainsi qu’un mot de passe traînait sur Internet, laissé là pour un projet universitaire entre étudiants et chercheurs. À noter que Kosinski et Stillwell étaient aussi dans une société qui vendait l’accès à un outil de ciblage publicitaire basé sur la personnalité (Cambridge Personality Research), construit à partir des ensembles de données de leur recherche et qui se vantait de "lire dans les pensées⁷³" des utilisateurs. C'est assez ironique, car leur papier de 2013 était centré sur le fait d'alerter sur l'utilisation des données. Mais ce n'est pas non plus si étonnant car Kogan dit à un moment aux parlementaires que l'université de Cambridge encourageait ses chercheurs à vendre, tirer profit de leur travail.

Cependant, rassurez-vous, cette modélisation entre données et personnalités ne sert à rien, qu'elle vienne de CA ou d'ailleurs, ce n'est que de "l'huile de serpent".

Tout ça, c'était inutile... ???

C'est ce qu'a affirmé Kogan à plusieurs reprises devant les parlementaires anglais et devant une commission sénatoriale étasunienne. La prédiction de la personnalité à partir des données, ça ne marche pas, et ce qu'avait fait CA aurait été stupide selon ses propos :

" L'idée que ces données sont précises, je dirais que c'est scientifiquement stupide ; et dire qu'avec plus de données vous pourriez les rendre plus précises, c'est aussi assez stupide, même si vous avez des corrélations hautes. [...] Si le but est le microciblage en utilisant des pubs Facebook, ça n'a pas de sens"⁷⁴

Pour lui, il serait plus efficace de cibler 100% de la population plutôt que 15%, et il explique une méthode à son sens plus efficace : il suffirait de faire passer un questionnaire de personnalité à un échantillon conséquent, sélectionner par exemple les plus extravertis si ce sont eux qu'on veut cibler, donner leurs adresses mail au service de pub de Facebook et employer une fonctionnalité qui permet de construire le type d'audience que sont ces personnes. Autrement dit, ce sont les algorithmes de Facebook qui se chargeront de cibler 100% des extravertis en s'inspirant des profils qu'on leur a fournis.

Au Sénat américain, un expert connaissant apparemment plus les rouages internes propre à Facebook a confirmé que Facebook était à ce titre effectivement beaucoup plus puissante que n'importe quel Cambridge Analytica.

Les parlementaires ont donc été très surpris :

"MP : Donc quel était la valeur du projet que vous faisiez pour SCL ?

Kogan : Compte tenu de ce qu'on sait maintenant, rien. [...]

Mp : vous dites que c'était sans valeur ?

Kogan : si c'est pour utiliser les pubs Facebook, c'est juste une façon incompétente de le faire."⁷⁵

Et c'est là à mon sens qu'il faut être bien attentif aux propos de Kogan : d'une part, il dit au Sénat que les accusations de psyops et tout ce qu'on charge sur CA relève de la science-fiction (alors qu'il a vu et bénéficié du projet Trinité qui relève tout de même d'une surveillance de masse inquiétante), puis il centre le problème comme si CA ne faisait qu'une activité "classique" de marketing politique, c'est-à-dire rechercher un groupe à cibler afin de les mobiliser/persuader/engager via la publicité Facebook. Il ne rejette pas l’intérêt de tester une cohorte qui sert de référence pour savoir qui cibler, c'est juste qu'il trouve stupide d'avoir son propre modèle de prédiction et qu'il ne sert à rien d'avoir une quantité massive de données, alors que Facebook peut modéliser avec plus d'exactitude et a accès à l'intégralité des données de ses utilisateurs.

Autrement dit, il n’incorpore pas dans son analyse le fait de s'appuyer sur la recherche de la personnalité (mais aussi les tests concernant les biais qui "fonctionnent" ainsi que d'autres caractéristiques telle que la triade noire) pour, certes, effectivement faire appel à la pub, mais aussi pour créer des fausses pages qui vont immanquablement attirer ces profils et les regrouper. Ayant la main mise sur ces pages, CA/SCL a pu bombarder les cibles d'infos tel qu'ils le souhaitaient. Ils ont pu créer ses infos, former des récits d'influence particulier. On le voit bien avec l'affaire Trinité, où effectivement ils n'ont pas eu du tout besoin du modèle de personnalité, mais seulement des données "âge" (ils ciblaient tous les jeunes), puis ils ont crée un mouvement d'abstention de toutes pièces qui s'est ensuite viralisé  spontanément. Ce chemin d'influence, plus sournois, mais qui exploite tout autant les données directes que celles calculées de la personnalité, Kogan n'en parle pas et il ne me semble pas que quiconque l'ait poussé à en dire plus dessus. Pourquoi ? Aux États-Unis, à force de voir les commissions parlementaires, on comprend vite que tous les partis se servent de ces méthodes de ciblage, que la récolte massive de données est un "acquis" et que c'est valorisé d'un point de vue économique ; chez les républicains, c'est à ce point que le fait de réglementer les lois à ce sujet choquent les sénateurs comme si on parlait d'installer un régime stalinien. Selon eux, ce serait entraver une saine compétition menant à une innovation qu'ils ne cessent de vanter.  Quand Zuckerberg affirme très simplement qu'il est ok avec le fait de réglementer aux USA, comme cela se fait en Europe avec la RGPD, les sénateurs le font répéter tant ça leur paraît hallucinant qu'on puisse être "pour" une telle réglementation.

Tout ça pour dire qu'aux USA leur niveau de tolérance de l’exploitation des datas n'est pas le même que le nôtre en Europe : pour eux, c'est normal, c'est bon pour l'économie et l'évolution du pays, il n'est pas question non plus que Facebook "censure" ce qui pourrait avoir été repéré comme de la désinformation, parce que ça serait selon eux une atteinte à la liberté d'expression (le rapport à la liberté d’expression est très différente par contraste avec la France par exemple). Ce que j'ai pu voir au travers des auditions aux États-Unis, c'est que bien que les démocrates aient un avis différent et prônent une réglementation et un empêchement des entreprises type CA/SCL à se comporter comme dans le Far-West, les deux bords politiques se sont tout de même accordés sur le fait de punir Facebook, de voir Facebook comme responsable de l'affaire Cambridge Analytica.

Alors, est-ce que vraiment, comme l'affirme Kogan, le scandale Cambridge Analytica ne serait qu'un mythe de science-fiction et que les chercheurs en psycho' auraient arnaqué cette entreprise et d'autres avec leurs méthodes psychographiques et modèles de déduction de la personnalité qui ne serait que de "l'huile de serpent" ? En étudiant cette question, on va en profiter pour explorer tous les arguments affirmant que l'affaire Cambridge Analytica ne serait pas si scandaleuse, qu’au fond on aurait amplifié son rôle et son influence quant aux affaires qu’on lui a associé.

⁵⁵Ou « apprentissage automatique » c’est une sous-catégorie du domaine scientifique de l’intelligence artificielle. Cela consiste à s’occuper d’algorithmes découvrant des patterns, c’est à dire des schémas récurrents dans des ensembles de données.

⁵⁶Un champ qui analyse et modélise des masses de données issue de la biologie, développe des nouvelles méthodes d’analyse.

⁵⁷Ou « apprentissage profond », il s’agit d’une pratique d’intelligence artificielle de machine learning qui passe par le déploiement d’un réseau de neurones artificiels.

⁵⁸Mesure des caractéristiques psychologiques des individus.

⁵⁹Propos de Kogan aux parlementaires anglais : https://www.youtube.com/watch?v=CE0J74PDDgQ

⁶⁰Peut-être est-ce là qu'il a la première fois utilisé son API mesurant la triade noire conçue avec des chercheurs de St-Petersbourg ? C'est juste une possibilité que je soulève parce que l'utilisation de ces variables m'interroge depuis le précédent article, étant donné que cette mesure a été utilisé ensuite pour mobiliser sournoisement l'alt-right, à coup de fausses pages Facebook et d'organisation de rassemblement IRL.

⁶¹Psychologie de la personnalité, Michel Hansenne, 2021.

⁶²Private traits and attributes are predictable from digital records of human behavior Michal Kosinski, David Stillwell, Thore Graepel 2013 https://www.pnas.org/content/110/15/5802

⁶³Le test se nommé "My personnality", la personnalité y est mesurée avec le IPIP,  l’intelligence avec des matrices de Raven, la satisfaction de vie a été aussi mesurée.

⁶⁴Psychologie de la personnalité, Michel Hansenne, 2021.

⁶⁵https://www.wired.com/story/the-man-who-saw-the-dangers-of-cambridge-analytica/

⁶⁶Personality, Gender, and Age in the Language of Social Media: The Open-Vocabulary Approach H. Andrew Schwartz, Johannes C. Eichstaedt, et coll., 2013 https://www.scinapse.io/papers/2119595472

⁶⁷https://www.wired.com/story/the-man-who-saw-the-dangers-of-cambridge-analytica/

⁶⁸Rapporté par les parlementaires anglais ici : https://www.youtube.com/watch?v=CE0J74PDDgQ

⁶⁹https://www.youtube.com/watch?v=CE0J74PDDgQ

⁷⁰https://www.c-span.org/video/?447132-1/senate-committee-examines-cambridge-analytica-partnership-facebook

⁷¹"Nasty" ; ce n'est pas une qualification si déplacée de la part des parlementaires anglais, rappelons qu'on parle de politiciens pour certains hautement homophobes voulant enlever des droits aux gays. Même les républicains s'en méfiaient, surtout à l’époque où Kogan et Wylie étaient en contact avec eux.

⁷²https://www.wired.com/story/the-man-who-saw-the-dangers-of-cambridge-analytica/

⁷³https://www.newscientist.com/article/2168713-huge-new-facebook-data-leak-exposed-intimate-details-of-3m-users/

⁷⁴ Guardian News, Cambridge Analytica's Aleksandr Kogan faces parliamentary questions, 2018. https://www.youtube.com/watch?v=CE0J74PDDgQ

⁷⁵ Guardian News, Cambridge Analytica's Aleksandr Kogan faces parliamentary questions, 2018. https://www.youtube.com/watch?v=CE0J74PDDgQ

7. Pourquoi l’affaire CA est bien une manipulation se basant sur la prédiction de la personnalité

Réponse aux arguments faisant passer le scandale CA pour une non-affaire

Et si l’affaire Cambridge Analytica n’en était pas une, et que tout ce dont on a parlé, ça serait du flan ? Et si en fait, son PDG Nix n’avait fait qu’arnaquer ses clients en étant dans l’hyperbole et que  ces stratégies d’influence politique n’avaient rien de particulier comparé aux autres, qu’il n’y avait pas de manipulation ?

Aujourd’hui, on explore des arguments qui ont été soulevés par les concernés eux-mêmes, que ce soit Kogan le psychologue de l’équipe, Nix le PDG, des républicains ayant bénéficié du travail de CA ou encore par certains « experts ». On va en profiter pour commencer à parler de ce qu’est la personnalité, en abordant celle des autoritaires de droite, comment on peut la « prédire », y compris sans le recours à l’intelligence artificielle ou aux données des réseaux sociaux. On reviendra sur ce qu’est la persuasion, les psyops, la manipulation.

« La prédiction de la personnalité ça marche pas ! »

Kogan dit⁷⁶ que les corrélations entre vraies valeurs d’un test de personnalité  et valeurs prédites par algorithme ne sont vraiment pas terribles, et donc que la prédiction de la personnalité à partir de la captation des données des réseaux sociaux ne fonctionne pas bien.

Je suppose qu'il se réfère aux études de Kosinski, car effectivement dans ses articles de 2013, les corrélations sont assez basses pour la majorité des traits (sur l'image en bas 0,3 environ pour la stabilité émotionnelle, l'agréabilité et la conscienciosité) seule l'ouverture est légèrement plus honorable (0,43 ; et en plus ça se rapproche d'une corrélation test/retest à 0,55). [tu pourrais remettre ton schéma qui explique la force des corrélations]

Idem, David Sumpter, un chercheur en mathématiques ayant eu accès aux données anonymisées de Kosinski a essayé de reproduire la prédiction et il trouve à peu près la même chose : sur la majorité des traits, la prédiction est à peine meilleure que le hasard, excepté encore une fois pour la prédiction de l'ouverture qui s'en sort mieux. Sumpter est en contact régulier⁷⁷ avec Kogan, et adhère à son récit, pour finir par conclure :

"L'histoire de Cambridge Analytica est à mon avis principalement un sujet d'hyperbole. C'est l'histoire d'une entreprise qui exagère apparemment ce qu'elle peut faire avec les données. Alexander Nix a lui-même admis avoir "parlé avec une certaine hyperbole" de ce que fait CA. "

Outnumbered : Exploring the Algorithms That Control Our Lives, David Sumpter, 2018.

Mais sur l'étude de Kosinski on remarque que les autres prédictions, sont assez puissantes  (par exemple celle de deviner le bord politique de la personnes ou sa couleur de peau, avec des corrélations entre vrais valeurs et valeurs prédites à plus de 0,85, voir image plus bas) : or c'est exactement deux points qui ont été utilisés pour cibler des afro-américains démocrates avec des vidéos où Clinton était présentée comme raciste, dans le but de les décourager à voter pour elle. Que la prédiction de personnalité fonctionne ou non, cela n'a pas empêché CA de cibler efficacement et d’avoir des méthodes manipulatoires, ce n'est pas un argument qui prouverait l’inefficacité des manœuvres de CA. Idem pour l'affaire Trinité, la cible étant fonction de l'âge.

Sumpter a découvert la même chose avec ses données, le bord politique est identifié très correctement sur la base de likes :

 " Dans huit tentatives sur neuf, la régression identifie correctement les opinions politiques de l'utilisateur de Facebook. Le principal groupe de likes qui identifie un démocrate était Barack et Michelle Obama, National Public Radio, TED Talks, Harry Potter, la page Web I Fucking Love Science et des émissions d'actualité libérales comme The Colbert Report et The Daily Show . Des républicains comme George W. Bush, la Bible, la musique country et western et le camping."

Outnumbered : Exploring the Algorithms That Control Our Lives, David Sumpter, 2018.

Il pousse même un peu plus loin en supprimant du calcul les likes évidents :

"Il n'est pas surprenant que les démocrates aiment les Obama et le rapport Colbert ou que de nombreux républicains aiment George W. Bush et la Bible. J'ai donc essayé de voir si je pouvais casser le modèle de régression en retirant certains des « j'aime » évidents du modèle et en effectuant une nouvelle régression. À ma grande surprise, le modèle fonctionnait toujours avec une précision de 85 pour cent, seulement une légère réduction des performances. Maintenant, il utilisait des combinaisons de goûts pour déterminer les affiliations politiques. Par exemple, quelqu'un qui aimait Lady Gaga, Starbucks et la musique country était plus susceptible d'être un républicain, mais un fan de Lady Gaga qui aimait aussi Alicia Keys et Harry Potter était plus susceptible d'être un démocrate.

C'est là que la compréhension multidimensionnelle acquise en utilisant beaucoup de « j'aime » produit des résultats inattendus et utiles.

Ce type d'information pourrait être très utile à un parti politique. Au lieu que les démocrates concentrent une campagne uniquement sur les médias libéraux traditionnels, ils pourraient se concentrer sur l'obtention du vote parmi les fans de Harry Potter. Les républicains pourraient cibler les personnes qui boivent du café Starbucks et les personnes qui font du camping. Les fans de Lady Gaga doivent être traités avec prudence des deux côtés."

Outnumbered : Exploring the Algorithms That Control Our Lives, David Sumpter, 2018.

Même si Sumpter qualifie le travail de CA d'hyperbole (sur la détection de personnalité), ses résultats prouvent tout de même le contraire (sur la capacité de cibler sournoisement à des fins politiques) : on peut microcibler les personnes via des informations personnelles calculées correctement comme en lien à tel bord politique. Peut-être que la prédiction de personnalité est une hyperbole, mais il n’empêche que leur microciblage et les sournoiseries s'en suivant peuvent être très efficaces pour supprimer des votes, inciter certains à l'abstention, mobiliser d'autres. De plus, il n’est pas nécessaire que ces méthodes soient incroyablement efficaces, car les élections se jouent à quelques points ; ainsi même si ces méthodes ne fonctionnent que pour un faible pourcentage de personnes ciblés, c’est largement suffisant pour retourner une élection. Autrement dit, même si le modèle de prédiction était un peu bullshit, ça n’enlèverait rien au fait que les pratiques de CA sont scandaleuses de par leur intrusion, leur jeu avec les données, les manœuvres de manipulation.

De plus,  un manipulateur  n'a pas pour but de respecter et réaliser des outils scientifiques de manières rigoureuse avec de beaux résultats statistiques,  mais de contrôler ses cibles. Il pourrait néanmoins déduire la personnalité à partir de l'information "démocrate" ou "républicain" et l'utiliser. Or, personne parle du fait qu'un manipulateur ne se gênerait pas pour déduire la personnalité, à partir du bord politique de la personne, ce qui est pourtant assez renseigné dans la littérature scientifique.

Déduire la personnalité à partir du bord politique

L'ouverture est le trait de personnalité qui renseigne le mieux sur le potentiel bord politique des personnes, parce qu'il comporte notamment une facette nommée "ouverture aux valeurs" mesurant le progressisme s’il est très haut, et le conservatisme s’il est très bas. Le manuel du Neo-Pi-3⁷⁸ qui le mesure décrit cette facette comme la disposition à remettre en question les valeurs sociales, politiques et religieuses. Les individus bas sur cette facette ont tendance à accepter l’autorité et à suivre les traditions. En conséquence, ils sont souvent conservateurs. L'ouverture aux valeurs est considérée comme l'opposé au dogmatisme.

Les traits et leurs facettes à droite, les résultats d’une personne au milieu. On voit  qu’on peut être plus ou moins haut sur chaque facette. Par exemple ici la personne tend à être moyenne en conscienciosité (conscience) en général, mais on voit qu’elle est très basse en « sens du devoir » comparé aux autres facettes de Conscienciosité. C’est très intéressant de mettre cela en parallèle les autres facettes pour comprendre cette personne.  La personnalité peut donc être très variée, puisque les personnes peuvent différer entre elles sur 30 facettes différentes, que dans un même trait il peut y avoir des points haut, bas, moyen. A noter qu’à travers le temps, il peut y avoir aussi des changements importants de ces facettes et traits selon ce qu’à vécu la personne. Source  : NEO-PI-R, inventaire de la personnalité-révisé, HTS report, Hogrede

Donc, si on a l'information qu’untel est républicain, on peut supposer qu'il sera probablement bas en ouverture, notamment sur cette facette. On peut déduire cette facette à partir de l'appartenance politique, sauf si cette appartenance est erronée : parfois des gens peuvent se dire de gauche et avoir des valeurs de droite, voire des comportements d’extrême-droite "sévère", en s'attaquant à leur exogroupe. Or ici, et c'est là où est tout l'avantage pour un manipulateur d'une détection par algorithme de cette catégorie, ce n'est pas la personne qui s'est auto-déclarée républicaine, c’est l'algorithme qui a détecté des points de données qui font d'elle quelqu'un de républicain, sans même qu'on puisse deviner que ces points de données puissent être caractéristique du groupe républicain. Par exemple, selon les résultats de Sumpter, cette personne serait détectée républicaine en partie parce qu’elle aimerait lady gaga + le camping (mais pas lady gaga + harry potter, ce serait potentiellement le goût d’un démocrate). Cela peut apparaître assez ridicule lorsqu'un papier de recherche sort une étude de ce genre, et pourtant c'est très utile à des manipulateurs qui ciblent des groupes et peuvent exploiter ces informations pas si ridicules qu’elles n’en ont l’air.

Il y a d'autres indices politiques plus fin juste avec les big five ; dans le manuel d'analyse du Neo pi 3, on trouve explicitement des catégories politiques qui couple les traits "ouverture" et "agréabilité" :

- Le O+A- (haut ouvert + bas agréable) sera qualifié de "penseur libre",  ce sont des personnes ayant une pensée critique qui ne tient pas compte des traditions ni ne se préoccupe de la perspective des autres, ils suivent leurs propres idées qui les concernent eux.  (en France, je pense qu'on qualifierait ces personnes de libertarien, ça peut pencher parfois à gauche, parfois à droite selon leurs intérêts personnels).

- Le O+A+ (haut ouvert + haut agréable) y est qualifié de "progressiste" ce sont des personnes qui ont une approche réfléchie des problèmes sociaux et souhaitent trouver des solutions nouvelles. Ils considèrent la nature humaine comme davantage positive et sont persuadés que la société peut être améliorée par l'éducation, l'innovation et la coopération.  On est ici sur un profil typiquement de gauche.

- Le O-A+ (bas ouvert + haut agréable) est qualifié de « traditionaliste ». Il a tendance se fier à valeurs conservatrices, à des croyances familiales et aux traditions ; il est persuadé que s'en tenir aux règles établies est le meilleur moyen de garantir la paix et la prospérité pour tous.  On est sur un pan de droite, ce sont les personnes que CA visaient comme républicaine. Elles sont potentiellement autoritaires de droite, type RWA

- Le O-A- (bas ouvert + bas agréable) est qualifié de « croyant résolu ». Il a des croyances fermes et immuables sur la société et la moralité, sur la nature humaine qui serait négative, il prône une discipline stricte et approche musclées des problèmes sociaux. Ces individus attendent des autres le respect  strict des règles établies. On est sur un pan de droite.

« Style d’attitudes » Voici à quoi cela ressemble dans les rapports, source :  NEO ™  Personality Inventory-3 Interpretive Report Developed By Paul T. Costa, Jr., PhD, Robert R. McCrae, PhD, and PAR Staff

CA n'a donc pas été dans l'hyperbole lorsqu'elle dit cibler les républicains (ça a pu être très efficacement détecté par l'algo) et a pu les déduire en conséquence comme bas ouvert + haut agréable (quand bien même l'algo serait faiblard pour détecter ses traits), parce c'est quelque chose de connu via les tests eux-mêmes et il n'y a pas besoin de prédire les personnalités pour avoir cette information, qu'on peut trouver dans le manuel des big five. C'est amplement suffisant dans une optique de manipulation. Si l'identification républicaine est obtenue correctement, on peut tabler  sur une communication basée sur la haute agreabilité + basse ouverture en appuyant sur la tradition, la famille et en évitant soigneusement de vanter de nouvelles solutions créatives. C’est ce qu’ils ont fait, par exemple ici sur la question du port d’arme :

Première pub en haut, les cibles sont les « haut névrosisme » (qu’ils attirent avec l’image anxiogène du cambriolage)  « le second amendement n’est pas juste un droit. C’est une police d’assurance ». puis « défendez le droit de porter les armes  ». Deuxième pub pour les hauts consciencieux « De père en fils, depuis le naissance de notre nation. Défendez le second amendement.». 3eme pub pour les hauts agréables « ce n’est pas juste notre droit. C’est notre responsabilité. Défendez le second amendement. ».

Même si ce républicain ciblé est hors normes et est moins sensible à la tradition et plus ouvert à la nouveauté, comme une partie du ciblage est correcte, ça peut en partie marcher, donc cela vaut le coup de se baser sur ces données à des fins manipulatoires, quand bien même les corrélations scientifiques sont pas au top à ce sujet.

À noter que si on s'en tient au manuel du Neo pi 3, ils auraient⁷⁹ aussi pu tabler sur des bas ouverts et bas agréables prompts à voter républicain, si ceux-ci vantent des solutions punitives très fermes. Des solutions antisociales mais qui avantagent certaines populations contre d'autres (à somme nulle) pourrait aussi séduire potentiellement des libertariens qui n'auraient pas de scrupules à s'avantager eux-mêmes au détriment des autres.

CA visait les autoritaires de droite et on connaît leur personnalité

On pourrait aussi faire un chemin différent pour déduire la personnalité : à partir d’idéologie vantant le conservatisme politique, le nationalisme, l’ethnocentrisme, l’intolérance, la recherche scientifique a montré que c’était lié à des attitudes idéologiques d’autoritarisme de droite (RWA) et d’orientation à la dominance sociale (SDO), elles-mêmes accolés à des visions du monde comme étant dangereux (RWA) ou comme une jungle compétitive (SDO), et ces visions du monde sont liées à la fois à des circonstances particulières (un contexte social appuyant sur le danger, les menaces pour les RWA ; un contexte social compétitif, prônant les inégalités et la dominance pour les SDO) et la personnalité : les hauts SDO sont connus pour être bas en agréabilité et les hauts RWA haut en consciensiosité et bas en ouverture [alors pour les RWA, c’est surtout bas en ouverture qui prime, les corrélations sur la conscientisé étant bien positive, mais moins flagrante [Duckitt et Sibley 2009]).

Là encore, pas besoin de modèle de prédiction pour déduire quel type d’individu avec quelle personnalité va être plus enclin à se mobiliser pour les républicains. CA a très bien pu chercher dans les études sur l’autoritarisme de droite qui sont très fournies pour y déduire que ce serait les bas ouverts et haut consciencieux qui seraient les meilleurs soutiens des campagnes des républicains. L’argument que la prédiction de la personnalité est faillible n’est pas faux concernant l’algorithme, mais les connaissances en psychologie sociale et politique suffisent à faire des prédictions potentiellement très correctes qui lient personnalité et idéologie.

***

A noter que Chris Wylie a fourni aussi aux parlementaires anglais des réponses à cet argument, citant de nombreuses études sur la question des algorithme de prédictions  :

« "Il n'y a aucune preuve que le profilage psychologique fonctionne." Les études suivantes mettent en évidence l'efficacité de l'utilisation des médias sociaux, du langage naturel ou des données de parcours de navigation Internet pour le profilage psychologique ou la persuasion de masse :

Eichstaedt, J. C. et al. (2015). Psychological language on Twitter predicts county-level heart disease mortality.

Psychological Science, 26, 159–169

Kosinski et al. (2013). Manifestations of user personality in website choice and behaviour on online social networks. Journal of Machine Learning. DOI 10.1007/s10994-013-5415-y.

Kosinski, M., Stillwell, D., & Graepel, T. (2013). Private traits and attributes are predictable from digital records of human behavior. Proceedings of the National Academy of Sciences of the United States of America, 110, 5802–5805.

Kosinski, M. et al. (2016). Mining Big Data to Extract Patterns and Predict Real-Life Outcomes. Psychological Methods, 21(4), 493-506.

Kramer, A. D. I., Guillory, J. E., & Hancock, J. T. (2014). Experimental evidence of massive-scale  emotional contagion through social networks. Proceedings of the National Academy of Sciences of the United States of America, 111, 8788–8790.

Lambiotte, R. & Kosinski, M. (2014). Tracking the Digital Footprints of Personality. Proceedings of the IEEE, 102(12), 1934-1939.

Lewandowsky, S. et al. (2012). Misinformation and Its Correction: Continued Influence and Successful Debiasing.

Psychological Science in the Public Interest, 13(3), 106-131.

Matz, S. C. et al. (2017). Psychological targeting as an effective approach to digital mass persuasion. Proceedings of the National Academy of Sciences (PNAS), 114 (48) 12714-12719.

Mondak, J. et al. (2010). Personality and Civic Engagement: An Integrative Framework for the Study of Trait Effects on Political Behavior. American Political Science Review, 104, 85-110.

Nam, H. et al. (2013). "Not for All the Tea in China!" Political Ideology and the Avoidance of Dissonance-Arousing Situations. PLOS ONE, 8, e59837.

Nyhan, B. & Reifler, J. (2010). When Corrections Fail: The Persistence of Political Misperceptions. Journal of Political Behavior, 32, 303-330.

Quercia, D. et al. (2011). Our Twitter Profiles, Our Selves: Predicting Personality with Twitter. IEEE Third International Conference on Social Computing, 180-185.

Schwartz, H. A. et al. (2013). Personality, gender, and age in the language of social media: The open-vocabulary approach. PLOS ONE, 8, e73791.

Youyou, W., Kosinski, M., & Stillwell, D. J. (2015). Computer-based personality judgements are more accurate than those made by humans. Proceedings of the National Academy of Sciences (PNAS), 112, 1036–1040. »

« Ça ne sert à rien de prédire personnalité »

L'argument vient de Kogan et d'Eitan Hersh, professeur de sciences politiques qui a été auditionné par la commission judiciaire du sénat étasunien.

Pour Hersh, les indicateurs socio-démographiques classiques sont suffisants pour mobiliser les électeurs, et ceux-ci peuvent se trouver via l’accès aux listes électorales. Il serait donc inutile selon lui de chercher la personnalité des cibles :

« Selon les données que j'ai étudiées, la possession d'un bateau est corrélée au fait d'être républicain. Cependant, cela n'aide pas beaucoup une campagne car, dès lors qu'elle sait qu'une personne est, par exemple, un homme blanc de 55 ans vivant dans une riche enclave balnéaire à tendance républicaine, la campagne prédit déjà que cette personne est républicaine. Le champ commercial ne dit rien de nouveau à la campagne sur l'affinité partisane de l'électeur. Étant donné que les campagnes disposent d'une grande quantité de données démographiques et de voisinage provenant des archives publiques, et que certains des clivages les plus importants de la politique américaine se situent sur des lignes démographiques simples d'âge, de race, de sexe et de géographie, les données commerciales n'ajoutent pas toujours autant de valeur aux efforts de mobilisation des campagnes qu'il n'y paraît à première vue »⁸⁰ 

Et il n'a pas tort : on a vu que plein de manœuvres de CA se reposent principalement sur ces données socio-demographiques, qui sont suffisantes pour construire des dissuasions à voter par exemple.

Mais si on veut accroître l'efficacité de manipulations (ou d'exploitation), connaître la personnalité des personnes n'est clairement pas inutile.

Ce qu’est la personnalité

Pour comprendre l’intérêt de savoir la personnalité de cibles, il y a à comprendre ce qu'est la personnalité en général, selon les big five (ou « modèle à 5 facteurs » ou « modèle OCEAN »), et comment elle fonctionne. Voici un résumé issu de mes fouinages (cf sources à la fin de cet article)  à ce sujet :

- Les mesures du modèle à 5 facteurs sont relativement universelles, même s'il y a des débats à ce sujet concernant la pertinence de la mesure dans certains pays, cultures ou langage. C'est un avantage pour un manipulateur pour obtenir des mesures à peu près correcte, surtout s'il vise des pays occidentaux, les tests donneront des informations valides qu'importe l'âge, le genre, la profession de la personne.

- Les traits et facettes mesurées par les modèles à 5 facteurs représentent un ensemble d'adaptations caractéristiques culturellement conditionnées parce qu'ils visent à répondre aux exigences de l'environnement et sont caractéristiques parce qu’ils reflètent les dispositions sous-jacentes de la personne.

Autrement dit, bien que les traits auraient une base héritable, ce n'est pas inné et inflexible tout au long de la vie la personne : par exemple, l'ouverture peut avoir été cultivée par la famille/les proches (culturellement conditionnée) inclus dans le pack de « bons » comportements et d'attitudes corrects à avoir, parce que ça permettait de bien vivre dans cette famille, d'être bien perçu ou d'être à l'aise dans tel type d’école à telle époque (l'adaptabilité). On peut aussi avoir des bases neurophysiologiques qui ont plus ou moins facilitées cette adoption d'une haute ouverture, tout comme l'expérience quotidienne et répété des comportements ouverts a pu nous transformer d'un point de vue neurophysiologique. A force d'exercer sa curiosité et d'en retirer personnellement des bénéfices émotionnels, cognitifs, la curiosité devient comme « naturelle », c’est comme un réflexe face à la nouveauté. Et si c’est la basse ouverture qui a été cultivée à travers les environnements sociaux, alors on aura entretenu une méfiance face à la nouveauté et une confiance face aux habitudes, aux traditions, et tout ceci sera vécu comme une sorte de réflexe inconscient qui nous mobilise ou démobilise.

La personnalité est caractéristique de la personne parce que ça reflète ses dispositions, c'est-à-dire le fait qu'elle soit encline à faire ceci et pas cela : par exemple, un extraverti (haut sur toutes les facettes d'extraversion) sera plus enclin à choisir une soirée festive avec beaucoup de monde et un gros son sur lesquels il pourra danser, qu'une petite soirée toute tranquille entre très peu d'amis dans un immeuble où l'on ne peut pas faire trop de bruit. Ce sera le contraire pour un introverti. (bas sur toutes les facettes d’extraversion).

La personnalité est donc à la fois très modelée par le social (à travers les différents conditionnements culturels rencontrés dans notre vie et le besoin de s'adapter à des environnements sociaux) et est endossée comme personnelle, reflétant notre identité puisque les traits nous conduisent à faire certains choix contre d’autres.

Autrement dit, quand un manipulateur obtient des informations sur notre personnalité il peut facilement deviner nos préférences de choix et jouer là-dessus : pour vendre du ketchup au haut ouvert, il lui vantera ses éléments innovateurs ou des caractéristiques très spéciales comparés au ketchup habituel, tentera de susciter la curiosité avec un packaging jamais vu. Pour le bas ouvert, il dira que c'est la recette traditionnelle du ketchup d'antan, appuiera sur le fait que la marque a des centaines d'années d'existence. Et selon notre personnalité on choisira davantage l’un ou l’autre, et cela vaut pour le choix du ketchup comme du parti politique pour lequel voter : les dispositions comptent, un haut ouvert ne sera aucunement séduit par une campagne politique vantant un statu quo traditionnel ou un retour en arrière, tout comme un bas ouvert verra avec forte méfiance une campagne politique accès sur un progrès dépassant la tradition.

Comme la personnalité n'est pas qu'une question personnelle, qu'elle est culturellement conditionnée, le fait de savoir qu'untel est haut ouvert permet de prédire que ses parents le sont sans doute aussi, ou encore qu'il est ou a été dans un milieu et une culture qui valorise cette ouverture. C'est utile dans le cadre d'une manipulation sur Facebook où l'on voit littéralement l'environnement social de la personne avec ses "amis". On pourra deviner que les amis du bas ouvert risque d'être un peu comme lui, car il n'aime pas ce qui sort du lot, il est peu probable qu’il se lie d'amitié avec des gens extrêmement différents, là où pour le haut ouvert il y a plus de probabilités qu'ils se lient avec des gens totalement différents. Attention, ici je suppose comme le supposerait un manipulateur exploitant les recherches, je ne parle pas de résultats de recherches établies.

- Plus un trait de personnalité est très bas ou très haut, plus sa personnalité s’exprimera fréquemment de façon intense, persistante, s'exprimant en comportement.

L’ambivert par exemple (qui est moyen en extraversion, qui n’est donc ni complètement introverti ni complètement extraverti) n’aura pas des comportements très marqués et persistants : un coup il sera hyperactif et cherchera la foule, un coup il préférera la solitude et les activités calmes. C’est difficile de prédire son comportement.  Par contre, il sera plus facile de prédire que votre collègue très extraverti va adorer tel séminaire hyperactif, détester travailler dans ce bureau à l’écart des autres, ne pas hésiter à se lancer sur la piste de danse à telle soirée, amuser la galerie à la machine à café, etc.

Un trait très marqué (très haut ou très bas) facilite le travail des manipulateurs : on peut prédire aisément ce que cette personne va valider ou non, choisir ou rejeter, ce qu’elle va faire ou éviter de faire. Attention, cela ne veut pas dire pour autant que les traits « moyens » seraient plus enviables ou « mieux », c’est juste que leur comportement est moins caractéristique.

- Plus un trait est marqué et ancien, plus cela constitue un élément clef de l’identité de l’individu, plus il le revendique, plus il ne retient que les aspects positifs. Il peut trouver cela "naturel" ou "évident", notamment les visions du monde qui en découlent.

Par exemple, les chercheurs⁸¹ citent qu’une personne méfiante (une facette de la basse agréabilité) peut estimer que la méfiance est une qualité, un atout dans le monde  qu’elle considère comme dangereux.

Les manipulateurs auront donc tendance à viser les personnes dont les traits sont marqués parce que le comportement est plus sûrement prédictible, ce qui a semblé être le cas chez CA (les principales cibles à mobiliser pour les républicains étant les bas ouverts ; à désinformer/manipuler en faveur de l'alt-right les hauts en nevrosisme), les personnes aux traits moyens étaient considérées comme des « wildcard » (joker), qui pouvaient changer du tout au tout  et n'étaient pas la cible prioritaire.

- Mais une tendance forte peut ne pas s'exprimer dans toutes les situations, ça peut être modéré par d'autres traits, d'autres paramètres personnels (intérêts, valeurs) ou par la situation.

Par exemple, le haut extraverti peut tout à fait chercher le calme par moment, apprécier les lieux plus intimistes, être tranquille et en recueillement à un enterrement. La personnalité n’est pas le déterminant de tous les comportements, même si un trait est marqué. On peut aussi s’être habitué à des comportements qui divergent de notre personnalité. Par exemple, un introverti peut sociabiliser comme un extraverti lorsqu’il intègre un nouvel environnement parce qu’il a pris cette habitude pour mieux être inclus. Un bas agréable, même s’il vous dira sans complexe (voire avec fierté) qu’il déteste les gens, peut être très serviable, sympa et aimable lorsqu’on l’invite chez soi. Peut-être qu’il a pris cette habitude ou que c’est une valeur  qu’il a appris à aimer et cultiver.  

Ce point est important à retenir dans une démarche de défense contre la manipulation, mais aussi en terme d’autodétermination et d’empuissantement : notre comportement peut être auto-modulable d’une part par des habitudes auxquelles on peut s’entraîner, d’autre part par des valeurs qu’on peut nourrir. Ces deux points, c’est se donner les règles du jeu qu’on veut jouer, on a ici un espace de liberté quant aux déterminations si on expérimente, si on vit concrètement ces habitudes et valeurs. Et pour ceci, le mieux est de chercher un environnement qui permet l’exercice de ces habitudes et valeurs, dans lequel ses valeurs et ses habitudes sont acceptées : par exemple si on est dans une timidité sociale (une facette du nevrosisme), qu’on veut prendre l’habitude d’être à l’aise avec les gens, évidemment ça ne servira à rien de cultiver juste l’idée que c’est cool d’être à l’aise avec les gens. Il y a à trouver un environnement où il y a beaucoup d’opportunités à sociabiliser, avec des gens à l’aise et aimant échanger, avec des personnes modèles de non-timidité sociale, où il n’y a pas de jugement négatif ou des sanctions de la timidité (sinon ça bloquerait tout apprentissage, parce qu’un apprentissage  efficace demande de pouvoir souvent échouer sans que cela ait des conséquences graves).

-  Les traits ne sont pas des déterminants absolus, ce sont des dispositions

"Les exigences des rôles sociaux que nous jouons, les faits de la situation actuelle, l'humeur du moment et les habitudes acquises contribuent tous à façonner le choix d'un acte, d'une motivation ou d'une réaction émotionnelle particulière" McCrae Costa personality in adulthood

IRL, même si on a des traits très marqués, des tonnes de choses peuvent rendre notre comportement imprédictible. Par exemple, on pourrait être très bas en conscienciosité et pourtant agir de façon ordonnée - donc hautement consciencieuse - au travail, parce qu'on a appris et pris l'habitude d'agir ainsi pour satisfaire ce rôle social de salarié, ne pas avoir de problème, être tranquille plus rapidement. Inversement, on peut être hautement consciencieux et être volontairement désorganisés dans des tâches imposées que l’on estime contraires à ses valeurs (voir par exemple dans une démarche de sabotage social.

C'est pourquoi aussi les manipulations ont souvent cours dans un environnement sur lequel le manipulateur à un certain contrôle ou qui est très délimité en terme de possibilités. Cela facilite son calcul pour amorcer tel type de comportement chez la cible, c'est plus facile de s'informer sur un type d'environnement très cadré et limité (par exemple, le travail). Ce serait incroyablement plus difficile de chercher à manipuler une cible à la fois au travail, chez elle, sur ces trajets, chez des amis et proches, etc., parce que ça nécessiterait de comprendre toutes les règles de ces environnements, les habitudes singulières que l’individu y a (potentiellement très différentes de ce qu’on attendrait de sa personnalité), cela demanderait de comprendre l'influence des différentes personnes en présence et comment la cible joue de façon singulière dans chaque type d'environnement.

Œuvrer sur les réseaux sociaux comme la fait CA facilite la manipulation mais aussi la prédictibilité. L'algo détecte la personnalité en contexte, contrairement aux questionnaires classiques où la personne répond aux questions en mélangeant les contextes.

Un exemple d’item utilisé dans l’app de Kogan « je panique facilement », la personne y note son degré d’accord de tout à fait en désaccord à tout à fait d’accord. Pour répondre, elle va passer en revue très certainement plein de contextes où elle a pu paniquer ou ne pas paniquer, que ce soit des accidents domestiques, des accidents au travail, dans la rue ; des problèmes de gestion, de maladie, des situations stressantes, que cela la concerne ou pas, etc. Elle opère une sorte de moyenne entre toutes les situations et compare sa réaction à celle des autres (ex, tout le monde paniquait mais pas elle ; ou encore elle paniquait toute seule la plupart du temps, etc). Si l’item était « je panique facilement sur Facebook » alors on aurait peut-être des résultats encore plus proches entre algo et questionnaire, puisqu’on mesurerait la personnalité en situation qui diffère de la personnalité dans une autre situation (par exemple, la personne panique beaucoup dans son nouveau travail, mais pas du tout sur les réseaux sociaux)

Sur un réseau social, la cible peut être disposée à y partager certains traits et pas d'autres, elle peut avoir une identité propre à la situation sur Facebook. Par exemple, de nombreuses personnes ne vont partager que leurs réussites ou joies pour bien paraître, alors que par ailleurs, elles vivent une catastrophe⁸², parce qu'elles veulent apparaître joyeuses sur les réseaux. En conséquence, pour renforcer cette image, on peut prédire qu'elle ne va pas partager ou liker certains contenus fatalistes, parce que ça serait associer quelque chose de négatif à son image.

Ce petit mensonge - ou « branding personnel » - n'est pas un problème pour organiser une manipulation : ce qui compte pour le manipulateur c'est de savoir comment veut apparaître la personne, donc quel trait elle active sur la situation de tel réseau social. Qu'importe l'amplitude réelle de sa personnalité. Quand CA cible les impulsifs pour les exposer à des fausses pages et des contenus, elle cherche à capter leur impulsivité sur le réseau social parce que ça va participer à relayer les contenus qu'elle lui propose. Qu'importe si la personne n'est impulsive au final que sur les réseaux sociaux qu'elle utilise peut-être comme un défouloir, l'important c'est de saisir correctement sa personnalité en contexte, parce que celle-ci est liée à des comportements effectifs. Et comme on l'a vu précédemment, peut-être que l'algo de détection est une façon plus sûre de capter cette personnalité en contexte, plus qu'un test qui mesure la personnalité en général. Si le but est la manipulation, alors les personnes n'ont pas besoin de la fiabilité scientifique d'une personnalité, mais celle liée au contexte particulier où se déroulera la manipulation.

« On ne peut pas persuader les gens »

Hersh argue qu'il est quasi impossible que CA ait pu réussir à persuader quiconque. Pour comprendre sa critique, il distingue la mobilisation/démobilisation qui consiste à se mobiliser à voter pour le candidat qu'on préfère ou inversement. Hersh ne critique pas la valeur des campagnes de CA pour mobiliser/démobiliser, mais sa capacité à persuader :

" La persuasion est la tentative d'une campagne de trouver des citoyens qui sont susceptibles de voter, mais qui ne savent pas pour qui ils vont voter ou qui ont l'intention de soutenir l'autre camp, et de transmettre des messages pour faire changer d'avis ces électeurs. La persuasion diffère de la mobilisation en ce qu'elle est beaucoup plus difficile. La persuasion est une disposition instable. [...] Un message vu par un électeur peut être persuasif pendant un moment fugace, puis se perdre dans la cacophonie des publicités, des informations et des messages politiques qui remplissent le fil d'actualité de Facebook."⁸³

Il explique qu'en plus, le vote étant tenu secret, les personnes faisant campagne ne peuvent pas savoir ce qui a marché pour persuader ou non.

"la définition de Cambridge Analytica d'un électeur persuadable est une personne qui est susceptible de voter, mais la campagne n'est pas sûre de savoir pour qui elle va voter. Il s'agit d'une convention de campagne courante pour définir la persuadabilité. [...] Définir simplement une liste cible comme des personnes susceptibles de voter mais dont la campagne ne sait pas pour qui elles vont voter est une approximation extraordinairement grossière des électeurs persuadables. C'est une approximation que de nombreuses campagnes ont longtemps utilisée pour la simple raison que la disposition psychologique de la persuasion à un moment donné pour un candidat donné est difficile à mesurer.

 En effet, je n'ai vu aucune preuve présentée par l'entreprise ou par quiconque suggérant que les stratégies de l'entreprise étaient efficaces à cet égard."⁸⁴

Le problème ici, c'est qu'il a une vision trop honorable de la persuasion comme étant une nouvelle conviction qui se maintiendrait dans le temps : et effectivement une nouvelle valeur qui s'internaliserait totalement est rare, et si elle advient, elle prend du temps à s'installer pleinement chez la personne. Elle est classiquement difficile à mesurer selon ces définitions, mais en psycho on pourrait très bien mesurer ça avec un questionnaire distinguant les différents types de motivations (de la moins forte à la plus ancrée durablement) à voter pour X ou Y.  Cependant, à quoi bon puisque la majorité des campagnes n'a pas pour but premier de persuader pleinement les personnes mais d'obtenir le comportement "vote pour x".?

 On l'a vu dans les études sur l'autodétermination⁸⁵, la majorité des comportements sont plus généralement suivis par introjection (pour bien paraître, éviter la honte, éviter l'ostracisation ; voir schéma ci-dessous, à régulation introjectée) et non pas parce que la personne l'aurait décidé pleinement pour son existence (régulation intégrée/identifiée). Donc, pour amener quelqu'un à voter X, il n'y a absolument pas besoin de changer ses convictions sur le long terme, le convaincre, le persuader durablement (ce qui serait une régulation intégrée ou identifiée). Wylie l'a bien expliqué, il suffit de le mettre en colère (parce que d'une part cela suspend les capacités à bien analyser sur le moment, mais la colère est aussi connue pour donner de l'énergie à agir), lui offrir un récit qui lui permet de projeter ses angoisses sur autrui et on obtiendra des comportements. Et c'est nettement plus puissant si on cible prioritairement des profils connus pour leur impulsivité sur les réseaux sociaux.

Ces comportements ont été mesurés par taux de conversion qui mesure l’engagement :  non seulement les gens ont regardé la publication mais plus encore se sont engagés par la suite (inscription au parti, signature d'une pétition...) ; et ce taux de conversion était beaucoup plus important que dans le marketing classique (Wylie parle⁸⁶ d'environ 8 à 10% pour la campagne pro-brexit de CA/SCL/AiQ). Il y a donc effectivement des preuves, pas de la persuasion qui serait très difficile à obtenir, mais de comportements servant la campagne. Par ailleurs, SCL/CA a eu des victoires totalement calculables selon leur action, comme celle à Trinité-et-tobago qui comptait sur un taux d'abstention chez tel type de tranche d'âge et qui l'a obtenu. La persuasion était hors de propos, il n'y avait pas besoin que les jeunes soient convaincus du bienfait de l'abstentionnisme, mais juste qu'ils soient baignés ponctuellement et positivement dans une atmosphère sociabilisante autour du fait de ne pas voter.

Ceci étant dit, oui, sémantiquement Alexander Nix est dans l'hyperbole lorsqu'il dit que CA réussit à persuader, le terme le plus exact de ce que faisait CA/SCL était d'obtenir certains comportements servant à leur campagne et à leurs clients, mais ces comportements n'étaient que de l'ordre de mobiliser ou démobiliser à voter, ils pouvaient être de liker des contenus, les partager, s'investir dans des faux groupes, se rencontrer IRL. Et ces comportements mis bout-à-bout  faisaient que cela aider les personnes à se persuader elle-même des récits. Parce que c'est là la clef de la persuasion réussie : personne ne peut forcer la persuasion avec un pub ou un discours,  même lorsqu’ils sont extrêmement bien conçus. Au mieux, le manipulateur obtiendra des réactions émotionnelles, mais les émotions et leurs effets ne sont pas durables. L'adoption d'une conviction sur le long terme se fait par la personne elle-même, toujours. Ainsi le manipulateur ne cherche jamais à convaincre, il va juste manipuler les situations, les contextes, les objets du contexte pour fabriquer un environnement social particulier avec certaines limites (par exemple tout contenu provenant d'un environnement extérieur sera vu comme adversaire) où la personne se comportera tel qu'il l'entend. Et progressivement la personne s'adaptera à cet environnement et adoptera elle-même certaines idées, comportements, etc. On ne change pas une personne, c'est la nature de son environnement qui l’a fait se décider de se changer elle-même. Donc on manipule toujours une situation, un environnement, un contexte.

« Il n'y a pas de manipulation pas de psyops, c’est de la science-fiction »

C'est quelque chose qui revient souvent, par exemple on l'a vu chez les politiciens clients de CA à Trinité et Tobago, chez Kogan, et il qualifie les allégations contre CA de "science-fiction". Nix se justifie en disant qu'il était dans l'hyperbole tout le temps⁸⁷, terme repris par des experts amis avec Kogan qui citent l'affaire  en tant que "cambridge hyperbolica"⁸⁸. A présent, grâce à la quantité de preuves dont on dispose à travers des centaines de pages de documents internes et d'enquêtes, par les investigations très poussées par l'ICO ou la commission parlementaire anglaise, il est tout simplement erroné ou hypocrite de faire comme si CA/SCL n'avait rien fait de sournois. Quand bien même on pourrait ergoter longtemps sur la puissance ou l'impuissance du modèle de prédiction, ou n'importe lequel de leurs outils, ce n'est pas là ce qui a conduit aux faits les plus graves en terme de manipulation des électeurs et d’irrespect des règles démocratiques. Un modèle de prédiction efficace aurait pu être utilisé de façon vertueuse, ce n'est pas le "mal" en soi, ce sont les opérations de CA qui sont le problème. Idem, les débats possiblement sans fin sur  « est-ce que ça a vraiment persuadé les électeurs ou pas » soulèvent certes des questions intéressantes, mais contrairement à certains experts, je pense que même si on pouvait prouver que ce qu'a fait CA était sans effet, ça n’enlèverait rien à la gravité de leurs méthodes, parce que ça resterait une manipulation qui s'oppose directement aux principes démocratiques, à l'intégrité des personnes.

Une étude de Bakir (2020) permet de bien montrer en quoi les opérations de SCL/CA sont manipulatoires et qualifiables de psyop.

Qu'est ce qu'une psyop ?

Bakir cite la définition de Simpson (1994) qui décrit ces opérations psychologiques (psyop) comme étant coercitives⁸⁹ , liant à la fois communication de masse et application sélective de la violence comme moyen d'atteindre des objectifs idéologiques, politiques ou militaires en exploitant les attributs culturels et psychologiques d'un public cible et de son système de communication.

A cela, Bakir rajoute que la violence n'est pas le seul moyen de coercition :

« La coercition peut également prendre la forme d'une limitation délibérée des choix des personnes en les faisant se sentir ou se comporter d'une certaine façon.  Les psyop peuvent être donc un travail de propagande conçu pour induire certaines émotions et susciter certains comportements chez les publics cibles (Briant, 2015) »⁹⁰

Donc profiler et cibler de façon psychographique, avec une énorme masse de données comme l'a fait CA, est coercitif, par exemple lorsqu'ils modulent " l'exposition des personnes à l'information de manière à contraindre leurs choix et leur comportement".

Pour bien comprendre en quoi c'est un problème, on peut comparer cela à une communication persuasive politique respectant la personne et le principe démocratique :

" La communication persuasive, pour éviter d'être propagandiste, devrait être guidée par le principe du consentement éclairé. Cela exige que trois conditions soient remplies. Premièrement, des informations suffisantes doivent être fournies pour permettre des jugements éclairés. Deuxièmement, ces informations doivent être de nature non trompeuse afin que le consentement ne soit pas obtenu sur de fausses prémisses. Troisièmement, le processus ne doit pas être contraint (par exemple par des menaces) : le consentement doit plutôt être donné librement. En bref, afin de persuader éthiquement (plutôt que de manipuler) les gens d'un point de vue particulier, la décision de la personne persuadée doit être à la fois éclairée et librement choisie : chacune d'entre elles est désactivée par la tromperie et la coercition (Bakir et al., 2019 ; voir également Chappell , 2017)⁹¹

Si on reprend ces définitions, pour qualifier une communication de manipulatoire cela correspondrait pour un individu à ces critères réunis :

- Une absence de possibilités de consentement libre et éclairé de la personne,

- Des informations trompeuses ou manquantes,

- et/ou une limitation de ses choix car le consentement n’est pas éclairé (il se base sur des fausses informations ou des informations manquantes).

Donc, toute activité qui pose un cadre préalable consenti, libre et éclairé perd son côté manipulatoire, même si l’individu expérimentera par la suite des informations trompeuses : par exemple personne ne vous force à lire un roman policier ou une série à suspens, pourtant l’auteur vous exposera à des informations trompeuses sur qui est le coupable. Vous savez que c’est le jeu de la narration et c’est d’ailleurs un élément motivant. Vous savez en regardant ou lisant un policier, que ce que vous verrez pourra vous induire en erreur, et cela vous donnera encore plus envie de chercher la vérité. Ce n’est pas une manipulation, parce que vous avez consenti à entrer dans ce jeu de la narration à suspens dont les codes sont bien connus. La tromperie qui advient dans le manque d’infos ou par les informations trompeuses sont en quelque sorte dans le contrat de la narration de ce genre de fiction (on parle d’ailleurs de suspension consentie de l'incrédulité).

Ça vaut aussi pour la limitation de choix : vous consentez à jouer à un jeu vidéo sachant que les choix y seront limités, réduits (en comparaison des possibilités IRL) et que durant la narration, il pourrait y avoir des fausses informations ou des informations manquantes. Et tout l’enjeu est de découvrir aussi une forme de vérité ou de gagner un pouvoir d’action malgré les limitations des choix posés par le game design. On pourrait résumer les jeux (vidéos ou non) à la reconquête d’une pleine autonomie malgré un cadre fait de contraintes, de limites, d’obstacles voire de tromperies. Mais ce n’est pas de la manipulation car le consentement est respecté, personne ne vous force à jouer, vous pouvez arrêter quand vous le souhaitez, les actions sont sans conséquences, vous avez consenti à entrer dans un cadre ouvertement « faux » par essence. Par contre, on entre dans une zone grise potentiellement manipulatoire dès lors qu’il y a par exemple de l’argent en jeu, que ce soit des abonnements, des paris, des achat in game, des pay to win. Ici, la conception de limitation des choix ou la façon dont le jeu communique avec vous peut avoir des visées autres que vous faire vivre une expérience mémorable ou plaisante. Par exemple, le besoin de vous faire maintenir votre abonnement peut pousser les concepteurs à vous rendre accro à leur jeu plutôt que pleinement vous satisfaire (ce qui pourrait faire couper le jeu).

Les opérations psychologiques (psyop) peuvent en plus impliquer dans leurs manipulations :

- Un but d'atteindre des objectifs idéologiques, politiques ou militaires.

- L’utilisation des systèmes de communication (que ce soit sur les masses ou des groupes cibles).

- L’utilisation de violences et de contraintes.

- Et tout ceci peut être fait en exploitant les attributs culturels et psychologiques d'un public cible.

CA rentre donc totalement dans les définitions de la manipulation et de guerre psychologique :

Le consentement libre et éclairé n’était pas rendu possible tout d’abord concernant la captation de la personnalité des personnes : même ceux qui ont répondus aux tests (environ 300 000 personnes) ont certes consentis à la mesure, mais ils l’ont fait selon des informations trompeuses (les conditions d’utilisation  affirmaient que c’était à unique destination de la recherche, or les buts étaient d’abord de servir des campagnes politiques). Ceux qui se sont fait capter leurs données (87 millions de personnes) n’ont donné strictement aucun consentement libre et éclairé à quoique ce soit⁹², ni pour la recherche, ni à des fins politiques, ni au fait que leur personnalité pourrait potentiellement être profilée selon les algo de CA.

Le ciblage par des pubs politiques des personnes n’était pas non plus consenti de façon éclairée et libre, car si le cadre publicitaire informe de sa nature de publicité, les personnes n’ont pour autant pas consenti à ce que les pubs se basent sur leur personnalité et Facebook ne permet pas d’enlever (ou de changer) le ciblage sur des critères personnel.  Les pubs et contenus relayés sournoisement (sans même la possibilité qu’il s’agirait de voir le cadre publicitaire) étaient qualifiables de désinformation, en ce sens que l’info qu’ils contenaient été fausse : par exemple, les pro-brexit ont fait relayer des scènes de violence affirmant que c’était un problème en Europe, alors qu’il s’agissait d’images prises lors des révolutions arabes de 2011 ; le discours de Michelle Obama était présenté comme attaquant Hillary Clinton alors qu’elle faisait une remarque générale sur la vie à la maison blanche.

Les informations quant à l’usage particulier des données par CA étaient inconnues des gens, donc c’était pire que trompeur. Surtout dans les cas où CA/SCL a créé des fausses pages et groupes, non seulement les contenus étaient faux, mais le but des pages était trompeur.

Tout cela enfin servait une guerre psychologique, puisqu’il s’agissait d’utiliser des systèmes de communication afin d’atteindre des buts idéologiques (mobiliser ou démobiliser pour tel candidat, augmenter l’abstention, fabriquer l’alt right) en exploitant des attributs culturels et psychologiques d’un public cible.

C’est pour cette raison que les arguments précédents concernant la critique du modèle de prédiction de la personnalité me semblent servir à détourner l’attention⁹³ des vrais problèmes : une entreprise manipulait à sa guise les citoyens, utilisait des armes de guerre psychologique contre les citoyens, le tout en période électorale. Et tant CA/SCL que Facebook étaient responsables de ces problèmes, Facebook permettant amplement de faire cette captation de données et ces ciblages .

⁷⁶Aux auditions devant la commission parlementaire anglaise.

⁷⁷On l’apprend ici : https://soccermatics.medium.com/my-interview-with-aleksander-kogan-what-cambridge-analytica-were-trying-to-do-and-why-their-f869ef65d945

⁷⁸Questionnaire mesurant la personnalité, de McCrae et Costa.

⁷⁹J’emploie le conditionnel car je n’ai pas trouvé dans les leaks ce ciblage des O+A-, mais ça a pu être fait.

⁸⁰HEARING BEFORE THE UNITED STATES SENATE COMMITTEE ON THE JUDICIAR, Written Testimony of Eitan Hersh, May 16, 2018 https://www.eitanhersh.com/uploads/7/9/7/5/7975685/hersh_written_testimony_senate_judiciary.pdf

⁸¹Dans « l’évaluation de la personnalité » JP Rolland

⁸²Je pense à un documentaire sur le Fyre Festival (https://www.youtube.com/watch?v=KIKkwNGB35s ) , où une personne dans l’équipe organisant le festival raconte n’avoir posté que des photos et messages qui montraient vraiment une vie enviable, alors qu’elle vivait une catastrophe professionnelle particulièrement anxiogène.

⁸³HEARING BEFORE THE UNITED STATES SENATE COMMITTEE ON THE JUDICIAR, Written Testimony of Eitan Hersh, May 16, 2018 https://www.eitanhersh.com/uploads/7/9/7/5/7975685/hersh_written_testimony_senate_judiciary.pdf

⁸⁴HEARING BEFORE THE UNITED STATES SENATE COMMITTEE ON THE JUDICIAR, Written Testimony of Eitan Hersh, May 16, 2018 https://www.eitanhersh.com/uploads/7/9/7/5/7975685/hersh_written_testimony_senate_judiciary.pdf

⁸⁵En toute puissance, Viciss Hackso 2021

⁸⁶Aux auditions de la commission parlementaire anglaise 

⁸⁷Aux auditions de la commission parlementaire anglaise 

⁸⁸David Sumpter, Outnumbered

⁸⁹ = contraindre ou empêcher d’agir une personne, que ce soit de façon physique et/ou psychologique. Seul l’État a droits d’être coercitif, par exemple en empêchant l’accès à des zones pour des raisons légitimes comme pour organiser en toute sécurité des événements sportifs, en évacuant des lieux pour protéger la vie des personnes, en emprisonnant certains, jugés préalablement comme dangereux pour autrui. Dans les régimes autoritaires (voir totalitaires) la coercition peut être d’une part plus violente, ignorant les droits de la personne ou le bien-être collectif, et a des visées idéologiques (emprisonnement des personnes uniquement parce qu’elles ont exprimé leur opposition, parce qu’elles sont  critiques des actions de l’État par exemple).

⁹⁰Psychological Operations in Digital Political Campaigns: Assessing Cambridge Analytica's Psychographic Profiling and Targeting, Vian Bakir, 2020

⁹¹Psychological Operations in Digital Political Campaigns: Assessing Cambridge Analytica's Psychographic Profiling and Targeting, Vian Bakir, 2020

⁹²Zuckerberg et Facebook se sont défendus en affirmant que les personnes pouvaient paramétrer, mais c’était tellement caché – et parfois inefficace – qu’on ne peut pas parler d’un choix clairement mis à disposition des gens. Ils ne pouvaient même pas être au courant que les applications utilisées pouvaient pomper les données de leurs amis ou que l’utilisation d’app par leur amis pouvaient faire ceci.

⁹³Volontairement ou non ? C’est difficile à dire, on ne peut pas le savoir, bien que certains experts semblent vraiment avoir des intérêts à maintenir la captation et l’utilisation de données à des fins politiques (ceux qui travaillent aux campagnes des politiciens étasuniens) ou maintenir les possibilités de capter une énorme masse de données pour jouer avec (certains chercheurs n’étant pas malintentionnés d’ailleurs). Kogan avait tout intérêt, judiciairement, de jouer le naïf et Nix de faire croire que ce que vantait l’entreprise était totalement bullshit.

8. Ce qu’on peut faire face à Cambridge Analytica

Précédemment, nous avions vu que le scandale CA en était bien un, et que les arguments avançant que la prédiction de la personnalité ne fonctionnait pas ou n’avait pas d’intérêt ne tenaient pas. Il y avait bien eu manipulations et opérations psychologiques par CA/SCL, sur différentes populations du monde, pour 200 élections. On termine aujourd’hui avec les différentes réponses à ce problème, d’un point de vue politique, hygiène numérique et sécurité à la fois numérique et psychologique.

Que faire : la réponse politique

Globalement, cette affaire a amené les législateurs (étasuniens, anglais, européens) à demander plus de contrôles et de régulations concernant Facebook, plus de possibilités de transparence et d’informations. Cette transparence leur permettrait de mieux enquêter mais aussi pour les utilisateurs d’avoir plus accès au refus du traitement de leurs données. Ils ont également demandé plus de moyens pour des organismes comme l’ICO (l’équivalent en Angleterre de notre CNIL) et de futurs régulateurs indépendants pour prévenir les tentatives de désinformations. L’indépendance de ces régulateurs a été particulièrement soulignée, afin d’éviter les dérives gouvernementales/politiques de censure. Ils ont demandé de changer les politiques afin de donner des amendes aux plateformes impactantes en cas d’illégalité et d’investir davantage dans l’éducation au numérique à l’école. Les législateurs européens ont également appelé à plus de transparence, de régulations non seulement des plateformes mais également des partis politiques. Ils ont aussi adopté des punitions contre la mauvaise utilisation de données par les partis⁹⁴.

À noter que bien qu’il ait eu des désaccords entre sénateurs américains lors des auditions en général, j’ai été assez étonnée de voir que face à Facebook démocrates et républicains étaient assez raccords sur une même ligne accusatrice. En Angleterre aussi, on voit une même direction accusant Facebook prioritairement. Tout le monde, y compris des politiciens de partis opposés, en ont eu marre d’entendre une énième fois Facebook s’excuser après s’être conduite avec un irrespect des lois. Depuis des années, la plateforme se permet tout jusqu’au scandale, s’excuse, promet de bien faire, dit oui à tout ce qu’on lui demande, puis se re-permet d’aller plus loin jusqu’au futur scandale. Entre-temps, les gens sont tout le temps lésés, exploités, et d’autres entreprises tel que Cambridge Analytica en profitent pour saisir les opportunités de manipulations permises par la plateforme.

Pour plus d’informations et de détails sur les régulations, les appels à transparence et aux nouvelles règles politiques proposées, voici les liens :

Les recommandations des parlementaires anglais dans leur rapport final sur la désinformation : https://publications.parliament.uk/pa/cm201719/cmselect/cmcumeds/1791/179112.htm#_idTextAnchor082

L’investigation de l’ICO sur l’usage des données dans les campagnes politiques : https://ico.org.uk/media/action-weve-taken/2259371/investigation-into-data-analytics-for-political-purposes-update.pdf

Un article qui discute des enjeux que posent ces affaires et des limitations des régulations : https://www.lesnumeriques.com/pro/desinformation-quelles-armes-pour-eviter-un-nouveau-cambridge-analytica-a179035.html

Ici un autre document de l’ICO « Démocratie perturbée ? Informations personnelles et influence politiques » qui se termine par des recommandations : https://ico.org.uk/media/action-weve-taken/2259369/democracy-disrupted-110718.pdf

L’audition de Zuckerberg montre aussi assez bien le traitement politique de ce problème, voire les projets en cours pour la protection des données, puisque les sénateurs étasuniens n’hésitent pas à faire l’autopromo de leurs politiques  : https://www.youtube.com/watch?v=mZaec_mlq9M

Que faire pour lutter contre la désinformation : la réponse des chercheurs

Je m’attarde ici davantage, non pas que je dénigre les solutions politiques et/ou distales, mais tout simplement parce qu’il s’agit de notre ligne éditoriale qui est davantage centrée sur les perspectives de psychologie sociale.

Tout d’abord, les chercheurs Linden, Roozenbeek, Compton, Lewandowsky⁹⁵ proposent de qualifier le problème de désinformation :

« - 2.1 : Les termes "fake news", "désinformation", "propagande" et "désinformation" sont souvent utilisés de manière interchangeable pour décrire des informations fausses ou trompeuses.
- 2.2 : "Fake news" n'est pas le terme idéal, car une information ne doit pas nécessairement être fausse (ou d'actualité) pour être trompeuse. Le terme que nous préférons est donc "désinformation".
- 2.3 : Nous définissons la "désinformation" d'un point de vue psychologique comme "une information fausse ou trompeuse destinée à tromper son public". Cela peut inclure un programme politique mais n'est pas exclusivement lié à des acteurs étatiques ou non étatiques. »⁹⁶

Et ils rappellent que c’est un problème :

« - 3.1 : La désinformation peut saper le processus démocratique en semant la confusion, en induisant en erreur ou en polarisant les gens, et entraver la prise de décision fondée sur des preuves, ce qui pose des risques, par exemple pour la santé publique, la confiance dans le gouvernement et les relations internationales⁹⁷

- 3.2 : Les rapports d'opinion publique montrent qu'une majorité du public ne comprend pas les faits essentiels et a du mal à savoir quelles informations croire et à quoi se fier, notamment en ligne⁹⁸.

- 3.3 : Il est important de noter que les croyances fondées sur la désinformation, une fois acquises, sont difficiles à corriger, même lorsque les gens reconnaissent qu'ils ont été mal informés⁹⁹».¹⁰⁰

W

Ils proposent de s’appuyer sur un nouveau domaine interdisciplinaire qui mêle technologie et psychologie :

« - 4.1 : Étant donné l'ampleur du problème, nous demandons des solutions technologiques fondées sur des principes psychologiques, un domaine interdisciplinaire connu sous le nom de "technocognition"¹⁰¹.¹⁰² 

Ils précisent que le debunkage (traduit ici en « démystification ») est peu utile :

« - 4.2 : Notre connaissance de la cognition humaine suggère que le développement de meilleures techniques de démystification (c'est-à-dire la correction des idées fausses après coup) ne sera probablement pas suffisant et que même lorsque des corrections sont émises, le mal est souvent déjà fait. En fait, l'"effet d'influence continue" suggère que les corrections sont souvent inefficaces car les gens continuent souvent à se fier à la désinformation démystifiée¹⁰³. »¹⁰⁴

À la place, il propose une « inoculation », qui est un pré-bunking, une démystification préventive, des « anticorps mentaux » :

« - 4.4 : L'inoculation suit une métaphore biologique : tout comme les injections contenant une petite dose affaiblie d'un virus peuvent déclencher des anticorps dans le système immunitaire pour conférer une résistance contre une future infection, on peut raisonnablement obtenir la même chose avec l'information, en cultivant des "anticorps mentaux".¹⁰⁵

Ils parlent aussi de vaccin contre la désinformation :

« - 4.5 : L'inoculation¹⁰⁶trouve son origine dans l'étude psychologique de la manière dont la propagande influence l'opinion publique et de nombreuses études ont démontré que les attitudes publiques peuvent être inoculées contre la persuasion (non désirée)¹⁰⁷.
- 4.6 : Des études menées par deux des auteurs montrent que l'inoculation des publics contre la désinformation s'est également avérée efficace dans le contexte de questions hautement politisées telles que le changement climatique¹⁰⁸.

- 4.7 : Une étude pilote réalisée par deux des auteurs suggère la possibilité de développer un "vaccin" général contre la désinformation¹⁰⁹. Nous avons émis l'hypothèse qu'au lieu de simplement recevoir passivement des informations, le fait d'inciter les participants à réfléchir activement à la manière dont les fake news sont produites et à la façon dont les publics peuvent être trompés pourrait avoir des effets bénéfiques sur la capacité des participants à reconnaître les fake news et à y résister.

- 4.8 : Les résultats de cette étude pilote relativement modeste ont été provisoires mais positifs, et nous ont incités à explorer davantage cet angle en ligne ».¹¹⁰

Ils ont aussi créé un jeu en ligne « Bad news » qui est comme une inoculation générale contre la désinformation :

« - 5.3 : Dans le jeu, les joueurs apprennent à reconnaître six techniques courantes utilisées dans la création de désinformation : l'usurpation d'identité, l'utilisation de l'émotion, la polarisation, les théories du complot, le discrédit des adversaires et le trolling. Ces techniques sont basées sur une revue de la littérature académique sur les techniques de désinformation¹¹¹ et sur le rapport "Digital Hydra" du NATO StratCom COE sur la désinformation en ligne¹¹².

- 5.4 : Un élément important du jeu est qu'il n'est pas chargé idéologiquement. Le jeu permet aux citoyens de tout l'éventail politique d'apprendre sans se sentir visés. 

[…] 5.7 : Afin d'évaluer son efficacité, nous avons mené une expérience d'enquête en ligne, dans le jeu, qui a testé le jeu " Bad News " en tant qu'" inoculation " généralisée contre la désinformation. L'enquête a testé la capacité des participants à reconnaître les fausses nouvelles et la tromperie.

- 5.8 : Les résultats complets de l'étude seront publiés dans les prochains mois. Les premiers résultats (avec un échantillon de 751 participants) montrent que le jeu est efficace pour transmettre une résistance aux techniques courantes utilisées dans la diffusion de la désinformation. Après avoir joué, les gens étaient nettement plus aptes à reconnaître l'usurpation d'identité, le contenu conspirationniste et la déviation intégrés dans des faux titres inédits.

- 5.9 : Il est important de noter que, tout comme la désinformation peut se propager rapidement, le "vaccin" peut également être partagé socialement¹¹³, ce qui offre la possibilité d'une immunité collective contre la désinformation, qui pourrait également protéger ceux qui n'ont pas reçu directement l'inoculation. »¹¹⁴

Plus généralement face à des affaires de désinformation, ils recommandent :

«  - 6.1 : Familiariser les publics avec les techniques communes utilisées dans la diffusion de la désinformation pourrait responsabiliser le public de manière proactive, en réduisant potentiellement l'adhérence et l'efficacité de la désinformation avant qu'elle ne soit rencontrée.

- 6.2 : En se concentrant sur les techniques plutôt que sur les antécédents des personnes et des organisations responsables de la diffusion de la désinformation, on évite un certain nombre de pièges courants présents dans de nombreux efforts de lutte contre la désinformation. Par exemple, il n'est pas nécessaire d'avoir un "ministère de la vérité" qui détermine ce qui est et ce qui n'est pas une "fake news". Au contraire, on peut donner aux gens les moyens, au niveau individuel, de discerner les vraies des fausses nouvelles.

- 6.3 : Nous recommandons donc au Parlement de ne pas s'attacher à "corriger" la désinformation après le "fait", mais plutôt à l'empêcher de prendre racine en premier lieu.

- 6.4 : Compte tenu de l'efficacité de l'inoculation en tant qu'outil pour promouvoir la résistance aux fake news et aux tentatives de persuasion (de masse) indésirables, nous recommandons la mise en œuvre de stratégies de prébunking et d'interventions inspirées de la "technocognition" similaires au jeu des "Bad news" dans les milieux éducatifs, civils et professionnels »¹¹⁵ 

On voit qu’ici les chercheurs se sont concentrés sur la façon d’être davantage immunisé face à la désinformation. Mais on peut aussi s’aider en contrôlant son usage et ses pratiques numériques plutôt que d’être contrôlé par les plateformes. Tout comme des gestes d’hygiène protègent d’attraper des virus, ici des solutions de sécurité et/ou libriste évitent d’être exposées à divers « virus » de désinformation.

Qu’est-ce qu’on peut faire d’ores et déjà : pratiques de sécurité, pratiques libristes

On le précise tout de suite, les pratiques de sécurité et libristes n’empêcheront pas les partis, les entreprises type CA, les réseaux sociaux d’exploiter tout de même les données, de surveiller, de tenter de manipuler. Si on part dans l’optique d’abattre les GAFAM  (cf image ci-dessous) ou la surveillance de masse avec ces pratiques, on risque d’être très frustré des résultats et de s’énerver contre ceux qui ne les suivent pas, ce qui sera improductif à les convaincre d’opter pour nos pratiques (j’en ai parlé ici https://framablog.org/tag/viciss/).  Tout comme cela ne servait à rien d’hurler sur les non-vaccinés/non-porteurs de masques pour les convaincre à une hygiène sanitaire, il en va de même pour les pratiques d’hygiène numérique : on ne motive pas à une nouvelle pratique par l’humiliation, l’attaque, l’injonction, le mépris, la condescendance etc¹¹⁶.

GAFAM est l’acronyme pour Google, Apple, Facebook, Amazon, Microsoft.

On ne sera jamais pleinement sécurisé et anonyme non plus – même si on peut aller très loin dans la sécurité pour des raisons militantes et/ou de lancement d’alerte. Souvent, même lorsqu’on pratique une haute sécurité pour certaines activités qui le requièrent,  on a parallèlement et surtout séparément un usage lambda d’Internet. Internet est devenu essentiel à notre vie quotidienne pour des démarches administratives, professionnelles, achats en ligne, rendez-vous, etc. Or, cet usage lambda s’oppose intrinsèquement à des pratiques de haute sécurité pour la simple raison qu’on y est forcé de donner son nom et données personnelles, parfois même les services administratifs forcent à avoir des pratiques faillibles (par exemple, empêcher d’avoir un mot de passe compliqué).

Cependant, on peut avoir des pratiques de protection/libristes qui aident non seulement contre des exploiteurs comme CA ou les GAFAM, mais aussi contre les tentatives de hacks ou d’arnaques (phishing, ingénierie sociale), cela peut aussi aider à protéger sa vie IRL lorsqu’on est cible ou potentiels cibles de cyberharcèlement (si par exemple l’adresse du domicile demeure inconnue, cela peut éviter d’être attaqué chez soi). Ces pratiques sont aussi intrinsèquement anti-pub (puisque ça les supprime du paysage internet), visent un empuissantement et une autonomie de ses pratiques numériques, quelque soit leurs perspectives.

Contrairement à ce qu’on pourrait imaginer, les compétences techniques requises pour les mettre en œuvre ne sont pas forcément élevées : tout dépend aussi du pourquoi il y a mise en place des mesures de protection, et de ce que vous avez à gérer. Il est évident que si vous gérez techniquement la sécurité d’une entreprise, la liste présentée ci-dessous ne vous sera d’aucune utilité, mieux vaut préférer d’autres sources spécialisées en cybersécurité. Idem si vous êtes dans une situation à la Snowden, avec de forts risques, le niveau de sécurité devra être beaucoup plus élevé. Une règle générale qu’on peut se donner, c’est de contrôler sa vie numérique plutôt qu’elle nous contrôle, et ce contrôle doit augmenter en fonction du niveau de menaces. En tant qu’usager lambda ne faisant rien d’illégal, le contrôle / la sécurité peuvent être assez légers ; si vous êtes lanceur d’alerte révélant des secrets sous le sceau du confidentiel, avec risque d’arrestation, là il va falloir techniquement s’organiser de façon pointue ne serait-ce que pour transporter les informations de façon sécurisée. Entre les deux, être salarié de n’importe quelle entreprise, être créateur de contenus, être militant, demande un niveau de sécurité tout de même sérieux : même un salarié qui ne s’occupe pas de documents confidentiels possède des clefs d’accès à des informations potentiellement précieuses (ne serait-ce qu’un mot de passe ouvrant son poste/ses sessions sur tel environnement numérique professionnel), idem pour tout rôle exercé sur Internet. Internet reste encore un Far-West, pour le meilleur comme pour le pire.

Ici, je vais me concentrer sur des conseils de base qui permettent de se protéger légèrement et que j’ai sélectionnée parce qu’ils ont un avantage psychologique voire hédonique : globalement, ça fout la paix à nos processus cognitifs et nous simplifie la vie, contrairement à un usage sans aucune de ces protections et usages.

- Se libérer de la pub partout prend une minute et c’est tout, ne demande aucune connaissance et compétence.

Selon votre navigateur préféré, cliquez sur le lien :

ublock-origin pour mozilla

ublock-origin pour chrome

https://addons.opera.com/fr/extensions/details/ublock/

Puis vous cliquez sur « ajouter »/ « installer ».

Et voilà.

Si vous cherchez à bloquer la pub ailleurs, ce tuto de Résistance à l’agression publicitaire et de la Quadrature du net est extrêmement bien fait et simple : Bloque la pub

Un exemple d’un site sans bloqueur puis avec bloqueur. On avait parlé plus longuement du problème que posait la pub dans cet article : les résistances du net : bloqueur de pubs https://www.hacking-social.com/2016/03/21/3-les-resistances-du-net-bloqueur-de-pub/

Je pense que je n’ai pas besoin d’argumenter pendant 150 ans pour montrer les avantages qu’il y a à prendre une demi-minute pour installer un bloqueur de pub, les images au-dessus parlent d’elles-mêmes. Il y a un gain de confort évident pour la lecture, l’attention n’est pas capturée par les contenus sexuels (le couple et les grosses voitures partout).

Et si vous culpabilisez de la crainte que vos sites/vos chaînes préférées perdent en rémunération, maintenant la plupart des créateurs ont des dispositifs type Utip, Tipeee, Liberapay ou des chaînes Twitch qui leur permettent de recevoir des dons, on peut les aider en s’abonnant, en achetant leurs goodies ou leurs productions matérielles, etc.

À noter que pour nos contenus sur YouTube, nous vous conseillons de garder vos bloqueurs de pubs car nous sommes volontairement démonétisés, la pub parfois forcée par YouTube n’est pas du tout notre choix et nous n’en touchons aucun bénéfice ; idem pour les cookies, on en a très peu sur le site, vous pouvez les refuser complètement sans que cela nous porte préjudice.

- installer des extensions rassurantes sur ses navigateurs, là encore ça prend une minute et après on est plus tranquille :

HTTPS Everywhere est une extension qui chiffre vos communications sur de nombreux sites majeurs, ça rend la navigation plus sûre. Ici vous trouverez tous les liens selon votre navigateur : https://www.eff.org/fr/https-everywhere

- Faire de son navigateur internet son pote ; on peut prendre une minute pour le configurer afin qu’il soit un allié d’un point de vue sécurité. Tout comme un ami garde vos secrets que vous lui confiez et ne va pas cafter au premier venu ce que vous avez fait la nuit dernière, le navigateur bien configuré « oublie » ce que vous avez fait sur le net, donc ne le répétera pas aux curieux.

Avec Firefox, c’est ultra simple.  Vous allez dans outils, puis paramètres, et vous cochez « protection stricte » ; vous pouvez aussi supprimer l’enregistrement automatique des mots de passe. Retenir tous ses mots de passe différents et compliqués peut avoir pour avantage de stimuler sa mémoire et/ou de s’empêcher d’aller se déconcentrer sur les réseaux sociaux : généralement, se rajouter des étapes ou des choses ennuyantes à faire pour accéder à tel truc dont on est accro et dont on veut décrocher permet d’arriver à mieux contrôler son propre comportement grâce à la flemme¹¹⁷.

Ceci étant dit, si vous n’avez pas besoin de vous canaliser à ce niveau-là,  un gestionnaire de mots de passe peut aussi tout à fait convenir.

Puis, toujours dans les paramètres de Firefox, vous pouvez configurer l’historique pour qu’il ne soit jamais enregistré. À la place pour se rappeler, on peut faire des marque-pages des liens, on peut les organiser en dossier bien rangé, etc. Mieux vaut favoriser la collection d’hyperliens qui vous transportent directement là où vous voulez aller, que de signaler à google - ce cafteur - chacune de vos activités routinières en lui demandant de vous envoyer ici ou là. De plus, c’est plus rapide de faire un clic sur votre hyperlien mis en valeur que de taper le mot-clef sur google.

Un exemple de marques-pages organisé en dossier pour faciliter la navigation, sur firefox – je pense que les usages du pourquoi de la sécurité y sont suffisamment explicite:D ; un clic et hop on va directement sur le site plutôt que de dire à ce cafteur de Google où on veut aller.

La CNIL a fait des tutos à ce sujet, ils sont très accessibles et clairs :

Naviguer de façon privée : https://www.cnil.fr/fr/la-navigation-privee-pour-limiter-les-risques-de-piratage-de-vos-comptes-en-ligne

Supprimer ses traces (navigation/facebook)  : https://www.cnil.fr/fr/faites-regulierement-le-menage-dans-lhistorique-de-navigation

- Apprendre à fermer la porte quand on sort d’une pièce et qu’on passe à une autre. Autrement dit,  avec votre navigateur super sécurisé, il suffit de tout fermer pour « clôturer » une activité (votre historique est effacé par exemple), puis rouvrir le navigateur pour passer à une autre activité. J’aime bien cette idée parce que psychologiquement parlant ça marque le coup, ça permet d’être au clair avec ses activités et de se canaliser si on a une attention chaotique comme moi : là je m’amuse, là j’ai fini, donc je ferme la porte, là je re-ouvre et je passe en mode travail – puis, j’ai fini donc je ferme la porte, etc.

Je ne sais pas si ça aidera. Ici on est vraiment sur quelque chose de subjectif. Personnellement j’ai besoin d’encadrer – même symboliquement – mes activités, sinon je vais être tentée de faire tout à la fois et je vais faire n’importe quoi : fouiner dans les recherches scientifiques puis être capturée par des vidéos d’animaux parce que je me demande soudainement comment s’entendent les chats avec les renards,  tout en voulant écouter une millième fois ce nouveau son, puis me rappeler soudainement que je dois faire cette démarche administrative, me battre avec le site administratif, échouer à faire la démarche, puis enfin ne plus me rappeler ce que je cherchais quand je fouinais sur lib gen. À la place, je fais des recherches, je sais que je suis sur tel navigateur sécurisé + un VPN, que si je veux me distraire avec des vidéos d’animaux, va falloir d’abord couper le VPN, fermer le navigateur, puis ouvrir un autre. Du coup, rien que ces étapes font que je reste sur le travail en cours avant de passer à l’étape distraction : chaque activité est à sa place, les unes après les autres, mon attention est davantage sous mon contrôle.

- Des navigateurs-potes configurés différemment. C’est un truc que je fais pour sauvegarder mon attention et pour gérer notre activité. Cela peut peut-être un peu aider à maintenir de la sécurité en canalisant son propre comportement, mais je pense que ça peut servir davantage à ne pas tomber dans la captation par les réseaux sociaux.

Concrètement, personnellement j’ai configuré un navigateur spécifique pour les réseaux sociaux, je consulte au besoin, mais pour tous mes autres usages, j’en utilise un autre qui ne se connecte jamais à un réseau social, qui est beaucoup plus sécurisé. J’aime bien parce que ça clarifie les activités, c’est comme IRL, on utilise tel moyen de transport pour faire tel truc. Selon les moments aussi, la fréquentation des réseaux sociaux peut devenir toxique (parce que chronophage, ou parce que l’humeur générale est à la bagarre, y a des sales nouvelles, la bulle de filtre dans laquelle on est devient déprimante pour une raison ou une autre, parce qu’on est harcelé/en bad buzz, etc), ça permet de s’aider à tenir à se distance d’eux ou qu’ils n’envahissent pas notre espace mental (et numérique).

- Prendre le contrôle de son smartphone. Là tout va dépendre de vos usages habituels. Personnellement, je suis assez sédentaire, donc j’ai décidé que mon smartphone serait déconnecté d’Internet les 3/4 du temps (du coup je peux me permettre un abonnement pas cher du tout), il n’y a pas de réseau social dessus, j’y utilise firefox focus pour la sécurité/l’antipub).

J’ai aussi supprimé toutes les notifications provenant des applications parce que chaque bip me foutait une pression et un stress que je n’arrivais pas à supporter, ça cassait ma concentration aussi . Au final, la plupart du temps ce smartphone me sert de lecteur de musique, d’appareil photo et de téléphone, mais pas grand-chose d’autre. Mais c’est parce que j’ai la chance d’avoir un PC et une bonne connexion à disposition et que je n’ai pas de contraintes de déplacement.

Ce n’est parfois pas possible de se passer de l’usage intense d’un smartphone : on peut avoir une vie  impliquant beaucoup de déplacements, parfois c’est le seul moyen de choper un accès internet rapide. Cela peut être une raison culturelle – dans de nombreux pays, toute la vie numérique pro et perso passe via smartphone parce que ça peut être plus accessible. Dans ce cas, il suffit de le sécuriser comme un PC : les VPN y sont possibles, on peut aussi utiliser plusieurs navigateurs, etc.

Des guides et tutos très simples de la CNIL à ce sujet :

https://www.cnil.fr/fr/maitrisez-les-reglages-vie-privee-de-votre-smartphone

https://www.cnil.fr/fr/comment-securiser-au-maximum-lacces-votre-smartphone

https://www.cnil.fr/fr/snapchat-5-parametres-regler-pour-maitriser-ses-donnees

- Gérer plusieurs mails pour chaque usage. Cela peut prendre un peu de temps à construire, mais une fois que c’est bon, hop il suffit d’allumer thunderbird qui les gère tous, puis d’installer une routine mentale (« ah, voici un site acheteur, je vais lui donner ce mail là » « ah voici un service administratif, donc c’est tel mail »). Avec l’habitude, cela devient automatique on n’y pense plus.  Au contraire, on a du mal à revenir en arrière et les multiples adresses mails sont comme de jolis tiroirs où tout est bien rangé par catégorie, contrairement à l’adresse mail unique qui mélange tout. L’adresse mail unique, ce serait  comme une armoire dans laquelle vous mettriez tous vos objets, que ce soit des vêtements, de la vaisselle, des bulletins de salaire et de la nourriture : ça rend l’organisation difficile, c’est compliqué de retrouver ce dont vous avez besoin, c’est très démotivant de s’y rendre. Les multiples adresses mails permettent de s’éviter de chercher pendant 99 ans tel mail de telle administration.

Exemples de multiples mails et leurs usages à chacun, une illustration par la CNIL https://www.cnil.fr/fr/pourquoi-securiser-au-maximum-le-mot-de-passe-de-votre-boite-email ; à noter que personnellement, je serais d’avis de ne jamais utiliser la connexion via un compte Facebook pour préférer une connexion par mail par exemple, ou un compte google dédié à juste se connecter à tel ou tel service, si c’est possible. Ça me semble d’office très louche si un service exige uniquement une connexion via facebook.

Les avantages sont nombreux : si comme moi vous avez du mal à dire non ou à mentir aux commerçants IRL qui veulent à tout prix votre mail, vous pouvez donner un mail actif mais qui sera en quelque sorte une poubelle inutilisée. Vous pouvez avoir un mail administratif jamais donné en public, qui ne servira qu’à des services administratifs, ça permet de ne pas louper les choses, et d’éviter les phishings. Vous pouvez avoir une adresse qui sert à la connexion aux applications/site. Une adresse familiale, une pro, etc., ce qui permet d’y voir clair et de mieux s’organiser au quotidien, donc de gagner du temps et surtout plus de plénitude. Perso, dans une optique d’optimisation de mon attention – ou pour m’éviter d’être happée par des trucs pas urgents-, je ne gère jamais les mails sur smartphone et j’ai viré partout les notifications. Je consulte les mails quand je décide que j’ai le temps et l’attention à disposition, pas sous la pression d’une énième notification stressante.

À noter que les manipulateurs type Cambridge Analytica peuvent vous cibler avec votre mail en lien avec Facebook + d’autres sites, donc si votre mail de connexion à Facebook n’est relié à rien d’autre, cela leur donnera moins d’emprise sur vous. Cependant, on peut aussi faire plus simple en arrêtant  Facebook (ce qu’on verra dans un point plus bas).

Évidemment, mieux vaut éviter les mails google parce que google cafte tout, regarde tout. C’est comme si  votre facteur, en plus de vous donner votre courrier ouvert, vous rappelait tout sourire de ne pas oublier le départ de votre train, le jeudi 15 à 7h44 à destination de Toulouse. Il n’a même pas de complexe à ouvertement vous faire comprendre qu’il lit ce que vous recevez et qu’il a chopé et retenu cette information précise vous concernant.

Cependant, Google peut vous servir pour faire des mails-poubelles ou encore juste pour un usage donné (par exemple un pour la connexion à Youtube en tant que créatrice ou créateur, un autre pour la connexion à youtube en tant qu’utilisateur, etc.) ; ça permet de générer un gros bazar d’activités qui serait difficile à démêler pour quelqu’un qui voudrait vous cibler.

Pour la sécurité, protonmail est un bon service qu’on teste depuis quelques années avec satisfaction. Ça n’empêche pas les tentatives de phishing – quoique le service en repère pas mal automatiquement -, mais c’est aussi parce qu’on partage ce mail en public.

Vous pouvez aussi installer des clefs de chiffrages via d’autres services (par exemple enigmail¹¹⁸), mais c’est plus compliqué, mais ça peut être fun si vous vous testez ça comme un jeu entre amis ou entre collègues.

Évidemment, les mails sont liés à des pseudos, identifications et mots de passe différents. Quant au mail dont l’identifiant est son nom/prénom, personnellement je trouverais ça hyper angoissant (mais je suis une vieille d’Internet, de mon temps c’était une faute grave d’utiliser son nom/prénom), mais si on n’y lie pas le reste de son activité, ça peut être sécurisé ; si votre travail vous force à faire cela, n’oubliez pas que vos seconds prénoms sont tout aussi légaux que celui que vous utilisez de façon commune, cela  peut constituer une petite protection.

Des liens-tutos de la CNIL :

Sur l’usage de multiples mails et les multiples mots de passe / multiples identifiants : https://www.cnil.fr/fr/prenez-1-heure-pour-adopter-de-meilleurs-reflexes-pour-votre-vie-privee-numerique

https://www.cnil.fr/fr/pourquoi-securiser-au-maximum-le-mot-de-passe-de-votre-boite-email

- Arrêter Facebook. On peut aussi tenter de le supprimer ( https://framablog.org/2017/01/23/si-on-laissait-tomber-facebook/ ), ou laisser à l’abandon son profil, ou l’alimenter au minimum. C’est très simple, il suffit d’avoir la flemme, être plus motivé pour faire n’importe quoi d’autre. C’est ce que beaucoup ont fait, pour des raisons ergonomiques, sociales, parce que d’autres réseaux sociaux sont justes plus efficaces pour partager, échanger, rigoler.

Et s’il y a bien un réseau social malsain à abandonner en priorité pour des raisons de manipulation, d’exploitation des données, de désinformation, de captation d’attention malsaine, c’est bien celui-là. Ils n’ont fait quasiment aucun effort après le scandale Cambridge Analytica en comparaison de Twitter par exemple qui refuse de diffuser des publicités politiques  (récemment ils ont rappelé à l’ordre Macron par exemple https://www.huffingtonpost.fr/entry/macron-a-retire-sa-lettre-aux-francais-de-son-compte-twitter_fr_622b1d2be4b0fe0944d4127c ; de plus Twitter commence à publier en toute transparence des études qui pourtant montrent ses aspects négatifs, comme la tendance de leur algorithme à privilégier davantage les contenus de droite¹¹⁹. Certes, les autres réseaux ont leurs problèmes, mais Facebook est vraiment le pire à tous les niveaux.

Personnellement, ça fait des années que je n’utilise Facebook que pour informer les internautes de nos nouvelles productions sur la page hacking social, je ne fais strictement rien sur mon profil pseudoperso, je n’ai rien rempli, rien n’y est connecté avec ma vie réelle.

On est davantage sur Twitter, Mastodon, YouTube, Peertube et Vimeo quand on y poste une vidéo, et enfin Twitch dont je commence à sérieusement kiffer les échanges sociaux tellement plus détendus et funs (en tant que spectatrice et dans des moments qu’on a eut ensemble sur notre premier react). Je ne parle pas de la politique de Twitch qui est clairement discutable, mais de la question « où échanger avec les gens de façon sympa » : clairement, sur Facebook, je n’y arrive plus comparé à Twitch ou Twitter par exemple. On répond aussi aux mails .  

À noter que nous n’avons absolument rien contre les usagers de facebook. On comprend que cela puisse être nécessaire pour beaucoup d’utiliser cette plateforme, et personne ne devrait vous juger négativement sur ce critère. Parfois, on n’a pas le choix, parfois les habitudes sont trop fortes.

- Voyager avec les VPN. Pas besoin de vous expliquer ce que c’est, c’en ait devenu un running gag tellement il y a de pubs pour les VPN sur YouTube.

Notre VPN à nous (sur notre chaîne secondaire) :

https://www.youtube.com/watch?v=cblBdDgJR-g&t=1s

Cependant adopter la pratique d’un VPN demande de changer de perspective. Il s’agit d’envisager le VPN comme l’un des moyens de faire une expédition pour aller vers un lieu particulier qui requiert des pratiques particulières. On ne part pas au pôle Nord sans des vêtements chauds (le VPN), mais il serait ridicule de préparer ces mêmes vêtements dans votre valise si vous allez en Espagne en été. Il s’agit de penser les outils en fonction des usages, de ne pas tout mélanger, et c’est votre compartimentation qui va assurer un peu de sécurité. Le VPN n’est pas magique. Autrement dit, votre identité de « chercheur de contenus qui ne sont pas autorisés en France » ne doit pas être associé à la consultation de votre mail pro, sinon vous êtes potentiellement repéré. Personnellement, je serais d’avis aussi de ne pas prendre les services les plus connus, c’est-à-dire ceux dont vous voyez des pubs partout chez les vidéastes, jusqu’à vous faire perdre le nord, et surtout pas les services gratuits connus pour tout cafter de vos activités ou vendre vos données personnelles.

A savoir aussi que contrairement aux publicités que vous pourrez entendre, un VPN permet d’afficher une nouvelle IP, mais ne vous protège pas comme un anti-virus, firewall, anti-malware, et j’en passe. En soi, un VPN ne protège pas vos données.

***

Ce ne sont que des micro-astuces, encore une fois j’en parle juste parce que ce sont des pratiques de sécurité ultra simples à mettre en place, qu’elles ont beaucoup de bénéfices pour une meilleure attention, une meilleure organisation au quotidien, plus d’hédonisme et de confort, et qu’elles peuvent permettre de rendre votre ciblage plus difficile (que l’attaquant soit une entreprise type CA, comme un arnaqueur, un harceleur, un proche oppresseur, etc).  Ce n’est en rien un idéal éthique, technique, ni de sécurité ; encore une fois si c’est votre quête, je vous conseille d’aller plutôt chercher l’information chez les spécialistes du numérique et de la cybersécurité.

D’autres liens qui peuvent aider à se sécuriser

Voici des outils, des logiciels, alternatives aux GAFAM qui peuvent même se révéler plus confortables aux usages (je cite ceux-là en particulier car je les utilise très souvent, donc c’est non-exhaustif) :

- deepL traduction à la place de google translate plus efficace en tout cas sur mes tests de traduction d’ouvrages scientifiques (oui j’avoue j’ai la flemme de lire directement en anglais les livres car je suis trop lente)

- Libre office à la place de Word. J’ai rompu ma relation avec Word, car j’en étais venu à le haïr tellement, il était devenu insupportable à la fin de ma rédaction de L’homme formaté. Je préfère la clarté, la légèreté de libreoffice encore une fois pour des raisons de concentration.

- framapad pour le travail collaboratif à la place des trucs google ou microsoft (je dis truc car je connais pas vraiment les usages de travail collaboratif via les gafam). On peut tout faire par pad, c’est comme cela par exemple que j’ai organisé la correction collective des 600 pages de mon dernier ouvrage.

- Un outil pour s’organiser hors de facebook,  Mobilizon v2 : la version de la maturité ? – Framablog

- Ici plein d’autres outils/services frama : https://framasoft.org/fr/full#topPgcloud

- Et plein d’autres outils libres grâce à l’annuaire frama : https://framalibre.org/

Ici des tutos, des explications, des conseils, des cours :

- CNIL, 10 conseils de sécurité, qui peuvent être aussi compris par des enfants : https://www.cnil.fr/fr/10-conseils-pour-rester-net-sur-le-web

- Bloque ta pub :  Bloque la pub

- Un cours de protection et de sécurité, qui s’inscrit dans des problématiques de harcèlement en ligne : Cours | IWMF_KP_FR | Totem (totem-project.org)

Des liens un peu plus pointus :

-Le guide d’autodéfense numérique : https://guide.boum.org/tomes/1_hors_connexions/00_sommaire/

https://guide.boum.org/tomes/2_en_ligne/unepage/

- Un autre guide d’autodéfense par l’EFF : Surveillance Self-Defense | Tips, Tools and How-tos for Safer Online Communications (eff.org)

-  Le guide d’hygiène informatique de l’ANSSI (agence nationale de la sécurité des systèmes d’information) : guide_hygiene_informatique_anssi.pdf

Ceci étant dit, même si on atteignait un idéal de pratiques numériques, avec anonymat, totalement libriste, une haute sécurité, ce ne serait en rien une garantie contre quelque chose qu’on n’a pas encore abordé qu’est la manipulation sur la base de votre personnalité.

Or, quant bien même CA se vantait d’être innovante sur le fait de détecter la personnalité et de pouvoir cibler là dessus, c’est ce que font déjà tous les manipulateurs, les arnaqueurs, les fouineurs, les exploiteurs. Sans même avoir besoin d’algo de détection, très clairement, la personnalité est quelque chose qui se saisit chez l’autre très aisément : vous savez quand untel est très extraverti ou introverti, ça crève les yeux, et la clarté de cette information n’est d’ailleurs pas un problème au quotidien. Ça permet de sociabiliser, de s’adapter à l’autre et à l’interaction qui se tricote d’une certaine manière, de choisir ses amis et que faire avec eux selon leur personnalité singulière. C’est un GPS social super utile pour vivre de bonnes expériences avec les autres. Mais ça permet aussi de les manipuler,  de les contrôler, voire de les empêcher de s’émanciper. On a eu par exemple l’occasion de voir une étude de cas d’ingénierie sociale¹²⁰ avec un vol se chiffrant en centaines de milliers d’euros, qui se basait simplement sur le fait que le manipulateur avait saisi à la fois la  haute conscienciosité de la cible + son introversion et adaptait ses techniques en fonction,  il n’y avait même pas d’exploit technique autre.

Surmonter les manipulations se basant sur la personnalité ?

En début de dossier, je disais que mon but de ce dossier serait à terme de vous donner de quoi vous permettre d’auto-analyser votre personnalité, car plus on se connaît, plus on peut décider et se refuser d’être entraîné dans un courant de manipulation ou de désinformation, ou potentiellement d’en sortir. J’ai cette hypothèse un peu folle que si on pouvait s’approprier les connaissances propres à sa personnalité, alors peut-être aurait-on plus de latitude de décision et d’autonomie quant à céder ou non face à une manipulation se basant sur ces mêmes connaissances. Plus encore, au cours de l’écriture et de la recherche sur le dossier, bien que les courants théoriques de l’autodétermination n’aiment pas vraiment le champ de la personnalité, je pense qu’on pourrait rendre la personnalité autodétermination-compatible, autrement dit qu’on pourrait tendre à auto-contrôler, flexibiliser sa personnalité pour la rendre plus autodéterminée. Et si elle est autodéterminée, elle est résistante aux manipulations et aux exploitations, elle peut devenir une énorme force contre des oppressions, y compris majeures. Je pense par exemple aux profils altruistes durant la Seconde Guerre mondiale¹²¹ : beaucoup de sauveteurs ayant pris d’énormes risques pour aider autrui semblaient avoir des traits haut agréables. La perception de la souffrance d’autrui leur était par exemple totalement insupportable, ce qui a pu déjà constituer une force à agir de façon altruiste. L’autodétermination a été encore plus loin concernant leur personnalité : on voyait par exemple une très grande introvertie, de plus timide, qui rapportait s’être vue aller faire un scandale mensonger chez un préfet pour tenter de sauver une personne qu’elle connaissait à peine. Elle n’aurait jamais pensé être capable d’une telle audace, parce que sa personnalité ne tendait pas à se comporter comme cela habituellement. Mais elle a pu avoir cette flexibilité pour aider autrui dans ces circonstances dangereuses.

Beaucoup de résistants et sauveteurs semblaient hautement consciencieux, respectueux des règles, et pourtant pour sauver autrui, ils sont allés contre ce trait en falsifiant des papiers, en ne suivant pas les normes, voire en devenant très désorganisé¹²². On peut se dépasser, se surprendre soi-même. La personnalité n’est pas une détermination absolue, on peut « négocier » avec ses traits, s’en servir comme d’une force, les flexibiliser si besoin.

Mais tout ceci me demande encore énormément de recherches, de réflexion sur la façon dont je présenterai ceci, en termes d’écriture et de bidouillage.  Cela constituera peut-être un autre dossier  j’aimerais vous donner les moyens de vous tester et que vous puissiez avoir les clefs d’une analyse suffisamment complète pour saisir vos forces et comment les empoigner pour résister altruistement aux manipulations et exploitations. Je sais que les tests accessibles des big five sur le Net peuvent déjà vous donner  les grandes lignes de votre personnalité (mais penser à protéger vos données, refuser de faire ceux connectés à facebook), mais je ne sais pas si cela suffit à comprendre comment vos traits interagissent entre eux, leur impact sur vos attentes politiques et la façon dont on peut en faire de ces traits des alliés – y compris sur ceux qui paraissent négatifs en premier lieu– dans la vie quotidienne.

En attendant, nous avons déjà laissé à disposition la facette autodétermination que vous pouvez trouver ici et qui permet de s’aider à construire des motivations et buts que je pense suffisamment puissants pour surmonter des manipulations en tout genre : https://www.hacking-social.com/2021/09/17/en-toute-puissance-manuel-dautodetermination-radicale/

Dans la bibliographie de tout le dossier ici présent, j’ai mis un glyphe sur celles qui m’ont marquées qui me semblent aussi contenir des solutions, n’hésitez pas à les consultez car si elles m’ont passionnées, cela peut aussi potentiellement vous intéresser.

A bientôt pour de nouvelles aventures !

⁹⁴https://www.consilium.europa.eu/en/press/press-releases/2019/03/19/ep-elections-eu-adopts-new-rules-to-prevent-misuse-of-personal-data-by-european-political-parties/

⁹⁵ Ce sont des chercheurs en psychologie (sociale ou cognitive) ; Compton est spécialisé dans la communication.

⁹⁶Written evidence submitted by Dr. Sander van der Linden, Mr. Jon Roozenbeek,Mr. Ruurd Oosterwoud (DROG),Associate Professor Josh Compton, Professor Stephan Lewandowsky, The Science of Prebunking: Inoculating the Public Against Fake News https://data.parliament.uk/WrittenEvidence/CommitteeEvidence.svc/EvidenceDocument/Digital,%20Culture,%20Media%20and%20Sport/Disinformation%20and%20%E2%80%98fake%20news%E2%80%99/Written/79482.html

⁹⁷[références données par les chercheurs] van der Linden, S. (2017). Beating the hell out of fake news. Ethical Record: The Proceedings of the Conway Hall Ethical Society 122(6), 4-7. ; van der Linden, S., Maibach, E., Cook, J., Leiserowitz, A., & Lewandowsky, S. (2017). Inoculating against misinformation. Science 358(6367), 1141-1142. ; [3] Lewandowsky, S.; Ecker, U. K. H.; Seifert, C.; Schwarz, N. & Cook, J. (2012). Misinformation and its correction: Continued influence and successful debiasing. Psychological Science in the Public Interest 13, 106‐131. ; [4] Lewandowsky, S., Ecker, U. K., & Cook, J. (2017). Beyond misinformation: Understanding and coping with the “post-truth” era. Journal of Applied Research in Memory and Cognition, 6(4), 353-369. ; [5] Poland, G. A. & Spier, R. (2010). Fear misinformation, and innumerates: How the Wakefield paper, the press, and advocacy groups damaged the public health. Vaccine, 28, 2361‐2362. ; [6] van der Linden, S., Leiserowitz, A., Rosenthal, S., & Maibach, E. (2017). Inoculating the public against misinformation about climate change. Global Challenges 1(2), 1600008.

⁹⁸[références données par les chercheurs] Barthel, M., Mitchell, A., & Holcomb, J. (2016). Many Americans believe fake news Is sowing confusion. Pew Research Center. http://www.journalism.org/2016/12/15/manyamericans-believe-fake-news-is-sowing-confusion/

⁹⁹ [références données par les chercheurs]Lewandowsky, S.; Ecker, U. K. H.; Seifert, C.; Schwarz, N. & Cook, J. (2012). Misinformation and its correction: Continued influence and successful debiasing. Psychological Science in the Public Interest 13, 106‐131

¹⁰⁰Written evidence submitted by Dr. Sander van der Linden, Mr. Jon Roozenbeek,Mr. Ruurd Oosterwoud (DROG),Associate Professor Josh Compton, Professor Stephan Lewandowsky, The Science of Prebunking: Inoculating the Public Against Fake News https://data.parliament.uk/WrittenEvidence/CommitteeEvidence.svc/EvidenceDocument/Digital,%20Culture,%20Media%20and%20Sport/Disinformation%20and%20%E2%80%98fake%20news%E2%80%99/Written/79482.html

¹⁰¹ [références données par les chercheurs]Lewandowsky, S., Ecker, U. K., & Cook, J. (2017). Beyond misinformation: Understanding and coping with the “post-truth” era. Journal of Applied Research in Memory and Cognition, 6(4), 353-369

¹⁰²Written evidence submitted by Dr. Sander van der Linden, Mr. Jon Roozenbeek,Mr. Ruurd Oosterwoud (DROG),Associate Professor Josh Compton, Professor Stephan Lewandowsky, The Science of Prebunking: Inoculating the Public Against Fake News https://data.parliament.uk/WrittenEvidence/CommitteeEvidence.svc/EvidenceDocument/Digital,%20Culture,%20Media%20and%20Sport/Disinformation%20and%20%E2%80%98fake%20news%E2%80%99/Written/79482.html

¹⁰³[références données par les chercheurs] Lewandowsky, S.; Ecker, U. K. H.; Seifert, C.; Schwarz, N. & Cook, J. (2012). Misinformation and its correction: Continued influence and successful debiasing. Psychological Science in the Public Interest 13, 106‐131. ; Nyhan, B. & Reifler, J. (2010). When corrections fail: The persistence of political misperceptions. Political Behavior, 32, 303‐330.

¹⁰⁴Written evidence submitted by Dr. Sander van der Linden, Mr. Jon Roozenbeek,Mr. Ruurd Oosterwoud (DROG),Associate Professor Josh Compton, Professor Stephan Lewandowsky, The Science of Prebunking: Inoculating the Public Against Fake News https://data.parliament.uk/WrittenEvidence/CommitteeEvidence.svc/EvidenceDocument/Digital,%20Culture,%20Media%20and%20Sport/Disinformation%20and%20%E2%80%98fake%20news%E2%80%99/Written/79482.html

¹⁰⁵Written evidence submitted by Dr. Sander van der Linden, Mr. Jon Roozenbeek,Mr. Ruurd Oosterwoud (DROG),Associate Professor Josh Compton, Professor Stephan Lewandowsky, The Science of Prebunking: Inoculating the Public Against Fake News https://data.parliament.uk/WrittenEvidence/CommitteeEvidence.svc/EvidenceDocument/Digital,%20Culture,%20Media%20and%20Sport/Disinformation%20and%20%E2%80%98fake%20news%E2%80%99/Written/79482.html

¹⁰⁶ [références données par les chercheurs] McGuire, W. J., & Papageorgis, D. (1961). The relative efficacy of various types of prior belief-defense in producing immunity against persuasion. Journal of Abnormal and Social Psychology, 62, 327–337

¹⁰⁷ [références données par les chercheurs] Banas, J. A., & Rains, S. A. (2010). A meta-analysis of research on inoculation theory. Communication Monographs, 77(3), 281–311 ; Compton, J., & Pfau, M. (2009). Spreading inoculation: Inoculation, resistance to influence, and word‐of‐mouth communication. Communication Theory, 19(1), 9-28. ; [16] Compton, J., & Ivanov, B. (2013). Vaccinating voters: Surveying political campaign inoculation scholarship. Annals of the International Communication Association, 37(1), 251-283.

¹⁰⁸ [références données par les chercheurs] van der Linden, S., Leiserowitz, A., Rosenthal, S., & Maibach, E. (2017). Inoculating the public against misinformation about climate change. Global Challenges 1(2), 1600008. ; Cook, J., Lewandowsky, S., & Ecker, U. K. H. (2017). Neutralizing misinformation through inoculation: Exposing misleading argumentation techniques reduces their influence. PLOS ONE, 12(5): e0175799

¹⁰⁹ [références données par les chercheurs] Roozenbeek, J., & van der Linden, S. (2018). The fake news game: Actively inoculating against the risk of misinformation. Journal of Risk Research. Doi: 10.1080/13669877.2018.1443491

¹¹⁰Written evidence submitted by Dr. Sander van der Linden, Mr. Jon Roozenbeek,Mr. Ruurd Oosterwoud (DROG),Associate Professor Josh Compton, Professor Stephan Lewandowsky, The Science of Prebunking: Inoculating the Public Against Fake News https://data.parliament.uk/WrittenEvidence/CommitteeEvidence.svc/EvidenceDocument/Digital,%20Culture,%20Media%20and%20Sport/Disinformation%20and%20%E2%80%98fake%20news%E2%80%99/Written/

¹¹¹ [références données par les chercheurs] Roozenbeek, J., & van der Linden, S. (2018). The fake news game: Actively inoculating against the risk of misinformation. Journal of Risk Research. Doi: 10.1080/13669877.2018.1443491 ;

¹¹² [références données par les chercheurs] NATO StratCom. Digital Hydra: Security implications of false information online. https://www.stratcomcoe.org/digital-hydra-security-implications-false-information-online

¹¹³ [références données par les chercheurs] van der Linden, S., Maibach, E., Cook, J., Leiserowitz, A., & Lewandowsky, S. (2017). Inoculating against misinformation. Science 358(6367), 1141-1142. ; Compton, J., & Pfau, M. (2009). Spreading inoculation: Inoculation, resistance to influence, and word‐of‐mouth communication. Communication Theory, 19(1), 9-28.

¹¹⁴Written evidence submitted by Dr. Sander van der Linden, Mr. Jon Roozenbeek,Mr. Ruurd Oosterwoud (DROG),Associate Professor Josh Compton, Professor Stephan Lewandowsky, The Science of Prebunking: Inoculating the Public Against Fake News https://data.parliament.uk/WrittenEvidence/CommitteeEvidence.svc/EvidenceDocument/Digital,%20Culture,%20Media%20and%20Sport/Disinformation%20and%20%E2%80%98fake%20news%E2%80%99/Written/79482.html

¹¹⁵Written evidence submitted by Dr. Sander van der Linden, Mr. Jon Roozenbeek,Mr. Ruurd Oosterwoud (DROG),Associate Professor Josh Compton, Professor Stephan Lewandowsky, The Science of Prebunking: Inoculating the Public Against Fake News https://data.parliament.uk/WrittenEvidence/CommitteeEvidence.svc/EvidenceDocument/Digital,%20Culture,%20Media%20and%20Sport/Disinformation%20and%20%E2%80%98fake%20news%E2%80%99/Written/79482.html

¹¹⁶ Voir la revue d’expériences à ce sujet dans Self-determination Theory, Deci et Ryan 2017 ; j’en ai consacré aussi plusieurs chapitres dans notre dernier livre accessible gratuitement ici : https://www.hacking-social.com/2021/09/17/en-toute-puissance-manuel-dautodetermination-radicale/

¹¹⁷Cf B. J. Foggs, «tiny habits »

¹¹⁸https://enigmail.net/index.php/en/

¹¹⁹Nous en avons parlé ici : Twitter est-il WOKE ?, Chayka Hackso, 2022 https://www.hacking-social.com/2022/04/26/twitter-est-il-woke/

¹²⁰Je ne peux pas donner la source pour des raisons de sécurité et de confidentialité. Cependant, vous pourrez trouver des exemples similaires dans L’art de la supercherie de Kevin D. Mitnick.

¹²¹Dont j’ai parlé ici : La personnalité altruiste, Viciss Hackso https://www.hacking-social.com/2019/03/25/pa1-la-personnalite-altruiste/ ; En toute puissance, Viciss Hackso, 2021 https://www.hacking-social.com/2021/09/17/en-toute-puissance-manuel-dautodetermination-radicale/

¹²²Par exemple les méthodes de l’OSS : être stupide ou l’art du sabotage social, Viciss Hackso https://www.hacking-social.com/2016/05/09/etre-stupide-ou-lart-du-sabotage-social-selon-les-lecons-de-la-cia/

Bibliographie

Aleksandr Kogan, Written evidence, 2018 https://www.parliament.uk/globalassets/documents/commons-committees/culture-media-and-sport/Written-evidence-Aleksandr-Kogan.pdf

Alison Klayman, Steve Bannon : le grand manipulateur, 2019

Amiot, Bringing together humanistic and intergroup perspectives to build a model of internalisation of normative social harmdoing, 2019 ♦

Andrew Schwartz, Johannes C. Eichstaedt, Personality, Gender, and Age in the Language of Social Media: The Open-Vocabulary Approach, 2013 https://www.scinapse.io/papers/2119595472

ANSSI, GUIDE D’HYGIÈNE INFORMATIQUE, RENFORCER LA SÉCURITÉ DE SON SYSTÈME D’INFORMATION EN 42 MESURES guide_hygiene_informatique_anssi.pdf

Arte, Steve Bannon, l'homme qui murmure à l'oreille de Trump, 2017 https://www.dailymotion.com/video/x5oh1zl

Bagci, S. C., Stathi, S., & Golec de Zavala, A., Social identity threat across group status: Links to psychological well-being and intergroup bias through collective narcissism and ingroup satisfaction, 2021.

Bernard Gangloff, Daniel Pasquier, Décrire et évaluer la personnalité  ; mythes et réalité, 2011

Bloomberg Quicktake :Now, Ex-Cambridge Analytica Director Brittany Kaiser Testifies in U.K Parliament, 2018 https://www.youtube.com/watch?v=X5g6IJm7YJQ

Bloomberg Quicktake:now Ex-Cambridge Analytica CEO Alexander Nix Testifies to U.K. Lawmakers, 2018 https://www.youtube.com/watch?v=M2B4hlO2Sqw

Brittany Kaiser, L'affaire Cambridge Analytica, 2019

Brummelman, Gürel, Sedikides, Handbook of trait narcissism, 2018 ♦

Cambridge Analytica - Select 2016 Campaign-Related Documents https://archive.org/details/ca-docs-with-redactions-sept-23-2020-4pm/page/n12/mode/2up

Carole Cadwalladr, ‘I made Steve Bannon’s psychological warfare tool’: meet the data war whistleblower, 2018 https://www.theguardian.com/news/2018/mar/17/data-war-whistleblower-christopher-wylie-faceook-nix-bannon-trump

Carole Cadwalladr, Revealed: graphic video used by Cambridge Analytica to influence Nigerian election, 2018 https://www.theguardian.com/uk-news/2018/apr/04/cambridge-analytica-used-violent-video-to-try-to-influence-nigerian-election

CBC news : The National, Canadian whistleblower Chris Wylie testifies before U.K. parliamentary committee, 2018 https://www.youtube.com/watch?v=lK6oPA1G7D0

Christopher Wylie, Mindfuck, 2020.

CNIL, Comment sécuriser au maximum l’accès à votre smartphone ? 2017 https://www.cnil.fr/fr/comment-securiser-au-maximum-lacces-votre-smartphone

CNIL, Faites régulièrement le ménage dans l'historique de navigation, 2019  : https://www.cnil.fr/fr/faites-regulierement-le-menage-dans-lhistorique-de-navigation

CNIL, La navigation privée pour limiter les risques de piratage de vos comptes en ligne, 2016 https://www.cnil.fr/fr/la-navigation-privee-pour-limiter-les-risques-de-piratage-de-vos-comptes-en-ligne

CNIL, Maîtrisez les réglages « vie privée » de votre smartphone 2019  https://www.cnil.fr/fr/maitrisez-les-reglages-vie-privee-de-votre-smartphone

CNIL, Pourquoi sécuriser au maximum le mot de passe de votre boite email ? 2017  https://www.cnil.fr/fr/pourquoi-securiser-au-maximum-le-mot-de-passe-de-votre-boite-email

CNIL, Pourquoi sécuriser au maximum le mot de passe de votre boite email ? 2017 https://www.cnil.fr/fr/pourquoi-securiser-au-maximum-le-mot-de-passe-de-votre-boite-email

CNIL, Prenez 1 heure pour adopter de meilleurs réflexes pour votre vie privée numérique, 2016 https://www.cnil.fr/fr/prenez-1-heure-pour-adopter-de-meilleurs-reflexes-pour-votre-vie-privee-numerique ♦

CNIL, Snapchat : 5 paramètres à régler pour maîtriser ses données 2016 https://www.cnil.fr/fr/snapchat-5-parametres-regler-pour-maitriser-ses-donnees

Concil of the EU, EP elections: EU adopts new rules to prevent misuse of personal data by European political parties, 2019 https://www.consilium.europa.eu/en/press/press-releases/2019/03/19/ep-elections-eu-adopts-new-rules-to-prevent-misuse-of-personal-data-by-european-political-parties/

Concordia, The Power of Big Data and Psychographics, 2016 https://www.youtube.com/watch?v=n8Dd5aVXLCc

ContraPoints, Les incels, 2018 https://www.youtube.com/watch?v=fD2briZ6fB0 ♦

Council of the EU,  EP elections: EU adopts new rules to prevent misuse of personal data by European political parties, 2019 https://www.consilium.europa.eu/en/press/press-releases/2019/03/19/ep-elections-eu-adopts-new-rules-to-prevent-misuse-of-personal-data-by-european-political-parties/

David Sumpter, My interview with Aleksandr Kogan: what Cambridge Analytica were trying to do and why their algortihm doesn’t work, 2018 https://soccermatics.medium.com/my-interview-with-aleksander-kogan-what-cambridge-analytica-were-trying-to-do-and-why-their-f869ef65d945

David Sumpter, Outnumbered : Exploring the Algorithms That Control Our Lives,  2018.

Deci et Ryan, Self-determination Theory, 2017 ♦

Digital, Culture, Media and Sport Committee | Chris Vickery, Oral evidence: Fake News, HC 363, 2018. https://data.parliament.uk/WrittenEvidence/CommitteeEvidence.svc/EvidenceDocument/Digital,%20Culture,%20Media%20and%20Sport/Disinformation%20and%20%E2%80%98fake%20news%E2%80%99/Oral/82471.html

Eitan Hersh, HEARING BEFORE THE UNITED STATES SENATE COMMITTEE ON THE JUDICIAR, Written Testimony , 2018. https://www.eitanhersh.com/uploads/7/9/7/5/7975685/hersh_written_testimony_senate_judiciary.pdf

Electronic Frontier Fondation  https://www.eff.org/fr/https-everywhere

Electronic Frontier Foundation, Surveillance Self-Defense, Tips, Tools and How-tos for Safer Online Communications Surveillance Self-Defense | Tips, Tools and How-tos for Safer Online Communications (eff.org)

Emma Thomas, Laura  Smith, Craig McGarty, Tom Postmes, Nice and Nasty: The Formation of Prosocial and Hostile Social Movements, 2010.

Envoyé spécial, Le stratège de l'ombre, 2019. https://www.youtube.com/watch?v=MBc_V7xNzCE ♦

Genus Artificial Intelligence https://genus.ai/

Glenn Greenwald, How Covert Agents Infiltrate the Internet to Manipulate, Deceive, and Destroy Reputations, 2014. https://theintercept.com/2014/02/24/jtrig-manipulation/ ♦

Golec de Zavala, Agnieszka, Collective narcissism and intergroup hostility: the dark side of ’in group love’, 2011 ♦

Guardian News, Arron Banks and Andy Wigmore testify to 'fake news' inquiry, 2018.  https://www.youtube.com/watch?v=IWQh2lHqYek

Guardian News, Cambridge Analytica's Aleksandr Kogan faces parliamentary questions, 2018. https://www.youtube.com/watch?v=CE0J74PDDgQ

Guardian News, How Cambridge Analytica ​tried to intimidate Nigerian voters, 2018. https://www.youtube.com/watch?v=KOpKkgXNb50

Guardian News, Mark Zuckerberg testifies before Congress, 2018. https://www.youtube.com/watch?v=mZaec_mlq9M

Guide.boum.org, Guide d’autodéfense numérique, 2017 https://guide.boum.org/tomes/1_hors_connexions/00_sommaire/ ; https://guide.boum.org/tomes/2_en_ligne/unepage/

H. Andrew Schwartz, Johannes C. Eichstaedt, Lyle H. Ungar,  Personality, Gender, and Age in the Language of Social Media: The Open-Vocabulary Approach, 2013. https://www.scinapse.io/papers/2119595472

Huffington Post, Emmanuel Macron forcé de retirer sa "Lettre aux Français" de son Twitter, 2022 https://www.huffingtonpost.fr/entry/macron-a-retire-sa-lettre-aux-francais-de-son-compte-twitter_fr_622b1d2be4b0fe0944d4127c

Information Commissioner’s Office (ICO) Democracy disrupted ? Personal information and political influence, 2018. https://ico.org.uk/media/action-weve-taken/2259369/democracy-disrupted-110718.pdf ♦

Information Commissioner’s Office (ICO), Investigation into the use of data analytics in political campaigns, 2018. https://ico.org.uk/media/action-weve-taken/2259371/investigation-into-data-analytics-for-political-purposes-update.pdf

Issie Lapowsky, The Man Who Saw the Dangers of Cambridge Analytica Years Ago, 2018. https://www.wired.com/story/the-man-who-saw-the-dangers-of-cambridge-analytica/

Jarosław Piotrowski, Joanna Rózycka-Tran, Tomasz Baran, Magdalena ̇ Zemojtel-Piotrowska Zero-Sum Thinking as Mediator of the Relationship of National Attitudes with (Un)willingness to Host Refugees in own Country, 2018.

Jean-Léon Beauvois, Nicole Dubois, Psychologie de la personnalité et évaluation, 2016. ♦

Jean-Pierre Rolland, L’évaluation de la personnalité, 2004. ♦

Jehane Noujaim et Karim Amer, The great Hack, 2019.

Johan Lepage, Rôle des mécanismes d'autorégulation dans la soumission à l'autorité, 2017. https://tel.archives-ouvertes.fr/tel-01769505 ♦

Joshua Green, Devil's Bargain, 2017.  

Julien Cadot, Mark Zuckerberg : « Je trouve que le RGPD est très positif », 2018. https://www.numerama.com/politique/340758-mark-zuckerberg-les-memes-reglages-de-confidentialite-seront-deployes-dans-le-monde-entier.html

Le Monde, Steve Bannon veut passer « à l’offensive » après son inculpation dans l’enquête sur l’assaut du Capitole, 2021 https://www.lemonde.fr/international/article/2021/11/15/steve-bannon-proche-conseiller-de-trump-veut-passer-a-l-offensive-apres-son-inculpation-dans-l-enquete-sur-l-assaut-du-capitole_6102182_3210.html

Loopnewsbarbados.com. T&T data mining project allegedly connected to Brexit, Donald Trump, 2017 : http://www.loopnewsbarbados.com/content/tt-data-mining-project-allegedly-connected-brexit-donald-trump

Marie Turcan, Vous pouvez désormais savoir si Cambridge Analytica a mis la main sur vos données, 2018 https://www.numerama.com/tech/343243-a-partir-daujourdhui-vous-saurez-si-cambridge-analytica-a-mis-la-main-sur-vos-donnees.html

McKeown, Haji, Ferguson, Understanding peace and conflict through social identity theory, 2016.

Michal Kosinski, David Stillwell, Thore Graepel, Private traits and attributes are predictable from digital records of human behavior, 2013. https://www.pnas.org/content/110/15/5802

Michel Hansenne, Psychologie de la personnalité,  2021.

Nicolas Hervé, Médiatisation des candidat.e.s à l'élection présidentielle 2022 dans l’audiovisuel,  2021 https://www.herve.name/research/nherve_presidentielle_2022_v1.0.pdf

Nicolas Rauline, Attaque du Capitole : les 5 protagonistes de l'affaire, 2022 https://www.lesechos.fr/monde/etats-unis/attaque-du-capitole-les-5-protagonistes-de-laffaire-1376555

OMR, Alexander Nix: From Mad Men to Math Men | OMR Festival 2017 - Hamburg, Germany https://www.youtube.com/watch?v=6bG5ps5KdDo

Parliament UK Disinformation and 'fake news': Final Report https://publications.parliament.uk/pa/cm201719/cmselect/cmcumeds/1791/179102.htm

Parliament UK, Chris Wylie Background papers, https://www.parliament.uk/globalassets/documents/commons-committees/culture-media-and-sport/Chris-Wylie-Background-papers.pdf

Parliament UK, Disinformation and 'fake news': Final Report https://publications.parliament.uk/pa/cm201719/cmselect/cmcumeds/1791/179112.htm#_idTextAnchor082

Paul T. Costa, Jr., Robert R. McCrae, NEO ™  Personality Inventory-3 Interpretive Report Developed

Paul T. Costa, Jr., Robert R. McCrae, NEO-PI-R, inventaire de la personnalité-révisé, HTS report, Hogrede.

Paul T. Costa, Jr., Robert R. McCrae, Personality in adulthood, 2005.

PBS NewsHour, Cambridge Analytica whistleblower Christopher Wylie testifies before Senate, 2018 https://www.youtube.com/watch?v=d40RWyBnOBQ

Résistance à l’agression publicitaire (RAP), Bloque la pub https://bloquelapub.net/ ♦

Roman Bornstein, Ingérence numérique, mode d'emploi : la Russie et la présidentielle américaine de 2016, https://www.jean-jaures.org/publication/ingerence-numerique-mode-demploi-la-russie-et-la-presidentielle-americaine-de-2016/ ♦

Ryan Mac, Cambridge Analytica Data Scientist Aleksandr Kogan Wants You To Know He’s Not A Russian Spy, 2018. https://www.buzzfeednews.com/article/ryanmac/facebook-cambridge-analytica-aleksandr-kogan-not-spy

Ryan Mac, Charlie Warzel,  Alex Kantrowitz,  Joseph Bernstein  These Men Helped Create Cambridge Analytica. Here Is Their New, Very Similar Startup, 2018 https://www.buzzfeednews.com/article/ryanmac/these-men-helped-create-cambridge-analytica-here-is-their

Ryan Mac, The Cambridge Analytica Whistleblower Wanted His New Company To Work With Trump Campaign’s Manager, 2018 https://www.buzzfeednews.com/article/ryanmac/cambridge-analytica-chris-wylie-eunoia-trump-campaign

Sander van der Linden, Jon Roozenbeek, Ruurd Oosterwoud, Josh Compton, Stephan Lewandowsky, The Science of Prebunking: Inoculating the Public Against Fake News https://data.parliament.uk/WrittenEvidence/CommitteeEvidence.svc/EvidenceDocument/Digital,%20Culture,%20Media%20and%20Sport/Disinformation%20and%20%E2%80%98fake%20news%E2%80%99/Written/79482.html ♦

Senate commerce subcommittee,  Cambridge Analytica and Facebook Data Partners, 2018 https://www.c-span.org/video/?447132-1/senate-committee-examines-cambridge-analytica-partnership-facebook

Shawn Boburg, Emily Rauhala, Stephen K. Bannon once guided a global firm that made millions helping gamers cheat, 2017 https://www.washingtonpost.com/investigations/steve-bannon-once-guided-a-global-firm-that-made-millions-helping-gamers-cheat/2017/08/04/ef7ae442-76c8-11e7-803f-a6c989606ac7_story.html

Sophia – Game Spectrum, Qui sont les joueurs de jeu vidéo ? - Documentaire, 2020 https://www.youtube.com/watch?v=_sUvKvoK9I8 ♦

Stabroek News, Trinidad: Cambridge Analytica case closed after witness fails to show up, 2020 https://www.stabroeknews.com/2020/05/08/news/regional/trinidad/trinidad-cambridge-analytica-case-closed-after-witness-fails-to-show-up/

Tara Golshan, 2 big takeways from a scandalous report on internal Breitbart documents, 2017 https://www.vox.com/2017/10/5/16433172/buzzfeed-report-breitbart-documents-milo

The Guardian Trinidad and Tobago Kamla: ‘Who cares about Cambridge Analytica?’ 2019 https://www.guardian.co.tt/news/kamla-who-cares-about-cambridge-analytica-6.2.990285.675aba0ab7

The Guardian Trinidad and Tobago, October surprise and Cambridge Analytica, 2019 https://www.guardian.co.tt/opinion/october-surprise-and-cambridge-analytica-6.2.994991.8cf27627cd

Timothy Revell, Phee Waterfield, Huge new Facebook data leak exposed intimate details of 3m users, 2018 https://www.newscientist.com/article/2168713-huge-new-facebook-data-leak-exposed-intimate-details-of-3m-users/

University of Cambridge, the psychometrics centre, Apply Magic Sauce https://applymagicsauce.com/demo

Vian Bakir, Psychological Operations in Digital Political Campaigns: Assessing Cambridge Analytica's Psychographic Profiling and Targeting, 2020. ♦

Wendy Siegelman, CHART: SCL and Cambridge Analytica — Active and Related Companies in 2020, 2020 https://wsiegelman.medium.com/chart-scl-and-cambridge-analytica-active-and-related-companies-2020-6f38e2e3100c

Wendy Siegelman, SCL Group - Companies & Shareholders, 2017 https://wsiegelman.medium.com/scl-companies-shareholders-e65a4f394158

Will Worley, Neo-Nazi website asks readers to target funeral of Heather Heyer who died in Charlottesville violence, 2017 https://www.independent.co.uk/news/world/americas/america-top-neo-nazi-website-daily-stormer-orders-followers-harass-funeral-heather-heyer-victim-charlottesville-violence-a7895496.html

Zhenkun Zhou, Ke Xu & Jichang Zhao, Extroverts tweet differently from introverts in Weibo, 2018 https://epjdatascience.springeropen.com/articles/10.1140/epjds/s13688-018-0146-8