Peut-on utiliser Facebook, les réseaux sociaux, Internet pour changer le cours d’une élection ? Oui.

Peut-on utiliser Facebook et les autres réseaux sociaux pour créer et stimuler des mouvements extrémistes haineux, harcelant en masse et diffusant des fakes news ? Oui.

Peut-on utiliser conjointement les apports académiques de la psychologie (sociale, de la personnalité notamment), des mathématiques, du numérique pour détecter les opinions politiques à l’insu des personnes et jouer avec ? Oui.

Peut-on mettre la main sur des millions de données personnelles d’un autre pays historiquement « ennemi », jouer avec, et les faire adhérer à une image positive de notre leader ? Oui.

Peut-on exploiter notre personnalité, nos vulnérabilités, nos biais pour changer notre probable vote ? Oui.

Peut-on stimuler ce qui nuit à notre bien-être, accentue nos problèmes, nous enfonce dans le pire, nous coupe de ce qui nous ferait du bien dans le but de créer du chaos ou faire remporter un candidat ? Oui.

Si je me permets d’affirmer tout ceci, c’est qu’en 2018, on a découvert que c’est bien ce que faisait Cambridge Analytica (une entreprise parmi d’autres de la galaxie SCL), et ce au mépris des lois, des règles démocratiques, de toute éthique. Grâce aux journalistes, aux lanceurs d’alerte, aux témoignages conséquents au congrès américain et au parlement anglais, aux milliers de pages de leaks de documents de l’entreprise, on en sait aujourd’hui beaucoup sur ces manipulations politiques internationales.

Si je vous en parle aujourd’hui, c’est parce que, d’une part nous allons subir des élections dont les campagnes sont d’ores et déjà assez pénibles, mais aussi parce que c’est un cas d’école sur comment les connaissances scientifiques en psychologie – par ailleurs souvent dénigrée ou perçue avec dédain – peuvent être exploitées et avoir un pouvoir considérable. Non, les études sur les Big Five et la personnalité, quand bien même elles peuvent paraître pour certaines « stupides », ne sont pas bullshit : mises bout-à-bout, elles peuvent être transformées en instrument de contrôle et de manipulation.

À cette histoire, les lanceurs d’alerte, les institutions qui ont été chargées d’enquêter sur CA/SCL ont fait des recommandations politiques pour protéger les données. Au niveau citoyen et militant, c’est une mis en lumière pour un plus large public des questions de sécurité numériques.

Excepté le fait de vous exposer cette histoire totalement ahurissante pour vous informer en cette période électorale, mon but sera de tenter de vous livrer de quoi permettre une analyse que CA pouvait avoir sur vous concernant votre personnalité. Plus on se connaît, plus on peut décider et se refuser d’être entrainé dans un courant de manipulation. Or, il me semble qu’il y a très peu de moyens de connaitre sa personnalité : quand bien même on aurait passé les Big Five sur un site internet, on déduit rarement tout ce que cela implique comme force d’attraction, de répulsion, d’inaction ou d’actions. Au passage, attention aux tests psy sur Internet, car non seulement ils ne sont pas fiables, mais plus encore comme nous le verrons ils peuvent être un vrai cheval de Troie pour récolter des données privées.

De plus, quand on parle de personnalité, on peut croire que ses traits sont rigides, or on sait aujourd’hui qu’il y a une plasticité de la personnalité, que celle ci peut changer selon les contextes, voire carrément se transformer (et ce, sans que ce soit pathologique, cela peut même être une très bonne nouvelle). Même si vous avez passé le test avec un psychologue ou dans le cadre professionnel, je doute qu’on vous ait restitué l’aspect politique lié au détail de votre personnalité, alors c’est aussi ce dont je parlerais à terme.

C’est donc ce que j’essayerai de vous livrer dans ce dossier, avec cette théorie un peu folle que si on pouvait s’approprier les connaissances propres à sa personnalité, alors peut-être aurait-on plus de latitude de décision et d’autonomie quant à céder ou non face à une manipulation se basant sur ces mêmes connaissances.. Par ailleurs, se connaitre ne me semble jamais inutile, cela permet d’affuter ses forces, surmonter des vulnérabilités, exister plus vivement, mieux interagir avec autrui.

Mais avant cela, on va chercher à comprendre cette affaire d’ingénierie sociale politique, ce hack des psychologies et de la démocratie, ce « dark » nudge politique des réseaux sociaux, cette exploitation massive des données personnelles.

La totalité du dossier ici en PDF : CA.pdf  ; ou en epub : CA.epub

C’est quoi Cambridge Analytica, SCL ?

Cambridge Analytica (CA) n’est qu’une « marque » étasunienne noyée dans une galaxie d’entreprises nommées généralement SCL (Strategic Communication Laboratorie), entreprises partageant de mêmes équipes, de mêmes techniques, de mêmes données. Ces mêmes groupes pouvaient avoir différents noms selon les opérations en cours (par exemple aggregateIQ s’appelait par ailleurs SCL Canada). Les employés pouvaient avoir plusieurs cartes de visite : par exemple, la lanceuse d’alerte Brittany Kaiser se présentait différemment selon les opérations et clients, travaillant soit pour CA, soit pour SCL group.

La multiplication des groupes permettait de surmonter les lois de chaque pays, cela a permis par la suite de brouiller les pistes en cas d’accusation, ce qui a été notamment le cas dans l’affaire du Brexit¹. Cambridge Analytica a été créée parce qu’il est interdit aux États-Unis qu’une entreprise étrangère participe de près ou de loin à des élections nationales, il fallait donc une filiale étasunienne.

CA/SCL était donc l’un des organismes privés de stratégie de communication oeuvrant dans le cadre d’élections dans divers pays. Ses clients provenaient du champ militaire, politique ou du monde des affaires, et il s’agissait de faire gagner le candidat que les clients souhaitaient voir gagner. SCL a travaillé sur 200 élections à travers le monde.

Comment CA manipulait-elle les élections ?

• Elle captait et utilisait une masse énorme des données personnelles. Cette utilisation des données provenant en partie des réseaux sociaux (surtout de Facebook) et cette aspiration des données s’est faite sans consentement éclairé des usagers (notamment pour l’usage politique).

• Les données ont permis de mesurer la personnalité des gens (Big Five). Pour 320 000 profils Facebook cela a été fait directement par le test de l’app « thisisyourdigitallife« , pour les autres données cela pouvait être déduit par algorithmes construits à partir de cette base de données. À partir d’un certain nombre de likes, de posts, l’algo peut déduire la personnalité que vous montrez sur ce réseau en question (vous pouvez d’ailleurs le tester ici : https://applymagicsauce.com/demo ; je vous conseille de la désactiver après utilisation, cela a beau être mis à disposition par le champ académique, selon les sources que j’ai pu lire, Cambridge encourage la monétisation des travaux parmi ses chercheurs, donc je ne peux pas vous garantir l’usage de cet algo ).

• L’application mesurant la personnalité (« thisisyourdigitallife ») a permis également de collecter les profils Facebook des amis. De 320 000 profils collectés, CA/SCL a pu entrer en possession de 87 millions de profils (contenant donc toutes les données tels que l’âge, le genre, la ville, les likes, les posts, les pages aimées, les messages privés, etc.).
• CA/SCL avait une méthode scientifique (et une équipe de chercheurs en psychologie) pour mesurer en amont quels messages passerait bien ou non : à partir d’échantillon de 40 000 personnes dont ils avaient d’immenses sommes d’informations, ils recueillaient des réponses à des questionnaires, mesuraient l’opinion favorable ou non face à un message pour savoir s’ils allaient l’utiliser pour la campagne.

• Connaissant la personnalité des gens sur leur réseau social préféré et ceci couplé à des tas d’autres données et tests, il était facile pour eux de les pousser à voter pour le candidat client de CA ou SCL, avec des messages extrêmement personnalisés : c’est le microciblage comportemental.

• Les campagnes de CA ou SCL consistaient parfois à décourager certains électeurs à voter pour un candidat en le dénigrant.

• Les messages de campagne étaient changés en fonction de la population-cible, à travers les réseaux sociaux, mais aussi IRL.

• Les recherches Google étaient orientées pour faire en sorte que les personnes tombent en premier sur les messages pro-trump, anti-hillary :

Une entreprise d’extrême droite ???

Cambridge Analytica n’a œuvré que pour des candidats républicains et son conseil d’administration était politiquement d’extrême droite (financement par le clan Mercer ; Steve Bannon a créé et dirigé un temps CA). Breibart, un magazine en ligne d’extrême droite dont Bannon était à la tête, était aussi client de CA/SCL ; le lanceur d’alerte Christopher Wylie rapporte aussi des expériences pour un client « mystère » où il s’agissait carrément de stimuler certains profils pour finalement construire des groupes de l’Alt Right (on y reviendra).

Les employés, notamment ceux qui ont lancé l’alerte, étaient progressistes, voire d’ex-militants démocrates, ce qui est aussi un phénomène étonnant.

À noter que l’utilisation des données personnelles pour établir une campagne politique n’a pas été l’exclusivité de CA ou de SCL, déjà Obama le faisait. Et cela a fait l’objet d’un débat lors des témoignages devant le congrès où les républicains ont fortement argumenté sur ce point². La lanceuse d’alerte Brittany Kaiser, qui a participé à la campagne de 2007 d’Obama, rapporte néanmoins qu’il n’y avait pas de campagne de dénigrement de l’adversaire. Techniquement, l’équipe démocrate n’avait pas accès non plus aux traitements via la personnalité qui a été importé par le chercheur en psychologie sociale Kogan à travers sa société GSR pour SCL elections.

Cependant, comme Wylie l’a dit au congrès américain, qu’importe le parti qui l’utilise, cette captation des datas et leur traitement, puis le microciblage qui inondait l’univers des personnes de pubs et liens, pose un problème au processus démocratique lui-même. Les personnes sont alors mises dans un compartiment informationnel qui les coupent du reste des préoccupations du pays, et ses biais sont exploités pour que jamais elles n’en sortent, croyant davantage aux fake news qu’aux informations crédibles, accusant les informations solides d’en être des fausses, et les algorithmes alimentant leurs motivations à demeurer dans cet unique compartiment car ils ne leur proposent qu’un même univers.

Est-ce possible en France ?

À noter que CA a essayé de démarcher des politiciens français, mais sans succès (du moins sur les informations que l’on a³). Pour les élections 2017, à l’issue de leur présentation, l’équipe de Sarkozy a refusé de faire appel à eux arguant qu’en France une telle exploitation des données provoquerait un scandale énorme. Dans le conseil d’administration de CA, Bannon aurait préféré démarcher Lepen ; il a, d’ailleurs été vu à ses côtés.

A l’audition de Wylie (disponible ici : https://www.youtube.com/watch?v=X5g6IJm7YJQ ) , le journaliste Paul Olivier Dehaye a déclaré qu’en France un moyen de collecter massivement des données (pour ensuite les monétiser) pouvaient se faire via les partis politiques, puis que cela pouvait ouvrir l’accès aux listes électorales.

Globalement, la lanceuse d’alerte Brittany Kaiser signalait qu’en Europe, il y a plus de protection de données et de lois empêchant une telle collecte et utilisation des données. Est-ce que cela veut dire qu’un genre de CA ne pourrait pas advenir en France ? Je ne sais pas.

Récemment Facebook a fait stopper une campagne publicitaire de Zemmour pour l’adhésion à son parti, elle ne semblait pas employer un ciblage particulier et semble avoir eu peu de succès mais ça m’a beaucoup rappelé l’imagerie des campagnes de CA.

En France, il y aurait environ 70 personnes ayant utilisé « l’app thisisyourdigitallife » et à partir de cela 211 000 profils français ont été récupéré par CA/SCL environ vers 2014 ; vous pouvez vérifiez via facebook si vous avez été touché avec ce lien : https://www.facebook.com/help/1873665312923476?helpref=search&sr=1&query=cambridge ; plus d’infos ici : https://www.numerama.com/tech/343243-a-partir-daujourdhui-vous-saurez-si-cambridge-analytica-a-mis-la-main-sur-vos-donnees.html et là https://www.numerama.com/politique/340758-mark-zuckerberg-les-memes-reglages-de-confidentialite-seront-deployes-dans-le-monde-entier.html

Néanmoins attention aux sondages, questionnaires, applications qui vous demandent actuellement de vous connecter à Facebook – d’autant plus s’ils ont des fins/liens politiques. Par prévention, je conseillerais de ne les faire que sur un PC avec un navigateur configuré pour supprimer tous les cookies et historique à chaque session, et qui ne se connecte pas automatiquement aux réseaux sociaux /google (et vérifiez qu’ils sont bien déconnectés). N’utilisez pas les boutons « like » « partager » se trouvant sur les sites et applications. Préférez ouvrir des comptes avec une adresse mail que passer par votre compte google ou Facebook. Utilisez votre VPN si vous en avez, et ne répondez pas aux questions concernant votre vie privée (ou mentez si c’est forcé).  Le plus risqué reste les liens pouvant être fait avec la connexion avec Facebook, Google ou d’autres réseaux sociaux, restez déconnecté de ceux-ci tant que possible (sinon vous faites de toute façon cibler, notamment par les annonceurs).

Et maintenant ?

• En 2018, Alexander Nix, à la tête de CA est suspendu suite à un reportage fait en caméra cachée où Nix dévoilait à des clients comment il utilisait des pots-de-vin, des prostituées et d’anciens espions pour piéger des candidats. On peut voir le reportage ici :

Il a été interdit de poste de direction pour sept années. https://www.theguardian.com/uk-news/2020/sep/24/cambridge-analytica-directorship-ban-alexander-nix

• En 2018, Cambridge Analytica, puis ses autres groupes (SCL), se déclarent en faillite suite aux révélations et scandales.

Des journalistes se demandent où les données vont atterrir et craignent que l’entreprise renaisse de ses cendres à travers la société d’Emerdata ; il y a énormément d’ancien de CA et SCL à sa tête, et l’entreprise offre des services similaires : https://fr.wikipedia.org/wiki/Emerdata_Limited https://www.theregister.com/2018/05/02/cambridge_analytica_shutdown/

• En 2018, des entreprises revendant des données de façon illégale ont été condamnées ; par exemple Emma’s Diary, une entreprise qui fournit des conseils en matière de grossesse et de garde d’enfants, avaient vendu ces données à Experian Marketing Services qui a profilé les mères pour le parti travailliste anglais en vue des élections de 2017. Évidemment, les parents n’avaient pas consenti à ce que leurs données personnelles soient utilisées à des fins politiques. L’entreprise a eu une amende de 140 000 £.
• En 2019 SCL, la société-mère de CA a reçu une amende d’environ 16 600 euros. https://www.lebigdata.fr/cambridge-analytica-condamne-uk
• En 2020, Facebook a reçu une amende de 5 milliards de dollars pour violation de la vie privée des consommateurs https://www-ftc-gov.translate.goog/news-events/press-releases/2019/07/ftc-imposes-5-billion-penalty-sweeping-new-privacy-restrictions?_x_tr_sl=auto&_x_tr_tl=fr&_x_tr_hl=fr

Collusion russe ???

À noter que les étasuniens ont été très préoccupés aussi par la question de la collusion russe via CA/SCL, plusieurs éléments leur laissant à craindre que les données des 87 millions de profils facebook américains auraient pu tomber dans les mains des Russes.

Le professeur Kogan (qui s’est renommé depuis « Spectre »), qui avait aussi ces données, travaillait avec les chercheurs russes pour contrer le cyberharcèlement (recherches qui pourraient hypothétiquement tout à fait être retournées pour faire l’inverse, et nourrir des opérations de trolling qui, elles, ont été effectivement révélées). Étonnamment, à l’audition au parlement anglais, il a été révélé que l’entreprise de Kogan (GSR) était domiciliée à une adresse inexistante mais connue pour être utilisée par des oligarques russes. Kogan n’a pas donné d’explications à ce sujet prétextant qu’il n’était pas au courant.

Nix, le PDG de SCL a fait des présentations à des entreprises russes, dont Lukoil, une compagnie pétrolière que le congrès américain a signalée être en rapport avec les services de renseignements russes. Le lanceur d’alerte Wylie qui a assisté à ces présentations, a trouvé cela très intriguant, parce que Nix leur a présenté des opérations de désinformations hautement politiques (or, il s’agissait d’une compagnie pétrolière, pourquoi tenter de lui vendre ce genre d’opération?). Lorsque Wylie lui a demandé les vrais buts derrière cette présentation, Nix n’a jamais voulu lui répondre.

Wylie a aussi constaté que lors de tests qu’ils faisaient à SCL/CA pour mesurer l’opinion des personnes, il y avait beaucoup de questions sur Poutine, sur leur opinion au sujet de la Russie. Il ne savait pas du tout d’où cela venait, qui avait fait cette requête ; par ailleurs, bien que SCL travaille pour de nombreux autres pays, il n’a jamais vu ça pour d’autres leaders politiques. Ce qui est amusant, c’est que même en France j’ai l’impression d’avoir vu cette vague « pro-poutine » sur les réseaux sociaux, un temps où il était perçu et vendu comme « cool ».

Autre fait étrange, l’affaire d’ingérence russe « Internet Research Agency« , œuvrant notamment durant la campagne de Trump. Il s’agissait d’une agence de trolls professionnels russes qui se chargeaient de monter les Américains les uns contre les autres en se faisant passer pour soit des profils hautement progressistes, soit d’extrême-droite. Ils déployaient massivement des fakes news (parfois RT par Trump lui-même), organisaient des manifestations via Facebook d’une façon qu’elle dégénère. Étonnamment, le congrès américain révèle qu’ils ciblaient les mêmes profils que CA : peut-être qu’ils avaient le même set de données que CA/SCL (donc ce qui supposerait qu’ils l’ont eu soit via CA/SCL, soit via Kogan, de façon directe ou par hack). Zuckerberg a confirmé aussi au congrès américain qu’il semblerait il y avoir un lien. Wylie pose l’hypothèse que peut-être que les russes avaient leurs propres algorithmes ayant détecté que ces profils étaient les « meilleures » cibles, ce qui est aussi probable. Il y a des profils psychologiques plus « aptes » à réagir vite, à partager tels types de fausses nouvelles ou à s’engager dans telle opération).

Voilà donc le début d’un dossier disparate, qui explorera plusieurs thèmes ; je vais essayer de faire des articles indépendants (je rajouterais au fur et à mesure ici les thèmes en hyperlien), et ensuite je vous lâcherais un gros dossier sur la question de la personnalité.

La suite  :

COMMENT MANIPULER LES ÉLECTIONS AVEC L’ABSTENTION, L’INTIMIDATION ET LE DÉGOÛT

Sources de cet article | Notes de bas de page

• Mindfuck, Christopher Wylie
• L’affaire Cambridge Analytica, Brittany Kaiser
• Ingérence numérique, mode d’emploi : la Russie et la présidentielle américaine de 2016, Roman Bornstein Disponible ici https://www.jean-jaures.org/publication/ingerence-numerique-mode-demploi-la-russie-et-la-presidentielle-americaine-de-2016/
• The great Hack, documentaire Netflix, 2019
• https://www.theguardian.com/news/series/cambridge-analytica-files
• https://wsiegelman.medium.com/scl-companies-shareholders-e65a4f394158
• https://wsiegelman.medium.com/chart-scl-and-cambridge-analytica-active-and-related-companies-2020-6f38e2e3100c
• https://applymagicsauce.com/demo
• https://www.numerama.com/politique/340758-mark-zuckerberg-les-memes-reglages-de-confidentialite-seront-deployes-dans-le-monde-entier.html
• https://www.numerama.com/tech/343243-a-partir-daujourdhui-vous-saurez-si-cambridge-analytica-a-mis-la-main-sur-vos-donnees.html

Leaks et documents

• https://archive.org/details/ca-docs-with-redactions-sept-23-2020-4pm/page/n12/mode/2up
• https://www.parliament.uk/globalassets/documents/commons-committees/culture-media-and-sport/Chris-Wylie-Background-papers.pdf
• Présentation de CA/SCl de façon totalement décomplexée, en public, avant les scandales, par Alexander Nix :

Les témoignages au parlement britannique ou au congrès américain (Christopher Wylie, Brittany Kaiser, Aleksandr Kogan (ou Spectrum/Spectre), Alexander Nix, Arron Banks, Andy Wigmore Mark Zuckenberg) :