Réponse aux arguments faisant passer le scandale CA pour une non-affaire

Et si l’affaire Cambridge Analytica n’en était pas une, et que tout ce dont on a parlé, ça serait du flan ? Et si en fait, son PDG Nix n’avait fait qu’arnaquer ses clients en étant dans l’hyperbole et que ces stratégies d’influence politique n’avaient rien de particulier comparé aux autres, qu’il n’y avait pas de manipulation ?

Aujourd’hui, on explore des arguments qui ont été soulevés par les concernés eux-mêmes, que ce soit Kogan le psychologue de l’équipe, Nix le PDG, des républicains ayant bénéficié du travail de CA ou encore par certains « experts ». On va en profiter pour commencer à parler de ce qu’est la personnalité, en abordant celle des autoritaires de droite, comment on peut la « prédire », y compris sans le recours à l’intelligence artificielle ou aux données des réseaux sociaux. On reviendra sur ce qu’est la persuasion, les psyops, la manipulation.

La totalité du dossier ici en PDF : CA.pdf  ; ou en epub : CA.epub

Les articles précédents de ce dossier : 

• Comment manipuler les élections ? L’affaire Cambridge Analytica [CA1]
• Comment manipuler les élections avec l’abstention, l’intimidation et le dégoût [CA2]
• Viraliser l’extrême-droite : le plan de Bannon [CA3]
• Manipuler l’extrême-droite [CA4]
• Rendre plus explicitement raciste [CA5]
• Quand la psycho sert à manipuler [CA6]

« La prédiction de la personnalité ça marche pas ! »

Kogan dit1 que les corrélations entre vraies valeurs d’un test de personnalité et valeurs prédites par algorithme ne sont vraiment pas terribles, et donc que la prédiction de la personnalité à partir de la captation des données des réseaux sociaux ne fonctionne pas bien.

Je suppose qu’il se réfère aux études de Kosinski, car effectivement dans ses articles de 2013, les corrélations sont assez basses pour la majorité des traits (sur l’image en bas 0,3 environ pour la stabilité émotionnelle, l’agréabilité et la conscienciosité) seule l’ouverture est légèrement plus honorable (0,43 ; et en plus ça se rapproche d’une corrélation test/retest à 0,55).

Idem, David Sumpter, un chercheur en mathématiques ayant eu accès aux données anonymisées de Kosinski a essayé de reproduire la prédiction et il trouve à peu près la même chose : sur la majorité des traits, la prédiction est à peine meilleure que le hasard, excepté encore une fois pour la prédiction de l’ouverture qui s’en sort mieux. Sumpter est en contact régulier2 avec Kogan, et adhère à son récit, pour finir par conclure :

« L’histoire de Cambridge Analytica est à mon avis principalement un sujet d’hyperbole. C’est l’histoire d’une entreprise qui exagère apparemment ce qu’elle peut faire avec les données. Alexander Nix a lui-même admis avoir « parlé avec une certaine hyperbole » de ce que fait CA. « 

Outnumbered : Exploring the Algorithms That Control Our Lives, David Sumpter, 2018.

Mais sur l’étude de Kosinski on remarque que les autres prédictions, sont assez puissantes (par exemple celle de deviner le bord politique de la personnes ou sa couleur de peau, avec des corrélations entre vrais valeurs et valeurs prédites à plus de 0,85, voir image plus bas) : or c’est exactement deux points qui ont été utilisés pour cibler des afro-américains démocrates avec des vidéos où Clinton était présentée comme raciste, dans le but de les décourager à voter pour elle. Que la prédiction de personnalité fonctionne ou non, cela n’a pas empêché CA de cibler efficacement et d’avoir des méthodes manipulatoires, ce n’est pas un argument qui prouverait l’inefficacité des manœuvres de CA. Idem pour l’affaire Trinité, la cible étant fonction de l’âge.

Sumpter a découvert la même chose avec ses données, le bord politique est identifié très correctement sur la base de likes :

 » Dans huit tentatives sur neuf, la régression identifie correctement les opinions politiques de l’utilisateur de Facebook. Le principal groupe de likes qui identifie un démocrate était Barack et Michelle Obama, National Public Radio, TED Talks, Harry Potter, la page Web I Fucking Love Science et des émissions d’actualité libérales comme The Colbert Report et The Daily Show . Des républicains comme George W. Bush, la Bible, la musique country et western et le camping. »

Outnumbered : Exploring the Algorithms That Control Our Lives, David Sumpter, 2018.

Il pousse même un peu plus loin en supprimant du calcul les likes évidents :

« Il n’est pas surprenant que les démocrates aiment les Obama et le rapport Colbert ou que de nombreux républicains aiment George W. Bush et la Bible. J’ai donc essayé de voir si je pouvais casser le modèle de régression en retirant certains des « j’aime » évidents du modèle et en effectuant une nouvelle régression. À ma grande surprise, le modèle fonctionnait toujours avec une précision de 85 pour cent, seulement une légère réduction des performances. Maintenant, il utilisait des combinaisons de goûts pour déterminer les affiliations politiques. Par exemple, quelqu’un qui aimait Lady Gaga, Starbucks et la musique country était plus susceptible d’être un républicain, mais un fan de Lady Gaga qui aimait aussi Alicia Keys et Harry Potter était plus susceptible d’être un démocrate.

Outnumbered : Exploring the Algorithms That Control Our Lives, David Sumpter, 2018.

C’est là que la compréhension multidimensionnelle acquise en utilisant beaucoup de « j’aime » produit des résultats inattendus et utiles.

Ce type d’information pourrait être très utile à un parti politique. Au lieu que les démocrates concentrent une campagne uniquement sur les médias libéraux traditionnels, ils pourraient se concentrer sur l’obtention du vote parmi les fans de Harry Potter. Les républicains pourraient cibler les personnes qui boivent du café Starbucks et les personnes qui font du camping. Les fans de Lady Gaga doivent être traités avec prudence des deux côtés. »

Outnumbered : Exploring the Algorithms That Control Our Lives, David Sumpter, 2018.

Même si Sumpter qualifie le travail de CA d’hyperbole (sur la détection de personnalité), ses résultats prouvent tout de même le contraire (sur la capacité de cibler sournoisement à des fins politiques) : on peut microcibler les personnes via des informations personnelles calculées correctement comme en lien à tel bord politique. Peut-être que la prédiction de personnalité est une hyperbole, mais il n’empêche que leur microciblage et les sournoiseries s’en suivant peuvent être très efficaces pour supprimer des votes, inciter certains à l’abstention, mobiliser d’autres. De plus, il n’est pas nécessaire que ces méthodes soient incroyablement efficaces, car les élections se jouent à quelques points ; ainsi même si ces méthodes ne fonctionnent que pour un faible pourcentage de personnes ciblés, c’est largement suffisant pour retourner une élection. Autrement dit, même si le modèle de prédiction était un peu bullshit, ça n’enlèverait rien au fait que les pratiques de CA sont scandaleuses de par leur intrusion, leur jeu avec les données, les manœuvres de manipulation.

De plus, un manipulateur n’a pas pour but de respecter et réaliser des outils scientifiques de manières rigoureuse avec de beaux résultats statistiques, mais de contrôler ses cibles. Il pourrait néanmoins déduire la personnalité à partir de l’information « démocrate » ou « républicain » et l’utiliser. Or, personne parle du fait qu’un manipulateur ne se gênerait pas pour déduire la personnalité, à partir du bord politique de la personne, ce qui est pourtant assez renseigné dans la littérature scientifique.

Déduire la personnalité à partir du bord politique

L’ouverture est le trait de personnalité qui renseigne le mieux sur le potentiel bord politique des personnes, parce qu’il comporte notamment une facette nommée « ouverture aux valeurs » mesurant le progressisme s’il est très haut, et le conservatisme s’il est très bas. Le manuel du Neo-Pi-33 qui le mesure décrit cette facette comme la disposition à remettre en question les valeurs sociales, politiques et religieuses. Les individus bas sur cette facette ont tendance à accepter l’autorité et à suivre les traditions. En conséquence, ils sont souvent conservateurs. L’ouverture aux valeurs est considérée comme l’opposé au dogmatisme.

Donc, si on a l’information qu’untel est républicain, on peut supposer qu’il sera probablement bas en ouverture, notamment sur cette facette. On peut déduire cette facette à partir de l’appartenance politique, sauf si cette appartenance est erronée : parfois des gens peuvent se dire de gauche et avoir des valeurs de droite, voire des comportements d’extrême-droite « sévère », en s’attaquant à leur exogroupe. Or ici, et c’est là où est tout l’avantage pour un manipulateur d’une détection par algorithme de cette catégorie, ce n’est pas la personne qui s’est auto-déclarée républicaine, c’est l’algorithme qui a détecté des points de données qui font d’elle quelqu’un de républicain, sans même qu’on puisse deviner que ces points de données puissent être caractéristique du groupe républicain. Par exemple, selon les résultats de Sumpter, cette personne serait détectée républicaine en partie parce qu’elle aimerait lady gaga + le camping (mais pas lady gaga + harry potter, ce serait potentiellement le goût d’un démocrate). Cela peut apparaître assez ridicule lorsqu’un papier de recherche sort une étude de ce genre, et pourtant c’est très utile à des manipulateurs qui ciblent des groupes et peuvent exploiter ces informations pas si ridicules qu’elles n’en ont l’air.

Il y a d’autres indices politiques plus fin juste avec les big five ; dans le manuel d’analyse du Neo pi 3, on trouve explicitement des catégories politiques qui couple les traits « ouverture » et « agréabilité » :

• Le O+A- (haut ouvert + bas agréable) sera qualifié de « penseur libre« , ce sont des personnes ayant une pensée critique qui ne tient pas compte des traditions ni ne se préoccupe de la perspective des autres, ils suivent leurs propres idées qui les concernent eux. (en France, je pense qu’on qualifierait ces personnes de libertarien, ça peut pencher parfois à gauche, parfois à droite selon leurs intérêts personnels).
• Le O+A+ (haut ouvert + haut agréable) y est qualifié de « progressiste » ce sont des personnes qui ont une approche réfléchie des problèmes sociaux et souhaitent trouver des solutions nouvelles. Ils considèrent la nature humaine comme davantage positive et sont persuadés que la société peut être améliorée par l’éducation, l’innovation et la coopération. On est ici sur un profil typiquement de gauche.
• Le O-A+ (bas ouvert + haut agréable) est qualifié de « traditionaliste ». Il a tendance se fier à valeurs conservatrices, à des croyances familiales et aux traditions ; il est persuadé que s’en tenir aux règles établies est le meilleur moyen de garantir la paix et la prospérité pour tous. On est sur un pan de droite, ce sont les personnes que CA visaient comme républicaine. Elles sont potentiellement autoritaires de droite, type RWA
• Le O-A- (bas ouvert + bas agréable) est qualifié de « croyant résolu ». Il a des croyances fermes et immuables sur la société et la moralité, sur la nature humaine qui serait négative, il prône une discipline stricte et approche musclées des problèmes sociaux. Ces individus attendent des autres le respect strict des règles établies. On est sur un pan de droite.

CA n’a donc pas été dans l’hyperbole lorsqu’elle dit cibler les républicains (ça a pu être très efficacement détecté par l’algo) et a pu les déduire en conséquence comme bas ouvert + haut agréable (quand bien même l’algo serait faiblard pour détecter ses traits), parce c’est quelque chose de connu via les tests eux-mêmes et il n’y a pas besoin de prédire les personnalités pour avoir cette information, qu’on peut trouver dans le manuel des big five. C’est amplement suffisant dans une optique de manipulation. Si l’identification républicaine est obtenue correctement, on peut tabler sur une communication basée sur la haute agreabilité + basse ouverture en appuyant sur la tradition, la famille et en évitant soigneusement de vanter de nouvelles solutions créatives. C’est ce qu’ils ont fait, par exemple ici sur la question du port d’arme :

Même si ce républicain ciblé est hors normes et est moins sensible à la tradition et plus ouvert à la nouveauté, comme une partie du ciblage est correcte, ça peut en partie marcher, donc cela vaut le coup de se baser sur ces données à des fins manipulatoires, quand bien même les corrélations scientifiques sont pas au top à ce sujet.

À noter que si on s’en tient au manuel du Neo pi 3, ils auraient4 aussi pu tabler sur des bas ouverts et bas agréables prompts à voter républicain, si ceux-ci vantent des solutions punitives très fermes. Des solutions antisociales mais qui avantagent certaines populations contre d’autres (à somme nulle) pourrait aussi séduire potentiellement des libertariens qui n’auraient pas de scrupules à s’avantager eux-mêmes au détriment des autres.

CA visait les autoritaires de droite et on connaît leur personnalité

On a parlé de l’autoritarisme de droite dans cette série :

• Episode 1 : https://www.youtube.com/watch?v=2__Dd_KXuuU

• Episode 2 : https://www.youtube.com/watch?v=o2DEESuEOJk

• Episode 3 : https://www.youtube.com/watch?v=B43IZ7JXsFk&t=3s

On pourrait aussi faire un chemin différent pour déduire la personnalité : à partir d’idéologie vantant le conservatisme politique, le nationalisme, l’ethnocentrisme, l’intolérance, la recherche scientifique a montré que c’était lié à des attitudes idéologiques d’autoritarisme de droite (RWA) et d’orientation à la dominance sociale (SDO), elles-mêmes accolés à des visions du monde comme étant dangereux (RWA) ou comme une jungle compétitive (SDO), et ces visions du monde sont liées à la fois à des circonstances particulières (un contexte social appuyant sur le danger, les menaces pour les RWA ; un contexte social compétitif, prônant les inégalités et la dominance pour les SDO) et la personnalité : les hauts SDO sont connus pour être bas en agréabilité et les hauts RWA haut en consciensiosité et bas en ouverture (Duckitt et Sibley 2009).

Là encore, pas besoin de modèle de prédiction pour déduire quel type d’individu avec quelle personnalité va être plus enclin à se mobiliser pour les républicains. CA a très bien pu chercher dans les études sur l’autoritarisme de droite qui sont très fournies pour y déduire que ce serait les bas ouverts et haut consciencieux qui seraient les meilleurs soutiens des campagnes des républicains. L’argument que la prédiction de la personnalité est faillible n’est pas faux concernant l’algorithme, mais les connaissances en psychologie sociale et politique suffisent à faire des prédictions potentiellement très correctes qui lient personnalité et idéologie.

***

A noter que Chris Wylie a fourni aussi aux parlementaires anglais des réponses à cet argument, citant de nombreuses études sur la question des algorithme de prédictions  :

« « Il n’y a aucune preuve que le profilage psychologique fonctionne. » Les études suivantes mettent en évidence l’efficacité de l’utilisation des médias sociaux, du langage naturel ou des données de parcours de navigation Internet pour le profilage psychologique ou la persuasion de masse :

• Eichstaedt, J. C. et al. (2015). Psychological language on Twitter predicts county-level heart disease mortality. Psychological Science, 26, 159–169
• Kosinski et al. (2013). Manifestations of user personality in website choice and behaviour on online social networks. Journal of Machine Learning. DOI 10.1007/s10994-013-5415-y.
• Kosinski, M., Stillwell, D., & Graepel, T. (2013). Private traits and attributes are predictable from digital records of human behavior. Proceedings of the National Academy of Sciences of the United States of America, 110, 5802–5805.
• Kosinski, M. et al. (2016). Mining Big Data to Extract Patterns and Predict Real-Life Outcomes. Psychological Methods, 21(4), 493-506.
• Kramer, A. D. I., Guillory, J. E., & Hancock, J. T. (2014). Experimental evidence of massive-scale  emotional contagion through social networks. Proceedings of the National Academy of Sciences of the United States of America, 111, 8788–8790.
• Lambiotte, R. & Kosinski, M. (2014). Tracking the Digital Footprints of Personality. Proceedings of the IEEE, 102(12), 1934-1939.
• Lewandowsky, S. et al. (2012). Misinformation and Its Correction: Continued Influence and Successful Debiasing.Psychological Science in the Public Interest, 13(3), 106-131.
• Matz, S. C. et al. (2017). Psychological targeting as an effective approach to digital mass persuasion. Proceedings of the National Academy of Sciences (PNAS), 114 (48) 12714-12719.
• Mondak, J. et al. (2010). Personality and Civic Engagement: An Integrative Framework for the Study of Trait Effects on Political Behavior. American Political Science Review, 104, 85-110.
• Nam, H. et al. (2013). « Not for All the Tea in China! » Political Ideology and the Avoidance of Dissonance-Arousing Situations. PLOS ONE, 8, e59837.
• Nyhan, B. & Reifler, J. (2010). When Corrections Fail: The Persistence of Political Misperceptions. Journal of Political Behavior, 32, 303-330.
•  Quercia, D. et al. (2011). Our Twitter Profiles, Our Selves: Predicting Personality with Twitter. IEEE Third International Conference on Social Computing, 180-185.
• Schwartz,H.A.etal.(2013).Personality,gender,andageinthelanguageofsocialmedia:Theopen-vocabularyapproach. PLOS ONE, 8,e73791.
• Youyou, W., Kosinski, M., & Stillwell, D. J. (2015). Computer-based personality judgements are more accuratethanthose made by humans. Proceedings of the National Academy of Sciences (PNAS), 112,1036–1040. »

« Ça ne sert à rien de prédire la personnalité »

L’argument vient de Kogan et d’Eitan Hersh, professeur de sciences politiques qui a été auditionné par la commission judiciaire du sénat étasunien.

Pour Hersh, les indicateurs socio-démographiques classiques sont suffisants pour mobiliser les électeurs, et ceux-ci peuvent se trouver via l’accès aux listes électorales. Il serait donc inutile selon lui de chercher la personnalité des cibles :

« Selon les données que j’ai étudiées, la possession d’un bateau est corrélée au fait d’être républicain. Cependant, cela n’aide pas beaucoup une campagne car, dès lors qu’elle sait qu’une personne est, par exemple, un homme blanc de 55 ans vivant dans une riche enclave balnéaire à tendance républicaine, la campagne prédit déjà que cette personne est républicaine. Le champ commercial ne dit rien de nouveau à la campagne sur l’affinité partisane de l’électeur. Étant donné que les campagnes disposent d’une grande quantité de données démographiques et de voisinage provenant des archives publiques, et que certains des clivages les plus importants de la politique américaine se situent sur des lignes démographiques simples d’âge, de race, de sexe et de géographie, les données commerciales n’ajoutent pas toujours autant de valeur aux efforts de mobilisation des campagnes qu’il n’y paraît à première vue »

HEARING BEFORE THE UNITED STATES SENATE COMMITTEE ON THE JUDICIAR, Written Testimony of Eitan Hersh, May 16, 2018 https://www.eitanhersh.com/uploads/7/9/7/5/7975685/hersh_written_testimony_senate_judiciary.pdf

Et il n’a pas tort : on a vu que plein de manœuvres de CA se reposent principalement sur ces données socio-demographiques, qui sont suffisantes pour construire des dissuasions à voter par exemple.

Mais si on veut accroître l’efficacité de manipulations (ou d’exploitation), connaître la personnalité des personnes n’est clairement pas inutile.

Ce qu’est la personnalité

Pour comprendre l’intérêt de savoir la personnalité de cibles, il y a à comprendre ce qu’est la personnalité en général, selon les big five (ou « modèle à 5 facteurs » ou « modèle OCEAN »), et comment elle fonctionne. Voici un résumé issu de mes fouinages (cf sources à la fin de cet article) à ce sujet :

• Les mesures du modèle à 5 facteurs sont relativement universelles, même s’il y a des débats à ce sujet concernant la pertinence de la mesure dans certains pays, cultures ou langage. C’est un avantage pour un manipulateur pour obtenir des mesures à peu près correcte, surtout s’il vise des pays occidentaux, les tests donneront des informations valides qu’importe l’âge, le genre, la profession de la personne.
• Les traits et facettes mesurées par les modèles à 5 facteurs représentent un ensemble d’adaptations caractéristiques culturellement conditionnées parce qu’ils visent à répondre aux exigences de l’environnement et sont caractéristiques parce qu’ils reflètent les dispositions sous-jacentes de la personne.

Autrement dit, bien que les traits auraient une base héritable, ce n’est pas inné et inflexible tout au long de la vie la personne : par exemple, l’ouverture peut avoir été cultivée par la famille/les proches (culturellement conditionnée) inclus dans le pack de « bons » comportements et d’attitudes corrects à avoir, parce que ça permettait de bien vivre dans cette famille, d’être bien perçu ou d’être à l’aise dans tel type d’école à telle époque (l’adaptabilité). On peut aussi avoir des bases neurophysiologiques qui ont plus ou moins facilitées cette adoption d’une haute ouverture, tout comme l’expérience quotidienne et répété des comportements ouverts a pu nous transformer d’un point de vue neurophysiologique. A force d’exercer sa curiosité et d’en retirer personnellement des bénéfices émotionnels, cognitifs, la curiosité devient comme « naturelle », c’est comme un réflexe face à la nouveauté. Et si c’est la basse ouverture qui a été cultivée à travers les environnements sociaux, alors on aura entretenu une méfiance face à la nouveauté et une confiance face aux habitudes, aux traditions, et tout ceci sera vécu comme une sorte de réflexe inconscient qui nous mobilise ou démobilise.

La personnalité est caractéristique de la personne parce que ça reflète ses dispositions, c’est-à-dire le fait qu’elle soit encline à faire ceci et pas cela : par exemple, un extraverti (haut sur toutes les facettes d’extraversion) sera plus enclin à choisir une soirée festive avec beaucoup de monde et un gros son sur lesquels il pourra danser, qu’une petite soirée toute tranquille entre très peu d’amis dans un immeuble où l’on ne peut pas faire trop de bruit. Ce sera le contraire pour un introverti. (bas sur toutes les facettes d’extraversion).

La personnalité est donc à la fois très modelée par le social (à travers les différents conditionnements culturels rencontrés dans notre vie et le besoin de s’adapter à des environnements sociaux) et est endossée comme personnelle, reflétant notre identité puisque les traits nous conduisent à faire certains choix contre d’autres.

Autrement dit, quand un manipulateur obtient des informations sur notre personnalité il peut facilement deviner nos préférences de choix et jouer là-dessus : pour vendre du ketchup au haut ouvert, il lui vantera ses éléments innovateurs ou des caractéristiques très spéciales comparés au ketchup habituel, tentera de susciter la curiosité avec un packaging jamais vu. Pour le bas ouvert, il dira que c’est la recette traditionnelle du ketchup d’antan, appuiera sur le fait que la marque a des centaines d’années d’existence. Et selon notre personnalité on choisira davantage l’un ou l’autre, et cela vaut pour le choix du ketchup comme du parti politique pour lequel voter : les dispositions comptent, un haut ouvert ne sera aucunement séduit par une campagne politique vantant un statu quo traditionnel ou un retour en arrière, tout comme un bas ouvert verra avec forte méfiance une campagne politique accès sur un progrès dépassant la tradition.

Comme la personnalité n’est pas qu’une question personnelle, qu’elle est culturellement conditionnée, le fait de savoir qu’untel est haut ouvert permet de prédire que ses parents le sont sans doute aussi, ou encore qu’il est ou a été dans un milieu et une culture qui valorise cette ouverture. C’est utile dans le cadre d’une manipulation sur Facebook où l’on voit littéralement l’environnement social de la personne avec ses « amis ». On pourra deviner que les amis du bas ouvert risque d’être un peu comme lui, car il n’aime pas ce qui sort du lot, il est peu probable qu’il se lie d’amitié avec des gens extrêmement différents, là où pour le haut ouvert il y a plus de probabilités qu’ils se lient avec des gens totalement différents. Attention, ici je suppose comme le supposerait un manipulateur exploitant les recherches, je ne parle pas de résultats de recherches établies.

• Plus un trait de personnalité est très bas ou très haut, plus sa personnalité s’exprimera fréquemment de façon intense, persistante, s’exprimant en comportement.

L’ambivert par exemple (qui est moyen en extraversion, qui n’est donc ni complètement introverti ni complètement extraverti) n’aura pas des comportements très marqués et persistants : un coup il sera hyperactif et cherchera la foule, un coup il préférera la solitude et les activités calmes. C’est difficile de prédire son comportement. Par contre, il sera plus facile de prédire que votre collègue très extraverti va adorer tel séminaire hyperactif, détester travailler dans ce bureau à l’écart des autres, ne pas hésiter à se lancer sur la piste de danse à telle soirée, amuser la galerie à la machine à café, etc.

Un trait très marqué (très haut ou très bas) facilite le travail des manipulateurs : on peut prédire aisément ce que cette personne va valider ou non, choisir ou rejeter, ce qu’elle va faire ou éviter de faire. Attention, cela ne veut pas dire pour autant que les traits « moyens » seraient plus enviables ou « mieux », c’est juste que leur comportement est moins caractéristique.

• Plus un trait est marqué et ancien, plus cela constitue un élément clef de l’identité de l’individu, plus il le revendique, plus il ne retient que les aspects positifs. Il peut trouver cela « naturel » ou « évident », notamment les visions du monde qui en découlent.

Par exemple, les chercheurs5 citent qu’une personne méfiante (une facette de la basse agréabilité) peut estimer que la méfiance est une qualité, un atout dans le monde qu’elle considère comme dangereux.

Les manipulateurs auront donc tendance à viser les personnes dont les traits sont marqués parce que le comportement est plus sûrement prédictible, ce qui a semblé être le cas chez CA (les principales cibles à mobiliser pour les républicains étant les bas ouverts ; à désinformer/manipuler en faveur de l’alt-right les hauts en nevrosisme), les personnes aux traits moyens étaient considérées comme des « wildcard » (joker), qui pouvaient changer du tout au tout et n’étaient pas la cible prioritaire.

• Mais une tendance forte peut ne pas s’exprimer dans toutes les situations, ça peut être modéré par d’autres traits, d’autres paramètres personnels (intérêts, valeurs) ou par la situation.

Par exemple, le haut extraverti peut tout à fait chercher le calme par moment, apprécier les lieux plus intimistes, être tranquille et en recueillement à un enterrement. La personnalité n’est pas le déterminant de tous les comportements, même si un trait est marqué. On peut aussi s’être habitué à des comportements qui divergent de notre personnalité. Par exemple, un introverti peut sociabiliser comme un extraverti lorsqu’il intègre un nouvel environnement parce qu’il a pris cette habitude pour mieux être inclus. Un bas agréable, même s’il vous dira sans complexe (voire avec fierté) qu’il déteste les gens, peut être très serviable, sympa et aimable lorsqu’on l’invite chez soi. Peut-être qu’il a pris cette habitude ou que c’est une valeur qu’il a appris à aimer et cultiver.

Ce point est important à retenir dans une démarche de défense contre la manipulation, mais aussi en terme d’autodétermination et d’empuissantement : notre comportement peut être auto-modulable d’une part par des habitudes auxquelles on peut s’entraîner, d’autre part par des valeurs qu’on peut nourrir. Ces deux points, c’est se donner les règles du jeu qu’on veut jouer, on a ici un espace de liberté quant aux déterminations si on expérimente, si on vit concrètement ces habitudes et valeurs. Et pour ceci, le mieux est de chercher un environnement qui permet l’exercice de ces habitudes et valeurs, dans lequel ses valeurs et ses habitudes sont acceptées : par exemple si on est dans une timidité sociale (une facette du nevrosisme), qu’on veut prendre l’habitude d’être à l’aise avec les gens, évidemment ça ne servira à rien de cultiver juste l’idée que c’est cool d’être à l’aise avec les gens. Il y a à trouver un environnement où il y a beaucoup d’opportunités à sociabiliser, avec des gens à l’aise et aimant échanger, avec des personnes modèles de non-timidité sociale, où il n’y a pas de jugement négatif ou des sanctions de la timidité (sinon ça bloquerait tout apprentissage, parce qu’un apprentissage efficace demande de pouvoir souvent échouer sans que cela ait des conséquences graves).

• Les traits ne sont pas des déterminants absolus, ce sont des dispositions.

« Les exigences des rôles sociaux que nous jouons, les faits de la situation actuelle, l’humeur du moment et les habitudes acquises contribuent tous à façonner le choix d’un acte, d’une motivation ou d’une réaction émotionnelle particulière »

McCrae et Costa, Personality in adulthood

IRL, même si on a des traits très marqués, des tonnes de choses peuvent rendre notre comportement imprédictible. Par exemple, on pourrait être très bas en conscienciosité et pourtant agir de façon ordonnée – donc hautement consciencieuse – au travail, parce qu’on a appris et pris l’habitude d’agir ainsi pour satisfaire ce rôle social de salarié, ne pas avoir de problème, être tranquille plus rapidement. Inversement, on peut être hautement consciencieux et être volontairement désorganisés dans des tâches imposées que l’on estime contraires à ses valeurs (voir par exemple dans une démarche de sabotage social.

C’est pourquoi aussi les manipulations ont souvent cours dans un environnement sur lequel le manipulateur à un certain contrôle ou qui est très délimité en terme de possibilités. Cela facilite son calcul pour amorcer tel type de comportement chez la cible, c’est plus facile de s’informer sur un type d’environnement très cadré et limité (par exemple, le travail). Ce serait incroyablement plus difficile de chercher à manipuler une cible à la fois au travail, chez elle, sur ces trajets, chez des amis et proches, etc., parce que ça nécessiterait de comprendre toutes les règles de ces environnements, les habitudes singulières que l’individu y a (potentiellement très différentes de ce qu’on attendrait de sa personnalité), cela demanderait de comprendre l’influence des différentes personnes en présence et comment la cible joue de façon singulière dans chaque type d’environnement.

Œuvrer sur les réseaux sociaux comme la fait CA facilite la manipulation mais aussi la prédictibilité. L’algo détecte la personnalité en contexte, contrairement aux questionnaires classiques où la personne répond aux questions en mélangeant les contextes.

Sur un réseau social, la cible peut être disposée à y partager certains traits et pas d’autres, elle peut avoir une identité propre à la situation sur Facebook. Par exemple, de nombreuses personnes ne vont partager que leurs réussites ou joies pour bien paraître, alors que par ailleurs, elles vivent une catastrophe6, parce qu’elles veulent apparaître joyeuses sur les réseaux. En conséquence, pour renforcer cette image, on peut prédire qu’elle ne va pas partager ou liker certains contenus fatalistes, parce que ça serait associer quelque chose de négatif à son image.

Ce petit mensonge – ou « branding personnel » – n’est pas un problème pour organiser une manipulation : ce qui compte pour le manipulateur c’est de savoir comment veut apparaître la personne, donc quel trait elle active sur la situation de tel réseau social. Qu’importe l’amplitude réelle de sa personnalité. Quand CA cible les impulsifs pour les exposer à des fausses pages et des contenus, elle cherche à capter leur impulsivité sur le réseau social parce que ça va participer à relayer les contenus qu’elle lui propose. Qu’importe si la personne n’est impulsive au final que sur les réseaux sociaux qu’elle utilise peut-être comme un défouloir, l’important c’est de saisir correctement sa personnalité en contexte, parce que celle-ci est liée à des comportements effectifs. Et comme on l’a vu précédemment, peut-être que l’algo de détection est une façon plus sûre de capter cette personnalité en contexte, plus qu’un test qui mesure la personnalité en général. Si le but est la manipulation, alors les personnes n’ont pas besoin de la fiabilité scientifique d’une personnalité, mais celle liée au contexte particulier où se déroulera la manipulation.

« On ne peut pas persuader les gens »

Hersh argue qu’il est quasi impossible que CA ait pu réussir à persuader quiconque. Pour comprendre sa critique, il distingue la mobilisation/démobilisation qui consiste à se mobiliser à voter pour le candidat qu’on préfère ou inversement. Hersh ne critique pas la valeur des campagnes de CA pour mobiliser/démobiliser, mais sa capacité à persuader :

 » La persuasion est la tentative d’une campagne de trouver des citoyens qui sont susceptibles de voter, mais qui ne savent pas pour qui ils vont voter ou qui ont l’intention de soutenir l’autre camp, et de transmettre des messages pour faire changer d’avis ces électeurs. La persuasion diffère de la mobilisation en ce qu’elle est beaucoup plus difficile. La persuasion est une disposition instable. […] Un message vu par un électeur peut être persuasif pendant un moment fugace, puis se perdre dans la cacophonie des publicités, des informations et des messages politiques qui remplissent le fil d’actualité de Facebook. »

HEARING BEFORE THE UNITED STATES SENATE COMMITTEE ON THE JUDICIAR, Written Testimony of Eitan Hersh, May 16, 2018 https://www.eitanhersh.com/uploads/7/9/7/5/7975685/hersh_written_testimony_senate_judiciary.pdf

Il explique qu’en plus, le vote étant tenu secret, les personnes faisant campagne ne peuvent pas savoir ce qui a marché pour persuader ou non.

« la définition de Cambridge Analytica d’un électeur persuadable est une personne qui est susceptible de voter, mais la campagne n’est pas sûre de savoir pour qui elle va voter. Il s’agit d’une convention de campagne courante pour définir la persuadabilité. […] Définir simplement une liste cible comme des personnes susceptibles de voter mais dont la campagne ne sait pas pour qui elles vont voter est une approximation extraordinairement grossière des électeurs persuadables. C’est une approximation que de nombreuses campagnes ont longtemps utilisée pour la simple raison que la disposition psychologique de la persuasion à un moment donné pour un candidat donné est difficile à mesurer.

En effet, je n’ai vu aucune preuve présentée par l’entreprise ou par quiconque suggérant que les stratégies de l’entreprise étaient efficaces à cet égard. »

HEARING BEFORE THE UNITED STATES SENATE COMMITTEE ON THE JUDICIAR, Written Testimony of Eitan Hersh, May 16, 2018 https://www.eitanhersh.com/uploads/7/9/7/5/7975685/hersh_written_testimony_senate_judiciary.pdf

Le problème ici, c’est qu’il a une vision trop honorable de la persuasion comme étant une nouvelle conviction qui se maintiendrait dans le temps : et effectivement une nouvelle valeur qui s’internaliserait totalement est rare, et si elle advient, elle prend du temps à s’installer pleinement chez la personne. Elle est classiquement difficile à mesurer selon ces définitions, mais en psycho on pourrait très bien mesurer ça avec un questionnaire distinguant les différents types de motivations (de la moins forte à la plus ancrée durablement) à voter pour X ou Y. Cependant, à quoi bon puisque la majorité des campagnes n’a pas pour but premier de persuader pleinement les personnes mais d’obtenir le comportement « vote pour x ».?

On l’a vu dans les études sur l’autodétermination, la majorité des comportements sont plus généralement suivis par introjection (pour bien paraître, éviter la honte, éviter l’ostracisation ; voir schéma ci-dessous, à régulation introjectée) et non pas parce que la personne l’aurait décidé pleinement pour son existence (régulation intégrée/identifiée). Donc, pour amener quelqu’un à voter X, il n’y a absolument pas besoin de changer ses convictions sur le long terme, le convaincre, le persuader durablement (ce qui serait une régulation intégrée ou identifiée). Wylie l’a bien expliqué, il suffit de le mettre en colère (parce que d’une part cela suspend les capacités à bien analyser sur le moment, mais la colère est aussi connue pour donner de l’énergie à agir), lui offrir un récit qui lui permet de projeter ses angoisses sur autrui et on obtiendra des comportements. Et c’est nettement plus puissant si on cible prioritairement des profils connus pour leur impulsivité sur les réseaux sociaux.

Ces comportements ont été mesurés par taux de conversion qui mesure l’engagement : non seulement les gens ont regardé la publication mais plus encore se sont engagés par la suite (inscription au parti, signature d’une pétition…) ; et ce taux de conversion était beaucoup plus important que dans le marketing classique (Wylie parle7 d’environ 8 à 10% pour la campagne pro-brexit de CA/SCL/AiQ). Il y a donc effectivement des preuves, pas de la persuasion qui serait très difficile à obtenir, mais de comportements servant la campagne. Par ailleurs, SCL/CA a eu des victoires totalement calculables selon leur action, comme celle à Trinité-et-tobago qui comptait sur un taux d’abstention chez tel type de tranche d’âge et qui l’a obtenu. La persuasion était hors de propos, il n’y avait pas besoin que les jeunes soient convaincus du bienfait de l’abstentionnisme, mais juste qu’ils soient baignés ponctuellement et positivement dans une atmosphère sociabilisante autour du fait de ne pas voter.

Ceci étant dit, oui, sémantiquement Alexander Nix est dans l’hyperbole lorsqu’il dit que CA réussit à persuader, le terme le plus exact de ce que faisait CA/SCL était d’obtenir certains comportements servant à leur campagne et à leurs clients, mais ces comportements n’étaient que de l’ordre de mobiliser ou démobiliser à voter, ils pouvaient être de liker des contenus, les partager, s’investir dans des faux groupes, se rencontrer IRL. Et ces comportements mis bout-à-bout faisaient que cela aider les personnes à se persuader elle-même des récits. Parce que c’est là la clef de la persuasion réussie : personne ne peut forcer la persuasion avec un pub ou un discours, même lorsqu’ils sont extrêmement bien conçus. Au mieux, le manipulateur obtiendra des réactions émotionnelles, mais les émotions et leurs effets ne sont pas durables. L’adoption d’une conviction sur le long terme se fait par la personne elle-même, toujours. Ainsi le manipulateur ne cherche jamais à convaincre, il va juste manipuler les situations, les contextes, les objets du contexte pour fabriquer un environnement social particulier avec certaines limites (par exemple tout contenu provenant d’un environnement extérieur sera vu comme adversaire) où la personne se comportera tel qu’il l’entend. Et progressivement la personne s’adaptera à cet environnement et adoptera elle-même certaines idées, comportements, etc. On ne change pas une personne, c’est la nature de son environnement qui l’a fait se décider de se changer elle-même. Donc on manipule toujours une situation, un environnement, un contexte.

« Il n’y a pas de manipulation pas de psyops, c’est de la science-fiction »

C’est quelque chose qui revient souvent, par exemple on l’a vu chez les politiciens clients de CA à Trinité et Tobago, chez Kogan, et il qualifie les allégations contre CA de « science-fiction ». Nix se justifie en disant qu’il était dans l’hyperbole tout le temps8, terme repris par des experts amis avec Kogan qui citent l’affaire en tant que « cambridge hyperbolica »9. A présent, grâce à la quantité de preuves dont on dispose à travers des centaines de pages de documents internes et d’enquêtes, par les investigations très poussées par l’ICO ou la commission parlementaire anglaise, il est tout simplement erroné ou hypocrite de faire comme si CA/SCL n’avait rien fait de sournois. Quand bien même on pourrait ergoter longtemps sur la puissance ou l’impuissance du modèle de prédiction, ou n’importe lequel de leurs outils, ce n’est pas là ce qui a conduit aux faits les plus graves en terme de manipulation des électeurs et d’irrespect des règles démocratiques. Un modèle de prédiction efficace aurait pu être utilisé de façon vertueuse, ce n’est pas le « mal » en soi, ce sont les opérations de CA qui sont le problème. Idem, les débats possiblement sans fin sur  « est-ce que ça a vraiment persuadé les électeurs ou pas » soulèvent certes des questions intéressantes, mais contrairement à certains experts, je pense que même si on pouvait prouver que ce qu’a fait CA était sans effet, ça n’enlèverait rien à la gravité de leurs méthodes, parce que ça resterait une manipulation qui s’oppose directement aux principes démocratiques, à l’intégrité des personnes.

Une étude de Bakir (2020) permet de bien montrer en quoi les opérations de SCL/CA sont manipulatoires et qualifiables de psyop.

Qu’est ce qu’une psyop ?

Bakir cite la définition de Simpson (1994) qui décrit ces opérations psychologiques (psyops) comme étant coercitives10 , liant à la fois communication de masse et application sélective de la violence comme moyen d’atteindre des objectifs idéologiques, politiques ou militaires en exploitant les attributs culturels et psychologiques d’un public cible et de son système de communication.

A cela, Bakir rajoute que la violence n’est pas le seul moyen de coercition :

« La coercition peut également prendre la forme d’une limitation délibérée des choix des personnes en les faisant se sentir ou se comporter d’une certaine façon. Les psyop peuvent être donc un travail de propagande conçu pour induire certaines émotions et susciter certains comportements chez les publics cibles (Briant, 2015) »

Psychological Operations in Digital Political Campaigns: Assessing Cambridge Analytica’s Psychographic Profiling and Targeting, Vian Bakir, 2020

Donc profiler et cibler de façon psychographique, avec une énorme masse de données comme l’a fait CA, est coercitif, par exemple lorsqu’ils modulent  » l’exposition des personnes à l’information de manière à contraindre leurs choix et leur comportement ».

Pour bien comprendre en quoi c’est un problème, on peut comparer cela à une communication persuasive politique respectant la personne et le principe démocratique :

 » La communication persuasive, pour éviter d’être propagandiste, devrait être guidée par le principe du consentement éclairé. Cela exige que trois conditions soient remplies. Premièrement, des informations suffisantes doivent être fournies pour permettre des jugements éclairés. Deuxièmement, ces informations doivent être de nature non trompeuse afin que le consentement ne soit pas obtenu sur de fausses prémisses. Troisièmement, le processus ne doit pas être contraint (par exemple par des menaces) : le consentement doit plutôt être donné librement. En bref, afin de persuader éthiquement (plutôt que de manipuler) les gens d’un point de vue particulier, la décision de la personne persuadée doit être à la fois éclairée et librement choisie : chacune d’entre elles est désactivée par la tromperie et la coercition (Bakir et al., 2019 ; voir également Chappell , 2017)

Psychological Operations in Digital Political Campaigns: Assessing Cambridge Analytica’s Psychographic Profiling and Targeting, Vian Bakir, 2020

Si on reprend ces définitions, pour qualifier une communication de manipulatoire cela correspondrait pour un individu à ces critères réunis :

• Une absence de possibilités de consentement libre et éclairé de la personne,
• Des informations trompeuses ou manquantes,
• et/ou une limitation de ses choix car le consentement n’est pas éclairé (il se base sur des fausses informations ou des informations manquantes).

Donc, toute activité qui pose un cadre préalable consenti, libre et éclairé perd son côté manipulatoire, même si l’individu expérimentera par la suite des informations trompeuses : par exemple personne ne vous force à lire un roman policier ou une série à suspens, pourtant l’auteur vous exposera à des informations trompeuses sur qui est le coupable. Vous savez que c’est le jeu de la narration et c’est d’ailleurs un élément motivant. Vous savez en regardant ou lisant un policier, que ce que vous verrez pourra vous induire en erreur, et cela vous donnera encore plus envie de chercher la vérité. Ce n’est pas une manipulation, parce que vous avez consenti à entrer dans ce jeu de la narration à suspens dont les codes sont bien connus. La tromperie qui advient dans le manque d’infos ou par les informations trompeuses sont en quelque sorte dans le contrat de la narration de ce genre de fiction (on parle d’ailleurs de suspension consentie de l’incrédulité).

Ça vaut aussi pour la limitation de choix : vous consentez à jouer à un jeu vidéo sachant que les choix y seront limités, réduits (en comparaison des possibilités IRL) et que durant la narration, il pourrait y avoir des fausses informations ou des informations manquantes. Et tout l’enjeu est de découvrir aussi une forme de vérité ou de gagner un pouvoir d’action malgré les limitations des choix posés par le game design. On pourrait résumer les jeux (vidéos ou non) à la reconquête d’une pleine autonomie malgré un cadre fait de contraintes, de limites, d’obstacles voire de tromperies. Mais ce n’est pas de la manipulation car le consentement est respecté, personne ne vous force à jouer, vous pouvez arrêter quand vous le souhaitez, les actions sont sans conséquences, vous avez consenti à entrer dans un cadre ouvertement « faux » par essence. Par contre, on entre dans une zone grise potentiellement manipulatoire dès lors qu’il y a par exemple de l’argent en jeu, que ce soit des abonnements, des paris, des achat in game, des pay to win. Ici, la conception de limitation des choix ou la façon dont le jeu communique avec vous peut avoir des visées autres que vous faire vivre une expérience mémorable ou plaisante. Par exemple, le besoin de vous faire maintenir votre abonnement peut pousser les concepteurs à vous rendre accro à leur jeu plutôt que pleinement vous satisfaire (ce qui pourrait faire couper le jeu).

Les opérations psychologiques (psyop) peuvent en plus impliquer dans leurs manipulations :

• Un but d’atteindre des objectifs idéologiques, politiques ou militaires.
• L’utilisation des systèmes de communication (que ce soit sur les masses ou des groupes cibles).
• L’utilisation de violences et de contraintes.
• Et tout ceci peut être fait en exploitant les attributs culturels et psychologiques d’un public cible.

CA rentre donc totalement dans les définitions de la manipulation et de guerre psychologique :

Le consentement libre et éclairé n’était pas rendu possible tout d’abord concernant la captation de la personnalité des personnes : même ceux qui ont répondus aux tests (environ 300 000 personnes) ont certes consentis à la mesure, mais ils l’ont fait selon des informations trompeuses (les conditions d’utilisation affirmaient que c’était à unique destination de la recherche, or les buts étaient d’abord de servir des campagnes politiques). Ceux qui se sont fait capter leurs données (87 millions de personnes) n’ont donné strictement aucun consentement libre et éclairé à quoique ce soit11, ni pour la recherche, ni à des fins politiques, ni au fait que leur personnalité pourrait potentiellement être profilée selon les algo de CA.

Le ciblage par des pubs politiques des personnes n’était pas non plus consenti de façon éclairée et libre, car si le cadre publicitaire informe de sa nature de publicité, les personnes n’ont pour autant pas consenti à ce que les pubs se basent sur leur personnalité et Facebook ne permet pas d’enlever (ou de changer) le ciblage sur des critères personnel. Les pubs et contenus relayés sournoisement (sans même la possibilité qu’il s’agirait de voir le cadre publicitaire) étaient qualifiables de désinformation, en ce sens que l’info qu’ils contenaient été fausse : par exemple, les pro-brexit ont fait relayer des scènes de violence affirmant que c’était un problème en Europe, alors qu’il s’agissait d’images prises lors des révolutions arabes de 2011 ; le discours de Michelle Obama était présenté comme attaquant Hillary Clinton alors qu’elle faisait une remarque générale sur la vie à la maison blanche.

Les informations quant à l’usage particulier des données par CA étaient inconnues des gens, donc c’était pire que trompeur. Surtout dans les cas où CA/SCL a créé des fausses pages et groupes, non seulement les contenus étaient faux, mais le but des pages était trompeur.

Tout cela enfin servait une guerre psychologique, puisqu’il s’agissait d’utiliser des systèmes de communication afin d’atteindre des buts idéologiques (mobiliser ou démobiliser pour tel candidat, augmenter l’abstention, fabriquer l’alt right) en exploitant des attributs culturels et psychologiques d’un public cible.

C’est pour cette raison que les arguments précédents concernant la critique du modèle de prédiction de la personnalité me semblent servir à détourner l’attention12 des vrais problèmes : une entreprise manipulait à sa guise les citoyens, utilisait des armes de guerre psychologique contre les citoyens, le tout en période électorale. Et tant CA/SCL que Facebook étaient responsables de ces problèmes, Facebook permettant amplement de faire cette captation de données et ces ciblages .

A suivre, le dernier article de ce dossier : Ce qu’on peut faire face à Cambridge Analytica

Notes de bas de page / Sources