L’intelligence anthropologique au secours de l’intelligence artificielle pour lutter contre la désinformation

Comment l’anthropologie permet d’expliquer ce que les algorithmes ne comprennent pas.

Il y a quelques années, les employés d’un “incubateur technologique” de Google appelé Jigsaw ont pris conscience d’un phénomène important : ils se sont rendu compte que bien que leur entreprise en soit venue à incarner la toute-puissance de la technologie, il existe certains problèmes que les ordinateurs ne peuvent pas résoudre seuls. Ou du moins, pas sans les humains. Jigsaw, aux prises avec le problème de la désinformation en ligne, s’est alors discrètement tourné vers les anthropologues.

Ces spécialistes des sciences sociales ont donc parcouru l’Amérique et la Grande-Bretagne pour faire quelque chose qui n’était jamais venu à l’esprit de la plupart des techniciens : rencontrer des complotistes en personne – ou du moins via des plateformes vidéo –, passer des heures à les écouter et à les observer avec l’intérêt que des anthropologues pourraient accorder une communauté isolée, comme en Papouasie-Nouvelle-Guinée, par exemple.

II existe certains problèmes que les ordinateurs ne peuvent pas résoudre seuls. Ou du moins, pas sans les humains”

“Les algorithmes sont des outils puissants. Mais il existe d’autres approches qui peuvent être utiles”, explique Yasmin Green, directeur de la recherche et du développement chez Jigsaw, qui est installé dans un bureau futuriste incroyablement cool dans le quartier de Chelsea à Manhattan, près de la High Line. Ou, comme le dit Dan Keyserling, directeur des opérations de Jigsaw : “[Nous utilisons] des approches de science comportementale pour rendre les gens plus résistants à la désinformation”.

Les résultats ont été remarquables. Auparavant, des groupes tels que les anti-vaxxers semblaient tellement étrangers aux techniciens qu’il était facile de les mépriser – et il était difficile de deviner ce qui pouvait les inciter à changer d’avis. Mais lorsque l’équipe de Jigsaw a fait appel à des anthropologues d’une société de conseil appelée ReD Associates, qui ont écouté les gens avec une curiosité ouverte, il est apparu que bon nombre des hypothèses préalables des ingénieurs concernant la causalité dans le cyberespace étaient erronées.

Par exemple, les techniciens avaient supposé que les sites de “débunking” devaient avoir une apparence professionnelle, car c’est ce qu’ils associaient à la crédibilité. Mais les théoriciens de la conspiration pensaient que les sites “intelligents” avaient l’air d’être fabriqués par l’élite – ce qui est important si l’on veut contrer ces théories.

C’est pourquoi, ces jours-ci, l’équipe de Google tente de mêler l’anthropologie à la psychologie, à l’étude des médias et, oui, à la science des données pour créer des outils qui pourraient “vacciner” davantage d’internautes contre les fausses informations dangereuses. “Nous ne pouvons pas faire cela en nous basant uniquement sur ce que nous supposons fonctionner. Nous avons besoin d’empathie”, déclare Beth Goldberg, responsable du projet de recherche Jigsaw, qui a été formée en sciences politiques mais a désormais également acquis des compétences en anthropologie.

Cela résoudra-t-il le problème ? Malheureusement pas en soi, étant donné les racines sociétales profondes du problème. Une dose d’anthropologie ne fera pas non plus disparaître comme par magie la colère que de nombreuses personnes ressentent face au pouvoir des géants de la technologie et à leur comportement parfois irresponsable. Mais l’expérience a déjà eu un avantage : elle a permis à certains techniciens de Google de comprendre ce qu’ils ne comprennent pas avec leurs outils de données – et pourquoi les techniciens ont parfois besoin de “fuzzies”, c’est-à-dire de personnes ayant des analyses qualitatives et non quantitatives. Comme l’a fait remarquer Jack Dorsey, cofondateur de Twitter, la Silicon Valley aurait probablement construit un Internet et un monde des médias sociaux bien meilleurs si elle avait employé des spécialistes des sciences sociales aux côtés des informaticiens dès le départ.

Mais il ne s’agit pas seulement d’une histoire de technologie. Loin de là. La véritable question qui se pose est celle de la vision en tunnel. Aujourd’hui, la plupart des professions encouragent leurs membres à adopter des outils intellectuels qui sont, au mieux, bien délimités ou, au pire, unidimensionnels. Les modèles économiques, par définition, sont définis par leurs intrants, et tout le reste est considéré comme une “externalité” (c’est ainsi que les questions de changement climatique étaient autrefois perçues). Les comptables d’entreprise sont formés pour reléguer les éléments qui ne sont pas directement liés aux profits et aux pertes (comme les ratios hommes-femmes) dans les notes de bas de page des comptes de l’entreprise. Les sondeurs politiques ou les enquêtes auprès des consommateurs fonctionnent souvent avec des questions préétablies.

Les humains ne sont pas des robots, mais des êtres glorieux, contradictoires, complexes, aux multiples facettes, qui viennent avec une variété éblouissante de cultures. Nous ne pouvons pas nous permettre d’ignorer cette diversité.”

Ces outils sont souvent très utiles, voire indispensables. Mais ils ont un défaut : si le contexte plus large en dehors de ce modèle économique, de cette entreprise, de ce sondage politique ou de cet ensemble de Big Data change, cet outil limité et cette analyse quantitative soignée peuvent ne pas fonctionner. Placer toute sa confiance dans un modèle économique, par exemple, c’est comme se promener dans un bois sombre la nuit avec une boussole et ne regarder que le cadran ; aussi brillante que soit cette boussole, si vous ne levez pas les yeux et n’utilisez pas une vision latérale, vous vous dirigerez vers un arbre. Le contexte est important.

Et c’est là que l’anthropologie peut être utile, en particulier lorsque nous sommes confrontés à des perturbations provoquées par des pandémies et que nous réfléchissons à la manière dont nous pourrions vivre et travailler à l’avenir. Car au cœur de cette entreprise se trouve une vérité fondamentale : même dans un monde numérisé, les humains ne sont pas des robots, mais des êtres glorieux, contradictoires, complexes et multicouches, qui viennent avec une variété éblouissante de cultures. Nous ne pouvons pas nous permettre d’ignorer cette diversité, même après une année où nous avons été cloîtrés dans nos propres maisons et tribus sociales ; d’autant plus que les connexions mondiales nous exposent tous les uns aux autres par inadvertance. Ainsi, dans un monde façonné par une IA, l’intelligence artificielle, nous avons également besoin d’une seconde IA, l’intelligence anthropologique.

L’anthropologie peut sembler être un endroit inattendu pour trouver des idées nouvelles pour le 21e siècle. Le mot dérive de anthropos, qui signifie “humain” en grec, et l’un des premiers quasi-anthropologues fut l’érudit grec Hérodote, qui s’est intéressé aux différentes cultures des tribus lors des guerres gréco-persanes du Ve siècle avant J.-C. et a tenté de les analyser.

La discipline a été établie dans sa forme moderne par des intellectuels victoriens du XIXe siècle qui voulaient étudier les sujets coloniaux éloignés des empires européens. Comme ces intellectuels étaient fortement influencés par la théorie de l’évolution de Charles Darwin et faisaient partie d’une structure de pouvoir impérialiste, leurs analyses étaient généralement ouvertement racistes, à la grande honte des anthropologues modernes. Une entité connue sous le nom de Cannibal Club, créée à Londres en 1863, incarnait ce sombre passé : bien que les membres du Cannibal Club affirmaient être à la recherche de l’essence de “l’humanité” en observant les soi-disant “primitifs”, ces recherches visaient principalement à prouver la supériorité supposée des hommes blancs.

Cependant, au XXe siècle, la discipline a subi deux revirements intellectuels spectaculaires : au lieu d’encourager le racisme impérial, elle a essayé de devenir un phare de la pensée antiraciste ; et au lieu de se contenter d’étudier les cultures prétendument “exotiques” des pays lointains, les anthropologues ont également tourné l’objectif vers les cultures occidentales.

Cette volte-face a été déclenchée par le fait que les anthropologues ont commencé à quitter la sécurité de leur tour d’ivoire – ou de leurs vérandas coloniales – pour aller vivre parmi les gens qu’ils étudiaient. Un intense universitaire américain d’origine allemande, Franz Boas, fut l’un des premiers. Dans les années 1880, il a échoué – par accident – parmi les Inuits dans le Nord gelé, et cette immersion culturelle l’a amené à conclure que “plus je vois les coutumes [inuites], plus je trouve que nous [les Européens] n’avons vraiment pas le droit de les regarder avec mépris […]. [puisque nous, les gens “hautement éduqués”, sommes relativement bien pires”.

Les anthropologues ont commencé à quitter la sécurité de leur tour d’ivoire – ou de leurs vérandas coloniales – pour aller vivre parmi les gens qu’ils étudiaient.”

C’était un concept choquant à l’époque, et Boas a lutté pendant des années pour trouver un poste universitaire à New York avant de fonder le département d’anthropologie de l’université Columbia. Les nazis ont ensuite brûlé ses livres. Mais au XXe siècle, cette vision du “relativisme culturel” – pour reprendre l’expression de Margaret Mead, l’une des disciples de Boas – s’est répandue. Et aujourd’hui, pour citer l’anthropologue canadien Wade Davis, ils aiment à considérer leur métier comme “l’antidote au nativisme, l’ennemi de la haine [et] le vaccin de la compréhension, de la tolérance et de la compassion qui peut contrer la rhétorique des démagogues”. Ou, comme le dit l’anthropologue suédois Ulf Hannerz : “La diversité est notre affaire”.

La deuxième volte-face – étudier les cultures occidentales – découle du relativisme culturel. Une fois que l’on accepte que toutes les cultures peuvent sembler étranges ou “exotiques” à quelqu’un d’autre, il est logique d’utiliser les mêmes outils dans des contextes familiers. Après tout, comme l’a noté un autre anthropologue, Ralph Linton : “La dernière chose qu’un poisson remarquerait serait l’eau” ; il nous est difficile d’évaluer nos propres hypothèses culturelles. La familiarité crée des angles morts, et les étrangers peuvent voir des choses que les initiés ignorent. L’objectif de l’anthropologie est donc d’être un “insider-outsider”, c’est-à-dire d’avoir de l’empathie pour une culture et un sens du détachement critique.

Ce point de vue d’initié-outsider peut s’avérer inestimable – comme je le sais par ma propre carrière. Il y a trente ans, j’ai fait mon doctorat en anthropologie à l’université de Cambridge et j’ai passé un an dans un village de montagne pour faire des recherches dans la République soviétique du Tadjikistan (à l’époque). Par la suite, je suis devenu journaliste et j’ai essayé de retourner l’objectif, en utilisant la même méthodologie pour examiner des mondes qui pourraient sembler plus familiers aux lecteurs du FT : les produits dérivés du crédit, la vie des entreprises américaines, la Maison Blanche, la Silicon Valley et mon propre monde des médias. C’était souvent révélateur. Le fait de me concentrer sur les rituels, les symboles, les frontières sociales et ce que les anthropologues appellent les “silences sociaux” (c’est-à-dire ce dont les gens ne parlent pas) m’a aidé à percevoir certains des risques financiers qui se développaient dans les dérivés de crédit avant 2007, ainsi que le risque d’un “techlash” de la Silicon Valley.

D’autres anthropologues ont utilisé les mêmes compétences dans toutes sortes de contextes différents : General Motors, JPMorgan, Japan Airlines, l’armée américaine, le service de santé britannique, la banque centrale du Japon, l’industrie nucléaire américaine et la scène technologique allemande, pour n’en citer que quelques-uns. Et ces études apportent des réponses à un éventail éblouissant de questions. Pourquoi les masques arrêtent-ils les pandémies ? Pourquoi les chauffeurs d’Uber détestent-ils les outils d’IA ? Pourquoi les consommateurs achètent-ils vraiment de la nourriture pour chiens ? Pourquoi les financiers trouvent-ils difficile de travailler à domicile ?

Il est frustrant de constater que ces études ne sont pas du tout connues en dehors de la discipline. Et même lorsque des entreprises ont fait appel à des anthropologues pour leur donner des conseils, ces messages ne sont parfois pas pris en compte, en particulier lorsque les anthropologues essaient d’étudier le “familier” (c’est-à-dire la façon dont les entreprises occidentales fonctionnent), plutôt que l'”étrange” (c’est-à-dire la façon dont quelqu’un d’autre pourrait se comporter). Il est plus facile pour les dirigeants de Google d’accepter l’idée d’utiliser des anthropologues pour observer les théoriciens de la conspiration que de tourner l’objectif vers eux-mêmes. Les élites puissantes ont rarement envie de se regarder d’un œil critique – et le “problème” de l’anthropologie, note Lucy Suchman, professeur d’anthropologie à l’université de Lancaster, est qu'”elle met souvent les gens mal à l’aise”.

Mais c’est aussi pour cela qu’elle est nécessaire. Et il serait agréable de penser – ou d’espérer – que la pandémie a suscité une plus grande volonté de le faire. Après tout, le choc du verrouillage a déjà incité les décideurs à adopter des idées autrefois impensables et montré aux dirigeants d’entreprise pourquoi ils ont besoin d’une vision latérale – et non pas en tunnel – pour évaluer les risques. En effet, l’une des façons d’interpréter la montée en puissance de la gouvernance environnementale, sociale et d’entreprise et du “stakeholderisme” est que de nombreux dirigeants d’entreprise reconnaissent la nécessité d’une vision plus large. La pandémie nous a également montré que, dans un monde globalisé, il est dangereux d’ignorer ou de tourner en dérision les autres cultures alors que nous sommes tous si étroitement liés. Pour survivre et prospérer, nous devons faire preuve de plus d’empathie envers les étrangers.

Le verrouillage a également entraîné un autre type de réveil : au cours de l’année écoulée, nous avons tous été contraints de réexaminer les rituels quotidiens, les frontières sociales et les suppositions culturelles non formulées que nous avions l’habitude d’ignorer. Et lorsque nous reviendrons à la “normale” au cours de l’année prochaine (si tout va bien), nous devrons également déterminer quels modèles culturels et sociaux nous souhaitons préserver dans un monde plus numérique.

La pandémie nous a montré que, dans un monde globalisé, il est dangereux d’ignorer ou de tourner en dérision les autres cultures alors que nous sommes tous si étroitement liés.”

Les réponses peuvent encore nous surprendre, même (ou surtout) chez les technophiles. Il y a quelques années, par exemple, j’ai assisté à une réunion d’un groupe d’ingénieurs en informatique dans un hôtel terne d’Edgware Road, à Londres, où l’on discutait de l’opportunité d’introduire de nouveaux protocoles internet pour contrer les piratages des services publics occidentaux tels que les systèmes énergétiques.

Pendant des heures, ils ont débattu d’un protocole anti-piratage portant le nom peu maniable de “draft-rhrd-tls-tls13-visibility-01”. Puis vint le moment de vérité : un ingénieur à la barbe blanche nommé Sean Turner s’est adressé solennellement à la foule : “Veuillez fredonner maintenant si vous soutenez l’adoption [de cet outil].”

Un fredonnement collectif, semblable à un chant tibétain, a éclaté, puis Turner a demandé à ceux qui s’opposaient à l’adoption de fredonner également. Un deuxième son, beaucoup plus fort, a éclaté. “Donc, à ce stade, il n’y a pas de consensus pour adopter ceci”, a-t-il déclaré. Le protocole est mis au frais.

Cela peut sembler étrange ; après tout, l’Internet Engineering Task Force est le groupe qui a construit l’internet et les informaticiens semblent vivre dans un monde “rationnel”, basé sur les mathématiques. Mais l’IETF a adopté ce rituel “flou” ces dernières années parce que les techniciens aiment pouvoir sentir l’humeur de l’ensemble du groupe par le biais du fredonnement – et obtenir le type d’informations multidimensionnelles que les simples votes “oui-non” ne peuvent révéler.

En effet, ces ingénieurs sont tellement attachés à ce rituel qu’ils ont été très contrariés lorsqu’ils ont perdu la possibilité de fredonner ensemble pendant le verrouillage de Covid-19 – et bien qu’ils aient essayé de reproduire ce qu’ils aimaient du fredonnement de groupe avec un code informatique, ils ont réalisé que c’était impossible.

Ainsi, à un moment donné, lorsque les réunions de l’IETF reprendront en personne, les geeks se remettront certainement à fredonner ensemble. À ce moment-là, ce sera, comme l’étude de Jigsaw sur les théoriciens de la conspiration, un nouveau rappel d’un facteur fondamental et finalement rassurant de la vie moderne : il y a des choses qui ne peuvent être analysées, résolues ou prédites que par des humains.

Gillian Tett est présidente du comité de rédaction du FT et rédactrice en chef pour les États-Unis. Son livre “Anthro-Vision : How Anthropology Can Explain Business and Life” est publié le 8 juin par Penguin Random House au Royaume-Uni et Simon & Schuster aux États-Unis.

Financial Times