La responsabilité des savants

Je voudrais revenir ici — peut-être assez naïvement — sur la question de la responsabilité des savants. Ce n’est pas que cette question n’ait jamais été posée, elle n’a cessé de l’être, mais il me semble qu’elle appelle aujourd’hui des réponses un peu plus fortes, en tout cas plus audibles, et peut-être  plus collectives.

Dans son autobiographie A mathematician’s apology, publié au début de la seconde guerre mondiale, le mathématicien Godfrey Hardy avait repris un texte dans lequel il se félicitait de faire des mathématiques pures (il emploie le terme “real mathematics”), car ce serait une activité totalement innocente :

Un mathématicien pur en tire une conclusion réconfortante : les mathématiques pures n’ont aucun effet sur la guerre. Personne n’a encore découvert d’objectif guerrier que rendrait la théorie des nombres ou la relativité, et il est fort peu vraisemblable que cela ne soit le cas avant des années. Il est vrai qu’il y a des branches en mathématiques appliquées, telles la balistique ou l’aérodynamique, qui ont été délibérément développées pour la guerre et qui exigent une technique assez élaborée. Il est difficile de les appeler « triviales », mais aucune d’elles n’a le titre de « pure ». Elles sont effet laides à repousser, et ennuyeuses à mourir ; même Littlewood n’est pas parvenu à rendre la balistique respectable, et si lui n’y est pas parvenu, qui pourrait le faire ? C’est pourquoi un mathématicien pur a la conscience claire ; il n’y a rien à redire à la valeur de son travail ; les mathématiques sont, comme je le disais à Oxford, une occupation « innocente et sans danger »1.

La clairvoyance ne faisait pas partie des talents indéniables de ce spécialiste de théorie des nombres. Au même moment, Shannon développait les prémices de la théorie de l’information et la notion d’entropie pour lutter contre le brouillage des télécommunications et améliorer les systèmes de défense anti-aérienne ; un peu plus tard, la cryptographie à clef publique (au cœur de la sécurité d’Internet) reposera sur des questions subtiles de théorie des nombres ; et quant à la relativité, il n’y aurait pas de GPS sans elle, et en attendant le déploiement du réseau Galileo ce sont essentiellement des satellites militaires américains ou russes qui nous permettent de nous orienter si facilement.

https://www.flickr.com/photos/samsanford/1214890824/in/photolist-2RmCHw-agzytn-4ZH3jN-uMnNw-52LTVM-4vKy4T-qJ1F6V-cKDJ9-7mqi1z-9X29t-5UihB-5K5FCK-7dakJo-bQBZYV-5CQ66P-4MihaL-95Kr9h-a7sby9-QLXcV-52caqE-dY7d2H-8yUkyb-xLMB2k-rbcakc-af7ige-75nj6f-6SodZE-2jd5QBo-5VFkBX-avybw5-CC3GPE-2acuS-8A46mm-ruoST7-CGvx3R-fmJhXG-NUaJs-2f1i3-yk12P-GJzo8-8bwPU6-9ixqhU-5kYuvF-uYp-6KvDDZ-6BvuzW-5WuTyZ-63Lt5R-5CUkJG-27bax

Miroir. Crédit: Sam Sanford, 2007

Au delà de la pollution du débat intellectuel

L’interminable pandémie de Covid-19, le réchauffement climatique, les OGM et pesticides… autant de sujets où le traitement journalistique interpelle les savants et met en scène leur parole. Beaucoup a été dit autour de la liberté académique, c’est-à-dire la liberté illimitée qu’ont ces savants d’exprimer les réponses que leur dictent leurs connaissances, notamment face à l’instrumentalisation par une frange réactionnaire du pouvoir politico-médiatique de certains concepts et à une érosion de la démocratie universitaire2

La façon dont des scientifiques, depuis des années, polluent le débat intellectuel en inondant le débat médiatique de biais, d’arguments trompeurs, sinon de mensonges est également assez bien documentée. Tel géophysicien, tel sociologue, telle géographe, tel médecin, tel mathématicien… Ils sont assez peu nombreux, pour que les professions vous indiquent de qui il s’agit, mais leur emprise sur le système médiatique est profonde3.

Mais la question qui m’intéresse plus spécifiquement est non pas celle de ces savants « en errance », ou « en déshérence », mais celle des savants qui « travaillent bien ». C’est la question que se sont posé Einstein, Oppenheimer ou von Neumann après la seconde guerre mondiale et leur effort fantastique pour la fabrication de la bombe atomique, et les doutes profonds qui les ont ensuite assaillis devant les conséquences de cette arme.

Continuer la lecture

  1. “There is one comforting conclusion which is easy for a real mathematician. Real mathematics has no effects on war. No one has yet discovered any warlike purpose to be served by the theory of numbers or relativity, and it seems very unlikely that anyone will do so for many years. It is true that there are branches of applied mathematics, such as ballistics and aerodynamics, which have been developed deliberately for war and demand a quite elaborate technique: it is perhaps hard to call them ‘trivial’, but none of them has any claim to rank as ‘real’. They are indeed repulsively ugly and intolerably dull; even Littlewood could not make ballistics respectable, and if he could not who can? So a real mathematician has his conscience clear; there is nothing to be set against any value his work may have; mathematics is, as I said at Oxford, a ‘harmless and innocent’ occupation.” []
  2. Lire La panique woke, d’Alex Mazoudeau, le blog de RogueESR ou ce carnet Academia, je ne peux pas dire mieux. []
  3. Lire Marchands de doutes, d’Erik Conway et Naomi Oreskes, ou bien La fabrique du doute, de Stéphane Foucart, Stéphane Horel et Sylvain Laurens, là encore je ne peux pas dire mieux. []

Soutenons Dr. Timmit Gebru #supportTimnit #BelieveBlackWomen

« Standing with Dr.Timnit Gebru #IsupportTimnit # BelieveBlackWomen, de Google Walk Out For Real Change, 4 décembre 2020. Traduction de Zoé Belleface

Nous, soussigné·es, nous déclarons solidaires du Dr Timnit Gebru, licenciée de son emploi de chercheuse scientifique et co-responsable de l’équipe d “‘éthique en intelligence artificielle(IA)” chez Google, à la suite d’une procédure inouïe de censure de recherche scientifique. Nous demandons à Google Research à renforcer son soutien à l’intégrité de la recherche et à s’engager sans équivoque à soutenir les travaux de recherche qui respectent les engagements pris dans les principes d’IA de Google.

Jusqu’au 2 décembre 2020, le Dr Gebru était l’une des rares femmes noires à travailler dans la recherche au sein de l’entreprise, qui s’enorgueillit sans honte des 1,6% de femmes « noires » sur l’ensemble de ses employé·es. Ses réalisations en matière de recherche sont considérables ; elles ont eu un profond impact tant dans le domaine scientifique que sur les politiques publiques. Le Dr Gebru est une femme scientifique aux travaux originaux, qui ont contribué à  une IA juste et responsable et de créer, pour l’IA, espace de recherche accueillant et diversifié.

Plutôt que d’être considérée à sa juste valeur par Google pour ses contributions exceptionnellement talentueuses et prolifiques, Dr Gebru a dû subir méfiance, racisme, au harcèlement (« gaslighting »),à la censure, et désormais un licenciement en guise de rétorsion. Dans un courriel adressé à l’équipe du Dr Gebru le soir du 2 décembre 2020, les dirigeants de Google ont affirmé qu’elle avait choisi de démissionner. C’est faux. Dans leur correspondance directe avec le Dr Gebru, ces cadres l’ont informée que son licenciement était immédiat, prenant comme prétexte un courriel qu’elle avait envoyé à une liste de diffusion interne de Google Brain (“Women and Allies” ou “Diversity and Inclusion”).

Le contenu de ce courriel à toute son importance. Dr Gebru s’y exprimait justement contre la censure de ses recherches (et de celles de ses collègues), qui visent à examiner les implications environnementales et éthiques des modèles linguistiques d’IA à grande échelle (LLM), utilisés dans de nombreux produits Google. Dr Gebru et ses collègues ont travaillé pendant des mois sur un article en vue de sa présentation lors d’une conférence universitaire. Fin novembre, cinq semaines après l’évaluation et l’approbation pour publication de l’article selon les procédures standard, la direction de Google a pris la décision de le censurer, sans motif, ni préavis. Le Dr Gebru leur a demandé de justifier cette décision, et d’en tirer les conséquences, en précisant leur prise de position pour le moins mesurée sur discrimination et harcèlement dans l’espace de travail. Ce licenciement représente un acte de représailles contre le Dr Gebru et constitue une véritable menace pour les personnes œuvrant pour une IA éthique et juste — en particulier les « Noirs » et les « personnes de couleur » (« Black people and People of Colour ») — au sein de Google.

Continuer la lecture