La responsabilité des savants

Je voudrais revenir ici — peut-être assez naïvement — sur la question de la responsabilité des savants. Ce n’est pas que cette question n’ait jamais été posée, elle n’a cessé de l’être, mais il me semble qu’elle appelle aujourd’hui des réponses un peu plus fortes, en tout cas plus audibles, et peut-être  plus collectives.

Dans son autobiographie A mathematician’s apology, publié au début de la seconde guerre mondiale, le mathématicien Godfrey Hardy avait repris un texte dans lequel il se félicitait de faire des mathématiques pures (il emploie le terme “real mathematics”), car ce serait une activité totalement innocente :

Un mathématicien pur en tire une conclusion réconfortante : les mathématiques pures n’ont aucun effet sur la guerre. Personne n’a encore découvert d’objectif guerrier que rendrait la théorie des nombres ou la relativité, et il est fort peu vraisemblable que cela ne soit le cas avant des années. Il est vrai qu’il y a des branches en mathématiques appliquées, telles la balistique ou l’aérodynamique, qui ont été délibérément développées pour la guerre et qui exigent une technique assez élaborée. Il est difficile de les appeler « triviales », mais aucune d’elles n’a le titre de « pure ». Elles sont effet laides à repousser, et ennuyeuses à mourir ; même Littlewood n’est pas parvenu à rendre la balistique respectable, et si lui n’y est pas parvenu, qui pourrait le faire ? C’est pourquoi un mathématicien pur a la conscience claire ; il n’y a rien à redire à la valeur de son travail ; les mathématiques sont, comme je le disais à Oxford, une occupation « innocente et sans danger »1.

La clairvoyance ne faisait pas partie des talents indéniables de ce spécialiste de théorie des nombres. Au même moment, Shannon développait les prémices de la théorie de l’information et la notion d’entropie pour lutter contre le brouillage des télécommunications et améliorer les systèmes de défense anti-aérienne ; un peu plus tard, la cryptographie à clef publique (au cœur de la sécurité d’Internet) reposera sur des questions subtiles de théorie des nombres ; et quant à la relativité, il n’y aurait pas de GPS sans elle, et en attendant le déploiement du réseau Galileo ce sont essentiellement des satellites militaires américains ou russes qui nous permettent de nous orienter si facilement.

https://www.flickr.com/photos/samsanford/1214890824/in/photolist-2RmCHw-agzytn-4ZH3jN-uMnNw-52LTVM-4vKy4T-qJ1F6V-cKDJ9-7mqi1z-9X29t-5UihB-5K5FCK-7dakJo-bQBZYV-5CQ66P-4MihaL-95Kr9h-a7sby9-QLXcV-52caqE-dY7d2H-8yUkyb-xLMB2k-rbcakc-af7ige-75nj6f-6SodZE-2jd5QBo-5VFkBX-avybw5-CC3GPE-2acuS-8A46mm-ruoST7-CGvx3R-fmJhXG-NUaJs-2f1i3-yk12P-GJzo8-8bwPU6-9ixqhU-5kYuvF-uYp-6KvDDZ-6BvuzW-5WuTyZ-63Lt5R-5CUkJG-27bax

Miroir. Crédit: Sam Sanford, 2007

Au delà de la pollution du débat intellectuel

L’interminable pandémie de Covid-19, le réchauffement climatique, les OGM et pesticides… autant de sujets où le traitement journalistique interpelle les savants et met en scène leur parole. Beaucoup a été dit autour de la liberté académique, c’est-à-dire la liberté illimitée qu’ont ces savants d’exprimer les réponses que leur dictent leurs connaissances, notamment face à l’instrumentalisation par une frange réactionnaire du pouvoir politico-médiatique de certains concepts et à une érosion de la démocratie universitaire2

La façon dont des scientifiques, depuis des années, polluent le débat intellectuel en inondant le débat médiatique de biais, d’arguments trompeurs, sinon de mensonges est également assez bien documentée. Tel géophysicien, tel sociologue, telle géographe, tel médecin, tel mathématicien… Ils sont assez peu nombreux, pour que les professions vous indiquent de qui il s’agit, mais leur emprise sur le système médiatique est profonde3.

Mais la question qui m’intéresse plus spécifiquement est non pas celle de ces savants « en errance », ou « en déshérence », mais celle des savants qui « travaillent bien ». C’est la question que se sont posé Einstein, Oppenheimer ou von Neumann après la seconde guerre mondiale et leur effort fantastique pour la fabrication de la bombe atomique, et les doutes profonds qui les ont ensuite assaillis devant les conséquences de cette arme.

Télécommunications, intelligence artificielle, apprentissage profond, big data… Aujourd’hui, des compagnies privées comme Amazon, Apple, Google, Huawei, Meta, Microsoft… embauchent un grand nombre de spécialistes de mathématiques ou d’informatique pour développer ces sujets qui débouchent sur des technologies fantastiques : les ordinateurs nous battent au go ou aux échecs, traduisent tout seul des textes, conduisent nos voitures sans encombre, ou encore découvrent de nouvelles formules qui avaient échappé à notre imagination !

Prendre notre part

Tous ces développements scientifiques ont aussi leur face sombre et la communauté scientifique se doit d’en faire état. En dénonçant l’insuffisance du travail journalistique dans la présentation de certaines avancées, en l’occurrence le modèle linguistique GPT-3, la linguiste Emily M. Bender, professeure à l’université de Washington, nous presse de résister à cet engouement.

Quelle est, dès lors, la responsabilité des savants, et d’abord de celles et ceux qui contribuent directement à ces progrès scientifiques et parfois les mettent en œuvre ?

Quelle est la responsabilité de ces chercheurs lorsque leur entreprise développe des systèmes de reconnaissance faciale ? ou simplement des « technologies à usage général qui se fondent sur les normes internationales en matière d’apprentissage automatique et d’intelligence artificielle » ?

Quelle est la responsabilité de ces chercheurs lorsque leur entreprise développe des algorithmes de « conversation » capable de simuler le langage naturel au point qu’un de leurs ingénieurs affirme, effrayé, y percevoir une sorte de sensibilité ? Mais aussi lorsque cet ingénieur est aussitôt mis à pied ? Ou lorsque deux chercheuses en charge du département d’« IA éthique » avaient été renvoyées après avoir elles-mêmes fait part de leurs craintes devant l’évolution d’un précédent modèle de langage naturel ?

Quelle est leur responsabilité lorsque leur entreprise se prête à une vaste collecte de données personnelles qui s’avèrent être utilisées pour limiter l’accès à l’avortement ?

Quelle est leur responsabilité lorsque ces technologies sont utilisées pour influer sur le résultat d’une élection fondamentale ?

La réponse est probablement subtile.

À l’échelle individuelle, cette responsabilité semble minime, sinon nulle, tant ces compagnies embauchent des chercheurs, de tous niveaux, et que beaucoup d’entre eux y conduisent des recherches très proches de celles du monde académique — en tout cas, c’est ce qu’il en transparaît. À un moment de grave contraction des postes dans le monde académique, il semble difficile de dénier de but en blanc la possibilité pour telle informaticienne de faire un séjour post-doctoral chez Amazon, pour tel statisticien d’obtenir un poste d’ingénieur chez Google.

Et nous, du monde académique, quelle est notre responsabilité face à ces chercheurs ?

Pouvons-nous continuer à les promouvoir sans rien dire, comme l’ont fait cette semaine à la fois l’Académie des sciences en élisant Yann Le Cun membre correspondant étranger, et la Société française d’informatique en le faisant « invité d’honneur » de leur 10e congrès annuel ? Le palme de la faute déontologique revenant à la première qui ne mentionne nulle part, ni sur le programme de la cérémonie, ni sur la brochure plus détaillée, les fonctions de Yann Le Cun dans Meta (ex-Facebook) : vice-président et “Chief AI Scientist”, rien que ça ! On reconnaît avec soulagement que l’intéressé, lui, l’a fait très clairement, même si l’on peut douter du bon goût de l’acronyme « Meta-FAIR ».

Ces compagnies financent des doctorats, des post-doctorats, des conférences ? Faut-il s’en féliciter, ou faut-il, au contraire, suggérer un boycott des activités auxquelles elles sont mêlées ?

Faut-il continuer à utiliser les infrastructures qu’elles offrent en apparence gratuitement ? mais en échange de quoi, donc ? Ou bien faut-il se défaire de cette toile d’araignée en tranchant, l’un après l’autre, les liens au sein desquels ces compagnies nous enveloppent depuis parfois près de 25 ans ?

En tout cas, comment, devant leur silence, pouvons-nous leur faire entendre notre souci, sinon notre colère ?



Citer ce billet
Antoine Chambert-Loir (2022, 20 juin). La responsabilité des savants. Academia. Consulté le 25 février 2024, à l’adresse https://doi.org/10.58079/aj83

  1. “There is one comforting conclusion which is easy for a real mathematician. Real mathematics has no effects on war. No one has yet discovered any warlike purpose to be served by the theory of numbers or relativity, and it seems very unlikely that anyone will do so for many years. It is true that there are branches of applied mathematics, such as ballistics and aerodynamics, which have been developed deliberately for war and demand a quite elaborate technique: it is perhaps hard to call them ‘trivial’, but none of them has any claim to rank as ‘real’. They are indeed repulsively ugly and intolerably dull; even Littlewood could not make ballistics respectable, and if he could not who can? So a real mathematician has his conscience clear; there is nothing to be set against any value his work may have; mathematics is, as I said at Oxford, a ‘harmless and innocent’ occupation.” []
  2. Lire La panique woke, d’Alex Mazoudeau, le blog de RogueESR ou ce carnet Academia, je ne peux pas dire mieux. []
  3. Lire Marchands de doutes, d’Erik Conway et Naomi Oreskes, ou bien La fabrique du doute, de Stéphane Foucart, Stéphane Horel et Sylvain Laurens, là encore je ne peux pas dire mieux. []

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.