Les IA génératives ou la pensée en bouillie

Deux billets d’humeurs piquants au sujet des IA génératives écrits par des universitaires nord-américains ont été publiés ces derniers jours.

Le premier, par le philosophe et poète Troy Jollmore, intitulé “Autrefois, mon métier était d’enseigner à des étudiant.e.s. A présent, je suis un dépisteur de triche ChatGPT”, sur The Walrus.

On y lit notamment l’extrait suivant, à propos de l’anti-intellectualisme nord-américain :

« La meilleure façon de faire comprendre aux gens pourquoi l’instruction compte, c’est de les instruire ; on ne peut pas vraiment saisir cette valeur depuis une position d’extériorité. Il y a toujours des étudiant.e.s qui se montrent volontaires mais qui ressentent une résistance face à toute aide apportée pour leur apprentissage. Ils et elles ont besoin, jusqu’à un certain point, qu’on les tire. Mais lorsqu’ils et elles sont pris.es dans le processus du travail à faire pour rendre des devoirs, certain.e.s d’entre elleux commencent à le sentir. Ils et elles commencent à saisir que bien penser, de façon informée, est vraiment différent d’une pensée pauvre et depuis une position ignorante. Ce moment, où vous commencez à comprendre la puissance d’une pensée claire, est crucial. Le problème avec les IA génératives, c’est qu’elles court-circuitent intégralement ce processus. […]

Continuer la lecture

Pourquoi je n’utiliserai plus ChatGPT. Considérations pédagogiques

  • Texte par Roberto Casati, directeur d’études à l’EHESS, traduit de l’anglais par Arnold Zephir

Chère communauté de [l’Institut Jean Nicod],

Ce qui va suivre est un prompt conversationnel complètement humain pour amorcer une discussion sur l’impact de l’IA sur nos pratiques de recherches. Il est très probable que ce soit perçu comme un avis inhabituel et irrituel.

J’ai l’impression qu’il est vraiment temps de discuter du sujet en profondeur et je me permet d’utiliser cet article pour lancer la réflexion et en attendre des réponses.

Pour commencer, une citation à moitié sérieuse de Douglas Adam, l’auteur de l’immortel Guide du Voyageur Galactique, à propos de la manière dont est perçue la technologie.

1.  Tout ce qui existe dans le monde à votre naissance est normal et ordinaire [ et fait juste partie de la manière naturelle dont le monde marche]”.
2. Tout ce qui est inventé entre vos 15 et 35 ans est nouveau, excitant et révolutionnaire [ et vous pouvez sans doute en faire une carrière ].
3. Tout ce qui est inventé après vos 35 ans va à l’encontre de l’ordre naturel des choses.”
Source: The Salmon of Doubt – Fonds de tiroir (1979, trad. fr. 1982)1

Je n’ai pas besoin de rappeler à cette communauté de quelle tranche d’âge je fais partie. Et je peux confirmer que je suis passé par toutes les phases. La phase 2 vit pour moi l’émergence de l’ordinateur personnel : mon mémoire de licence  a été écrit sur une machine à écrire. L’arrivée du traitement de texte à été vécu comme une révolution et mon travail en a certainement bénéficié. La phase 3 est évidemment ouverte à ce point  mais je dois avouer une certaine ambivalence.

Continuer la lecture

  1. Note du traducteur (NdT). La traduction est de Michel Pagel, sauf les parties [entre crochets]. []

L’IA, junk food de la pensée

  • par Christophe Cailleaux et Amélie Hart, enseignant·es en histoire-géographie dans le secondaire et membres du groupe numérique du SNES-FSU.

L’argument le plus utilisé pour justifier l’imposition de l’intelligence artificielle (IA) dans l’éducation est le déjà-là. Dans un récent entretien donné à Ouest-France le 6 février 2025, Elizabeth Borne affirme que « la quasi-totalité des lycéens et étudiants utilisent régulièrement l’IA contre environ 20% des professeurs». Les élèves utiliseraient massivement l’IA, il serait donc nécessaire de l’utiliser en cours. Cette affirmation se fonde sur une série d’impostures que nous nous proposons de déconstruire ci-dessous.

Des fondements erronés

D’où viennent les estimations avancées par Elizabeth Borne ? La ministre ne se donne pas la peine de le préciser, par manque de temps sans doute. Comme nous aimons faire preuve d’esprit critique, nous voilà incité·es à mener quelques recherches.

Il est bien difficile de définir l’IA en peu de mots Comme le montre cet article, l’IA est avant tout un objet volontairement indéterminé qui permet notamment de soutenir des discours de marketing et de politique publique (de plus en plus difficiles à distinguer) ; à de nombreuses reprises dans les lignes qui suivent, il sera justement question de cette IA comme objet flou. Mais de manière plus rigoureuse (si c’est possible), nous désignons par IA l’ensemble des techniques et des machines visant à simuler de manière autonome (et donc à automatiser au moins partiellement) des capacités humaines considérées comme intellectuelles1

Dans le même entretien E. Borne fait allusion à la Charte d’utilisation de l’IA à l’école, un document que nous avons pu consulter, dans une forme provisoire2. On y lit, au détour d’une note de bas de page, que «90 % des élèves de Seconde ont déjà utilisé l’IA Générative pour s’aider à faire leurs devoirs ». Et cette fois, une source est donnée : l’information viendrait de « l’enquête Heaven de juin 2024 » citée par un récent rapport du Sénat3. On avance.

Hen and Rooster with Grapevine (1792), Itō Jakuchū, The Metropolitan Museum 1792

Pas tout à fait, car de nouveaux problèmes surgissent :

  • tout d’abord parce que Heaven est une agence de publicité. Il ne s’agit donc pas d’une enquête mais bien d’une campagne de publicité – la distinction ne devrait pas être superflue. Un simple coup d’œil à la page Linkedin de Heaven suffit à comprendre : « Heaven est une agence de publicité next-generation. Heaven s’appuie sur sa connaissance des nouveaux comportements digitaux et sociaux pour concevoir et déployer des stratégies et des campagnes innovantes et performantes ».
  • de plus, les chiffres de cette campagne marketing ne sont qu’approximativement ceux du rapport du Ministère : Heaven évoque « 86% d’usage des IA » sur une population de « 499 répondants de 18 à 21 ans » (étudiants et/ou salariés) alors que le document du ministère parle de 90 % d’usage des IA pour des « élèves de Seconde » !
  • enfin nulle part il n’a été question de définir, même rapidement comme nous l’avons fait ici, ce qui est entendu par IA.

Pour servir une politique publique

Voilà qui paraît bien confus. Il est possible après tout que la source de Mme Borne soit tout autre. Bien plus fiable sans doute. Nous avons donc continué à chercher, sans grand succès, rencontrant toutes sortes de sources fort approximatives que la Ministre aurait tout aussi bien pu citer. Ainsi, une « étude » décidément — menée par de grands spécialistes en éducation là encore Opinion Way et 20Minutes — donne un portrait plus contrasté de l’usage des IA parmi les jeunes et notamment la montée de questionnements sur le coût environnemental de ces technologies4. Mme Borne pouvait aussi jeter un œil à une véritable enquête menée cette fois par l’INSEE belge, Statbel, qui donne chiffres sensiblement différents5.

Continuer la lecture

  1. Nous renvoyons aux discussions du n°437 de La Vie de la Recherche Scientifique, juin 2024. []
  2. Le texte est actuellement présenté aux différents « acteurs » de l’Éducation nationale, dans le cadre d’une « consultation ». Les guillemets ne sont pas superflus. []
  3. Christian Bruyen et Bernard Fialaire, « Rapport IA n° 3 – IA et éducation : accompagner les développements en cours », 30 octobre 2024 []
  4. Des chiffres qu’on peut retrouver sur un site d’une grande rigueur scientifique : https://www.moijeune.fr/ []
  5. Résultats d’une enquête menée sur l’utilisation des TIC auprès des ménages menée en 2024. []

Pourquoi je n’utilise pas ChatGPT

  • Par Florence Maraninchi

L’année 2025 est déjà particulièrement féconde en nouvelles plus fracassantes les unes que les autres sur les financements, la course aux armements entre la Chine et les USA, le sommet intergalactique sur l’IA à Paris, et les supposés progrès vers l’intelligence des IAs génératives. C’est un sujet courant de conversations dans le contexte privé ou professionnel. En réponse aux personnes qui s’étonnent de ma position résolument anti ChatGPT j’ai fini par construire un argumentaire que je vais développer ici.

1. Introduction

En tant qu’enseignante-chercheuse en informatique, j’ai lu l’article fondateur On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?1 en 2021. Tous les effets négatifs observés des grands modèles de langage et des IAs génératives sont annoncés dans cet article, comme le dit d’ailleurs l’une des autrices dans un entretien récent. Quand j’ai été confrontée personnellement à des textes rendus par des étudiant·es et écrits par ChatGPT, dès janvier 2023, ma méfiance a priori pour cette branche du numérique a commencé à s’incarner dans l’expérience personnelle. Depuis j’accumule des articles et des prises de position sur ce phénomène, mais je n’ai jamais été tentée d’essayer moi-même. Avant de faire un tour d’horizon des divers arguments qui m’ont fait refuser absolument l’usage — et critiquer vertement le développement — des IAs génératives en tout genre, que ce soit dans l’enseignement supérieur ou ailleurs, précisons un peu le sujet.

https://pdimagearchive.org/images/e854f242-f756-4e77-9ee6-515a3b08b209/

A White Mackaw, Itō Jakuchū,
ca. 1900. The Metropolitan Museum, Public Domain Image Archive

Dans la suite de ce billet, il sera question très spécifiquement d’IAs génératives (comme ChatGPT). Le vocabulaire a beaucoup glissé ces derniers temps, mais rappelons que l’IA est une idée très ancienne, et que si on se met à qualifier tout le numérique d’IA, il va devenir difficile de parler précisément des choses. Donc : tout le numérique n’est pas de l’IA ; parmi tout ce qui relève de l’IA, tout n’est pas de la famille “apprentissage machine” ; et finalement parmi la famille “apprentissage machine”, tout n’est pas une IA générative comme ChatGPT et consort. On trouvera un historique de l’IA et les définitions de ces notions dans le numéro de juin 2024 de la revue La vie de la recherche scientifique sur l’IA.

À quoi sert de refuser d’utiliser ChatGPT ? Je suis parfaitement consciente que ce refus peut sembler totalement vain, puisque nous sommes tous et toutes entouré·es d’étudiant·es et de collègues qui s’en servent très régulièrement, et que nos gouvernements successifs se ruent sur les promesses d’automatisation et d’économie de moyens humains envisagées en particulier dans les services publics. Après tout, le progrès technologique est inéluctable, n’est-ce pas ? Je n’ai pas la moindre illusion sur ma capacité à changer les pratiques à moi toute seule. J’ai encore moins d’illusions sur une possible influence citoyenne sur le développement de ces outils, par les temps qui courent. Le livre de Yaël Benayoun et Irénée Régnault intitulé Technologie partout, démocratie nulle part est paru fin 2020, mais je gage qu’un tome 2 entier pourrait être consacré au déploiement des IA génératives. Pourtant, même et surtout si ce déploiement semble inéluctable, il n’est pas interdit de se demander si les IAs génératives, et leur mise à disposition sous forme de Chatbot, sont une bonne chose dans l’absolu.

Continuer la lecture

  1. par Timmit Gebru et  son équipe, avant leur licenciement par Google. []

La responsabilité des savants

Je voudrais revenir ici — peut-être assez naïvement — sur la question de la responsabilité des savants. Ce n’est pas que cette question n’ait jamais été posée, elle n’a cessé de l’être, mais il me semble qu’elle appelle aujourd’hui des réponses un peu plus fortes, en tout cas plus audibles, et peut-être  plus collectives.

Dans son autobiographie A mathematician’s apology, publié au début de la seconde guerre mondiale, le mathématicien Godfrey Hardy avait repris un texte dans lequel il se félicitait de faire des mathématiques pures (il emploie le terme “real mathematics”), car ce serait une activité totalement innocente :

Un mathématicien pur en tire une conclusion réconfortante : les mathématiques pures n’ont aucun effet sur la guerre. Personne n’a encore découvert d’objectif guerrier que rendrait la théorie des nombres ou la relativité, et il est fort peu vraisemblable que cela ne soit le cas avant des années. Il est vrai qu’il y a des branches en mathématiques appliquées, telles la balistique ou l’aérodynamique, qui ont été délibérément développées pour la guerre et qui exigent une technique assez élaborée. Il est difficile de les appeler « triviales », mais aucune d’elles n’a le titre de « pure ». Elles sont effet laides à repousser, et ennuyeuses à mourir ; même Littlewood n’est pas parvenu à rendre la balistique respectable, et si lui n’y est pas parvenu, qui pourrait le faire ? C’est pourquoi un mathématicien pur a la conscience claire ; il n’y a rien à redire à la valeur de son travail ; les mathématiques sont, comme je le disais à Oxford, une occupation « innocente et sans danger »1.

La clairvoyance ne faisait pas partie des talents indéniables de ce spécialiste de théorie des nombres. Au même moment, Shannon développait les prémices de la théorie de l’information et la notion d’entropie pour lutter contre le brouillage des télécommunications et améliorer les systèmes de défense anti-aérienne ; un peu plus tard, la cryptographie à clef publique (au cœur de la sécurité d’Internet) reposera sur des questions subtiles de théorie des nombres ; et quant à la relativité, il n’y aurait pas de GPS sans elle, et en attendant le déploiement du réseau Galileo ce sont essentiellement des satellites militaires américains ou russes qui nous permettent de nous orienter si facilement.

https://www.flickr.com/photos/samsanford/1214890824/in/photolist-2RmCHw-agzytn-4ZH3jN-uMnNw-52LTVM-4vKy4T-qJ1F6V-cKDJ9-7mqi1z-9X29t-5UihB-5K5FCK-7dakJo-bQBZYV-5CQ66P-4MihaL-95Kr9h-a7sby9-QLXcV-52caqE-dY7d2H-8yUkyb-xLMB2k-rbcakc-af7ige-75nj6f-6SodZE-2jd5QBo-5VFkBX-avybw5-CC3GPE-2acuS-8A46mm-ruoST7-CGvx3R-fmJhXG-NUaJs-2f1i3-yk12P-GJzo8-8bwPU6-9ixqhU-5kYuvF-uYp-6KvDDZ-6BvuzW-5WuTyZ-63Lt5R-5CUkJG-27bax

Miroir. Crédit: Sam Sanford, 2007

Au delà de la pollution du débat intellectuel

L’interminable pandémie de Covid-19, le réchauffement climatique, les OGM et pesticides… autant de sujets où le traitement journalistique interpelle les savants et met en scène leur parole. Beaucoup a été dit autour de la liberté académique, c’est-à-dire la liberté illimitée qu’ont ces savants d’exprimer les réponses que leur dictent leurs connaissances, notamment face à l’instrumentalisation par une frange réactionnaire du pouvoir politico-médiatique de certains concepts et à une érosion de la démocratie universitaire2

La façon dont des scientifiques, depuis des années, polluent le débat intellectuel en inondant le débat médiatique de biais, d’arguments trompeurs, sinon de mensonges est également assez bien documentée. Tel géophysicien, tel sociologue, telle géographe, tel médecin, tel mathématicien… Ils sont assez peu nombreux, pour que les professions vous indiquent de qui il s’agit, mais leur emprise sur le système médiatique est profonde3.

Mais la question qui m’intéresse plus spécifiquement est non pas celle de ces savants « en errance », ou « en déshérence », mais celle des savants qui « travaillent bien ». C’est la question que se sont posé Einstein, Oppenheimer ou von Neumann après la seconde guerre mondiale et leur effort fantastique pour la fabrication de la bombe atomique, et les doutes profonds qui les ont ensuite assaillis devant les conséquences de cette arme.

Continuer la lecture

  1. “There is one comforting conclusion which is easy for a real mathematician. Real mathematics has no effects on war. No one has yet discovered any warlike purpose to be served by the theory of numbers or relativity, and it seems very unlikely that anyone will do so for many years. It is true that there are branches of applied mathematics, such as ballistics and aerodynamics, which have been developed deliberately for war and demand a quite elaborate technique: it is perhaps hard to call them ‘trivial’, but none of them has any claim to rank as ‘real’. They are indeed repulsively ugly and intolerably dull; even Littlewood could not make ballistics respectable, and if he could not who can? So a real mathematician has his conscience clear; there is nothing to be set against any value his work may have; mathematics is, as I said at Oxford, a ‘harmless and innocent’ occupation.” []
  2. Lire La panique woke, d’Alex Mazoudeau, le blog de RogueESR ou ce carnet Academia, je ne peux pas dire mieux. []
  3. Lire Marchands de doutes, d’Erik Conway et Naomi Oreskes, ou bien La fabrique du doute, de Stéphane Foucart, Stéphane Horel et Sylvain Laurens, là encore je ne peux pas dire mieux. []

Soutenons Dr. Timmit Gebru #supportTimnit #BelieveBlackWomen

« Standing with Dr.Timnit Gebru #IsupportTimnit # BelieveBlackWomen, de Google Walk Out For Real Change, 4 décembre 2020. Traduction de Zoé Belleface

Nous, soussigné·es, nous déclarons solidaires du Dr Timnit Gebru, licenciée de son emploi de chercheuse scientifique et co-responsable de l’équipe d “‘éthique en intelligence artificielle(IA)” chez Google, à la suite d’une procédure inouïe de censure de recherche scientifique. Nous demandons à Google Research à renforcer son soutien à l’intégrité de la recherche et à s’engager sans équivoque à soutenir les travaux de recherche qui respectent les engagements pris dans les principes d’IA de Google.

Jusqu’au 2 décembre 2020, le Dr Gebru était l’une des rares femmes noires à travailler dans la recherche au sein de l’entreprise, qui s’enorgueillit sans honte des 1,6% de femmes « noires » sur l’ensemble de ses employé·es. Ses réalisations en matière de recherche sont considérables ; elles ont eu un profond impact tant dans le domaine scientifique que sur les politiques publiques. Le Dr Gebru est une femme scientifique aux travaux originaux, qui ont contribué à  une IA juste et responsable et de créer, pour l’IA, espace de recherche accueillant et diversifié.

Plutôt que d’être considérée à sa juste valeur par Google pour ses contributions exceptionnellement talentueuses et prolifiques, Dr Gebru a dû subir méfiance, racisme, au harcèlement (« gaslighting »),à la censure, et désormais un licenciement en guise de rétorsion. Dans un courriel adressé à l’équipe du Dr Gebru le soir du 2 décembre 2020, les dirigeants de Google ont affirmé qu’elle avait choisi de démissionner. C’est faux. Dans leur correspondance directe avec le Dr Gebru, ces cadres l’ont informée que son licenciement était immédiat, prenant comme prétexte un courriel qu’elle avait envoyé à une liste de diffusion interne de Google Brain (“Women and Allies” ou “Diversity and Inclusion”).

Le contenu de ce courriel à toute son importance. Dr Gebru s’y exprimait justement contre la censure de ses recherches (et de celles de ses collègues), qui visent à examiner les implications environnementales et éthiques des modèles linguistiques d’IA à grande échelle (LLM), utilisés dans de nombreux produits Google. Dr Gebru et ses collègues ont travaillé pendant des mois sur un article en vue de sa présentation lors d’une conférence universitaire. Fin novembre, cinq semaines après l’évaluation et l’approbation pour publication de l’article selon les procédures standard, la direction de Google a pris la décision de le censurer, sans motif, ni préavis. Le Dr Gebru leur a demandé de justifier cette décision, et d’en tirer les conséquences, en précisant leur prise de position pour le moins mesurée sur discrimination et harcèlement dans l’espace de travail. Ce licenciement représente un acte de représailles contre le Dr Gebru et constitue une véritable menace pour les personnes œuvrant pour une IA éthique et juste — en particulier les « Noirs » et les « personnes de couleur » (« Black people and People of Colour ») — au sein de Google.

Continuer la lecture