Allez-vous appuyer sur le gros bouton rouge ? De la responsabilité face aux IA génératives

Imaginez : un matin, vous recevez un colis qui contient un petit cube, sur lequel se trouve un gros bouton rouge, protégé par un dôme de verre qu’il est possible de soulever pour appuyer sur le bouton.
Sur ce petit cube est collé un post-it indiquant la chose suivante :

Si vous appuyez sur le bouton rouge:
vous recevrez un million d’euros;
En contrepartie :
quelqu’un, quelque part dans le monde, que vous ne connaissez pas, mourra.

Cameron Diaz et James Marsden dans le film The Box

Cameron Diaz et James Marsden, incarnant Norma et Arthur, dans le film The Box (Richard Kelly, 2009), adaptation de la nouvelle Le jeu du bouton (Richard Matheson, 1970).

Allez-vous appuyer sur le bouton ?

*
*   *

Une autre situation à présent.

Imaginez : un matin, vous recevez un colis qui contient un petit cube, sur lequel se trouve un gros bouton rouge, protégé par un dôme de verre qu’il est possible de soulever pour appuyer sur le bouton.
Sur ce petit cube est collé un post-it indiquant la chose suivante :

Si vous appuyez sur le bouton rouge, vous allez produire un texte de 20 lignes en quelques secondes, que vous auriez pu écrire vous même en 5 ou 10 minutes.
La contrepartie :

Allez-vous appuyer sur le bouton ?

*
*   *

portrait d'Anscombe

Portrait de G. Elizabeth M. Anscombe (1911-2001), philosophe britannique, en 1979

Dans Le quartet d’Oxford : quand Elisabeth Anscombe, Philippa Foot, Mary Midgley et Iris Murdoch réinventaient la philosophie ((ouvrage de Clare Mac Cumhaill et Rachael Wiseman publié en 2023 et traduit chez Flammarion en 2024)), un épisode important de la vie de la philosophe Elisabeth Anscombe occupe le prologue et l’épilogue.

En 1956, l’université d’Oxford se proposa de décerner un diplôme honorifique à l’ancien président des États-Unis Harry Truman, principalement connu pour avoir donné l’ordre des bombardements atomiques de Hiroshima et Nagasaki. Cette nomination devait être approuvée par la Convocation — corps réunissant les docteur·es et maître·sses de l’université — un mois avant la remise. Elizabeth Anscombe prit la parole pendant cette réunion contre la remise du diplôme et affirma, face à des collègues choqués que cette femme en pantalon s’oppose à leur sagesse :

« Je m’oppose catégoriquement à notre action de rendre honneur à Mr Truman, car la louange et la flatterie ne sont pas sans nous faire partager la culpabilité d’une mauvaise action. »

https://itoldya420.getarchive.net/amp/topics/harry+s+truman+in+1951

Photograph of President Truman at his desk in the Oval Office on the occasion of his speech to the nation on… – NARA – 200355

Face à cet argument, il fut objecté que Truman avait certes commis «une erreur», mais qu’il n’avait pas fabriqué lui-même la bombe, qu’il était seulement responsable de la signature en bas de l’ordre, et qu’il avait fait de bonnes choses dans sa carrière ; pour tout cela, « on aurait tort de chercher à PUNIR Mr Truman ! ».

La motion en faveur du diplôme honorifique passa, mais Anscombe rédigea un pamphlet destiné à paraître avant la cérémonie de remise prévue le 20 juin ; celui-ci peut être trouvé aujourd’hui sous le titre “Mr. Truman’s degree“.

couverture japonaise de l'essai Mr Truman's Degree

Couverture japonaise d’un recueil de textes d’Elizabeth Anscombe, dont “Mr Truman’s Degree”

Dans ce texte, Anscombe s’applique à démontrer que endosser un ordre par sa signature “équivaut à accomplir un meurtre de masse”, à condition que cela se fasse “sur le fond d’un certain arrière-plan”. En l’occurrence, un arrière-plan dans lequel la Constitution états-unienne donne cette prérogative au Président, celui dans lequel l’enrichissement de l’uranium par les scientifiques permet une réaction nucléaire avec un dégagement d’énergie considérable, celui dans lequel des ingénieur.e.s ont conçu des avions permettant de transporter des bombes A, etc.

Mais cet arrière-plan était si vaste et si complexe que le lien entre le geste de la main de Truman et l’anéantissement de plus de 200 000 vies n’était plus perçu par la plupart des membres de la Convocation. Le monde avait changé rapidement et violemment avec la guerre, il était devenu méconnaissable, et dans ces bouleversement destructeurs s’était perdu le fil rouge de la responsabilité.

couverture du livre button button

#ResistESR

Les IA génératives ou la pensée en bouillie

Deux billets d’humeurs piquants au sujet des IA génératives écrits par des universitaires nord-américains ont été publiés ces derniers jours.

Le premier, par le philosophe et poète Troy Jollmore, intitulé “Autrefois, mon métier était d’enseigner à des étudiant.e.s. A présent, je suis un dépisteur de triche ChatGPT”, sur The Walrus.

On y lit notamment l’extrait suivant, à propos de l’anti-intellectualisme nord-américain :

« La meilleure façon de faire comprendre aux gens pourquoi l’instruction compte, c’est de les instruire ; on ne peut pas vraiment saisir cette valeur depuis une position d’extériorité. Il y a toujours des étudiant.e.s qui se montrent volontaires mais qui ressentent une résistance face à toute aide apportée pour leur apprentissage. Ils et elles ont besoin, jusqu’à un certain point, qu’on les tire. Mais lorsqu’ils et elles sont pris.es dans le processus du travail à faire pour rendre des devoirs, certain.e.s d’entre elleux commencent à le sentir. Ils et elles commencent à saisir que bien penser, de façon informée, est vraiment différent d’une pensée pauvre et depuis une position ignorante. Ce moment, où vous commencez à comprendre la puissance d’une pensée claire, est crucial. Le problème avec les IA génératives, c’est qu’elles court-circuitent intégralement ce processus. […]

Continuer la lecture

Pourquoi je n’utiliserai plus ChatGPT. Considérations pédagogiques

  • Texte par Roberto Casati, directeur d’études à l’EHESS, traduit de l’anglais par Arnold Zephir

Chère communauté de [l’Institut Jean Nicod],

Ce qui va suivre est un prompt conversationnel complètement humain pour amorcer une discussion sur l’impact de l’IA sur nos pratiques de recherches. Il est très probable que ce soit perçu comme un avis inhabituel et irrituel.

J’ai l’impression qu’il est vraiment temps de discuter du sujet en profondeur et je me permet d’utiliser cet article pour lancer la réflexion et en attendre des réponses.

Pour commencer, une citation à moitié sérieuse de Douglas Adam, l’auteur de l’immortel Guide du Voyageur Galactique, à propos de la manière dont est perçue la technologie.

1.  Tout ce qui existe dans le monde à votre naissance est normal et ordinaire [ et fait juste partie de la manière naturelle dont le monde marche]”.
2. Tout ce qui est inventé entre vos 15 et 35 ans est nouveau, excitant et révolutionnaire [ et vous pouvez sans doute en faire une carrière ].
3. Tout ce qui est inventé après vos 35 ans va à l’encontre de l’ordre naturel des choses.”
Source: The Salmon of Doubt – Fonds de tiroir (1979, trad. fr. 1982)1

Je n’ai pas besoin de rappeler à cette communauté de quelle tranche d’âge je fais partie. Et je peux confirmer que je suis passé par toutes les phases. La phase 2 vit pour moi l’émergence de l’ordinateur personnel : mon mémoire de licence  a été écrit sur une machine à écrire. L’arrivée du traitement de texte à été vécu comme une révolution et mon travail en a certainement bénéficié. La phase 3 est évidemment ouverte à ce point  mais je dois avouer une certaine ambivalence.

Continuer la lecture

  1. Note du traducteur (NdT). La traduction est de Michel Pagel, sauf les parties [entre crochets]. []

L’IA, junk food de la pensée

  • par Christophe Cailleaux et Amélie Hart, enseignant·es en histoire-géographie dans le secondaire et membres du groupe numérique du SNES-FSU.

L’argument le plus utilisé pour justifier l’imposition de l’intelligence artificielle (IA) dans l’éducation est le déjà-là. Dans un récent entretien donné à Ouest-France le 6 février 2025, Elizabeth Borne affirme que « la quasi-totalité des lycéens et étudiants utilisent régulièrement l’IA contre environ 20% des professeurs». Les élèves utiliseraient massivement l’IA, il serait donc nécessaire de l’utiliser en cours. Cette affirmation se fonde sur une série d’impostures que nous nous proposons de déconstruire ci-dessous.

Des fondements erronés

D’où viennent les estimations avancées par Elizabeth Borne ? La ministre ne se donne pas la peine de le préciser, par manque de temps sans doute. Comme nous aimons faire preuve d’esprit critique, nous voilà incité·es à mener quelques recherches.

Il est bien difficile de définir l’IA en peu de mots Comme le montre cet article, l’IA est avant tout un objet volontairement indéterminé qui permet notamment de soutenir des discours de marketing et de politique publique (de plus en plus difficiles à distinguer) ; à de nombreuses reprises dans les lignes qui suivent, il sera justement question de cette IA comme objet flou. Mais de manière plus rigoureuse (si c’est possible), nous désignons par IA l’ensemble des techniques et des machines visant à simuler de manière autonome (et donc à automatiser au moins partiellement) des capacités humaines considérées comme intellectuelles1

Dans le même entretien E. Borne fait allusion à la Charte d’utilisation de l’IA à l’école, un document que nous avons pu consulter, dans une forme provisoire2. On y lit, au détour d’une note de bas de page, que «90 % des élèves de Seconde ont déjà utilisé l’IA Générative pour s’aider à faire leurs devoirs ». Et cette fois, une source est donnée : l’information viendrait de « l’enquête Heaven de juin 2024 » citée par un récent rapport du Sénat3. On avance.

Hen and Rooster with Grapevine (1792), Itō Jakuchū, The Metropolitan Museum 1792

Pas tout à fait, car de nouveaux problèmes surgissent :

  • tout d’abord parce que Heaven est une agence de publicité. Il ne s’agit donc pas d’une enquête mais bien d’une campagne de publicité – la distinction ne devrait pas être superflue. Un simple coup d’œil à la page Linkedin de Heaven suffit à comprendre : « Heaven est une agence de publicité next-generation. Heaven s’appuie sur sa connaissance des nouveaux comportements digitaux et sociaux pour concevoir et déployer des stratégies et des campagnes innovantes et performantes ».
  • de plus, les chiffres de cette campagne marketing ne sont qu’approximativement ceux du rapport du Ministère : Heaven évoque « 86% d’usage des IA » sur une population de « 499 répondants de 18 à 21 ans » (étudiants et/ou salariés) alors que le document du ministère parle de 90 % d’usage des IA pour des « élèves de Seconde » !
  • enfin nulle part il n’a été question de définir, même rapidement comme nous l’avons fait ici, ce qui est entendu par IA.

Pour servir une politique publique

Voilà qui paraît bien confus. Il est possible après tout que la source de Mme Borne soit tout autre. Bien plus fiable sans doute. Nous avons donc continué à chercher, sans grand succès, rencontrant toutes sortes de sources fort approximatives que la Ministre aurait tout aussi bien pu citer. Ainsi, une « étude » décidément — menée par de grands spécialistes en éducation là encore Opinion Way et 20Minutes — donne un portrait plus contrasté de l’usage des IA parmi les jeunes et notamment la montée de questionnements sur le coût environnemental de ces technologies4. Mme Borne pouvait aussi jeter un œil à une véritable enquête menée cette fois par l’INSEE belge, Statbel, qui donne chiffres sensiblement différents5.

Continuer la lecture

  1. Nous renvoyons aux discussions du n°437 de La Vie de la Recherche Scientifique, juin 2024. []
  2. Le texte est actuellement présenté aux différents « acteurs » de l’Éducation nationale, dans le cadre d’une « consultation ». Les guillemets ne sont pas superflus. []
  3. Christian Bruyen et Bernard Fialaire, « Rapport IA n° 3 – IA et éducation : accompagner les développements en cours », 30 octobre 2024 []
  4. Des chiffres qu’on peut retrouver sur un site d’une grande rigueur scientifique : https://www.moijeune.fr/ []
  5. Résultats d’une enquête menée sur l’utilisation des TIC auprès des ménages menée en 2024. []

Pourquoi je n’utilise pas ChatGPT

  • Par Florence Maraninchi

L’année 2025 est déjà particulièrement féconde en nouvelles plus fracassantes les unes que les autres sur les financements, la course aux armements entre la Chine et les USA, le sommet intergalactique sur l’IA à Paris, et les supposés progrès vers l’intelligence des IAs génératives. C’est un sujet courant de conversations dans le contexte privé ou professionnel. En réponse aux personnes qui s’étonnent de ma position résolument anti ChatGPT j’ai fini par construire un argumentaire que je vais développer ici.

1. Introduction

En tant qu’enseignante-chercheuse en informatique, j’ai lu l’article fondateur On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?1 en 2021. Tous les effets négatifs observés des grands modèles de langage et des IAs génératives sont annoncés dans cet article, comme le dit d’ailleurs l’une des autrices dans un entretien récent. Quand j’ai été confrontée personnellement à des textes rendus par des étudiant·es et écrits par ChatGPT, dès janvier 2023, ma méfiance a priori pour cette branche du numérique a commencé à s’incarner dans l’expérience personnelle. Depuis j’accumule des articles et des prises de position sur ce phénomène, mais je n’ai jamais été tentée d’essayer moi-même. Avant de faire un tour d’horizon des divers arguments qui m’ont fait refuser absolument l’usage — et critiquer vertement le développement — des IAs génératives en tout genre, que ce soit dans l’enseignement supérieur ou ailleurs, précisons un peu le sujet.

https://pdimagearchive.org/images/e854f242-f756-4e77-9ee6-515a3b08b209/

A White Mackaw, Itō Jakuchū,
ca. 1900. The Metropolitan Museum, Public Domain Image Archive

Dans la suite de ce billet, il sera question très spécifiquement d’IAs génératives (comme ChatGPT). Le vocabulaire a beaucoup glissé ces derniers temps, mais rappelons que l’IA est une idée très ancienne, et que si on se met à qualifier tout le numérique d’IA, il va devenir difficile de parler précisément des choses. Donc : tout le numérique n’est pas de l’IA ; parmi tout ce qui relève de l’IA, tout n’est pas de la famille “apprentissage machine” ; et finalement parmi la famille “apprentissage machine”, tout n’est pas une IA générative comme ChatGPT et consort. On trouvera un historique de l’IA et les définitions de ces notions dans le numéro de juin 2024 de la revue La vie de la recherche scientifique sur l’IA.

À quoi sert de refuser d’utiliser ChatGPT ? Je suis parfaitement consciente que ce refus peut sembler totalement vain, puisque nous sommes tous et toutes entouré·es d’étudiant·es et de collègues qui s’en servent très régulièrement, et que nos gouvernements successifs se ruent sur les promesses d’automatisation et d’économie de moyens humains envisagées en particulier dans les services publics. Après tout, le progrès technologique est inéluctable, n’est-ce pas ? Je n’ai pas la moindre illusion sur ma capacité à changer les pratiques à moi toute seule. J’ai encore moins d’illusions sur une possible influence citoyenne sur le développement de ces outils, par les temps qui courent. Le livre de Yaël Benayoun et Irénée Régnault intitulé Technologie partout, démocratie nulle part est paru fin 2020, mais je gage qu’un tome 2 entier pourrait être consacré au déploiement des IA génératives. Pourtant, même et surtout si ce déploiement semble inéluctable, il n’est pas interdit de se demander si les IAs génératives, et leur mise à disposition sous forme de Chatbot, sont une bonne chose dans l’absolu.

Continuer la lecture

  1. par Timmit Gebru et  son équipe, avant leur licenciement par Google. []