Ressources numériques en sciences humaines et sociales OpenEdition Nos plateformes OpenEdition Books OpenEdition Journals Hypothèses Calenda Bibliothèques OpenEdition Freemium Suivez-nous

Academia

Information sur l'emploi en sciences humaines et sociales

Academia

Questionnaire « Intelligence Artificielle et Enseignement »

  • Chloé-Agathe Azencott, professeure en machine-learning (apprentissage statistique) pour la génomique au Centre de biologie computationnelle (CBIO) de Mines Paris-PSL, de l’Institut Curie et de l’INSERM

Le ministre de l’Enseignement Supérieur et de la Recherche a confié une mission sur «l’intelligence artificielle et l’enseignement» à François Taddei et Frédéric Pascal. Dans le contexte de cette mission, un questionnaire a été établi à destination de « l’ensemble des usagers et personnels de l’enseignement supérieur ».

https://www.metmuseum.org/art/collection/search/40427

Birds Pursued by an Eagle, late 17th century. The MET Digital Archive

Un cygne au milieu d’un troupeau de canards

Le questionnaire est anonyme, mais une fois que j’ai déclaré être une femme professeure en machine learning (considéré comme un sous-domaine de l’IA) à Mines Paris–PSL, j’ai l’anonymat d’un cygne au milieu d’un troupeau de canards. J’ai d’ailleurs choisi de donner mon nom à la fin du questionnaire, comme c’était proposé.

Au vu du temps et de l’énergie que répondre à ce questionnaire m’a pris, et des conversations semi-publiques que j’ai eues sur le sujet sur Mastodon, j’ai décidé de partager ici quelques unes de mes réponses. J’ai ajouté des liens hypertexte pour faciliter la lecture.

Tout d’abord il me semble important de noter que le questionnaire utilise « IA » sans définir le terme. Il m’a fallu plusieurs questions pour être sûre que l’enseignement et la recherche de et en intelligence artificielle, machine learning ou discipline approchante n’entraient pas dans le champ couvert par « IA ». Pire, si je suis raisonnablement convaincue qu’il s’agit ici de parler d’outils s’appuyant sur des modèles génératifs de texte ou d’images de grande taille, entraînés sur d’énormes volumes de données, je ne sais pas s’il s’agit plutôt de parler d’outils développés par des acteurs privés à destination du grand public (type ChatGPT, LeChat, MidJourney, Gemini, Claude, DeepSeek), ou plutôt des outils développés spécifiquement pour l’éducation (par exemple MathGPT). Je soupçonne que les outils prédatant les réseaux de neurones profonds et développés spécifiquement pour accompagner l’enseignement en soient exclus— je pense par exemple au système expert générateur de problèmes de chimie organique pour étudiant·es de licence développé par Jonathan Chen, avec qui je partageais un bureau en thèse il y a une vingtaine d’années1.

De nombreuses questions telles que « utilisez-vous l’IA dans votre vie professionnelle ? » sont donc particulièrement floues. J’ai utilisé les boîtes de texte des champs « Autre » pour préciser ma pensée, mais le sondage me semble mal conçu dès le départ.

Continuer la lecture

  1. Chen et al., “No Electron Left Behind: A Rule-Based Expert System To Predict Chemical Reactions and Reaction Mechanisms”, Journal of Chemical Information and Modeling (2009) : doi:10.1021/ci900157k. Apparté : Jon est d’ailleurs une personne de référence sur l’utilisation d’outils d’IA générative dans le domaine médical, si le sujet vous intéresse. []

Allez-vous appuyer sur le gros bouton rouge ? De la responsabilité face aux IA génératives

Imaginez : un matin, vous recevez un colis qui contient un petit cube, sur lequel se trouve un gros bouton rouge, protégé par un dôme de verre qu’il est possible de soulever pour appuyer sur le bouton.
Sur ce petit cube est collé un post-it indiquant la chose suivante :

Si vous appuyez sur le bouton rouge:
vous recevrez un million d’euros;
En contrepartie :
quelqu’un, quelque part dans le monde, que vous ne connaissez pas, mourra.

Cameron Diaz et James Marsden dans le film The Box

Cameron Diaz et James Marsden, incarnant Norma et Arthur, dans le film The Box (Richard Kelly, 2009), adaptation de la nouvelle Le jeu du bouton (Richard Matheson, 1970).

Allez-vous appuyer sur le bouton ?

*
*   *

Une autre situation à présent.

Imaginez : un matin, vous recevez un colis qui contient un petit cube, sur lequel se trouve un gros bouton rouge, protégé par un dôme de verre qu’il est possible de soulever pour appuyer sur le bouton.
Sur ce petit cube est collé un post-it indiquant la chose suivante :

Si vous appuyez sur le bouton rouge, vous allez produire un texte de 20 lignes en quelques secondes, que vous auriez pu écrire vous même en 5 ou 10 minutes.
La contrepartie :

Allez-vous appuyer sur le bouton ?

*
*   *

portrait d'Anscombe

Portrait de G. Elizabeth M. Anscombe (1911-2001), philosophe britannique, en 1979

Dans Le quartet d’Oxford : quand Elisabeth Anscombe, Philippa Foot, Mary Midgley et Iris Murdoch réinventaient la philosophie ((ouvrage de Clare Mac Cumhaill et Rachael Wiseman publié en 2023 et traduit chez Flammarion en 2024)), un épisode important de la vie de la philosophe Elisabeth Anscombe occupe le prologue et l’épilogue.

En 1956, l’université d’Oxford se proposa de décerner un diplôme honorifique à l’ancien président des États-Unis Harry Truman, principalement connu pour avoir donné l’ordre des bombardements atomiques de Hiroshima et Nagasaki. Cette nomination devait être approuvée par la Convocation — corps réunissant les docteur·es et maître·sses de l’université — un mois avant la remise. Elizabeth Anscombe prit la parole pendant cette réunion contre la remise du diplôme et affirma, face à des collègues choqués que cette femme en pantalon s’oppose à leur sagesse :

« Je m’oppose catégoriquement à notre action de rendre honneur à Mr Truman, car la louange et la flatterie ne sont pas sans nous faire partager la culpabilité d’une mauvaise action. »

https://itoldya420.getarchive.net/amp/topics/harry+s+truman+in+1951

Photograph of President Truman at his desk in the Oval Office on the occasion of his speech to the nation on… – NARA – 200355

Face à cet argument, il fut objecté que Truman avait certes commis «une erreur», mais qu’il n’avait pas fabriqué lui-même la bombe, qu’il était seulement responsable de la signature en bas de l’ordre, et qu’il avait fait de bonnes choses dans sa carrière ; pour tout cela, « on aurait tort de chercher à PUNIR Mr Truman ! ».

La motion en faveur du diplôme honorifique passa, mais Anscombe rédigea un pamphlet destiné à paraître avant la cérémonie de remise prévue le 20 juin ; celui-ci peut être trouvé aujourd’hui sous le titre “Mr. Truman’s degree“.

couverture japonaise de l'essai Mr Truman's Degree

Couverture japonaise d’un recueil de textes d’Elizabeth Anscombe, dont “Mr Truman’s Degree”

Dans ce texte, Anscombe s’applique à démontrer que endosser un ordre par sa signature “équivaut à accomplir un meurtre de masse”, à condition que cela se fasse “sur le fond d’un certain arrière-plan”. En l’occurrence, un arrière-plan dans lequel la Constitution états-unienne donne cette prérogative au Président, celui dans lequel l’enrichissement de l’uranium par les scientifiques permet une réaction nucléaire avec un dégagement d’énergie considérable, celui dans lequel des ingénieur.e.s ont conçu des avions permettant de transporter des bombes A, etc.

Mais cet arrière-plan était si vaste et si complexe que le lien entre le geste de la main de Truman et l’anéantissement de plus de 200 000 vies n’était plus perçu par la plupart des membres de la Convocation. Le monde avait changé rapidement et violemment avec la guerre, il était devenu méconnaissable, et dans ces bouleversement destructeurs s’était perdu le fil rouge de la responsabilité.

couverture du livre button button

#ResistESR

Les IA génératives ou la pensée en bouillie

Deux billets d’humeurs piquants au sujet des IA génératives écrits par des universitaires nord-américains ont été publiés ces derniers jours.

Le premier, par le philosophe et poète Troy Jollmore, intitulé “Autrefois, mon métier était d’enseigner à des étudiant.e.s. A présent, je suis un dépisteur de triche ChatGPT”, sur The Walrus.

On y lit notamment l’extrait suivant, à propos de l’anti-intellectualisme nord-américain :

« La meilleure façon de faire comprendre aux gens pourquoi l’instruction compte, c’est de les instruire ; on ne peut pas vraiment saisir cette valeur depuis une position d’extériorité. Il y a toujours des étudiant.e.s qui se montrent volontaires mais qui ressentent une résistance face à toute aide apportée pour leur apprentissage. Ils et elles ont besoin, jusqu’à un certain point, qu’on les tire. Mais lorsqu’ils et elles sont pris.es dans le processus du travail à faire pour rendre des devoirs, certain.e.s d’entre elleux commencent à le sentir. Ils et elles commencent à saisir que bien penser, de façon informée, est vraiment différent d’une pensée pauvre et depuis une position ignorante. Ce moment, où vous commencez à comprendre la puissance d’une pensée claire, est crucial. Le problème avec les IA génératives, c’est qu’elles court-circuitent intégralement ce processus. […]

Continuer la lecture

Pourquoi je n’utilise pas ChatGPT

  • Par Florence Maraninchi

L’année 2025 est déjà particulièrement féconde en nouvelles plus fracassantes les unes que les autres sur les financements, la course aux armements entre la Chine et les USA, le sommet intergalactique sur l’IA à Paris, et les supposés progrès vers l’intelligence des IAs génératives. C’est un sujet courant de conversations dans le contexte privé ou professionnel. En réponse aux personnes qui s’étonnent de ma position résolument anti ChatGPT j’ai fini par construire un argumentaire que je vais développer ici.

1. Introduction

En tant qu’enseignante-chercheuse en informatique, j’ai lu l’article fondateur On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?1 en 2021. Tous les effets négatifs observés des grands modèles de langage et des IAs génératives sont annoncés dans cet article, comme le dit d’ailleurs l’une des autrices dans un entretien récent. Quand j’ai été confrontée personnellement à des textes rendus par des étudiant·es et écrits par ChatGPT, dès janvier 2023, ma méfiance a priori pour cette branche du numérique a commencé à s’incarner dans l’expérience personnelle. Depuis j’accumule des articles et des prises de position sur ce phénomène, mais je n’ai jamais été tentée d’essayer moi-même. Avant de faire un tour d’horizon des divers arguments qui m’ont fait refuser absolument l’usage — et critiquer vertement le développement — des IAs génératives en tout genre, que ce soit dans l’enseignement supérieur ou ailleurs, précisons un peu le sujet.

https://pdimagearchive.org/images/e854f242-f756-4e77-9ee6-515a3b08b209/

A White Mackaw, Itō Jakuchū,
ca. 1900. The Metropolitan Museum, Public Domain Image Archive

Dans la suite de ce billet, il sera question très spécifiquement d’IAs génératives (comme ChatGPT). Le vocabulaire a beaucoup glissé ces derniers temps, mais rappelons que l’IA est une idée très ancienne, et que si on se met à qualifier tout le numérique d’IA, il va devenir difficile de parler précisément des choses. Donc : tout le numérique n’est pas de l’IA ; parmi tout ce qui relève de l’IA, tout n’est pas de la famille “apprentissage machine” ; et finalement parmi la famille “apprentissage machine”, tout n’est pas une IA générative comme ChatGPT et consort. On trouvera un historique de l’IA et les définitions de ces notions dans le numéro de juin 2024 de la revue La vie de la recherche scientifique sur l’IA.

À quoi sert de refuser d’utiliser ChatGPT ? Je suis parfaitement consciente que ce refus peut sembler totalement vain, puisque nous sommes tous et toutes entouré·es d’étudiant·es et de collègues qui s’en servent très régulièrement, et que nos gouvernements successifs se ruent sur les promesses d’automatisation et d’économie de moyens humains envisagées en particulier dans les services publics. Après tout, le progrès technologique est inéluctable, n’est-ce pas ? Je n’ai pas la moindre illusion sur ma capacité à changer les pratiques à moi toute seule. J’ai encore moins d’illusions sur une possible influence citoyenne sur le développement de ces outils, par les temps qui courent. Le livre de Yaël Benayoun et Irénée Régnault intitulé Technologie partout, démocratie nulle part est paru fin 2020, mais je gage qu’un tome 2 entier pourrait être consacré au déploiement des IA génératives. Pourtant, même et surtout si ce déploiement semble inéluctable, il n’est pas interdit de se demander si les IAs génératives, et leur mise à disposition sous forme de Chatbot, sont une bonne chose dans l’absolu.

Continuer la lecture

  1. par Timmit Gebru et  son équipe, avant leur licenciement par Google. []