Ressources numériques en sciences humaines et sociales OpenEdition Nos plateformes OpenEdition Books OpenEdition Journals Hypothèses Calenda Bibliothèques OpenEdition Freemium Suivez-nous

Academia

Information sur l'emploi en sciences humaines et sociales

Academia

Questionnaire « Intelligence Artificielle et Enseignement »

  • Chloé-Agathe Azencott, professeure en machine-learning (apprentissage statistique) pour la génomique au Centre de biologie computationnelle (CBIO) de Mines Paris-PSL, de l’Institut Curie et de l’INSERM

Le ministre de l’Enseignement Supérieur et de la Recherche a confié une mission sur «l’intelligence artificielle et l’enseignement» à François Taddei et Frédéric Pascal. Dans le contexte de cette mission, un questionnaire a été établi à destination de « l’ensemble des usagers et personnels de l’enseignement supérieur ».

https://www.metmuseum.org/art/collection/search/40427

Birds Pursued by an Eagle, late 17th century. The MET Digital Archive

Un cygne au milieu d’un troupeau de canards

Le questionnaire est anonyme, mais une fois que j’ai déclaré être une femme professeure en machine learning (considéré comme un sous-domaine de l’IA) à Mines Paris–PSL, j’ai l’anonymat d’un cygne au milieu d’un troupeau de canards. J’ai d’ailleurs choisi de donner mon nom à la fin du questionnaire, comme c’était proposé.

Au vu du temps et de l’énergie que répondre à ce questionnaire m’a pris, et des conversations semi-publiques que j’ai eues sur le sujet sur Mastodon, j’ai décidé de partager ici quelques unes de mes réponses. J’ai ajouté des liens hypertexte pour faciliter la lecture.

Tout d’abord il me semble important de noter que le questionnaire utilise « IA » sans définir le terme. Il m’a fallu plusieurs questions pour être sûre que l’enseignement et la recherche de et en intelligence artificielle, machine learning ou discipline approchante n’entraient pas dans le champ couvert par « IA ». Pire, si je suis raisonnablement convaincue qu’il s’agit ici de parler d’outils s’appuyant sur des modèles génératifs de texte ou d’images de grande taille, entraînés sur d’énormes volumes de données, je ne sais pas s’il s’agit plutôt de parler d’outils développés par des acteurs privés à destination du grand public (type ChatGPT, LeChat, MidJourney, Gemini, Claude, DeepSeek), ou plutôt des outils développés spécifiquement pour l’éducation (par exemple MathGPT). Je soupçonne que les outils prédatant les réseaux de neurones profonds et développés spécifiquement pour accompagner l’enseignement en soient exclus— je pense par exemple au système expert générateur de problèmes de chimie organique pour étudiant·es de licence développé par Jonathan Chen, avec qui je partageais un bureau en thèse il y a une vingtaine d’années1.

De nombreuses questions telles que « utilisez-vous l’IA dans votre vie professionnelle ? » sont donc particulièrement floues. J’ai utilisé les boîtes de texte des champs « Autre » pour préciser ma pensée, mais le sondage me semble mal conçu dès le départ.

Continuer la lecture

  1. Chen et al., “No Electron Left Behind: A Rule-Based Expert System To Predict Chemical Reactions and Reaction Mechanisms”, Journal of Chemical Information and Modeling (2009) : doi:10.1021/ci900157k. Apparté : Jon est d’ailleurs une personne de référence sur l’utilisation d’outils d’IA générative dans le domaine médical, si le sujet vous intéresse. []

Allez-vous appuyer sur le gros bouton rouge ? De la responsabilité face aux IA génératives

Imaginez : un matin, vous recevez un colis qui contient un petit cube, sur lequel se trouve un gros bouton rouge, protégé par un dôme de verre qu’il est possible de soulever pour appuyer sur le bouton.
Sur ce petit cube est collé un post-it indiquant la chose suivante :

Si vous appuyez sur le bouton rouge:
vous recevrez un million d’euros;
En contrepartie :
quelqu’un, quelque part dans le monde, que vous ne connaissez pas, mourra.

Cameron Diaz et James Marsden dans le film The Box

Cameron Diaz et James Marsden, incarnant Norma et Arthur, dans le film The Box (Richard Kelly, 2009), adaptation de la nouvelle Le jeu du bouton (Richard Matheson, 1970).

Allez-vous appuyer sur le bouton ?

*
*   *

Une autre situation à présent.

Imaginez : un matin, vous recevez un colis qui contient un petit cube, sur lequel se trouve un gros bouton rouge, protégé par un dôme de verre qu’il est possible de soulever pour appuyer sur le bouton.
Sur ce petit cube est collé un post-it indiquant la chose suivante :

Si vous appuyez sur le bouton rouge, vous allez produire un texte de 20 lignes en quelques secondes, que vous auriez pu écrire vous même en 5 ou 10 minutes.
La contrepartie :

Allez-vous appuyer sur le bouton ?

*
*   *

portrait d'Anscombe

Portrait de G. Elizabeth M. Anscombe (1911-2001), philosophe britannique, en 1979

Dans Le quartet d’Oxford : quand Elisabeth Anscombe, Philippa Foot, Mary Midgley et Iris Murdoch réinventaient la philosophie ((ouvrage de Clare Mac Cumhaill et Rachael Wiseman publié en 2023 et traduit chez Flammarion en 2024)), un épisode important de la vie de la philosophe Elisabeth Anscombe occupe le prologue et l’épilogue.

En 1956, l’université d’Oxford se proposa de décerner un diplôme honorifique à l’ancien président des États-Unis Harry Truman, principalement connu pour avoir donné l’ordre des bombardements atomiques de Hiroshima et Nagasaki. Cette nomination devait être approuvée par la Convocation — corps réunissant les docteur·es et maître·sses de l’université — un mois avant la remise. Elizabeth Anscombe prit la parole pendant cette réunion contre la remise du diplôme et affirma, face à des collègues choqués que cette femme en pantalon s’oppose à leur sagesse :

« Je m’oppose catégoriquement à notre action de rendre honneur à Mr Truman, car la louange et la flatterie ne sont pas sans nous faire partager la culpabilité d’une mauvaise action. »

https://itoldya420.getarchive.net/amp/topics/harry+s+truman+in+1951

Photograph of President Truman at his desk in the Oval Office on the occasion of his speech to the nation on… – NARA – 200355

Face à cet argument, il fut objecté que Truman avait certes commis «une erreur», mais qu’il n’avait pas fabriqué lui-même la bombe, qu’il était seulement responsable de la signature en bas de l’ordre, et qu’il avait fait de bonnes choses dans sa carrière ; pour tout cela, « on aurait tort de chercher à PUNIR Mr Truman ! ».

La motion en faveur du diplôme honorifique passa, mais Anscombe rédigea un pamphlet destiné à paraître avant la cérémonie de remise prévue le 20 juin ; celui-ci peut être trouvé aujourd’hui sous le titre “Mr. Truman’s degree“.

couverture japonaise de l'essai Mr Truman's Degree

Couverture japonaise d’un recueil de textes d’Elizabeth Anscombe, dont “Mr Truman’s Degree”

Dans ce texte, Anscombe s’applique à démontrer que endosser un ordre par sa signature “équivaut à accomplir un meurtre de masse”, à condition que cela se fasse “sur le fond d’un certain arrière-plan”. En l’occurrence, un arrière-plan dans lequel la Constitution états-unienne donne cette prérogative au Président, celui dans lequel l’enrichissement de l’uranium par les scientifiques permet une réaction nucléaire avec un dégagement d’énergie considérable, celui dans lequel des ingénieur.e.s ont conçu des avions permettant de transporter des bombes A, etc.

Mais cet arrière-plan était si vaste et si complexe que le lien entre le geste de la main de Truman et l’anéantissement de plus de 200 000 vies n’était plus perçu par la plupart des membres de la Convocation. Le monde avait changé rapidement et violemment avec la guerre, il était devenu méconnaissable, et dans ces bouleversement destructeurs s’était perdu le fil rouge de la responsabilité.

couverture du livre button button

#ResistESR