Raison computationnelle et IA

Introduction

Avec ChatGPT, le but de l’écriture c’est de remplir une page, pas de réaliser le processus de réflexion qui l’accompagne. C’est justement tout l’inverse dont nous avons besoin ! (Guillaud, 2024)

De la raison graphique à la raison computationnelle

La raison graphique (avec Jacques Goody)

DéfinitionLa raison graphique

Goody nous montre que l'invention de l'écriture a modifié les schèmes de représentation de la connaissance, jusque là orale, donnant naissance à une « raison graphique » (Goody, 79). Les documents papiers ont permis la représentation spatiale de l'information, en lui donnant une permanence dans le temps.

Grâce à ces possibilités nouvelles d'inscription, de nouvelles connaissances ont pu naître de l'émergence de représentations qui ne peuvent être formulées oralement.

ExempleLe tableau

Goody expose l'exemple du tableau ou de la liste qui permettent de mettre en relief des relations qui ne pourraient émerger par la description orale du tableau ou de la liste.

Soit par exemple la lecture orale suivante :

Exemple d'énoncé orale d'un tableau

Soit la représentation tabulaire de la même information :

Année

Chiffre d'affaire

Bénéfice

2004

123.315

5.154

2005

115.247

7.156

2006

114.265

8.245

2007

112.250

8.300

La spatialisation permet de faire émerger des connaissances nouvelles, par exemple le fait que le fait que la baisse du chiffre d'affaire est corrélée à une hausse des bénéfices. Le changement de support a eu une influence sur la connaissance elle-même.

ExempleLes mathématiques

Un autre exemple est celui des mathématiques, qui n'existeraient pas sans écriture.

FondamentalChanger de support c'est changer de raisonnement

Le passage de l'oral à l'écrit n'est donc pas seulement un changement de support, c'est une révolution cognitive.

La raison computationnelle (avec Bruno Bachimont)

DéfinitionLa raison computationnelle

  • L'écrit a permis le passage du temporel au spatial par projection de la parole

  • Le numérique apporte de nouvelles formes de représentation des informations, basées sur le calcul (Bachimont, 2004).

    • L'ordinateur ne traite que des séquences binaires qui, par le calcul, deviennent des signes.

    • C'est cette propriété du support numérique qui est fondamentale.

    • Elle induit également la constitution de modes de représentation nouveaux, comme les tableaux pour la raison graphique en leur temps (la couche, le réseau, etc.).

FondamentalEnjeu

L'enjeu est alors de comprendre comment inscrire les informations sur ce support spécifique qu'est le numérique afin de repérer les structures d'inscription nouvelles pertinentes.

De la mécanisation de l'activité intellectuelle à la numérisation de l'information

ExempleMécanisation du travail intellectuel

La mise en nombre d'énoncés textuels permet de généraliser les principes de la mécanisation par le calcul.

Il s'agit dès lors d'une mécanisation des expressions signifiantes. (Bachimont, 2007, p26).

ExempleCodage numérique des expressions signifiantes

Codage numérique de « Il existe un x tel que x est le successeur immédiat de y » (Nagel et al., 1989, p73)

(

x

)

(

x

=

s

y

)

8

4

11

9

8

11

5

7

13

9

FondamentalLa généralisation de la mécanisation via la codification

Tout code peut être traité mécaniquement et tout énoncé est codable, donc les moyens et produits du travail intellectuel sont mécanisables.

  • Le numérique est homogène :  « de mêmes principes s'appliquent a tous les objets numériques » (Bachimont, 2004)

  • Le numérique est universel :  « tout contenu et toute connaissance peuvent recevoir une expression numérique » (Ibid.)

Le numérique et l'ordinateur constituent un procédé technique général qui permet la mécanisation de tout travail intellectuel. Cela ne signifie pas que ces traitements sont équivalents à la pensée, ni que penser se réduit à ces traitements.

Mais, en revanche, cela signifie que nos actes de pensée s'inscrivent dans cet environnement mécanisé et s'en trouvent profondément affectés.

Complément

De la mécanisation de l'activité intellectuelle à la numérisation de l'information sur Aswemay (Crozat, 2015)

Petite histoire scientifique, littéraire et ludique de l'IA

Turing³ : la machine universelle, la bombe, le test

Exemple de machine de Turing binaire (programme ajouter 1)
Bletchley Park Bombe (replica)
The Real Turing Test
Do Androids Dream of Electric Sheep (1966)

Modèle cognitivisme (approche logique)

John McCarthy forge le terme « Intelligence Artificielle » (Conférence de Dartmouth , 1956)

Élagage alpha-bêta
Les robots

Jouer aux échecs avec un robot est ennuyeux

En 1996, l'ordinateur Deep Blue bat un champion du monde d'échec (Gary Kasparov) pour la première fois

Modèle connexionnisme (approche biologique)

Modèle connexionniste et réseaux de neurones artificiels (Frank Rosenblatt, 1957)

Neurone avec fonction d'activation sigmoïde et mini-réseau de trois couches de trois neurones (Heudin, 2016)
le successeur de Pierre

Jouer au poker avec des robots est interdit

En 2017, le programme Libratus domine 4 joueurs professionnels humains au poker

I felt like I was playing against someone who was cheating, like it could see my cards (Dong Kim, international poker player, Wired, 2017).

3 concepts pour une technocritique de l'IA

Hubris

All-tech

Définition

Un désir infantile de toute-puissance

Second manifeste convivialiste (2020)

Exemple

Nous ne voulons pas que le nombre d'habitants cesse de croître. Nous voulons que chacun puisse consommer toujours plus d'énergie.

Si nous étions un trillion d'êtres humains dans le système solaire, nous aurions un millier d'Enstein et un millier de Mozart.

Jeff Bezos, cité par Vincent Gautier (« Un espace très... terre-à-terre », Socialter, Le réveil des imaginaires, nᵒ Hors-série 8, 2020).

Responsabilité

Solidaire ou responsable ?

Déclinaisons du concept de responsabilité (à partir de ses 4 traductions en anglais) :

  • liability : responsabilité devant la justice

  • reliability : responsabilité au sens de fiable, compétent, digne de confiance

  • accountability : responsabilité au sens d'avoir des comptes à rendre

  • responsibility : responsabilité morale (en fonction de valeurs)

Xavier Guchet, cours de HE10, 2024

Quelques difficultés...

  • situation d'hétéronomie (subordination de l'ingénieur)

  • imprévisibilité des conséquences (thèse TAC)

  • jusqu'où mobiliser quels moyens (impacts socio-écologiques du numérique)

  • qui décide quelles valeurs sont à défendre (relativisme)

  • ...

Propositions

  1. Se préoccuper des conséquences (des impacts que l'on peut connaître) : vouloir prévoir, expliciter les scénario, calculer ce qui est calculable...

  2. Défendre des valeurs '(dans un contexte de co-constitutivité) : les énoncer, les faire débattre, laisser la place à d'autres valeurs...

ExempleD'abord ne pas nuire

  • Nucléaire

  • Armement

  • IA

Synthèse

Questions

  • En quoi les applications actuelles de l'IA s'inscrivent-elles pleinement dans le cadre de la raison computationnelle ?

  • Quel lien peut-on faire entre le développement de l'IA et le concept d'hubris ?

  • Quel lien peut-on faire entre le développement des IAG et le concept de prolétarisation ?

  • Quelles postures de responsabilité l'ingénieur peut-il prendre face au développement moderne de l'IA ?

Concepts

  • Raison computationnelle

  • Hubris

  • Prolétarisation

  • Responsabilité

Guillaud, 2024

Guillaud Hubert. 2024. ChatGPT : le mythe de la productivitéChatGPT. https://danslesalgorithmes.net/2024/09/17/chatgpt-le-mythe-de-la-productivite/.

Goody79

Goody Jack, La raison graphique : La domestication de la pensée sauvage, Les éditions de minuit, 1979.

Bachimont04

Bachimont Bruno, Arts et sciences du numérique : ingénierie des connaissances et critique de la raison computationnelle, Mémoire de HDR, Université de Technologie de Compiègne, 2004.

Bachimont, 2007

Bachimont Bruno. 2007. Ingénierie des connaissances et des contenus : le numérique entre ontologies et documents. Hermes.

Nagel et al., 1989

Nagel Ernest, Newman James R, Gödel Kurt, Girard Jean-Yves. 1989. Le Théorème de Gödel, le Seuil. Sources du savoir, Editions du Seuil.

Bachimont, 2004

Bachimont Bruno. 2004. Arts et sciences du numérique : ingénierie des connaissances et critique de la raison computationnelle. Université de Technologie de Compiègne, Mémoire de HDR.

Crozat, 2015

Crozat Stéphane. 2015. De la mécanisation de l'activité intellectuelle à la numérisation de l'information. in Aswemay. https://aswemay.fr/co/000021.html.

IAG

Intelligence Artificielle Générative

Liste des raccourcis clavier

Liste des fonctions de navigation et leurs raccourcis clavier correspondant :

  • Bloc Suivant : flèche droite, flèche bas, barre espace, page suivante, touche N
  • Bloc Précédent : flèche gauche, flèche haut, retour arrière, page précédente, touche P
  • Diapositive Suivante : touche T
  • Diapositive Précédente : touche S
  • Retour accueil : touche Début
  • Menu : touche M
  • Revenir à l'accueil : touche H
  • Fermer zoom : touche Échap.