Introduction
Avec ChatGPT, le but de l’écriture c’est de remplir une page, pas de réaliser le processus de réflexion qui l’accompagne. C’est justement tout l’inverse dont nous avons besoin ! (Guillaud, 2024)
De la raison graphique à la raison computationnelle
La raison graphique (avec Jacques Goody)
Définition : La raison graphique
Goody nous montre que l'invention de l'écriture a modifié les schèmes de représentation de la connaissance, jusque là orale, donnant naissance à une « raison graphique »
(Goody, 79). Les documents papiers ont permis la représentation spatiale de l'information, en lui donnant une permanence dans le temps.
Grâce à ces possibilités nouvelles d'inscription, de nouvelles connaissances ont pu naître de l'émergence de représentations qui ne peuvent être formulées oralement.
Exemple : Le tableau
Goody expose l'exemple du tableau ou de la liste qui permettent de mettre en relief des relations qui ne pourraient émerger par la description orale du tableau ou de la liste.
Soit par exemple la lecture orale suivante :
Impossible d'accéder à la ressource audio ou vidéo à l'adresse :
La ressource n'est plus disponible ou vous n'êtes pas autorisé à y accéder. Veuillez vérifier votre accès puis recharger la vidéo.
Soit la représentation tabulaire de la même information :
Année | Chiffre d'affaire | Bénéfice |
2004 | 123.315 | 5.154 |
2005 | 115.247 | 7.156 |
2006 | 114.265 | 8.245 |
2007 | 112.250 | 8.300 |
La spatialisation permet de faire émerger des connaissances nouvelles, par exemple le fait que le fait que la baisse du chiffre d'affaire est corrélée à une hausse des bénéfices. Le changement de support a eu une influence sur la connaissance elle-même.
Exemple : Les mathématiques
Un autre exemple est celui des mathématiques, qui n'existeraient pas sans écriture.
Fondamental : Changer de support c'est changer de raisonnement
Le passage de l'oral à l'écrit n'est donc pas seulement un changement de support, c'est une révolution cognitive.
Complément :
La raison computationnelle (avec Bruno Bachimont)
Définition : La raison computationnelle
L'écrit a permis le passage du temporel au spatial par projection de la parole
Le numérique apporte de nouvelles formes de représentation des informations, basées sur le calcul (Bachimont, 2004).
L'ordinateur ne traite que des séquences binaires qui, par le calcul, deviennent des signes.
C'est cette propriété du support numérique qui est fondamentale.
Elle induit également la constitution de modes de représentation nouveaux, comme les tableaux pour la raison graphique en leur temps (la couche, le réseau, etc.).
Fondamental : Enjeu
L'enjeu est alors de comprendre comment inscrire les informations sur ce support spécifique qu'est le numérique afin de repérer les structures d'inscription nouvelles pertinentes.
Complément :
De la mécanisation de l'activité intellectuelle à la numérisation de l'information
La mise en nombre d'énoncés textuels permet de généraliser les principes de la mécanisation par le calcul.
Il s'agit dès lors d'une mécanisation des expressions signifiantes. (Bachimont, 2007, p26).
Exemple : Codage numérique des expressions signifiantes
( | ∃ | x | ) | ( | x | = | s | y | ) |
8 | 4 | 11 | 9 | 8 | 11 | 5 | 7 | 13 | 9 |
Fondamental : La généralisation de la mécanisation via la codification
Tout code peut être traité mécaniquement et tout énoncé est codable, donc les moyens et produits du travail intellectuel sont mécanisables.
Le numérique est homogène :
« de mêmes principes s'appliquent a tous les objets numériques »
(Bachimont, 2004)Le numérique est universel :
« tout contenu et toute connaissance peuvent recevoir une expression numérique »
(Ibid.)
Le numérique et l'ordinateur constituent un procédé technique général qui permet la mécanisation de tout travail intellectuel. Cela ne signifie pas que ces traitements sont équivalents à la pensée, ni que penser se réduit à ces traitements.
Mais, en revanche, cela signifie que nos actes de pensée s'inscrivent dans cet environnement mécanisé et s'en trouvent profondément affectés.
Complément :
De la mécanisation de l'activité intellectuelle à la numérisation de l'information sur Aswemay (Crozat, 2015)
Petite histoire scientifique, littéraire et ludique de l'IA
Turing³ : la machine universelle, la bombe, le test
Modèle cognitivisme (approche logique)
Modèle connexionnisme (approche biologique)
Modèle connexionniste et réseaux de neurones artificiels (Frank Rosenblatt, 1957)
Jouer au poker avec des robots est interdit
I felt like I was playing against someone who was cheating, like it could see my cards (Dong Kim, international poker player, Wired, 2017).
3 concepts pour une technocritique de l'IA
Hubris
Définition :
Un désir infantile de toute-puissance
Second manifeste convivialiste (2020)
Exemple :
Nous ne voulons pas que le nombre d'habitants cesse de croître. Nous voulons que chacun puisse consommer toujours plus d'énergie.
Si nous étions un trillion d'êtres humains dans le système solaire, nous aurions un millier d'Enstein et un millier de Mozart.
Jeff Bezos, cité par Vincent Gautier (« Un espace très... terre-à-terre », Socialter, Le réveil des imaginaires, nᵒ Hors-série 8, 2020).
Responsabilité
Déclinaisons du concept de responsabilité (à partir de ses 4 traductions en anglais) :
liability : responsabilité devant la justice
reliability : responsabilité au sens de fiable, compétent, digne de confiance
accountability : responsabilité au sens d'avoir des comptes à rendre
responsibility : responsabilité morale (en fonction de valeurs)
Xavier Guchet, cours de HE10, 2024
Quelques difficultés...
situation d'hétéronomie (subordination de l'ingénieur)
imprévisibilité des conséquences (thèse TAC)
jusqu'où mobiliser quels moyens (impacts socio-écologiques du numérique)
qui décide quelles valeurs sont à défendre (relativisme)
...
Propositions
Se préoccuper des conséquences (des impacts que l'on peut connaître) : vouloir prévoir, expliciter les scénario, calculer ce qui est calculable...
Défendre des valeurs '(dans un contexte de co-constitutivité) : les énoncer, les faire débattre, laisser la place à d'autres valeurs...
Exemple : D'abord ne pas nuire
Nucléaire
Armement
IA
Synthèse
Questions
En quoi les applications actuelles de l'IA s'inscrivent-elles pleinement dans le cadre de la raison computationnelle ?
Quel lien peut-on faire entre le développement de l'IA et le concept d'hubris ?
Quel lien peut-on faire entre le développement des IAG et le concept de prolétarisation ?
Quelles postures de responsabilité l'ingénieur peut-il prendre face au développement moderne de l'IA ?
Concepts
Raison computationnelle
Hubris
Prolétarisation
Responsabilité