Des couteaux et des machines, à propos de l’IA (extraits) (Pierre Steiner, 2023)
Rappel : Source
Steiner, Pierre. « Des couteaux et des machines, à propos de l’IA ». AOC, 16 mars 2023. https://aoc.media/opinion/2023/03/16/des-couteaux-et-des-machines-a-propos-de-lia/.
L’argument du couteau
L’agitation suscitée par les performances de l’agent conversationnel ChatGPT et, tout récemment, par le lancement de la version 4 de GPT, le programme d’OpenAI ne doit pas nous faire oublier que l’Union européenne est en train de finaliser un ambitieux projet législatif au sujet de l’intelligence artificielle. [...]
On doit ainsi à Jason Oxman, directeur de l’Information Technology Industry Council, une belle réactivation de ce que l’on appelle classiquement en philosophie des techniques « l’argument du couteau », visant à démontrer que les techniques, en tant que telles, sont neutres, c’est-à-dire ni bonnes ni mauvaises : tout dépend des usages que nous en faisons. Un couteau ne peut-il pas en effet autant servir à beurrer une tartine qu’à tuer une personne (propos rapportés dans Le Monde du 15 février 2023) ? L’évaluation éthique et la régulation des techniques devraient ainsi se situer au niveau de leurs usages ; il est vain de procéder en amont, dès les activités de conception et de développement.
Contre-argument 1
On peut tout d’abord remarquer que si l’entrepreneur recourt à cet argument de la neutralité (« la technique n’est intrinsèquement ni bonne ni mauvaise »), il ne peut plus tenir en toute rigueur un discours solutionniste dans lequel l’innovation technique est fondamentalement pourvoyeuse de bien-être et de résultats positifs, les éventuelles conséquences et externalités négatives ne découlant que d’usagers idiots ou mal-intentionnés. Tout comme le mal, le bien, ici, se trouve exclusivement dans les usages, et aucunement dans la technique elle-même. « Demain, grâce au Métavers, nous pourrons… » : il n’est pas certain que l’économie des promesses des géants du numérique et de la tech soit compatible avec cette affirmation plus modeste d’une neutralité des innovations.
Contre-argument 2
Mais cette modestie – à supposer qu’elle ne soit pas feinte – ne repose-t-elle pas sur une forme de naïveté et d’ignorance ? C’est là la deuxième raison de se méfier de l’argument du couteau. Peut-on réellement imaginer un instant que les projets et intentions des concepteurs et des entrepreneurs puissent être neutres, c’est-à-dire indifférents à toute conception spécifique de ce qui est bien et mal ? Sans parler des motivations économiques, il n’est jamais neutre qu’une technique soit conçue et développée : une certaine représentation de ce que devrait être le commerce, la santé, le soin, l’enseignement, la communication, l’organisation politique, l’emploi, les relations humaines, la vie privée ou les transports urbains nourrit les intentions et les projets techniques, mais aussi l’implémentation de diverses fonctionnalités.
Contre-argument 3
Dans la revue Science du 10 février 2023, une équipe internationale de chercheurs en anthropologie et en archéologie a présenté des résultats nouveaux sur nos cousins paranthropes africains : plus de trois cents artefacts ont été découverts au Kenya, cette fois-ci sur le site de Nyayanga. Ces objets de pierre taillée sont certes postérieurs aux pierres de Lomekwi, mais ont été déterrés à proximité immédiate de squelettes fossilisés d’animaux comprenant des bovidés mais aussi et surtout des hippopotames. Les ossements présentaient des marques nettes de fractures et de découpes causées par les outils.
Cette découverte montre clairement que la fabrication et l’usage de ces outils a ouvert de nouvelles possibilités alimentaires : entailler la peau de grands mammifères comme les hippopotames avant de découper et de débiter leur chair, attendrir la viande, fracturer les os pour aller chercher la moelle, etc. La consommation de tubercules, après coupe et broyage, est aussi attestée. Sans outils, ces pratiques alimentaires et ces projets – indissociables d’un nouveau rapport aux êtres vivants non-humains, et de nouvelles formes d’organisation sociale – sont inconcevables. Il est donc plus que jamais discutable d’asserter qu’un couteau est, en tant que tel, neutre, n’encourageant aucune tendance ou façon de faire. La fabrication et l’usage de pierres taillées est d’emblée solidaire d’usages spécifiques, de voies que nous empruntons – et donc d’autres voies que nous délaissons.
Fondamental :
Certes, un couteau ou une pierre taillée ne font rien d’eux-mêmes. Mais ils font faire. Ils transforment la façon dont nous nous rapportons à l’environnement et aux autres êtres vivants.
Comme le remarquait le philosophe John Dewey, avant d’être un objet, la technique est une manière de faire l’expérience du monde. Avec une pierre taillée, un hippopotame m’apparaît comme une source de nourriture, et plus seulement comme un prédateur. Cette transformation de nos pratiques alimentaires, sociales, et environnementales ouverte et contrainte par les pierres taillées, nul ne pouvait l’envisager au départ. Nous empruntons un chemin dont les contours et l’issue ne sont pas déterminés par nos intentions. Étant donné que nos intentions et nos projets sont modifiés par l’usage de la technique, nous ne pouvons en effet pas savoir où cet usage va nous mener.
Hypothèses et objectifs de la thèse TAC
Fondamental : Principe de la thèse TAC
Ce n'est pas simplement l'humain qui construit le technique, mais c'est tout autant le technique qui construit l'humain.
Fondamental : Hypothèses de la thèse TAC
C'est la technique qui rend possible les formes les plus générales de l'activité cognitive humaine.
L'intelligence humaine a un caractère artificiel qui trouve son origine dans la technique.
Objectifs de la thèse TAC
Comprendre les outils, les interfaces, les systèmes d'information et de communication
Conception, développement, utilisation
Mémorisation, raisonnement, valeurs, désirs, interactions, manières d'être et d'agir ensemble
Contexte de la thèse TAC
|
L'École de Compiègne
La thèse TAC est élaborée à l'UTC au sein du laboratoire Costech.
Former des ingénieurs-philosophes
Département TSH (Technologie, Sociétés, Humanités)
Équipe de recherche Costech (Connaissance, Organisation et Systèmes Techniques)
André Leroi-Gourhan
La tendance qui, par sa nature universelle, est chargée de toutes les possibilités exprimables en lois générales, traverse le milieu intérieur [...], elle rencontre le milieu extérieur [...], et au point de contact entre le milieu intérieur et le milieu extérieur se matérialise cette pellicule d'objets qui constituent le mobilier des hommes. (Leroi-Gourhan, 1945)
Gilbert Simondon
Les conséquences de cette concrétisation [...] sont aussi intellectuelles : le mode d'existence de l'objet technique étant analogue à celui des objet naturels spontanément produits, on peut légitimement les considérer comme des objets naturels, c'est à dire les soumettre à une étude inductive. (Simondon, 1958)
Bernard Stiegler
L'évolution technique relève pleinement de l'objet technique lui-même. L'homme n'est plus l'acteur intentionnel de cette dynamique. Il en est l'opérateur. (Stiegler, 1994)
Définition classique de la technique
Acception classique de la technique
La technique, c'est l'ensemble des moyens conçus par des humains pour la réalisation de fins (besoins) posées par des humains :
elle est cantonnée au registre des moyens de l'action (simple instrument du travail humain) ;
elle est conçu intentionnellement (simple produit du travail humain).
L'homme produit la technique selon un dessin (plan) et un dessein (but).
Fondamental : Limites de l'acception classique de la technique
Les fins ne peuvent être déterminées a priori, ce que l'on fait avec la technique se découvre à mesure que se constitue la technique (il n'y a pas de dessein a priori).
Les objets techniques suivent des évolutions autonomes qui échappent à la direction humaine (il n'y a pas de dessin a priori).
La technique transforme les humains en déterminant leur rapport au monde (à l'espace, au temps, au possible).
Complément : Technocritique
Thèse TAC 1 : Il n'y a pas d'humain sans technique
Définition : La technique est constitutive
La technique fonde l'humanité historiquement.
La genèse humaine est indissociable de la genèse technique
Il y a co-constitution de l'humain et du technique (l'anthropogenèse est indissociable d'une technogenèse).
Il n'y a pas de technique sans humain, mais il n'y a pas d'humain sans technique, l'humain et la technique sont couplés dès l'origine et évoluent ensemble (on abandonne ici l'idée que l'humain surplombe la technique).
La technique est une prothèse de l'humain
La technique est une prothèse (quelque chose d'ajouté) originaire (dès l'origine) de l'humain.
Exemple :
L'aveugle perçoit le monde au bout de la canne.
Le conducteur perçoit la texture de la route avec les roues.
Thèse TAC 2 : L'intelligence humaine a toujours un substrat technique
Définition : La technique est constituante
La technique entre dans la constitution des êtres humains.
Les objets techniques font partie intégrante de la connaissance
L'activité technique constitue la possibilité de penser, il n'y a donc pas de conscience sans technique.
La connaissance n'est pas intracrânienne, elle émerge d'un dispositif composé d'un système nerveux, d'un système sensori-moteur et de prothèses techniques (ainsi que d'interactions entre agents et avec les éléments naturels).
Exemple :
L'homme ne sait calculer que parce qu'il existe des mains et du papier pour inscrire des formules.
Attention : La science est un produit de la technique
La technique est nécessaire pour de nombreuses formes de connaissance humaine, incluant les connaissances scientifiques.
La spatialisation et l'itérabilité (rendues possibles par l'écriture) sont les conditions de possibilité de l'élaboration, de la justification, de la transmission et donc de la progression du savoir scientifique.
L'acception classique de la technique tend à la voir comme une application de la science, on voit ici que la science est un produit de la technique.
Autonomie de la technique
Pour être viable un objet technique doit acquérir un mode de fonctionnement cohérent à partir de ses propres lois (et non plus seulement à partir de l'idée qui l'a produit initialement).
L'utilité de l'objet technique est une conséquence, et non une cause, de son perfectionnement.
L'objet technique s'émancipe de la normativité extrinsèque posée par son inventeur.
Fondamental : Évolution de la technique
Une machine ouvre un milieu associé au milieu naturel et humain, c'est le couplage de la machine à son environnement, son adaptation qui fait son évolution et sa survie (et non une direction humaine).
Non-neutralité de la technique
Exemple : Support numérique
Le support numérique a des propriétés techniques nouvelles qui transforme le rapport humain au monde.
Il est nécessaire d'étudier ces propriétés et les conséquences sur la connaissance et les activités humaines.
Remarque : Technique et ingénierie
L'ingénieur doit se faire philosophe-technologue pour étudier les nouvelles des formes de couplage humain/technique.
Remarque : Technique et humanités
L'étude des activités humaines implique l'étude des systèmes techniques : par exemple, il est important de comprendre comment un changement de dispositif et d'inscriptions modifie les modes de raisonnement.
Synthèse
Questions
Rappelez ce qu'est « l’argument du couteau ».
Proposez trois arguments qui déconstruisent l'idée selon laquelle la technique serait neutre.
Proposez un exemple pour chacun de ces arguments.
Concepts
Constitutivité technique
Non neutralité de la technique
Autonomie de la technique