Non neutralité de la technique

La technique n’est pas neutre

Fondamental

La technique n’est pas neutre !

La technique n’est pas neutre !

La technique n’est pas neutre !

La technique n’est pas neutre !

La technique n’est pas neutre !

La technique n’est pas neutre !

La technique n’est pas neutre !

La technique n’est pas neutre !

La technique n’est pas neutre !

La technique n’est pas neutre !

La technique n’est pas neutre !

La technique n’est pas neutre !

Il n'y a pas d'humain no-tech

No-tech

Les humains et les techniques sont co-constitués (thèse TAC ou « l'école de Compiègne » )

l'homme et l'outil s'inventent l'un en l'autre, il y a comme une maïeutique technologique (Stiegler, 1994)

L'humain est fondé par la technique (co-invention)

Dans le mythe de Prométhée de Protagoras, l’homme n’arrive que par un oubli, celui d’Épiméthée, qui a distribué « toutes les qualités », laissant l’homme nu, en défaut d’être, n’ayant encore jamais commencé à être : sa condition sera de suppléer ce défaut d’origine en se dotant de prothèses, d’instruments. (Stiegler, 1994)

Saisi, l'objet technique joue un rôle constituant pour nos capacités d'action, de raisonnement ou encore de perception. (Steiner, 2010)

L'humain est formé par ses techniques (co-constitutivité)

Loin d'être simplement déterminé par l'évolution du cortex, l'évolution des silex taillés détermine en retour le processus de corticalisation. (Stiegler, 1994)

Le fusil nous fait pénétrer dans un monde où, indépendamment de la volonté de son utilisation, la guerre des tranchées devient possible. (Biagini et Carnino, 2006)

L'humain est modifié par ses techniques (co-évolution)

L'humain et la technique sont couplés dès l'origine et évoluent ensemble, dynamiquement.

Il n'y a pas de technique neutre

Critique de l'argument du couteau

Les intentions, préjugés et biais des concepteurs se retrouvent inscrits dans les architectures, les programmes et les configurations par défaut. (Steiner, 2023)

Avec une pierre taillée, un hippopotame m’apparaît comme une source de nourriture, et plus seulement comme un prédateur. (Steiner, 2023)

La technique n'est ni bonne, ni mauvaise, ni neutre

J'entends par là que le développement de la technique n'est ni bon, ni mauvais, ni neutre — mais qu'il est fait d'un mélange complexe d'éléments positifs et négatifs [...]. J'entends encore par là qu'il est impossible de dissocier ces facteurs, de façon à obtenir une technique purement bonne et qu'il ne dépend absolument pas de l'usage que nous faisons de l'outillage technique d'avoir des résultats exclusivement bons. (Ellul, 1965)

La conception technique est politique a priori et a posteriori

  • Il existe des choix de conception volontaires et ces choix sont politiques, ils embarquent des valeurs morales (gendarme couché).

  • Il existe des choix de conception involontaires induits, qui ont également un impact politique (lien entre autoritarisme et nucléaire).

  • La technique reconfigure a posteriori la morale (l'échographie reconfigure le rapport à l'embryon).

  • Les représentations sous-jacentes aux techniques influent sur les représentations du monde (le numérique immatériel).

(Guchet, 2023)

La technique est bonne et mauvaise (pharmakon)

faisant confiance à l'écrit, c'est du dehors en recourant à des signes étrangers, et non du dedans, par leurs ressources propres, qu'ils se ressouviendront ; ce n'est donc pas pour la mémoire mais pour le ressouvenir que tu as trouvé un remède. (Platon, Phèdre)

Exemple

Le numérique est un pharmakon

Il n'y a pas de maîtrise de la technique

Maîtrise technique versus neutralité technique

In terms of both potential upsides and downsides, superintelligence will be more powerful than other technologies humanity has had to contend with in the past. We can have a dramatically more prosperous future; but we have to manage risk to get there. (Altman & al, 2023)

Dessin humain versus évolution technique

La tendance qui, par sa nature universelle, est chargée de toutes les possibilités exprimables en lois générales, traverse le milieu intérieur [...], elle rencontre le milieu extérieur [...], et au point de contact entre le milieu intérieur et le milieu extérieur se matérialise cette pellicule d'objets qui constituent le mobilier des hommes. (André Leroi-Gourhan, 1945))

Le concept de tendance technique s'oppose à cette illusion ethnocentrique [...] il n'y a pas de génie de l'invention, ou du moins, il ne joue qu'un rôle mineur dans l'évolution technique. (Stiegler, 1994)

Dans l'explication de l'évolution technique par le couplage de l'homme à la matière, traversée par la tendance technique, une part essentielle de celle-ci, provenant du milieu intérieur ethnique comme intention, reste anthropologiquement déterminée. Chez Simondon, ce milieu intérieur se dilue. Il n'y a plus de source anthropologique de la tendance. L'évolution technique relève pleinement de l'objet technique lui-même. L'homme n'est plus l'acteur intentionnel de cette dynamique. Il en est l'opérateur. (Stiegler, 1994)

Dessein humain versus constitutivité technique

For example, in our prototype search engine one of the top results for cellular phone is "The Effect of Cellular Phone Use Upon Driver Attention", a study which explains in great detail the distractions and risk associated with conversing on a cell phone while driving. [...] It is clear that a search engine which was taking money for showing cellular phone ads would have difficulty justifying the page that our system returned to its paying advertisers. For this type of reason and historical experience with other media [Bagdikian 83], we expect that advertising funded search engines will be inherently biased towards the advertisers and away from the needs of the consumers. (Brin and Page, 1998)

we believe it’s going to lead to a much better world than what we can imagine today (Altman & al, 2023)

Autonomie et indétermination de la technique

Cette conception repose en effet sur le couple conceptuel moyens/fins : la technique est cantonnée au registre des moyens de l'action, c'est-à-dire au niveau de ce qui est utilisé lors de la réalisation de projets d'action. (Steiner, 2010)

Exemple

Technologie et magie

Exercice : Des couteaux et des machines

Rappelez ce qu'est « l’argument du couteau » ou proposez une citation qui en donne une définition.

Les techniques, en tant que telles, sont neutres, c’est-à-dire ni bonnes ni mauvaises : tout dépend des usages que nous en faisons. Un couteau ne peut-il pas en effet autant servir à beurrer une tartine qu’à tuer une personne ?

Identifiez les deux principaux arguments qui déconstruisent l'idée selon laquelle la technique serait neutre.

La technique n'est pas neutre, car ceux qui la développent ne sont pas neutres.

Les concepteurs d'une technique ont des représentations du monde qui sous tendent ce pourquoi il veulent faire de la tech (et donc viser un objectif qui est bon selon eux.

La technique n'est pas neutre, car elle reconfigure notre rapport au monde.

Nos usages, nos intentions, nos projets, ce que l'on veut faire, sont déjà pré-configurés par l'accès au monde rendu possible par notre expérience qui s'exerce via la technique.

Proposez une citation pour chacun de ces arguments.

La technique n'est pas neutre, car ceux qui la développent ne sont pas neutres.

Les intentions, préjugés et biais des concepteurs se retrouvent inscrits dans les architectures, les programmes et les configurations par défaut.

La tech n'est pas neutre, car elle reconfigure notre rapport au monde.

Avec une pierre taillée, un hippopotame m’apparaît comme une source de nourriture, et plus seulement comme un prédateur.

Proposez un exemple qui n'est pas dans le texte pour chacun de ces arguments.

Ceux qui défendent une technique neutre le font en général pour balayer toute critique de la technique (technocritique) et promouvoir les idées de technosolutionnisme ou de progrès technique. En quoi est-ce contradictoire ?

Remarque

Si la technique est neutre alors :

  • il n'est pas possible de tenir un discours solutionnisme ;

  • l'innovation technique n'est pas pourvoyeuse de progrès a priori.

Les promoteurs d'une technique utilisent l'argument de la neutralité :

  • quand ça les arrange (pour répondre aux interpellations des citoyens concernant les questions sociales ou environnementales que posent cette technique par exemple) ;

  • mais pas quand ils veulent financer ou déployer leurs projets (dont ils vantent alors les bénéfices a priori)

La technique selon ses promoteurs est donc soit bonne, soit neutre (quand elle est mauvaise c'est qu'elle est mal employée, c'est la faute des « usages »).

Synthèse

Concepts

  • Constitutivité technique

  • Non neutralité de la technique

  • Autonomie de la technique

  • Pharmakon

Questions

  1. Pourquoi la technique n'est-elle jamais neutre ?

  2. Rappelez ce qu'est « l’argument du couteau » et expliquez pourquoi cet argument arrange bien les ingénieurs ?

  3. En quoi peut-on parler d'autonomie de la technique  ?

Remarque

Proposez des exemples originaux, dont au moins un dans un domaine lié au Web.

Méthode

  • 1 binôme traite la question de son choix et fait une restitution orale lors du cours suivant (3 à 5 minutes).

  • 2 binômes traitent chacun une des questions restantes et postent leur travail sur Mattermost (sous 48h).

  • Les autres étudiant·es peuvent commenter ces propositions pour les questionner, compléter, corriger...

Compléments

Extrait du rapport HCERES du laboratoire Costech, 2024

Complément

Une conception de l’expérience humaine comme étant techniquement constituée. Notre hypothèse directrice est que la technique rend possible les formes les plus générales de la cognition humaine, hypothèse qui repose plus largement sur la thèse de la constitutivité anthropologique de la technique (que nous désignons comme la thèse « TAC », technique anthropologiquement constitutive). Inspirée par l’œuvre d’auteurs tels que Leroi-Gourhan, Simondon et Stiegler, la thèse TAC postule l’imbrication originelle de l’humain et de la technique, affirmant que l’évolution de l’être humain est intrinsèquement liée aux techniques qu’il fabrique, et qui contribuent à le façonner en retour. Par « technique », nous désignons à la fois les instruments et les artéfacts ainsi que les manières de faire (gestes manuels, opérations et procédures). Cette perspective nous permet d’envisager la cognition humaine dans sa nature instrumentée, dans la mesure où elle est façonnée par les savoir-faire, les outils et les milieux techniques transmis par la société et hérités par les générations successives. Plus encore, elle met en lumière le caractère artificiel de l’intelligence dans la mesure où celle-ci repose sur l’extériorisation de ses fonctions. Les outils, loin d’être de simples moyens pour le déploiement de fonctions « naturelles » internes, sont constitutifs des opérations cognitives dans la mesure où ils représentent les supports d’activités cognitives telles que la perception, la mémorisation, l’orientation spatiale et temporelle, le calcul et l’organisation. Il en découle que la technique ne saurait être réduite à quelque chose dont on pourrait éventuellement se dispenser, ou encore à des moyens de l’action, au service de fins et de projets préexistants, comme le prétend une certaine vision instrumentaliste des techniques. Outil matériel ou savoir-faire, la technique rend possible, façonne et transforme nos manières de percevoir, de penser, de connaître, d’agir et d’interagir. En ce sens, la technique constitue un mode d’expérience du monde.

Thèse TAC : Technologie Anthropologiquement Constitutive

Hypothèses et objectifs de la thèse TAC

FondamentalPrincipe de la thèse TAC

Ce n'est pas simplement l'humain qui construit le technique, mais c'est tout autant le technique qui construit l'humain.

FondamentalHypothèses de la thèse TAC

  • C'est la technique qui rend possible les formes les plus générales de l'activité cognitive humaine.

  • L'intelligence humaine a un caractère artificiel qui trouve son origine dans la technique.

Objectifs de la thèse TAC

  • Comprendre les outils, les interfaces, les systèmes d'information et de communication

  • Conception, développement, utilisation

  • Mémorisation, raisonnement, valeurs, désirs, interactions, manières d'être et d'agir ensemble

Contexte de la thèse TAC

Gilbert Simondon

La plus forte cause d'aliénation dans le monde contemporain réside dans cette méconnaissance de la machine, qui n'est pas une aliénation causée par la machine, mais par la non-connaissance de sa nature et de son essence, par son absence du monde des significations, et par son omission dans la table des valeurs et des concepts faisant partie de la culture. (Simondon, 1958)

L'École de Compiègne

La thèse TAC est élaborée à l'UTC au sein du laboratoire Costech.

  • Former des ingénieurs-philosophes

  • Département TSH (Technologie, Sociétés, Humanités)

  • Équipe de recherche Costech (Connaissance, Organisation et Systèmes Techniques)

André Leroi-Gourhan

La tendance qui, par sa nature universelle, est chargée de toutes les possibilités exprimables en lois générales, traverse le milieu intérieur [...], elle rencontre le milieu extérieur [...], et au point de contact entre le milieu intérieur et le milieu extérieur se matérialise cette pellicule d'objets qui constituent le mobilier des hommes. (Leroi-Gourhan, 1945)

Gilbert Simondon

Les conséquences de cette concrétisation [...] sont aussi intellectuelles : le mode d'existence de l'objet technique étant analogue à celui des objet naturels spontanément produits, on peut légitimement les considérer comme des objets naturels, c'est à dire les soumettre à une étude inductive. (Simondon, 1958)

Bernard Stiegler

L'évolution technique relève pleinement de l'objet technique lui-même. L'homme n'est plus l'acteur intentionnel de cette dynamique. Il en est l'opérateur. (Stiegler, 1994)

Définition classique de la technique

Acception classique de la technique

La technique, c'est l'ensemble des moyens conçus par des humains pour la réalisation de fins (besoins) posées par des humains :

  • elle est cantonnée au registre des moyens de l'action (simple instrument du travail humain) ;

  • elle est conçu intentionnellement (simple produit du travail humain).

L'homme produit la technique selon un dessin (plan) et un dessein (but).

FondamentalLimites de l'acception classique de la technique

  • Les fins ne peuvent être déterminées a priori, ce que l'on fait avec la technique se découvre à mesure que se constitue la technique (il n'y a pas de dessein a priori).

  • Les objets techniques suivent des évolutions autonomes qui échappent à la direction humaine (il n'y a pas de dessin a priori).

  • La technique transforme les humains en déterminant leur rapport au monde (à l'espace, au temps, au possible).

Thèse TAC 1 : Il n'y a pas d'humain sans technique

DéfinitionLa technique est constitutive

La technique fonde l'humanité historiquement.

La genèse humaine est indissociable de la genèse technique

  • Il y a co-constitution de l'humain et du technique (l'anthropogenèse est indissociable d'une technogenèse).

  • Il n'y a pas de technique sans humain, mais il n'y a pas d'humain sans technique, l'humain et la technique sont couplés dès l'origine et évoluent ensemble (on abandonne ici l'idée que l'humain surplombe la technique).

La technique est une prothèse de l'humain

La technique est une prothèse (quelque chose d'ajouté) originaire (dès l'origine) de l'humain.

Exemple

  • L'aveugle perçoit le monde au bout de la canne.

  • Le conducteur perçoit la texture de la route avec les roues.

Thèse TAC 2 : L'intelligence humaine a toujours un substrat technique

DéfinitionLa technique est constituante

La technique entre dans la constitution des êtres humains.

Les objets techniques font partie intégrante de la connaissance

  • L'activité technique constitue la possibilité de penser, il n'y a donc pas de conscience sans technique.

  • La connaissance n'est pas intracrânienne, elle émerge d'un dispositif composé d'un système nerveux, d'un système sensori-moteur et de prothèses techniques (ainsi que d'interactions entre agents et avec les éléments naturels).

Exemple

L'homme ne sait calculer que parce qu'il existe des mains et du papier pour inscrire des formules.

AttentionLa science est un produit de la technique

  • La technique est nécessaire pour de nombreuses formes de connaissance humaine, incluant les connaissances scientifiques.

  • La spatialisation et l'itérabilité (rendues possibles par l'écriture) sont les conditions de possibilité de l'élaboration, de la justification, de la transmission et donc de la progression du savoir scientifique.

  • L'acception classique de la technique tend à la voir comme une application de la science, on voit ici que la science est un produit de la technique.

Autonomie de la technique

  • Pour être viable un objet technique doit acquérir un mode de fonctionnement cohérent à partir de ses propres lois (et non plus seulement à partir de l'idée qui l'a produit initialement).

  • L'utilité de l'objet technique est une conséquence, et non une cause, de son perfectionnement.

  • L'objet technique s'émancipe de la normativité extrinsèque posée par son inventeur.

FondamentalÉvolution de la technique

Une machine ouvre un milieu associé au milieu naturel et humain, c'est le couplage de la machine à son environnement, son adaptation qui fait son évolution et sa survie (et non une direction humaine).

Non-neutralité de la technique

ExempleSupport numérique

  • Le support numérique a des propriétés techniques nouvelles qui transforme le rapport humain au monde.

  • Il est nécessaire d'étudier ces propriétés et les conséquences sur la connaissance et les activités humaines.

RemarqueTechnique et ingénierie

L'ingénieur doit se faire philosophe-technologue pour étudier les nouvelles des formes de couplage humain/technique.

RemarqueTechnique et humanités

L'étude des activités humaines implique l'étude des systèmes techniques : par exemple, il est important de comprendre comment un changement de dispositif et d'inscriptions modifie les modes de raisonnement.

Steiner, 2023

Steiner Pierre. 2023. Des couteaux et des machines, à propos de l'IA. in AOC. https://aoc.media/opinion/2023/03/16/des-couteaux-et-des-machines-a-propos-de-lia/.

Des couteaux et des machines, à propos de l’IA (Pierre Steiner, 2023)

RappelSource

Steiner, Pierre. « Des couteaux et des machines, à propos de l’IA ». AOC, 16 mars 2023. https://aoc.media/opinion/2023/03/16/des-couteaux-et-des-machines-a-propos-de-lia/.

L’agitation suscitée par les performances de l’agent conversationnel ChatGPT et, tout récemment, par le lancement de la version 4 de GPT, le programme d’OpenAI ne doit pas nous faire oublier que l’Union européenne est en train de finaliser un ambitieux projet législatif au sujet de l’intelligence artificielle. Initialement proposé par la Commission européenne en 2021 et actuellement débattu au Parlement européen, l’Artificial Intelligence Act vise à davantage encadrer les usages de l’intelligence artificielle sur le sol européen.

Du tri automatique de CV à la notation sociale « à la chinoise » en passant par la conduite autonome de véhicules ou encore l’identification biométrique, il s’agit d’identifier, de réguler voire d’exclure certains usages « à risque » de l’intelligence artificielle (IA).

Ce projet a aussi de potentielles conséquences pour les géants de la tech et leurs écosystèmes : en amont des usages, il est en effet question que des exigences légales s’exercent aussi sur le recueil et l’exploitation des données massives (Big Data) qui nourrissent les intelligences artificielles génératives, cela au nom de la fiabilité, de la transparence, ou encore de la représentativité et de l’absence de biais.

Il n’est donc pas surprenant que certains représentants et lobbyistes des GAFAM essaient de cantonner cette régulation exclusivement sur l’encadrement des usages. Pas question de réguler ce qui les précède ou les rend possibles ! On doit ainsi à Jason Oxman, directeur de l’Information Technology Industry Council, une belle réactivation de ce que l’on appelle classiquement en philosophie des techniques « l’argument du couteau », visant à démontrer que les techniques, en tant que telles, sont neutres, c’est-à-dire ni bonnes ni mauvaises : tout dépend des usages que nous en faisons. Un couteau ne peut-il pas en effet autant servir à beurrer une tartine qu’à tuer une personne (propos rapportés dans Le Monde du 15 février 2023) ? L’évaluation éthique et la régulation des techniques devraient ainsi se situer au niveau de leurs usages ; il est vain de procéder en amont, dès les activités de conception et de développement.

L’argument permet ici de déresponsabiliser habilement les chercheurs, entrepreneurs, financeurs, et concepteurs de systèmes d’intelligence artificielle : tout dépend de ce qu’en feront les individus et les sociétés, charge aux États de réguler ces usages… quand ils n’y recourent pas eux-mêmes ! Ne venez pas brider le travail les ingénieurs, traquez plutôt les terroristes – nous vous proposons d’ailleurs des outils pour cela !Que cet argument, en réalité éculé, soit à nouveau mobilisé laisse perplexe pour différentes raisons.

On peut tout d’abord remarquer que si l’entrepreneur recourt à cet argument de la neutralité (« la technique n’est intrinsèquement ni bonne ni mauvaise »), il ne peut plus tenir en toute rigueur un discours solutionniste dans lequel l’innovation technique est fondamentalement pourvoyeuse de bien-être et de résultats positifs, les éventuelles conséquences et externalités négatives ne découlant que d’usagers idiots ou mal-intentionnés. Tout comme le mal, le bien, ici, se trouve exclusivement dans les usages, et aucunement dans la technique elle-même. « Demain, grâce au Métavers, nous pourrons… » : il n’est pas certain que l’économie des promesses des géants du numérique et de la tech soit compatible avec cette affirmation plus modeste d’une neutralité des innovations.

Mais cette modestie – à supposer qu’elle ne soit pas feinte – ne repose-t-elle pas sur une forme de naïveté et d’ignorance ? C’est là la deuxième raison de se méfier de l’argument du couteau. Peut-on réellement imaginer un instant que les projets et intentions des concepteurs et des entrepreneurs puissent être neutres, c’est-à-dire indifférents à toute conception spécifique de ce qui bien et mal ? Sans parler des motivations économiques, il n’est jamais neutre qu’une technique soit conçue et développée : une certaine représentation de ce que devrait être le commerce, la santé, le soin, l’enseignement, la communication, l’organisation politique, l’emploi, les relations humaines, la vie privée ou les transports urbains nourrit les intentions et les projets techniques, mais aussi l’implémentation de diverses fonctionnalités.

Cette structuration – pour ne pas dire détermination – de la conception par un imaginaire éthique, social et politique spécifique est bien attestée dans le cas des entreprises de la Silicon Valley : le libertarianisme, le cornucopianisme et le transhumanisme sont des aspects de cet imaginaire, comme le mythe de l’entrepreneur génial et isolé. Au demeurant, cette structuration par un ensemble de valeurs et d’idéaux se retrouve aussi au niveau des usages : les usages ne sont jamais de pures performances individuelles créatives.

La technique demeure en bout de chaîne : elle exprime, cristallise et incarne nos déterminations.

Il existe une antienne concernant les déterminismes sociaux, culturels et économiques à l’œuvre dans les usages. De surcroît, même s’il était souverain dans ses choix, l’individu n’imposerait jamais ses intentions à une technique qui serait sinon inerte et passive : les intentions, préjugés et biais des concepteurs se retrouvent inscrits dans les architectures, les programmes et les configurations par défaut. D’où d’ailleurs l’ambition européenne de réguler les façons dont les données sont récoltées.

Si l’on en reste à ces deux premières remarques, les intentions des usagers et des concepteurs se voient ramenées à un ensemble de déterminations sociales, politiques et économiques. Match nul. Rien ne peut être neutre, y compris les finalités et les imaginaires de concepteurs et des entrepreneurs. Dans les deux cas, la technique demeure toutefois en bout de chaîne : elle exprime, cristallise et incarne ces déterminations. On continue de ne pas voir le plus important : la façon dont toute technique modifie nos intentions, nos idées, nos projets, nos imaginaires et nos façons de faire.

Il existe en effet une troisième raison, à mon sens plus profonde, de se méfier de l’« argument du couteau ». Cette troisième raison, hasard providentiel du calendrier, peut être illustrée par une découverte récente sur nos cousins paranthropes. On sait depuis longtemps que l’usage d’outils n’est pas le propre du genre Homo : le fait technique est présent chez de nombreuses espèces animales non-humaines. Depuis 2015 et les découvertes sur le site de Lomekwi, au Kenya, nous avons également appris que la taille de pierres, et l’usage de ces pierres taillées remonte à plus de 3 millions d’années, bien avant donc l’apparition du genre Homo.

Dans la revue Science du 10 février 2023, une équipe internationale de chercheurs en anthropologie et en archéologie a présenté des résultats nouveaux sur nos cousins paranthropes africains : plus de trois cents artefacts ont été découverts au Kenya, cette fois-ci sur le site de Nyayanga. Ces objets de pierre taillée sont certes postérieurs aux pierres de Lomekwi, mais ont été déterrés à proximité immédiate de squelettes fossilisés d’animaux comprenant des bovidés mais aussi et surtout des hippopotames. Les ossements présentaient des marques nettes de fractures et de découpes causées par les outils.

Cette découverte montre clairement que la fabrication et l’usage de ces outils a ouvert de nouvelles possibilités alimentaires : entailler la peau de grands mammifères comme les hippopotames avant de découper et de débiter leur chair, attendrir la viande, fracturer les os pour aller chercher la moelle, etc. La consommation de tubercules, après coupe et broyage, est aussi attestée. Sans outils, ces pratiques alimentaires et ces projets – indissociables d’un nouveau rapport aux êtres vivants non-humains, et de nouvelles formes d’organisation sociale – sont inconcevables. Il est donc plus que jamais discutable d’asserter qu’un couteau est, en tant que tel, neutre, n’encourageant aucune tendance ou façon de faire. La fabrication et l’usage de pierres taillées est d’emblée solidaire d’usages spécifiques, de voies que nous empruntons – et donc d’autres voies que nous délaissons.

Certes, un couteau ou une pierre taillée ne font rien d’eux-mêmes. Mais ils font faire. Ils transforment la façon dont nous nous rapportons à l’environnement et aux autres êtres vivants.

Comme le remarquait le philosophe John Dewey, avant d’être un objet, la technique est une manière de faire l’expérience du monde. Avec une pierre taillée, un hippopotame m’apparaît comme une source de nourriture, et plus seulement comme un prédateur. Cette transformation de nos pratiques alimentaires, sociales, et environnementales ouverte et contrainte par les pierres taillées, nul ne pouvait l’envisager au départ. Nous empruntons un chemin dont les contours et l’issue ne sont pas déterminés par nos intentions. Étant donné que nos intentions et nos projets sont modifiés par l’usage de la technique, nous ne pouvons en effet pas savoir où cet usage va nous mener.

L’« argument du couteau » et la régulation exclusive par les usages qu’il prétend justifier reposent sur un idéalisme très fruste à propos des pouvoirs de la pensée et de l’imagination : ces dernières pourraient d’avance nous projeter là où nous arriverons si nous utilisons une nouvelle technique ou si nous modifions nos usages. Nous projetons un point d’arrivée en supposant que la technique ne fera pas advenir de nouveaux désirs, de nouvelles dépendances, mais aussi de nouvelles incuries. En réalité, nous nous engageons dans des voies qui ne peuvent être complètement anticipées parce qu’elles sont ouvertes et contraintes par les techniques qui sont à notre disposition.

Pour en revenir à l’AI Act, il est temps d’accepter que le recueil, le stockage, la circulation et la reproduction des données sont consubstantiels aux systèmes numériques et à tout objet connecté, et ouvrent ou amplifient un ensemble d’usages indéterminés qui ne leur préexistaient pas sous la forme que nous connaissons actuellement (tracer, profiler, surveiller, quantifier, corréler, générer par induction…). La régulation et les garde-fous sont-ils dès lors vains ? Nullement. À côté d’une méfiance nécessaire par rapport aux prophéties technolâtres et technophobes, il convient de redoubler de vigilance et d’exigence à propos de l’évaluation des innovations techniques, en rapport avec les pratiques auxquelles nous tenons. Il n’y a décidément pas de raison que les choix techniques soient laissés aux seules mains de la tech au nom d’une fausse neutralité, avec la conviction que nous pourrons ensuite réguler ces usages comme bon nous semble. Ces choix techniques engagent en effet dès le départ des choix de société.

Des couteaux et des machines, à propos de l’IA (extraits) (Pierre Steiner, 2023)

RappelSource

Steiner, Pierre. « Des couteaux et des machines, à propos de l’IA ». AOC, 16 mars 2023. https://aoc.media/opinion/2023/03/16/des-couteaux-et-des-machines-a-propos-de-lia/.

L’argument du couteau

L’agitation suscitée par les performances de l’agent conversationnel ChatGPT et, tout récemment, par le lancement de la version 4 de GPT, le programme d’OpenAI ne doit pas nous faire oublier que l’Union européenne est en train de finaliser un ambitieux projet législatif au sujet de l’intelligence artificielle. [...]

On doit ainsi à Jason Oxman, directeur de l’Information Technology Industry Council, une belle réactivation de ce que l’on appelle classiquement en philosophie des techniques « l’argument du couteau », visant à démontrer que les techniques, en tant que telles, sont neutres, c’est-à-dire ni bonnes ni mauvaises : tout dépend des usages que nous en faisons. Un couteau ne peut-il pas en effet autant servir à beurrer une tartine qu’à tuer une personne (propos rapportés dans Le Monde du 15 février 2023) ? L’évaluation éthique et la régulation des techniques devraient ainsi se situer au niveau de leurs usages ; il est vain de procéder en amont, dès les activités de conception et de développement.

Contradiction des promoteurs de la neutralité de la technique

On peut tout d’abord remarquer que si l’entrepreneur recourt à cet argument de la neutralité (« la technique n’est intrinsèquement ni bonne ni mauvaise »), il ne peut plus tenir en toute rigueur un discours solutionniste dans lequel l’innovation technique est fondamentalement pourvoyeuse de bien-être et de résultats positifs, les éventuelles conséquences et externalités négatives ne découlant que d’usagers idiots ou mal-intentionnés. Tout comme le mal, le bien, ici, se trouve exclusivement dans les usages, et aucunement dans la technique elle-même. « Demain, grâce au Métavers, nous pourrons… » : il n’est pas certain que l’économie des promesses des géants du numérique et de la tech soit compatible avec cette affirmation plus modeste d’une neutralité des innovations.

Contre-argument 1 à la neutralité de la technique

Mais cette modestie – à supposer qu’elle ne soit pas feinte – ne repose-t-elle pas sur une forme de naïveté et d’ignorance ? C’est là la deuxième raison de se méfier de l’argument du couteau. Peut-on réellement imaginer un instant que les projets et intentions des concepteurs et des entrepreneurs puissent être neutres, c’est-à-dire indifférents à toute conception spécifique de ce qui est bien et mal ? Sans parler des motivations économiques, il n’est jamais neutre qu’une technique soit conçue et développée : une certaine représentation de ce que devrait être le commerce, la santé, le soin, l’enseignement, la communication, l’organisation politique, l’emploi, les relations humaines, la vie privée ou les transports urbains nourrit les intentions et les projets techniques, mais aussi l’implémentation de diverses fonctionnalités.

Contre-argument 2 à la neutralité de la technique

Dans la revue Science du 10 février 2023, une équipe internationale de chercheurs en anthropologie et en archéologie a présenté des résultats nouveaux sur nos cousins paranthropes africains : plus de trois cents artefacts ont été découverts au Kenya, cette fois-ci sur le site de Nyayanga. Ces objets de pierre taillée sont certes postérieurs aux pierres de Lomekwi, mais ont été déterrés à proximité immédiate de squelettes fossilisés d’animaux comprenant des bovidés mais aussi et surtout des hippopotames. Les ossements présentaient des marques nettes de fractures et de découpes causées par les outils.

Cette découverte montre clairement que la fabrication et l’usage de ces outils a ouvert de nouvelles possibilités alimentaires : entailler la peau de grands mammifères comme les hippopotames avant de découper et de débiter leur chair, attendrir la viande, fracturer les os pour aller chercher la moelle, etc. La consommation de tubercules, après coupe et broyage, est aussi attestée. Sans outils, ces pratiques alimentaires et ces projets – indissociables d’un nouveau rapport aux êtres vivants non-humains, et de nouvelles formes d’organisation sociale – sont inconcevables. Il est donc plus que jamais discutable d’asserter qu’un couteau est, en tant que tel, neutre, n’encourageant aucune tendance ou façon de faire. La fabrication et l’usage de pierres taillées est d’emblée solidaire d’usages spécifiques, de voies que nous empruntons – et donc d’autres voies que nous délaissons.

Fondamental

Certes, un couteau ou une pierre taillée ne font rien d’eux-mêmes. Mais ils font faire. Ils transforment la façon dont nous nous rapportons à l’environnement et aux autres êtres vivants.

Comme le remarquait le philosophe John Dewey, avant d’être un objet, la technique est une manière de faire l’expérience du monde. Avec une pierre taillée, un hippopotame m’apparaît comme une source de nourriture, et plus seulement comme un prédateur. Cette transformation de nos pratiques alimentaires, sociales, et environnementales ouverte et contrainte par les pierres taillées, nul ne pouvait l’envisager au départ. Nous empruntons un chemin dont les contours et l’issue ne sont pas déterminés par nos intentions. Étant donné que nos intentions et nos projets sont modifiés par l’usage de la technique, nous ne pouvons en effet pas savoir où cet usage va nous mener.

Simondon, 1958

Simondon Gilbert. 1958. Du mode d'existence des objets techniques. 2012, Éditions Aubiers.

Leroi-Gourhan, 1945

Leroi-Gourhan André. 1945. Milieu et techniques. 1973, Albin Michel.

Stiegler, 1994

Stiegler Bernard. 1994. La technique et le temps : la désorientation. Galilée. vol.2.

La technique n'est ni bonne, ni mauvaise, ni neutre (avec Jacques Ellul)

FondamentalLa technique n'est ni bonne, ni mauvaise, ni neutre.

J'entends par là que le développement de la technique n'est ni bon, ni mauvais, ni neutre — mais qu'il est fait d'un mélange complexe d'éléments positifs et négatifs [...].

Ellul, 1965

Ça ne dépend pas

Les objets techniques ne sont pas neutres au sens où nous pourrions décider de systématiquement les utiliser à bon escient. On peut caresser avec un marteau, mais si on dispose du marteau, on frappera à un moment ou à un autre avec (un clou ici, un crâne là).

La technique transforme l'humain

L'humain équipé de telle ou telle technique est transformé corporellement et psychologiquement, il est un humain différent de celui qui est équipé autrement.

La technique augmente la dépendance à la technique

La technique peut augmenter l'autonomie de l'humain, par rapport à sa dépendance aux activités d'autres humains ou aux contraintes du milieu naturel dans lequel il évolue, mais elle diminue toujours son indépendance en ce sens que la solution technique se substitue à une solution — ou une non-solution — non technique.

La technique détermine l'évaluation de la technique

Il n'est pas possible d'évaluer le caractère bon ou mauvais d'une technique sans technique, donc l'évaluation éthique de la technique est elle-même techniquement conditionnée.

Le progrès technique complexifie le monde et limite les possibilités de choisir

L'extension du domaine de la technique, en nombre d'objets, en évolution de chaque objet, en intrications des objets entre eux, complexifie le monde dans lequel les humains évoluent et obère leurs possibilités de choix.

ComplémentTechnocritique
  • « Tout progrès technique se paie. »

  • « Le progrès technique soulève plus de problèmes qu'il n'en résout. »

  • « Les effets néfastes du progrès technique sont inséparables des effets favorables. »

  • « Tout progrès technique comporte un grand nombre d'effets imprévisibles. »

Ellul, 1965

Ellul, 1965

Ellul Jacques. 1965. Réflexions sur l'ambivalence du progrès technique. in La Revue administrative. vol.18 n°106 pp380-391. https://www.jstor.org/stable/40777750.

Liste des raccourcis clavier

Liste des fonctions de navigation et leurs raccourcis clavier correspondants :

  • Bloc Suivant : flèche droite, flèche bas, barre espace, page suivante, touche N
  • Bloc Précédent : flèche gauche, flèche haut, retour arrière, page précédente, touche P
  • Diapositive Suivante : touche T
  • Diapositive Précédente : touche S
  • Première diapositive : touche Début
  • Revenir à l'accueil : touche H
  • Menu : touche M
  • Plein écran : touche F
  • Cacher outils : touche Z
  • Fermer zoom : touche Échap.