Les IA ça marche pas !
XXe siècle
The spirit is willing, but the flesh is weak
aurait été traduit en russe puis de nouveau en anglais et aurait donné :
The vodka is good, but the meat is rotten
XXIe siècle
Fondamental :
Ça veut dire quoi que ça marche ou pas ?
Premiers pas
Il n'y a pas d'humain no-tech
l'homme et l'outil s'inventent l'un en l'autre, il y a comme une maïeutique technologique (Stiegler, 1994)
Saisi, l'objet technique joue un rôle constituant pour nos capacités d'action, de raisonnement ou encore de perception. (Steiner, 2010)
Il n'y a pas de technique neutre
Les intentions, préjugés et biais des concepteurs se retrouvent inscrits dans les architectures, les programmes et les configurations par défaut. (Steiner, 2023)
Avec une pierre taillée, un hippopotame m’apparaît comme une source de nourriture, et plus seulement comme un prédateur. (Steiner, 2023)
Remarque :
L’argument permet déresponsabiliser les parties prenantes de la conceptions technique : chercheurs, ingénieurs, entrepreneurs, financeurs...
Il n'y a pas de maîtrise de la technique
La tendance qui, par sa nature universelle, est chargée de toutes les possibilités exprimables en lois générales, traverse le milieu intérieur [...], elle rencontre le milieu extérieur [...], et au point de contact entre le milieu intérieur et le milieu extérieur se matérialise cette pellicule d'objets qui constituent le mobilier des hommes. (André Leroi-Gourhan, 1945)
Chez Simondon, ce milieu intérieur se dilue. Il n'y a plus de source anthropologique de la tendance. L'évolution technique relève pleinement de l'objet technique lui-même. L'homme n'est plus l'acteur intentionnel de cette dynamique. Il en est l'opérateur. (Stiegler, 1994)
Exemple :
In terms of both potential upsides and downsides, superintelligence will be more powerful than other technologies humanity has had to contend with in the past. We can have a dramatically more prosperous future; but we have to manage risk to get there. (Altman & al, 2023)
Il n'a pas de retour en arrière (héritage)
Nous héritons d'un monde dont nous dépendons, d'arrangements socio-techniques qui fondent ce monde, il est nécessaire de reconnaître et accepter ces objets y compris dans leur dimension négative, en hériter donc, y compris s'il s'agit de rompre avec eux, de s'en détacher, d'y renoncer. (Emmanuel Bonnet, Diego Landivar et Alexandre Monnin, 2021)
Turing³ : la machine universelle, la bombe, le test
Modèle cognitivisme (approche logique)
John McCarthy forge le terme « Intelligence Artificielle » (Conférence de Dartmouth , 1956)
Jouer aux échecs avec un robot est ennuyeux
Modèle connexionnisme (approche biologique)
Modèle connexionniste et réseaux de neurones artificiels (Frank Rosenblatt, 1957)
Jouer au poker avec des robots est interdit
I felt like I was playing against someone who was cheating, like it could see my cards (Dong Kim, international poker player, Wired, 2017).
Hubris
Définition :
Un désir infantile de toute-puissance
Second manifeste convivialiste (2020)
Exemple :
Nous ne voulons pas que le nombre d'habitants cesse de croître. Nous voulons que chacun puisse consommer toujours plus d'énergie.
Si nous étions un trillion d'êtres humains dans le système solaire, nous aurions un millier d'Enstein et un millier de Mozart.
Jeff Bezos, cité par Vincent Gautier (« Un espace très... terre-à-terre », Socialter, Le réveil des imaginaires, nᵒ Hors-série 8, 2020).
Responsabilité
Déclinaisons du concept de responsabilité (à partir de ses 4 traductions en anglais) :
liability : responsabilité devant la justice
reliability : responsabilité au sens de fiable, compétent, digne de confiance
accountability : responsabilité au sens d'avoir des comptes à rendre
responsibility : responsabilité morale (en fonction de valeurs)
Xavier Guchet, cours de HE10, 2024
Quelques difficultés...
situation d'hétéronomie (subordination de l'ingénieur)
imprévisibilité des conséquences (thèse TAC)
jusqu'où mobiliser quels moyens (impacts socio-écologiques du numérique)
qui décide quelles valeurs sont à défendre (relativisme)
...
Propositions
Se préoccuper des conséquences (des impacts que l'on peut connaître) : vouloir prévoir, expliciter les scénario, calculer ce qui est calculable...
Défendre des valeurs '(dans un contexte de co-constitutivité) : les énoncer, les faire débattre, laisser la place à d'autres valeurs...
Exemple : D'abord ne pas nuire
Nucléaire
Armement
IA ?