Quelques conséquences à discuter

Rappel

Symbiose États-GAFAM-industrielsInformations[1]

FondamentalEfficience économique

En tant que système, la seule variable qui guide les actions du capitalisme de surveillance est son efficience économique présente ou future (qu'elle vienne des subventions publiques ou des bénéfices commerciaux), en prenant en compte les risques (eux-mêmes issus de données).

RemarqueBénéfices et risques

Quelle rationalité y-a-t-il derrière la croyance que de gigantesques entreprises s'inscrivant pleinement dans un système capitaliste, néolibéral et sécuritaire sacrifiera les profits pour l'éthique ?

RemarqueCorollaire 1

  • Les effets négatifs ou positifs sont contingents et donc friables ;

  • L'efficacité n'est pas pertinente à définir ou à atteindre (éventuellement la croyance en l'efficacité).

ExempleVidéosurveillance à Paris

Il n'existe aucune corrélation globale […] entre l'existence de dispositifs de vidéoprotection et le niveau de la délinquance commise sur la voie publique, ou encore les taux d'élucidation […].

L'absence d'évaluation de l'efficacité et de l'efficience du PVPP (plan de vidéoprotection de la préfecture de police de Paris) persiste depuis 2010 […] le coût complet à terminaison du projet serait de 433 à 481M€ […] la préfecture de police ne dispose ni de données agrégées quant à ces utilisations, ni d'indicateurs permettant d'en apprécier l'efficacité.

Cour des comptes, 2021[2]

RemarqueCorollaire 2

L'illusion éthique et la situation de monopole sont des avantages.

ExempleGoogle et son « Code of Conduct »

Notre objectif est de développer des services qui améliorent de manière significative la vie du plus grand nombre. Dans la poursuite de cet objectif, nous pouvons faire des choses dont nous pensons qu'elles ont un impact positif sur le monde, même si les retours financiers à court terme ne sont pas évidents.

Don't be evil. Nous sommes convaincus qu'à long terme, nous serons mieux servis - en tant qu'actionnaires et à tous autres égards - par une entreprise qui fait le bien dans le monde, même si nous renonçons à certains gains à court terme. Il s'agit là d'un aspect important de notre culture, largement partagé au sein de l'entreprise.

Google Form S-1, 2004[3]

AttentionCorollaire 3

Les GAFAM ont systématiquement collaboré avec les États démocratiques qui pratiquent illégalement la surveillance de masse ainsi qu'avec les régimes autoritaires et/ou fascistes. Ils n'ont aucune raison d'arrêter ; ainsi :

  • Toute donnée extraite à ce jour devrait être supposée stockée indéfiniment ;

  • « Je n'ai rien à cacher » devrait en réalité se conjuguer au passé.

ComplémentQuelques éléments non-abordés

  • La surveillance généralisée et asymétrique (panoptique de Foucault) entraîne des modifications significative du comportement des populations ( Manokha, 2018[4]).

  • Les composés essentiels à la fabrication des serveurs et des terminaux sont à l'épicentre de guerres civiles, du travail infantile, des risques pour la santé et de pollutions massives ( d'Allard et al., 2023[5]).

  • L'obsolescence matérielle et logicielle, poussant au remplacement des terminaux d'une façon cohérente à stimuler la croissance, est un désastre colonial, sanitaire et environnement ( Filippi, 2020[6]).

  • Le déploiement des algorithmes dans un but d'optimisation comporte des biais inhérents : réductionnisme au calcul, supériorité des sorties aux expressions citoyennes, valeurs des concepteur·ices ancrées, biais des données d'entraînement, sur-confiance... Pour un tour d'horizon conceptuel et des exemples, voir Alnemr, 2023[7].