Surveillance, États, Big Tech : vers une société algorithmique

En juin 1464, les postes royales sont créées par Louis XI.

Zoom

Dans son édit du 19 juin, il ordonne du même coup la surveillance des courriers :

Seront les dits courriers et messagers visités par les dits commis du dit Grand Maîstre auxquels ils seront tenus d'exhiber leurs lettres et argent pour connoistre s'il n'y a rien qui porte préjudice au service du Roy, et qui contrevienne à ses édits et ordonnances.

Cité par Cazes, 1900. (p. 48, je souligne)

On parle sans cesse de consulter l'opinion publique ; c'est une intention fort louable, dont le résultat doit être fort utile au gouvernement et à la nation. Mais qu'est-ce-que l'opinion publique ? Est-ce celle de ma coterie ? Est-ce celle du café du coin ? Est-ce en écoutant aux portes, en décachetant les lettres qu'on apprendra ce que c'est ? Non. Quel est donc le moyen de savoir ce qu'elle veut, ce qu'elle craint ? De le savoir en tout temps, en toute circonstances, pour toute chose, pour ce qu'on fait, pour ce qu'on veut faire ? C'est d'établir un système d'informations combinées qui la prenne où elle est, et la donne périodiquement telle qu'elle est.

Cité dans Jaume, 1990 (p. 106)

[L]'État anglais [a rencontré de grandes difficultés] avant le vingtième siècle pour établir des profils complets de ses citoyens. [...] l'adoption générale de l'invention de Hollerith [la tabulatrice] dans les bureaux de statistiques de toute l'Europe semble avoir été liée à l'augmentation des informations à collecter et à analyser dans les recensements en raison de l'expansion internationale de l'intervention de l'État dans la société.

Higgs, 2001 (p. 191)

Traditionnellement, en l'absence des capteurs et des outils de géolocalisation, les données urbaines possédaient un fort degré d'agrégation. Avec le numérique, en même temps que leur masse s'est considérablement accrue, les données cernent de beaucoup plus près, de manière en quelque sorte granulaire ou encore atomistique, les phénomènes. Ce ne sont plus des flux globaux que l'on appréhende bien souvent, mais des positions, des débits, des temps et des vitesses [...]. On n'enregistre plus des débits d'ensemble mais des consommations instantanées.

Picon, 2018 (p. 80-93)

Elle coûtait trop cher pour un résultat médiocre (Courmont, 2018).

Les Big Tech et les États utilisent exactement les mêmes méthodes pour des objectifs différents.

• Massifier les données disponibles : captologie, nudges, absence de choix ;

• Collecter les données : capteurs, trackeurs, apports humains, achat/vente, agrégation de multiples sources ;

• Traiter les données : production automatisée d’hypothèses, prédictions comportementales ;

• Actionner les prédictions : décisions automatisées, mises en oeuvre par exemple par la force ou le nudge.

Prise dans son ensemble (Big Tech + États + industries), la généralisation des algorithmes crée un nouveau rapport au monde, qui dans son versant négatif induit notamment :

• Des prédictions/décisions qui ne peuvent pas être expliquées ;

• Des données qui peuvent être empoisonnées (parfois par boucle) ;

• Une perte de capacité à détecter et corriger les biais ;

• Des prophéties auto-réalisatrices ;

• Des comportements dont la majeure partie est liée à des prédictions/décisions (sans avoir à en être conscient·e) ;

• Une exclusion de ce qui n’est pas quantifiable ;

• Un flou croissant sur la notion de données personnelles (en particulier une fois ingérées par les modèles) ;

• Une dépendance massive au secteur privé et à ses intérêts propres, a fortiori aux Big Tech et à leurs tropes.

C’est le nœud central de la société algorithmique, sans laquelle elle ne peut vraisemblablement pas exister.