Surveillance, États, Big Tech : vers une société algorithmique

Quentin Duchemin, CC BY-SA 4.0

Objectifs

  • Inscrire la surveillance d'État dans un contexte historique

  • Découvrir les pratiques modernes de surveillance étatique

  • Pouvoir mettre en lien les diverses formes de surveillance

  • Penser les déterminants d’une société centrée sur les données

Une brève histoire de la surveillance d'État

En régime monarchique

Les États ont besoin de surveillance pour se maintenir

Les censeurs romains [...] étaient chargés sous la Rome antique de collecter l'impôt (le cens), mais aussi de dénombrer et surveiller la population en consignant les revenus, biens, métiers et occupations de chaque famille. Ces magistrats, dont le mot « censure » tire son origine, n'étaient pas simplement là pour « recenser », lever l'impôt et sanctionner les désordres publics. Ils pénétraient aussi dans les foyers, se renseignaient sur les rapports familiaux et jouaient en fait le rôle d'une véritable police des mœurs.

Tréguer, 2023 (p. 39)

RemarqueLes gens bien n'ont rien à cacher

Il n'y a que les trompeurs, les pipeurs et ceux qui abusent des autres, qui ne veulent pas qu'on découvre leur jeu, qu'on entende leurs actions, qu'on sache leur vie : mais des gens de bien qui ne craignent point la lumière prendront toujours plaisir qu'on connaisse leur état, leur qualité, leur bien, leur façon de vivre.

Bodin, 1576 (p. 17-18)

FondamentalLa surveillance suit de près les innovations techniques

En juin 1464, les postes royales sont créées par Louis XI.

Changement de chevaux au relais de poste

Dans son édit du 19 juin, il ordonne du même coup la surveillance des courriers :

Seront les dits courriers et messagers visités par les dits commis du dit Grand Maîstre auxquels ils seront tenus d'exhiber leurs lettres et argent pour connoistre s'il n'y a rien qui porte préjudice au service du Roy, et qui contrevienne à ses édits et ordonnances.

Cité par Cazes, 1900. (p. 48, je souligne)

En régime libéral

AttentionUn nouveau régime de surveillance symétrique ?

La Déclaration de 1789 consacre en son article 15 le droit « de demander compte à tout Agent public de son administration » [...] Ce recul du secret étend l'espace public et rend possible l'exercice de la surveillance citoyenne du pouvoir prônée par les républicains radicaux. [...] L'homme politique incontournable de ce début de XIXe siècle, François Guizot, ira même jusqu'à prétendre en 1822 que « le pouvoir n'a plus de mystères pour la société » (Guizot, 1822, p. 85).

Tréguer, 2023 (p. 90)

À l'ère des ordinateurs

FondamentalExtension du domaine de l'État

[L]'État anglais [a rencontré de grandes difficultés] avant le vingtième siècle pour établir des profils complets de ses citoyens. [...] l'adoption générale de l'invention de Hollerith [la tabulatrice] dans les bureaux de statistiques de toute l'Europe semble avoir été liée à l'augmentation des informations à collecter et à analyser dans les recensements en raison de l'expansion internationale de l'intervention de l'État dans la société.

Higgs, 2001 (p. 191)

Tabulatrice, inventée par Hermann H. Hollerith

RemarqueECHELON

Des radômes protégeant des antennes à la RAF Menwith Hill

Fuites en avant de la surveillance d'État

ExempleAux États-Unis

Logo d'XKeyscore, un des programmes de surveillance de la NSA et opéré par les Five Eyes.

ExempleEn France

D'abord, les services du Premier ministre commencent par adresse une réquisition à Orange qui gère la vingtaine de points d'arrivée des câbles en France. [...] Ensuite, des techniciens de la DGSE s'introduisent dans la station d'arrivée et dédoublent les fibres optiques. [...] Puis ils tirent cette « bretelle » vers un local clandestin, situé un peu plus loin, dans les terre. [...] Le trafic est envoyé par une fibre jusqu'à Paris.

Tréguer, 2023 (p. 353-354)

La surveillance policière à l'heure de l'intelligence artificielle

Les villes sous surveillance

ComplémentRendre visible la population

Relevé du signalement anthropométrique.
Planche 17 de Guerry, 1864 : Causes générales des crimes. Plusieurs lignes colorées traçant le « centre de libration » des facteurs associés aux crimes de différents types ont été mises en évidence dans la figure. La ligne en rouge, par exemple, retrace la densité de la population.

ExempleQuelques technologies expérimentées en France

Drones, police prédictive, microphones urbains, vidéosurveillance algorithmique, reconnaissance faciale... (technopolice.fr/villes)

Policiers opérant un drone pendant une manifestation contre la loi El Khomri (2016).

ExempleMarseille : l'observatoire de la tranquillité publique

Grâce à de nouveaux supports informatiques (matériel et logiciels), il sera possible de collecter et de croiser des informations susceptibles d'aider les forces de Police Municipale à assurer la tranquillité publique de nos concitoyens. Il pourra s'agir, notamment, de recueillir, auprès de partenaires institutionnels du territoire, des données précieuses pour essayer de prévenir certains événements avant qu'ils ne se produisent.

marseille.fr

Les villes comme systèmes à optimiser

DéfinitionSmart city

Le concept émerge dans les années 90 et désigne la gestion numérique centralisée de l'espace public : réseaux de transport, éclairage, circulation, pollution, sécurité, etc.

RemarqueLe retour de la cybernétique

La ville est vue comme organisme vivant : homéostasie et résilience doivent la rendre fluide.

Multidimensional framework linking urban resilience with smart city planning (Almulhim, 2025).

Du bien public à l’ordre public

FondamentalLa surveillance change de nature

Pour autant l'industrie s'est considérablement développée pendant cette période et les villes sont demandeuses de surveillance. C'est l'émergence de la safe city, un genre de smart city dépouillée de ses ambitions cybernétiques. Elle permet pour la première fois d'individualiser la surveillance massive de l'espace public.

FondamentalLa smart-city est morte, vive la safe city !

Elle coûtait trop cher pour un résultat médiocre (Courmont, 2018).

RemarqueAnticiper l’impensable

l'impensable peut toujours se produire [...] nos sociétés auront besoin d'outils pour s'adapter à l'impensable.

Dominique Legrand, AN2V.

AttentionUne vision technicienne de l’ordre public

Selon cette vision du monde, dans un tel contexte d'incertitude, les « solutions » de l'industrie techno-sécuritaire — en particulier l'analyse biométrique à la volée, le croisement de données massives, le profilage ou la modélisation informatique — apparaissent comme les seules capables d'aider l'État ou ses agents à sécuriser les flux.

[...] on ne s'intéresse plus aux causes mais on propose de « pouvoir anticiper les incidents et les crises », identifier des « signaux faibles » et armer la « gestion de crise ». [...] [démonstrateur de Safe City Thalès/Nice]

L'horizon décidément trop fuyant de l'ordre public est abandonné. On se contente de gérer le désordre.

Tréguer, 2024 (p. 85, je souligne)

Surveillance secrète, gestion publique, intérêts privés : vers une société algorithmique ?

L’exemple de la France

À l’image de la Smart City/Safe City, remarquez dans les exemples qui suivent :

  • Les notions d’efficacité, d’optimisation, de prédiction et de lutte contre les délits ;

  • L’idée d’une neutralité de la technique ;

  • Les parallèles avec les méthodes des Big Tech.

CAF, profilage et prédiction de fraude

Initiative de La Quadrature du Net pour répertorier les « administration algogestionnaires »

Les CAF s'appuient sur [les algorithmes] pour une finalité de lutte contre le non-recours aux prestations sociales (au profit de personnes éligibles à des aides sociales mais qui, pour diverses raisons, ne bénéficient pas des systèmes de protection sociale. [...] Votre dernier score est de 0,21193981506 au titre de janvier 2025. [...] Voici les principaux éléments principaux de calcul : [...]

  • Montant des prestations légales [...]

  • Montant des revenus d’activité [...]

  • Nombre de téléprocédures sur 18 mois.

— Courrier de la CAF adressé à l'auteur, mars 2025

ComplémentUn périmètre bien plus large

Administré par la Caisse nationale d'assurance vieillesse (CNAV), le DRM (« dispositif ressources mensuelles ») [...] centralise la quasi-totalité des données relatives aux revenus de la population connus de l'administration fiscale. [...] Le DRM pourra désormais être utilisé [par la CAF et la CNAV] « pour améliorer la méthode de profilage des allocataires visant à identifier les situations justifiant la mise en œuvre prioritaire d'un contrôle » [...] il s'agit d'une phase de test qui vise à évaluer le gain de productivité du dispositif.

CNIL, délibération 2023-120, je souligne.

Une tendance en forte augmentation

DéfinitionObservatoire des algorithmes publics (ODAP)

Rassemble des informations sur les algorithmes utilisés par les administrations françaises, pour les rendre plus transparents.

odap.fr

ExempleCombien ?

Au 26 novembre 2025, on compte 120 algorithmes répertoriés, dont une partie reste opaque voire secrète et dont l’existence n’est connue que par des fuites.

Focus sur la justice

ExempleAgent conversationnel juridique
Le 25 novembre 2025, le ministre délégué chargé de la Fonction publique et de la Réforme de l’Etat signe un partenariat avec Doctrine, « première plateforme d’intelligence juridique », à destination des juristes publics.
RemarqueÉléments de communication de Doctrine

L'IA juridique de Doctrine soulage les avocats et juristes des tâches répétitives et chronophages d’analyse du dossier, recherche juridique et rédaction pour qu’ils sécurisent leur positions juridiques et gagnent en productivité.

doctrine.fr, consulté le 26 novembre 2025.

Cinq observations sur la société algorithmique

Ce qui suit puise essentiellement dans l’ouvrage académique « The Algorithmic Society. Technology, Power, and Knowledge », édité par Schuilenburg et Peeters, en particulier pp. 196 et suivantes.

DéfinitionSociété algorithmique

Généralisation de l’utilisation d’algorithmes par les pouvoirs publics, tant pour la régulation, le contrôle et le nudge, grâce à la production automatisée de prédictions et de décisions.

Elle puise dans un imaginaire techno-utopiste

FondamentalQualités supposées

  • Rationaliser les décisions publiques (optimisation des ressources) ;

  • Améliorer l’efficacité (vitesse, signaux faibles) ;

  • Diminuer les biais et la subjectivité humaine ;

  • Augmenter la sécurité (et diminuer l’usage de la force).

AttentionEfficacité

C’est avant tout l’outil d’une économie rationnalisée fondée sur la compétition et la consommation.

AttentionDiminution des biais

Les données d’entraînement des modèles de machine learning ne peuvent pas être neutres, et on a (en moyenne) les mêmes biais que les sociétés qui les produisent.

Elle renforce les inégalités

FondamentalLes effets des algorithmes sont distributifs

Les algorithmiques ne sont pas conçus ni déployés de façon homogène : des populations différentes et des zones de vie différentes ne sont pas concernées par les mêmes algorithmiques.

Elle réduit les pouvoirs d’agir

Fondamental« Contamination technologique »

Les algorithmes remplacent les méthodes et les garde-fous existants.

Elle crée une illusion de contrôle

FondamentalPsychologie comportementale et algorithmes

Les rapports en faveur de l’introduction des algorithmes insistent généralement sur la nécessité de maîtrise des humains, à l’image de la Cour de cassation :

bannir une approche prescriptive et permettre à l’usager d’être un acteur éclairé et maître de ses choix

Cour de Cassation, 2025, p. 44

Big Tech, États et algorithmes

Fondamental

Les Big Tech et les États utilisent exactement les mêmes méthodes pour des objectifs différents.

  • Massifier les données disponibles : captologie, nudges, absence de choix ;

  • Collecter les données : capteurs, trackeurs, apports humains, achat/vente, agrégation de multiples sources ;

  • Traiter les données : production automatisée d’hypothèses, prédictions comportementales ;

  • Actionner les prédictions : décisions automatisées, mises en oeuvre par exemple par la force ou le nudge.

RemarqueQuelques questionnements « TAC »

  • La croyance dans le potentiel des données pour comprendre le monde et prédire l’avenir ;

  • La croyance selon laquelle l’efficacité est une métrique pertinente ;

  • Le rôle des Big Tech dans la conception et la gestion des algorithmes ;

  • La façon d’entraîner les modèles et de récolter les données associées ;

  • Le rapport psychologique entre les humains et les décisions algorithmiques ;

  • Les boucles de rétroaction dans une société algorithmique.

DéfinitionGouvernementalité algorithmique

[...] de façon très générale, un certain type de [façon de penser](a)normative et (a)politique fondé sur la collection, l’agrégation et l’analyse automatisée de grandes quantités de données, de façon à modéliser, anticiper et modifier préventivement des comportements possibles. [...] [Cette façon de penser] ne produit aucune subjectivation, elle contourne et évite les sujets humains réflexifs, elle se nourrit de données infra-individuelles insignifiantes en elles-mêmes, pour façonner des modélisations comportementales ou des profils supra-individuels, sans jamais en appeler au sujet, sans jamais l’appeler à rendre compte par lui-même de ce qu’il est ni de ce qu’il pourrait devenir.

Rouvroy et Berns, 2013, je souligne.

FondamentalUn nouveau rapport au monde

Prise dans son ensemble (Big Tech + États + industries), la généralisation des algorithmes crée un nouveau rapport au monde, qui dans son versant négatif induit notamment :

  • Des prédictions/décisions qui ne peuvent pas être expliquées ;

  • Des données qui peuvent être empoisonnées (parfois par boucle) ;

  • Une perte de capacité à détecter et corriger les biais ;

  • Des prophéties auto-réalisatrices ;

  • Des comportements dont la majeure partie est liée à des prédictions/décisions (sans avoir à en être conscient·e) ;

  • Une exclusion de ce qui n’est pas quantifiable ;

  • Un flou croissant sur la notion de données personnelles (en particulier une fois ingérées par les modèles) ;

  • Une dépendance massive au secteur privé et à ses intérêts propres, a fortiori aux Big Tech et à leurs tropes.

Synthèse

Questions

  • Montrer en quoi la surveillance de masse opérée par de nombreux États s'inscrit dans une continuité historique.

  • Présenter les bases théoriques, les méthodes et les résultats attendus par les promoteurs de la Smart City.

  • Quelles sont les possibilités ouvertes par les algorithmes en matière de surveillance ?

  • Montrer les similitudes entre la surveillance opérée par les géants du numérique et celle opérée par les pouvoirs publics.

Concepts

  • Raison d'État

  • Surveillance de masse

  • Technopolice

  • Smart City/Safe City

  • Société algorithmique

Tréguer, 2023

Tréguer, Félix. 2023. Contre-histoire d'Internet. Du XVe siècle à nos jours. Agone.

Bodin, 1576

Bodin, Jean. 1576. Les Six Livres de la République, livre VI, chapitre 1. Fayard, 1986.

Cazes, 1900

Cazes, Léon. 1900. Le Monopole postal. Thèse de doctoral, faculté de droit de l'université de Paris.

Guizot, 1822

Guizot, François. 1822. De la peine de mort en matière politique. Béchet.

Higgs, 2001

Higgs, Edward. 2001. The Rise of the Information State: The Development of Central State Surveillance of the Citizen in England, 1500–2000. Journal of Historical Sociology. 14. 175 - 197. 10.1111/1467-6443.00141.

marseille.fr

Big Data de la Tranquillité Publique. Marseille.fr. Consulté le 20 mai 2025. URL : https://www.marseille.fr/prevention/s%C3%A9curit%C3%A9-et-pr%C3%A9vention/big-data-de-la-tranquillite-publique

Courmont, 2018

Courmont, Antoine. 2018. Où est passée la Smart City ? Firmes de l’économie numérique et gouvernement urbain. Sciences Po Urban School.

Tréguer, 2024

Tréguer, Félix. 2024. Technopolice. La surveillance policière à l'ère de l'intelligence artificielle. Éditions Divergences.

Schuilenburg et Peeters, 2021

Schuilenburg, Marc et Peeters, Rik. 2021. The Algorithmic Society. Technology, Power, and Knowledge. Routledge.

Cour de Cassation, 2025

Cour de Cassation. Avril 2025. RAPPORT. Préparer la Cour de cassation de demain. Cour de cassation et intelligence artificielle. Consulté le 26 novembre 2025. URL : https://www.courdecassation.fr/files/files/Publications/IA%20-%20Rapport%202025/Rapport_IA_2025_Web.pdf

Rouvroy et Berns, 2013

Rouvroy, A. et Berns, T. (2013). Gouvernementalité algorithmique et perspectives d'émancipation Le disparate comme condition d'individuation par la relation ? Réseaux, 177(1), 163-196. https://doi.org/10.3917/res.177.0163.

Liste des raccourcis clavier

Liste des fonctions de navigation et leurs raccourcis clavier correspondants :

  • Bloc Suivant : flèche droite, flèche bas, barre espace, page suivante, touche N
  • Bloc Précédent : flèche gauche, flèche haut, retour arrière, page précédente, touche P
  • Diapositive Suivante : touche T
  • Diapositive Précédente : touche S
  • Première diapositive : touche Début
  • Revenir à l'accueil : touche H
  • Menu : touche M
  • Plein écran : touche F
  • Cacher outils : touche Z
  • Fermer zoom : touche Échap.