Les inquiétudes suscitées par la montée en puissance des grandes compagnies du Gafam (Google, Apple, Facebook, Amazon et Microsoft) ont pris un tour critique ces dernières années. Shoshana Zuboff, longtemps professeure à la Harvard Business School et désormais rattachée à Harvard Law School, avertit pourtant sur les dangers liés au numérique depuis la fin des années 1980.
...

Les inquiétudes suscitées par la montée en puissance des grandes compagnies du Gafam (Google, Apple, Facebook, Amazon et Microsoft) ont pris un tour critique ces dernières années. Shoshana Zuboff, longtemps professeure à la Harvard Business School et désormais rattachée à Harvard Law School, avertit pourtant sur les dangers liés au numérique depuis la fin des années 1980. Dans In the Age of the Smart Machine, en 1988, elle pointait déjà du doigt les risques causés par le "panoptique informationnel" en train de se former avec la pénétration de plus en plus importante des ordinateurs dans la sphère professionnelle. Depuis, ses recherches ont embrassé toutes les dimensions du développement numérique pour construire l'idée que nous vivrions dans un âge nouveau, qu'elle a baptisé "âge du capitalisme de surveillance" (1), un capitalisme mettant la totalité de nos existences à la merci des grands magnats du digital. Son immense enquête historique, remontant aux sources mêmes de la naissance du pouvoir de Google, Facebook et les autres, et mettant au jour les stratégies folles mises en oeuvre par ces compagnies pour assurer leur emprise sur la mine d'or des données personnelles, a été saluée par tous les médias du monde - et fut un des livres de chevet de Barack Obama tout au long de l'année 2019. Qu'entendez-vous par "capitalisme de surveillance"? Pour répondre à cette question, il faut d'abord comprendre le mode de fonctionnement général du capitalisme. Au cours du dernier siècle, le capitalisme a évolué par sa capacité à introduire sur le marché des choses qui n'y appartenaient pas afin de les transformer en biens susceptibles d'être achetés ou vendus. Il a, par exemple, fait de la nature un objet de marché, en privatisant le pétrole, l'eau, etc. Ce que j'appelle capitalisme de surveillance consiste en une extension de cette logique. Aux alentours de l'an 2000, seuls 20% des informations existant dans le monde étaient stockés de manière digitale. Internet venait de naître. La Silicon Valley avait vu fleurir un grand nombre de compagnies qui avaient suscité une bulle financière, sans parvenir à devenir rentables. En 2001, la bulle explosa et un grand nombre d'entre elles furent menacées de faillite, car elles n'avaient pas réussi à transformer quelque chose, n'importe quoi, en marchandise nouvelle - de préférence au coût d'achat nul. C'est Google qui fut à l'origine de la solution. A l'époque, elle disposait du personnel le plus brillant, du moteur de recherche le plus performant, d'investisseurs prêts à prendre d'immenses risques - mais l'absence de rentabilité réelle de l'entreprise poussait ces derniers à menacer de retirer leur capital. C'est à ce moment que les dirigeants de Google, à commencer par ses fondateurs Larry Page et Sergey Brin, réalisèrent quel bien ils pourraient transformer en marchandise: l'expérience humaine privée. C'est-à-dire? Page et Brin notèrent que lorsqu'un internaute se promène sur la Toile, il laisse derrière lui un nombre considérable de traces sans signification ni valeur apparente. Ces traces, c'est par exemple l'historique de vos recherches sur le moteur de Google, ou bien les cookies de vos visites de sites. Toutes ces données se trouvaient stockées sur les serveurs de Google, où elles étaient considérées comme de simples déchets numériques. Le coup de génie de Page et Brin fut de comprendre que ces déchets pouvaient, une fois agglomérés et recoupés, servir à dresser le portrait comportemental des usagers de leur moteur de recherche. Ils constatèrent que ce portrait était très détaillé - si détaillé qu'il permettait de déduire au sujet d'un individu un certain nombre de choses que l'individu lui-même n'aurait sans doute été prêt ni à admettre, ni à rendre public. En gros: ces traces numériques permettaient de construire un modèle qui pouvait permettre d'aller jusqu'à prédire comment un individu pourrait agir dans un contexte donné. C'est ce modèle prédictif que Google transforma en business, en proposant à ses clients un système révolutionnaire de gestion de la publicité, où ce n'était plus le client qui décidait où, quand et chez qui la publicité allait apparaître, mais l'entreprise elle-même. Le résultat sidéra tout le monde. Google était en effet capable de prédire avec une précision incomparable si un individu allait ou pas cliquer sur une bannière publicitaire soumise à son attention. Tout le monde se rua sur la poule aux oeufs d'or. Google avait créé un nouveau marché: le marché de l'échange des futurs humains. A l'époque, cela causa un choc... Oui. Les dirigeants de Google comprirent que s'ils voulaient que ce système fonctionne, il fallait qu'ils le gardent secret. Il était important que les internautes n'aient aucune idée de ce que les traces laissées derrière eux permettent de comprendre qui ils sont, quelles sont leurs opinions politiques, leurs goûts, leurs coordonnées, etc. Chaque fois qu'un coin du rideau s'est levé, la réaction a été la même: les internautes étaient sidérés et se mettaient à chercher une alternative à Google. Pour éviter ça, il fallait faire en sorte que personne ne puisse se mêler du fonctionnement de l'entreprise. C'est pour ça que le PDG de l'époque, Eric Schmidt, mit en place une doctrine nommée la "stratégie cachée", qui était autant applicable aux internautes qu'aux clients de l'entreprise, et jusqu'aux employés eux-mêmes, qui sont tenus par des clauses de non-divulgation extrêmement restrictives. Pour pouvoir voler impunément, il fallait faire en sorte que les individus se voient retirer tout exercice possible de leur droit à résister au secret. Les conséquences de cette découverte ne furent toutefois pas qu'économiques... Elles commencèrent par être économiques, mais à une échelle telle qu'elles devinrent aussi politiques. Lorsque l'entreprise se lança dans le business de l'information personnelle (l'expression est de Larry Page), la valeur de sa capitalisation fut multipliée par 3 490% en quatre ans. Mais ce business reposa sur la transgression de ce qui avait été jusque-là une frontière infranchissable: la souveraineté individuelle. Dans les démocraties modernes, le fait de décider qui dispose ou pas d'un accès à ma vie personnelle, avec qui je vais la partager, ce que je vais en partager et dans quel but relevait de ce que j'appelle les "droits épistémiques". Dans notre tradition de la vie privée, ce sont les individus qui décident ce qui relève du public et ce qui relève du secret à leur propos. En 2001, Google a déclaré de manière unilatérale que ce droit n'existait plus. Depuis ce moment, ce qui relevait de la souveraineté individuelle s'est mis à relever du marché. Le problème, c'est que, comme n'importe quel autre marché, celui-ci fonctionne à la concurrence. Et pour pouvoir être compétitif, il n'y a qu'une seule solution: accumuler toujours plus de données, de sorte que votre modèle possède une valeur prédictive de plus en plus grande. Le capitalisme de surveillance est un capitalisme de la concurrence pour la certitude. De quelle échelle parle-t-on ici? D'une échelle défiant l'imagination humaine. Les lanceurs d'alerte comme Edward Snowden nous ont permis de nous en faire une idée. En 2018, on a ainsi pu apprendre d'un document interne à Facebook que leur structure d'intelligence artificielle (quoi que ce mot signifie par ailleurs) manipulait des trillions de points de données par jour, réalisant six millions de prédictions de comportement par seconde. La situation n'a fait qu'empirer avec la révolution des smartphones. Plutôt qu'attendre que les internautes s'assoient derrière un écran, il a suffi de leur confier un petit ordinateur qui les accompagnerait à chaque instant. A l'époque du lancement d'Android, la direction de Google s'est divisée en deux camps, le premier se félicitant de ce que l'entreprise pénétrait enfin le marché des produits de luxe à haute marge bénéficiaire jusque-là dominé par Apple avec son iPhone. Mais un autre camp avait déjà compris qu'une telle manne n'était rien face à ce qu'on pouvait attendre des smartphones du point de vue de la collecte de données. Soudain s'ouvrait la possibilité d'une moisson illimitée, permettant de collecter des informations sur tout, à chaque instant, à travers les taupes du capitalisme de surveillance que sont les applications. Grâce aux apps, il est possible de récolter des données sur vos restaurants préférés, votre cycle menstruel, où vous vous trouvez, avec qui, quel est le son de votre voix, ce que vous achetez. Sur littéralement toute votre vie. Qu'est-ce que cela signifie du point de vue politique? La révolution des smartphones a permis l'exploration d'un nouveau domaine: l'économie de l'action. Désormais, les entreprises comme Google, Facebook, Verizon et d'autres, disposent de tant d'informations à votre propos qu'elles sont en position de déployer des outils marketing capables de vous faire faire des choses que vous n'aviez pas envie de faire. En 2011-2012, par exemple, Facebook a mené une expérience visant à vérifier si leurs outils pouvaient influencer des individus au point de les pousser à aller voter, même s'ils ne le voulaient pas. Grâce à leurs systèmes de recommandations, de microciblage psychologique, de dynamique de comparaison sociale, de récompenses et de punitions en temps réel, ils y sont parvenus. C'en est au point où Facebook peut annoncer à l'avance à un de ses clients qu'un acheteur habituel de ses produits s'apprête à aller acheter auprès d'une autre marque. De sorte que celui-ci peut réagir et envoyer des coupons de réduction avec offre de livraison gratuite, par exemple, avant que le nouvel achat ait été réalisé. En d'autres termes, le ciblage, désormais, a pris la forme d'une véritable mise en forme du comportement réel des individus. Une mise en forme qui s'est mise à déborder dans le monde lui-même... Oui. C'est toute l'importance de l'expérience Pokemon Go, un jeu en réseau développé par Niantic, une compagnie appartenant à Google et, à l'époque, dirigée par John Hanke, auparavant à la tête du département "Geo" de l'entreprise - celui qui créa Google Street View et, auparavant, Keyhole, un outil vendu par la CIA et qui devint Google Earth. Avec Pokemon Go, il s'est agi de mettre en oeuvre l'économie de l'action dans les rues des villes. La question n'était plus de faire acheter des chaussures à un acheteur, mais de l'amener jusqu'au magasin lui-même d'une manière qui ne mette plus seulement en forme le comportement individuel, mais le comportement collectif. Les annonceurs comme Starbucks ou McDonald's qui avaient intérêt à ce que les acheteurs se déplacent physiquement dans leurs établissements ont payé pour, qu'en effet, le jeu les y attire, et les pousse à consommer sur place. L'idée était de transformer le monde entier en un gigantesque ensemble de données propriétaires. C'est ce que vous appelez "pouvoir instrumentarien"... Voilà. A partir du moment où l'humanité en tant que telle constitue la matière première du capitalisme de surveillance, il ne s'agit plus seulement de voler ce qui, auparavant, appartenait à l'expérience privée des individus, de s'approprier leurs droits épistémiques. L'enjeu est de parvenir à créer des concentrations de connaissance telles qu'un nouvel axe d'inégalité sociale apparaisse, remettant en cause l'idéal de démocratisation du savoir qui a accompagné toute la modernité. Grâce à ce savoir, un petit nombre d'acteurs sociaux et économiques jouissent de la faculté de faire faire à tous les autres des choses qu'ils n'auraient pas faites d'eux-mêmes - dans leurs propres buts. A ce stade, on ne peut plus parler de Big Brother ou de totalitarisme. L'exemple le plus massif est celui du scandale de Cambridge Analytica, que des reporters de Channel 4 ont révélé - et qui a rendu public le rôle joué par Facebook dans l'élection de Donald Trump. Les responsables de campagne de Trump ont demandé à Facebook de microcibler les citoyens noirs des swing states du Michigan, de l'Ohio et du Wisconsin pour les pousser à ne pas aller voter. Une fois la population définie grâce aux données de Facebook, il a suffi de leur envoyer des vidéos de Hillary Clinton critiquant la jeunesse noire, ou de Noirs chics soutenant que la meilleure manière de protester contre le système était de ne pas aller voter, etc. Et ça a marché. Grâce aux services de Facebook, Trump a été capable d'effacer les voix de citoyens de la plus ancienne démocratie de la planète en les poussant à renoncer à leur droit démocratique le plus fondamental, sans recours à la moindre violence ou intimidation. La société démocratique née au XVIIIe siècle, qui valorisait la souveraineté de l'individu, le libre arbitre et l'autonomie, était soudain défaite. Comment résister à un tel pouvoir? Je crois qu'on ne peut répondre à cette question qu'en revenant à la démocratie comme telle. Elle est assiégée, mais elle seule peut vaincre le siège. Cela fait vingt ans que nous vivons l'âge du capitalisme de surveillance. Durant cette période, il a réussi à coloniser chaque aspect de la vie: éducation, santé, politique, etc. Cette concentration de savoir (et donc de pouvoir) est ce qui a abouti aux événements du 6 janvier dernier, sur la colline du Capitole, à Washington - et même à la catastrophe de la gestion de la Covid-19 aux Etats-Unis. Nous savons aujourd'hui que la grande majorité des morts de cette maladie aurait pu être évitée si les campagnes de désinformation qui se sont multipliées à son propos n'avaient pas été nourries par l'appétit pour les opportunités d'extraction de données régissant le fonctionnement des réseaux sociaux. Il est donc temps que le pouvoir instrumentarien soit stoppé et rendu illégal.C'est une course contre la montre?Nous ne disposons plus d'une décennie supplémentaire. Chaque minute qui passe augmente la difficulté de nous en débarrasser et le risque de violence irrémédiable que son mode opératoire suscite. Il faut révoquer le permis de voler notre expérience et nos droits épistémiques accordé au capitalisme de surveillance. Nous avons besoin de données. Mais cela ne peut être que dans le but de régler les problèmes des individus sur une base collective. Séquestrer les données dans des serveurs privés pour l'unique profit de ceux qui disposent des moyens d'y recourir pour leurs propres fins revient à s'attaquer à la démocratie elle-même. Nous avons donc besoin de nouvelles déclarations de droits, de nouveaux cadres législatifs, de nouvelles institutions, comme ça s'est produit à la fin du XIXe siècle pour garantir le droit de vote, la sécurité sociale ou la liberté syndicale. Aujourd'hui, les responsables de la Commission européenne sont en train de montrer l'exemple avec les lois sur les services et marchés numériques qu'ils ont soumises à consultation. Si elles sont adoptées, elles prouveront qu'il est possible de construire un véritable futur numérique démocratique. Dans le cas contraire, nous n'aurons le choix qu'entre le modèle chinois et le capitalisme de surveillance. Si l'Europe prend la bonne décision, les Etats-Unis suivront. Nous serons alors capables de mettre en oeuvre les droits, les lois et les institutions qui permettront à la société de l'information d'enfin commencer à contribuer aux véritables défis du présent: le changement climatique, la santé publique, l'enseignement, les soins de santé. Et pas seulement Apple Watch. (1) L'Age du capitalisme de surveillance, par Shoshana Zuboff, traduit de l'anglais par Bee Formentelli et Anne-Sylvie Homassel, éd. Zulma, 856 p.