La science et l’enseignement supérieur face au pouvoir des algorithmes

Éric Guichard est philosophe, maître de conférences HDR à l’Enssib, ancien directeur de programme au Collège international de philosophie,  et responsable de l’équipe seaux, Savoirs & Territoires de l’Ens-Ulm. Cet article a été publié dans sa version abrégée dans une tribune de Libération le 29 décembre 2017 sous le titre « La science contaminée par les croyances numériques ».

1 –   Algorithmes et technique

Un algorithme a-t-il du pouvoir ? Assurément non. Un algorithme (ou des bouquets d’algorithmes, comme il en existe aujourd’hui)  est une production humaine, mise en place pour des besoins parfois précis, et d’autres fois non (pensons aux jeux gratuits de recherche des palindromes  dans la langue française). Il ne menace personne. La technique ne peut être jugée, seuls ses utilisateurs  peuvent l’être : celles et ceux qui la développent ou la détournent pour des motifs illégaux  (accroissement de la richesse ou du pouvoir aux dépens d’autrui, diffusion d’idéologies, meurtre, etc.). Par exemple, on ne peut juger un algorithme d’insertion d’un film publicitaire dans une vidéo Youtube. En revanche, on peut juger les personnes qui décident de telles insertions dans les films pour enfants de 2 ans.

La technique n’est pas pour autant neutre. Elle est truffée de valeurs morales : au 19e siècle, le travail des enfants fut interdit  en ajustant les machines textiles américaines à la taille des adultes, au grand dam des industriels  qui pensaient que la concurrence étrangère les anéantirait [Feenberg, 2014]. Quelles valeurs structurent aujourd’hui  le numérique ? Elles sont capitalistes,  sous couvert  de libéralisme : cf. [Charolles, 2013] pour saisir la différence entre capitalisme et libéralisme. Alors que c’est un État qui fut à l’origine des usages massifs de l’internet, aujourd’hui seules les start-up,  par définition privées, ont droit de cité pour le développer.

La technique ne nous est pas plus extérieure. Nos expériences contemporaines nous le rappellent : nous nous déplaçons avec des bicyclettes,  des automobiles,  nos corps sont truffés des prothèses, de la paire de lunettes au plombage dentaire, nombre d’entre nous ne survivraient pas sans prise quotidienne  de médicaments, et nous écrivons avec des ordinateurs fonctionnant,  comme nos réfrigérateurs, à l’électricité. Peut-on imaginer plus intime ?

Pour le dire autrement, nombre de techniques, surtout une fois socialisées, ne sont pas objectivables.  Nous  avons peine à séparer ce qui sépare l’humain (le sujet) de ses techniques (des objets ?) et nous savons que nos représentations du monde sont métissées par ces appareillages  qui nous ont aidé à comprendre  que le soleil ne tourne pas autour de la terre, que les microbes existent, mais pas l’éther, que la matière ou la réalité ont des dimensions virtuelles. En bref, au-delà de sa fonction  utilitaire, la technique fait sens et culture, et nos catégories d’appréhension du monde n’ont plus de rapport avec celles d’un Aristote. Cette hybridité humain-technique existe certainement depuis toujours, qui fait que l’un ne se distingue  pas de l’autre.  Ainsi les algorithmes, d’Euclide  ou de Louvain,  nous sont consubstantiels.

2   –  Déterminismes technique et de l’innovation

Restent les discours tenus sur la technique. Le plus fréquent est le déterminisme technique, qui suppose que la technique transforme la société. Il est problématique  car il suppose cette extériorité  et cette objectivité  dont nous avons vu la fausseté. Il peut être utile pour différencier de façon synthétique  des évolutions  sur le temps long : pas de ville sans écriture,  par exemple. Il n’explique pour autant rien : s’il fut dit que le chemin de fer allait transformer la société française, d’autres facteurs étaient oubliés (la colonisation, les guerres) et nous pouvons aujourd’hui  douter des effets sociaux des diligences sur rail [Caron, 1998] : c’est plutôt la société qui en a fait des rames de TGV. En bref, le métissage entre humains  et techniques  a plus œuvré qu’une  supposée essence de la technique.

Cette théorie a un petit frère, le déterminisme de l’innovation,  qui affirme que ce sont les nouvelles technologies qui vont transformer radicalement nos sociétés. Cette théorie est aussi fausse que la précédente. D’une part, 95% des nouvelles techniques sont oubliées dans les 5 ans qui suivent leur invention, d’autre part il a été prouvé  qu’il n’a qu’une fonction politique : freiner les revendications sociales, en invitant les pauvres et les exclus à attendre des jours meilleurs,  une fois que les nouvelles « technologies » nous auront apporté bonheur, richesse, démocratie et savoirs. La rengaine date du début du 20e siècle [Edgerton, 1998]. Avec l’internet, ces discours renaissent, alors que le chômage, l’analphabétisme (surtout numérique), le terrorisme, les guerres et leurs lots de réfugiés s’amplifient.  Nous savons aussi que ces discours sont partiellement  racistes : ils disent, parfois explicitement, que si nous ne prenons pas ce train du progrès si libérateur,  ce sont les Chinois qui vont y monter, et nous exploiter.  En d’autres termes, fonçons dans le numérique pour dominer autrui avant que l’inverse ne se produise. Nous sommes loin des utopies fraternelles et démocratiques.

Pour autant, ces propos sur l’objectivité de la technique et sur son pouvoir sociétal sont largement répandus, y compris chez les techniciens, ingénieurs et scientifiques. Comment se fait-il que des personnes dont le métier est d’exercer une activité  rationnelle au quotidien basculent en de tels régimes de croyance, qui confinent au religieux ? Certes, elles ne sont pas pas seules. Les hommes et femmes politiques, publicitaires et bureaucrates reproduisent abondamment de tels discours. Il est aussi possible que nos scientifiques soient contraints par des pouvoirs  qu’ils ne maîtrisent plus. Pour le dire autrement,  ce ne sont pas les algorithmes qui vont transformer la science, mais ses gestionnaires  et toutes les personnes qui aiment les solutions simples.

Une preuve en est le caractère totalisant de ces discours : l’ANR, dans l’annexe[1] à son appel générique publié en septembre 2017, a un chapitre entier sur « la Révolution numérique ». Le R majuscule est dans le texte (B11-Axe 4, p. 85). Sont longuement évoquées l’éducation et la formation, la création et le partage des savoirs et bien sûr, la culture et le patrimoine. En bref, le numérique fait système. Il explique tout, il résoudra tous nos problèmes. La preuve ? « Apprendre le numérique devient une compétence clé pour l’édu- cation, tant la capacité de participer à une société qui utilise  la technologie  des communications numériques dans les milieux  du travail, le foyer, l’espace civique, est facteur d’inclusion sociale » (Annexe, p. 86). Le numérique, meilleur  vecteur de lutte contre l’exclusion. . . Ne sommes-nous pas ici dans le pur registre de la foi, dans le dévoilement d’une nouvelle ère paradisiaque ? Hélas, oui : « apprendre à l’ère numérique, c’est disposer de la promesse permanente d’un équipement massif, nomade et connecté, qui modifie les valeurs et les comportements » (p. 86). Oui, l’équipement le plus matériel transforme la société, c’est écrit dans le Livre de l’ANR. . . Et de ce fait, mécaniquement, « le numérique augmente aussi les possibilités  de représentation (sans « s », sic) et transmission des connaissances » (p. 87). Au cas où nous ne serions pas convaincus  de ce déterminisme  technique, de la fonction « antibiotique  à spectre large » du numérique, il nous est rappelé que « les infrastructures de communication, de traitement et de stockage constituent le socle du fonctionnement de nos sociétés numériques : elles ont un rôle central dans des domaines aussi divers et essentiels que le partage de connaissance, l’émergence  des villes et des transports intelligents, la généralisation des transactions dématérialisées, l’optimisation énergétique » (p. 60). In numérique we trust, le Numérique  est grand et l’ANR est son prophète.

3  –  Illettrismes et absence de pensée critique

Quid de la réalité, face à ces incantations ?

En sciences (humaines et) sociales, la notion d’algorithme  est largement méconnue. Il faut l’enseigner,  quitte à partir de l’exemple d’Euclide.  Mettre en évidence son caractère mécanique et son efficacité.  Cela permet de comprendre ce qu’est un script ou un pro- gramme. Sans nul doute, l’informatique  et les réseaux (l’internet, les logiciels qui implémentent des méthodes qui permettent  de réaliser des cartes et statistiques en une seconde quand il fallait trois mois et quatre employés auparavant), ont transformé les pratiques de recherche en ces disciplines. Il n’empêche  que peu en tire profit  ou commente  ces effets sur les épistémologies disciplinaires.

Dans certaines disciplines,  le rapport au nombre et à ses possibles est minimal.  Des thèses sur les pratiques numériques multiplient les tris à plat, mais évitent soigneusement les tris croisés : on y apprend que x% des personnes utilisent  tel outil numérique et y% sont de sexe masculin. Mais la différence de pratiques à ce sujet entre hommes et femmes n’est jamais calculée.

Si la documentation en ligne semble bien maîtrisée, et signale une intelligente  adaptation au « numérique » de pratiques qui relèvent du cœur de métier de ces disciplines,  les arts de compter, dessiner, et même écrire ne se repèrent qu’au  sein de groupes fort restreints de chercheurs. L’écriture,  vue comme technologie de l’intellect, est désormais inaccessible dans sa version  numérique  à la majorité  de nos collègues. Ce qui réduit drastiquement la possibilité d’une pensée critique,  questionnante, hier caractéristique des sciences sociales. On enseigne qu’il faut communiquer  avec les réseaux sociaux, mais pas ce que Google, Facebook ou Apple connaissent de nos pratiques. Les questions de surveillance, d’éthique du numérique ne peuvent être abordées puisque les vieux algorithmes  des années 1990 (repérer une ligne particulière parmi 100000) et les savoirs des années 1930 (loi de Zipf) ne sont pas imaginables. Pour expliquer les tendances des industries du numérique, avec leurs variantes optimistes (créatives, méthodologiques, quitte à flirter avec le big data) comme pessimistes (les projets totalitaires à la chinoise, qui, à l’agenda 2030, proposent d’évaluer chaque citoyen  au regard de sa civilité sociale et de son obéissance à l’État), on s’appuie sur les quotidiens ou sites en ligne grand public. Et l’on se réjouit de spécifier, sur une affiche de colloque, qu’il est annoncé sur Twitter, Facebook et Google+ quand les logos d’Esso, Shell ou Volkswagen  génèreraient assurément de vertueuses récriminations.

En bref, nombre d’entre nous ont basculé dans une inculture scribale qui leur fait renier leur spécificité (expliciter le caractère socialement, culturellement  construit des objets sociaux) et les rend doublement dépendants : des spécialistes des sciences exactes, qui eux savent écrire, compter, dessiner, et qui investissent sans vergogne les champs des sciences sociales abandonnés par les nouveaux illettrés du numérique et des algorithmes  de gestion de l’Université,  qui les contraignent  à de douloureuses abdications.  Ici, l’algorithme semble tout puissant. Mais personne n’est dupe : ce sont les gestionnaires qui manifestent ainsi leur prise de pouvoir  en imposant ces logiciels.

Rappelons-le,  quelques  représentants des sciences sociales  et humaines  savent tirer grand parti de tous les algorithmes disponibles,  et participent  parfois  à leurs développements : modélisation et mesure des relations sociales, des effets de mimétisme,  cartes et graphiques en tous genres aux heuristiques auparavant impensables, compréhension  de nouvelles régularités (statistiques de l’intellect) qui invitent  à repenser les épistémologies de leurs disciplines, historiquement fondées sur des implicites (la loi gaussienne fait norme sociale) ou sur des croyances  exarcerbées par des Heidegger  (seul l’esprit a du sens, la technique est vile et coercitive depuis qu’elle a perdu son essence [Heidegger, 1958]) alors même que le numérique nous prouve, en tant que technique scribale moderne, que l’écriture est constitutive  de nos capacités à penser. Mais ils et elles sont rares, et les étudiants en ont conscience, qui sont de plus en plus déçus des enseignements transmis à l’Université.

Les envahisseurs des champs des sciences sociales et autres humanités ont ainsi la vie facile : ils sont aidés par leur compétence scribale et par les idéologies comme celle que véhicule l’ANR : puisque les algorithmes, le big data et les data-sciences vont transformer nos sociétés, n’est-ce pas à eux de construire ce futur radieux attendu depuis si longtemps ? Il n’est pas facile de leur reprocher leur opportunisme. Par ailleurs,  une petite minorité d’entre  eux profite  de sa culture de l’écrit contemporain (au sens traditionnel  du terme), pour poser des questions qui dérangent : les frontières  entres sciences dites sociales et dites exactes sont-elles naturelles ou socialement  construites ? Peut-on faire du big data de façon éthique, par exemple en quantifiant la notion de classe sociale et en informant chaque citoyen des risques qu’il encourt à être fiché et vendu via, non pas les algorithmes, mais par les entreprises et États sans scrupule qui sont prêts à nous filmer dans nos salles de bains, quitte à nous offrir du savon pour obtenir notre assentiment ? À quels leurres religieux souscrivons-nous  quand nous proclamons que nous vivons dans un État libre, respectueux d’autrui  alors que nous ne savons rien de l’exploitation algorithmique de nos données doublement  personnelles (intimes,  et dont nous sommes propriétaires,  au sens marchand du terme), et que nous disons tant de mal de la Chine, qui vend si facilement sa conception de l’internet à nos gouvernants  ?

4 – Conclusion

L’ANR propose de traiter « le fait religieux  dans sa diversité : formation, transmission et usage des textes sacrés, rites et croyances, […] place du religieux  dans l’espace public ». Pouvons-nous  proposer à l’ANR, qui s’intéresse tant aux radicalisations violentes, qui copie si souvent les textes de la Stratégie nationale de recherche [2]  (France-Europe 2020) qu’elle  en serait blamée par les instances universitaires désormais pourvus d’algorithmes (privés) anti-plagiat, une recherche sur la religiosité du numérique et du big data, appuyée par une étude précise des discours des agences scientifiques  qui en font la promotion ? Car cette agence n’est  pas seule en Europe à produire  ce type de discours. Il est à peu près certain qu’un tel projet scientifique ne sera jamais financé. La science n’est pas menacée par le pouvoir  des algorithmes, elle est malade du pouvoir  de ses gestionnaires pétris de croyances en le déterminisme de l’innovation.

Références bibliographiques

[Caron, 1998] CARON, F. (1998). La naissance d’un système technique à grande échelle. le chemin de fer en France (1832–1870). Annales Histoire, Sciences Sociales, 4–5:859–885.

[Charolles, 2013] CHAROLLES, V. (2013). Philosophie  de l’écran : dans le monde de la caverne ? Essais. Fayard.

[Edgerton, 1998] EDGERTON, D. (1998). De l’innovation  aux usages. Dix thèses éclectiques sur l’histoire des techniques.  Annales Histoire, Sciences Sociales, 4–5:815–837. Voir aussi Des Sciences et des Techniques  : un débat (éd. de l’Ehess, 1998, pp. 259–287). Disponible en ligne.

[Feenberg, 2014] FEENBERG, A. (2014). Pour une théorie critique de la technique. Lux, Montréal.

[Heidegger, 1958] HEIDEGGER, M. (1958). La question de la technique. Gallimard, Paris.

Notes

[1] http://www.agence-nationale recherche.fr/fileadmin/documents/2017/ Plan-d-action-ANR-2018-Annexe.pdf.

[2] https://cache.media.enseignementsup-recherche.gouv.fr/file/ Strategie_Recherche/26/9/strategie_nationale_recherche_397269.pdf.


Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.