jeudi 26 juillet 2018

Conférence de Pierre Livet : Le numérique pense-t-il pour nous ? Recension rédigée par Valérie Marchand

Le numérique pense-t-il pour nous ? par Pierre Livet, Professeur émérite de l’Université d’Aix-Marseille, CEPERC 

Recension rédigée par Valérie Marchand 

Conférence donnée le 26 janvier 2017, dans le cadre du projet Pénia, cycle de visioconférences interactives sur la philosophie et le numérique, organisé par le Campus des Sciences et Techniques d’Avignon en 2016/2017 en partenariat avec l’Association Europe Éducation École (EEE), Réseau Canopé, le Réseau des IAN de philosophie et le Centre d’Épistémologie et d’Ergologie Comparatives (CEPERC) d’Aix-Marseille-Université (AMU).

Liens vers toutes les conférences du projet Pénia : https://philosophie.ac-versailles.fr/spip.php?rubrique46

Résumé
Tout d’abord, le numérique pense-t-il ? A cette question, Pierre Livet répond oui car le numérique permet d’utiliser une approche des concepts par les dynamiques de réseaux, approche qui ressemble à certains aspects de l’usage des concepts, et donc à la pensée, ce qu’il démontre au début de la conférence. Mais le numérique pense-t-il pour nous ? Comment comprendre ce « pour nous », signifie- t-il avec nous, à notre place, en notre faveur et si oui, en faveur de qui ? L’idée défendue par Pierre Livet est que nous pensons avec le numérique car ses dispositifs peuvent démultiplier nos possibilités de pensée collective et favoriser une pensée inter et transdisciplinaire et donc nous donner des idées. En revanche, c’est à nous et c’est une tâche difficile qu’il appartient selon Pierre Livet d’évaluer ces possibilités multiples de pensée, c’est à nous qu’il appartient de ne pas être manipulés (comme le moi d’un utilisateur passif peut l’être), et ce en privilégiant une pensée trans-groupe et en développant une formation à la culture numérique qui ferait de nous non plus de simples consommateurs, mais de réels acteurs du numérique. Un travail d’évaluation (qui n’est pas fait par les machines) des variétés et multiplicités de « pensées » offertes par le numérique est nécessaire. Si variété et multiplicité ne sont pas synonymes de fécondité, le tissage d’un lien entre hommes et systèmes numériques pourrait, lui, s’avérer réellement fécond. Cela suppose que tous puissent à l’avenir savoir programmer et connaître le fonctionnement du numérique pour qu’un « nous » du numérique puisse voir le jour.

Remarque : de nombreuses questions, toutes très intéressantes, ont été posées lors de cette conférence interactive. Seules quelques-unes sont mentionnées à la fin de cette recension qui ne pouvait être exhaustive. 


Première partie de la conférence:


- Qu’est-ce que penser ?

Traiter la question « le numérique pense-t-il pour nous ? » invite à se demander d’abord : « Qu’est-ce que penser ? ».

Pierre Livet se réfère alors à Kant selon lequel penser, c’est utiliser des concepts, lesquels rassemblent sous une unité une diversité de données. Les philosophes ont en effet organisé ces concepts en « arbres », avec à la racine un concept général (l’exemple donné est celui d’entité) et, dans les ramifications, des concepts plus spécifiques (substance par ex). P. Livet qualifie cette approche de « catégorisation », en précisant que cette « mise en ordre » ne peut s’opérer qu’après l’utilisation des concepts. 
Or une telle approche méconnaît, selon P. Livet, le fonctionnement des concepts : « on n’utilise pas un concept tout seul et pas nécessairement selon une structure d’arbre ou de catégorisation. ». En réalité, « un concept permet de faire des inférences valides dans le contexte d’usage du concept ». Par exemple, on utilise le concept de triangle pour désigner une figure spatiale et cela permet d’inférer qu’il a trois côtés etc…Il s’agit ici d’inférences dans un contexte géométrique, mais on peut aussi utiliser le concept de triangle de manière analogique, en le transposant dans un tout autre contexte d’usage : dans un contexte qui n’est plus géométrique, on parle par exemple de coalition triangulaire, au sens d’alliance. Donc "penser, c’est faire des inférences et aussi transposer un concept dans un autre contexte". P. Livet rappelle que les concepts sont désignés par des mots et par des insertions d’un même mot dans des phrases différentes. On ne peut donc définir un mot sans tenir compte du contexte dans lequel il s'inscrit : le mot étoile, par exemple  est utilisé aussi bien dans le registre astronomique que dans celui d’une vedette de ballet ou de cinéma et on ne pourra pas en tirer les mêmes inférences. Pour savoir ce qu’on pense quand on utilise un mot, il faut trouver le contexte d’usage du concept qu'il désigne. Pour cela, Il faut chercher des phrases dans lesquelles un même mot joue un rôle déterminé et d’autres phrases dans lesquelles il joue un autre rôle. « Le mot va alors permettre de dessiner des chemins entre ces différentes phrases » qui vont par exemple relier le mot étoile à planète d’un côté et d’un autre côté à « petit rat » pour les ballets. Au lieu de chercher une définition, on peut donc se borner à faire des liens entre les phrases contenant le mot : il y a le mot étoile lié à ballet et le mot étoile lié à planète.

Il existe des liens renforcés entre phrases qui ont beaucoup de mots en commun et des liens plus faibles liens entre phrases ayant moins de mots en commun. Et il s’avère possible de représenter ces liens par des graphes de construction d’un réseau. Au lieu d’avoir des branches qui toujours se diversifient, comme dans la catégorisation en arbre, il peut y avoir "des branches qui se recollent entre elles". L’intérêt est de pouvoir différencier des sous-réseaux qui sont les contextes d’usage des concepts ; les liens peuvent par ailleurs être pondérés, par exemple en donnant plus de poids aux liens les plus fréquents (à l’intérieur d’un sous-réseau, ou entre sous-réseaux) ; il est aussi à noter que ces liens, et leur importance sont non pas immuables, mais évolutifs.

Aujourd’hui, une approche de « dynamique des réseaux » est rendue « calculable » grâce à des algorithmes alors qu’avant on ne pouvait calculer les liens entre concepts. P. Livet nous montre que le numérique permet d’utiliser "une approche des concepts par des dynamiques de réseaux". Pour expliquer cela, il s’intéresse à l’algorithme proposé par Bonacich dans les années années 70, modifié par Katz, et enfin « bidouillé » plus de vingt ans plus tard par Brin et Page (Google) : cet algorithme était conçu initialement « non pas pour traiter des mots et des concepts, mais pour évaluer dans un réseau social d’interactions entre personnes ou entre entreprises l’importance ou centralité d’un acteur ». Brin et Page (lanceurs de Google) ont utilisé ces calculs sur la centralité pour ordonner les références (les « pages ») auxquelles Google peut renvoyer. Il s’agit de présenter d’abord, en fonction d’une requête, les pages ou références les plus « centrales », i.e. les plus immédiatement accessibles à partir des termes de cette requête. On constate d’ailleurs que ce sont les premières pages qui sont les plus pertinentes, et que cela se détériore ensuite. 

Qu’entendre par centralité sociale ? : P. Livet en donne trois sens : on peut être central parce que beaucoup d’informations passent par nous (secrétaire), on peut être central parce que nos décisions influent sur les conditions de travail de beaucoup de personnes  (PDG). Mais, en un troisième sens, on peut être central au sens où les chemins qui passent par nous servent à identifier une sous-partie au sein du réseau de toutes les interactions. Par exemple, les deux « niveaux sociaux », celui d’homme à tout faire et de président sont centraux dans les deux premiers sens (tout le monde a besoin de l’homme à tout faire, et le président prend des décisions). Mais le président est souvent relié à d’autres structures. C’est donc "la conjonction des deux types de rôles qui permet de distinguer l’association au sein d’autres structures", puisque l’homme à tout faire est seulement interne à l’association alors que le président la relie à d’autres structures. Il est alors possible, selon P. Livet "d'utiliser ce genre d’analyse de réseau pour savoir qui est relié à qui, qui influence qui et savoir quels sont les liens préférentiels qui définissent un sous-groupe au sein d’un réseau beaucoup plus large ".

"Si on revient au problème de la pensée et des concepts, et si on s’intéresse à la pensée en fonctionnement, un tel dispositif peut représenter l’évolution des concepts". Les groupes denses sont les groupes de concepts qu’on utilise ensemble (inférences en passant de l’un à l’autre concepts) et certains mots, ambigüs, peuvent appartenir à un réseau ou à un autre. "Si une requête est développée, Google tient compte de tous les termes et essaie de donner ce qui correspond à la conjonction, mais peut être aiguillé sur un des mots dans un sens qu’on n’avait pas en tête". Ce qui apparaît comme défaut à première vue, peut présenter un intérêt car Google peut nous amener vers quelque chose de nouveau : par exemple si plusieurs chercheurs consultent des ouvrages d’économie et de psychologie expérimentale, on peut "constituer un sous-groupe transversal d’économie expérimentale" et proposer des références qui combinent les deux. Cela ne dit pas cependant pas "si les propositions de l’économie expérimentale sont fondées mais simplement que ce nouveau champ de recherche existe".

"On (Google) peut ainsi construire un profil pour chaque internaute, qui est celui des groupes qu’il visite" : pour pondérer, on doit donner plus d’importance aux connexions qui sont fréquemment empruntées. Cela permet au chercheur de trouver plus vite les textes qui correspondent à son profil qui a été esquissé en fonction de ses recherches antérieures : il va être orienté préférentiellement sur les liens qu’il visite. Attention, le fait d’emprunter un chemin ne veut pas dire qu'il est "optimal", car le cheminement proposé l'est toujours à partir des sentiers précédemment empruntés. Cela correspond d’ailleurs au fonctionnement de nos neurones, nous fonctionnons par frayage. Or les humains, précise P. Livet, n’ont pas seulement suivi un frayage antérieur, ils ont aussi inventé et innové. D'où la question : "Google nous rend-il service en nous proposant des ressources correspondant à notre frayage précédent. Cela ne bloque-t-il pas certaines innovations ? Est-ce que le numérique permet suffisamment d’innovations ?"


Deuxième partie 

Certes, une dynamique de frayage est à l’œuvre, mais il suffit d’un peu d’alea pour qu’au lieu de nous diriger vers un site, nous allions vers un autre. A ce moment- là, il y a des possibilités d’innovation. "Les dispositifs numériques et la dynamique de réseau permettent d’envisager une multiplicité de possibles". Référence ici à Leibniz et à une infinité de mondes possibles, mais chez Leibniz, Dieu sélectionne "le meilleur des monde possibles" ; nous, qui ne disposons pas d’un Dieu leibnizien, nous pouvons utiliser la théorie de l’évolution. Si un algorithme peut se reproduire, le fait de disposer d’une capacité de variations aléatoires permet de réagir à un changement d’environnement qui n’avait pas été prévu. Pierre Livet insiste bien sur ceci que "le processus n’a pas une fin qui est la meilleure." 
Un tel processus de combinaison et de compétition entre différentes variations a donné le "deep learning" : des machines ont pu battre le réseau de champions d'échecs, mais aussi de champions de Go, ce qui semblait a priori impossible eu égard au très grand nombre de combinaisons dans ce jeu. Or, cela a été possible "en isolant des algorithmes donnant d’assez bons résultats qu’on met ensuite en concurrence entre eux. Au bout d’un certain temps, c’est le système lui-même qui évalue ses propres résultats et qui bat les meilleurs joueurs du monde". Toute la question est de savoir si un tel dispositif débouche sur des innovations. Des joueurs de Go ont constaté des coups qu’ils auraient éliminés, car jugés non pertinents, mais qui, plus tard seulement dans la partie, se sont révélés efficaces : Il est donc possible d’innover mais on ne peut savoir d’avance quand car on sait "juste qu’on a une chance d’innover". Comme le processus est en permanence en cours d’évolution, c'est seulement rétrospectivement, une fois parvenus au résultat final, qu'on pourra l'évaluer comme innovant ou non
En revanche, "si on ne se soucie pas d’optimalité, mais d’une efficacité à court terme, on peut utiliser des évaluations faites en cours de route pour manipuler les internautes, par exemple en orientant les liens entre internautes de manière préférentielle vers certains sites commerciaux ou au contraire en rendant difficile l’accès vers d’autres sites".

- Conclusion partielle à la question de départ.

"Le numérique pense-t-il pour nous ? ": nous pouvons, selon P. Livet, d’abord répondre à la question : le numérique pense- t-il ? "Le numérique permet d’utiliser une approche des concepts par des dynamiques de réseaux, approche qui ressemble à certains aspects de l’usage des concepts, et donc à la pensée". Attention toutefois : dans les résultats numériques, il y a aussi bien des choses qui n’ont rien à voir avec de la pensée. On peut ajouter que le numérique manifeste que penser n’est pas une "activité solitaire", mais au contraire est un processus en réseau. Il faut une « possibilité de conversation, de variation, de reprise des termes dans d’autres contextes » pour qu’il y ait une pensée. La pensée est collective, et non pas solitaire. Pour traiter la question : « est-ce que le numérique pense pour nous ? », il faut prendre en compte le nous, qui n‘est pas identique au moi. Que le numérique puisse me manipuler moi ne signifie pas qu’il nous manipule tous. En fait "nous pensons un peu comme le numérique et le numérique pense de manière parfois similaire à nous et aujourd’hui, nous pensons avec le numérique car ses dispositifs peuvent démultiplier nos possibilités de pensée". "On pense avec le numérique, il pense avec nous, mais pense-t-il pour nous : est-ce en notre faveur, à notre place" et en nous manipulant ? Pour P. Livet, c’est simplement "avec nous". Mais il précise que "sur la toile, les gens partisans de théories du complot vont se regrouper et ne plus être sensibles aux opinions contraires" : Ils sont crédules et sont attirés par les théories alternatives par rapport à celles défendues par les autorités scientifiques. Cela s’oppose à une vision "idyllique du web "permettant une démocratie car toutes les opinions seraient discutées etc. Comment alors entendre le "pour nous" ? "Quelle définition donner du collectif" qui peut soit être "paranoïaque",  soit au contraire vraiment démocratique ?

-L’usage évaluatif des concepts et de la pensée
Un tel usage est difficile à proposer au niveau de l’usage numérique, mais il est essentiel selon P. Livet  pour éviter dérives et manipulations.
"Maitriser un concept, c’est guider une inférence" : nous choisissons des voies d’inférence qui nous "guident vers certains concepts plutôt que vers d’autres", dans le respect bien sûr des règles logiques. Il s’agit bien d’évaluer qu’un concept a plus de valeur inférentielle qu’un autre. En revanche, il est aussi possible de "disqualifier tout ce qui appartient à d’autres domaines que les nôtres". Pierre Livet propose alors, dans une "perspective éthique" qu’on se pose la question suivante : "quelles sont les évaluations qui disqualifient les interactions divergentes de celles de notre groupe" et qui donc conduisent à des "perspectives intragroupes de renforcement du groupe", s’opposant alors à des perspectives transgroupes, qui nous donnent des possibilités nouvelles de pensée et qui sont à privilégier ? P. Livet prend l’exemple (deep learning) d’un logiciel de communication Google qui a tenu des propos racistes car les propos racistes sont "facilement identifiables en tant que propos de groupe" avec un petit nombre de concepts clichés.
La perspective transgroupe doit être privilégiée, selon P. Livet et elle se développe aujourd’hui "non pas grâce à des dispositifs du genre Google, mais sur des forums et des fils de discussion" qui sont les moteurs du numérique : on y trouve des échanges entre gens qui inventent des algorithmes, et pas simplement entre utilisateurs. Il nous "faut devenir des « nous » du numérique" et cela suppose une culture numérique, une éducation, une formation, conditions pour que nous ne restions pas de simples consommateurs du numérique. Pierre Livet nous invite à le manipuler, à apprendre à programmer : il faut développer une pensée évaluative du numérique (ce que ne peuvent pas faire les machines) qui seule permettra l'émergence d'une pensée transgroupe féconde. 


Quelques questions – réponses au cours de l’exposé :
Question de P. Leveau : le numérique pense-t-il ou simule -t-il la pensée ? Réponse de P. Livet : il y a une différence du point de vue humain, mais nous sommes de plus en plus incapables de déterminer cette différence. D’après le test de Turing, la simulation peut être convaincante. Pour dire que la machine pense, il faudrait qu’on reste dans des domaines qui seront toujours signifiants pour nous, or nous sommes incapables de dire a priori quels sont tous ces domaines : pour cela, il faudrait proposer aux gens des pensées déjà connues : or il y a des pensées qui nous surprennent et qui peuvent ensuite se révéler comme des pensées fécondes, mais on ne peut pas le savoir d’avance.

Question de Alexandre Monnin :  Google a développé un algorithme deep dream qui permet de voir à la place des machines leur propre manière d’appréhender des images : il existe un point de vue d’aborder le numérique qui n’est pas un point de vue humain, mais qui serait un point de vue a-humain de représentation des choses et du monde : est-ce que nos concepts habituels vont se retrouver dans ces dispositifs, qui eux-mêmes pensent d’une certaine façon. Comment fait-on quand nos conceptualisations sont bousculées par d’autres types de techniques comme le deep learning ou autres pour donner à voir des référents en face des concepts qui échappent à l’image du sens commun ? Réponse de P. Livet : il prend l’exemple des astronomes qui voyaient d’abord le ciel avec des lunettes et avaient face à eux des images visibles. Aujourd’hui, grâce à la détection d’ondes radio et magnétiques, ils ont, face à eux, des écrans d’ordinateurs avec des listes de chiffres. Cela ne correspond pas à nos schémas sensibles classiques, mais ils arrivent à relier ces chiffres et à faire des inférences à partir de ces chiffres. A propos des concepts sous-jacents aux images et qui organisent leurs relations, nous pouvons essayer de suivre les nouvelles relations que peuvent nous permettre de découvrir les outils numériques et changer pour une bonne part notre ontologie classique.

Alexandre Monnin propose en fin de conférence un renversement de perspective selon lequel ce serait les contenus, les données produites par les utilisateurs du web, plus consommateurs qu’acteurs, qui ont étendu la pensée des machines.
Réponse de P. Livet : c’est là une version intéressante de la notion « d’esprit étendu » : les acteurs du web ont étendu la pensée des machines, mais l’utilisation du web par ceux qui peuvent le manipuler est une tout autre affaire. Si les utilisateurs sont passifs, il peut y avoir une multiciplicité de contenus mais il n’est pas possible qu’il y ait une réelle fécondité : il faut un travail d’évaluation de cette variété (qui n’est pas fait par les machines), mais les machines peuvent aider à noter des liaisons et structures entre concepts qui n’avaient pas été encore identifiées.