Dimanche 28 janvier 2018

Par Pierre Musseau-Milesi

​

Résumé : Pour analyser des implications éthiques sur l’IA, il est proposé d’utiliser une grille d’analyse d’une part en fonction de la position du bien visé par celui qui agit (à la première, deuxième ou troisième personne), d’autre part à travers l’opposition entre une approche maximaliste et une approche minimaliste. Cette analyse permet de souligner des arguments pour refuser toute conception maximaliste d’une éthique de l’IA. Elle conduit également à recommander une conception minimaliste qui pourra être suffisante pour définir un programme volontariste de développement responsable de l’IA.

 

La déclaration de Montréal pour un développement responsable de l'intelligence artificielle[1] lancée le 3 novembre 2017 vise à susciter un débat public et à proposer une orientation progressiste et inclusive du développement de l’IA. Son objectif est d’offrir des recommandations concrètes qui améliorent le bien-être collectif dans l’intérêt de tous et le respect de chacun.

Les technologies de l’IA sont diverses et les questions éthiques qu’elles posent touchent à de multiples dimensions, à la fois sur l’utilisation qu’on peut en faire individuellement, sur son impact dans des relations interindividuelles, et plus largement sur ses conséquences pour la société dans son ensemble. C’est pourquoi il est proposé ici une analyse éthique qui distingue la position du bien visé par celui qui agit : soit en vue de son propre bien (éthique à la première personne), soit en vue du bien d’autrui (éthique à la deuxième personne), soit en vue du bien de la société (éthique à la troisième personne)[2]. Cette distinction permet ensuite d’aborder les enjeux éthiques selon deux approches morales opposées, maximaliste et minimaliste. La conception morale minimaliste se limite à un souci négatif de ne pas causer de tort, tandis que son adversaire maximaliste introduit des devoirs positifs (comme des devoirs envers soi-même ou envers les autres, des préceptes de tenue corporelle, des règles de déférence…)[3]. Appliquée à chacune des trois positions éthiques précitées, l’analyse des positions entre maximaliste et minimaliste nous permettra d’esquisser en conclusion ce papier quelques orientations pour un programme en faveur d’une IA responsable.

Une éthique à la première personne

La question que pose une éthique à la première personne est : l’IA peut-elle favoriser mon épanouissement et mon bonheur ?

Le maximaliste souhaite que l’IA participe à une amélioration de soi-même. Grâce aux progrès de l’IA, il va jusqu’à nous proposer de nous transformer en dieu.

La minimaliste au contraire attend de l’IA qu’elle n’empêche pas notre épanouissement. Ce qu’elle demande, c’est que l’IA ne réduise pas notre enthousiasme, ce « dieu qui est en nous » pour reprendre l’étymologie de ce mot.[4]

La publicité sur les applications de l’IA est souvent fondée sur une approche maximaliste : l’IA nous permettra d’accéder à de nouvelles compétences, de nouveaux pouvoirs. Le risque est alors de nous faire croire que nous pourrons devenir l’égal d’un dieu grâce à une augmentation de notre humanité. Les technologies nous permettent d’ores et déjà une forme d’omniscience en nous rendant capables d’accéder à une infinité de sources de connaissance. Elles nous promettent demain une libération technique et individuelle. Cependant ce n’est en aucun cas la promesse d’une libération économique ou politique. En faisant de l'homme un héros conquérant vainqueur de la nature grâce à une intelligence prométhéenne, il s’agit en réalité d’une révolution antihumaniste. Le maximaliste est tenté par l’utopie posthumaniste qui réduit la vie à une question de maintenance et qui nie l’impossible séparation entre le corps et la pensée, alors que « la pensée n’existe pas sans le cerveau, elle n’est pas dans le cerveau, elle est un rapport au monde »[5].

La minimaliste au contraire s’inquiète des risques que fait porter dès aujourd’hui l’IA sur notre rapport au monde. Elle se mobilisera contre les addictions que les technologies numériques génèrent déjà, contre le piratage de notre attention et se mobilisera pour une ergonomie des applications numériques qui respecte l’individu, pour s’assurer qu’il reste maître de son temps et de son attention[6]. 

La minimaliste se méfie du désir de toujours plus, elle veut contenir le progrès utile par un progrès subtil[7]. L’utile est une relation au monde faite de calcul, d’action et d’organisation qui transforme le réel en un ensemble de moyens, alors que le subtil est un rapport à l’être qui privilégie la finesse, le discernement, la sensibilité aux signes et aux détails discrets. 

L’approche minimaliste ne suppose pas une condamnation sans appel du progrès. Par contre, elle invite à une dialectique entre progrès utile et progrès subtil. Il ne s’agit pas non plus d’opposer ces deux formes de progrès : il faut au contraire voir la culture utile comme un potentiel exceptionnel pour faire évoluer nos conceptions subtiles en découvrant que même les montagnes peuvent être aplanies.

L’IA est un nouvel outil à disposition de l’humain qui, comme d’innombrables outils que l’espèce humaine a inventé depuis le premier sapiens, contribue à son enthousiasme et lui offre de nouvelles perspectives de transformation de lui-même. Cependant le changement s’il est apporté par un outil qu’on ne maîtrise pas, risque en s’imposant de bloquer ce processus de transformation de soi.

L'approche minimaliste nous invite à ouvrir la boîte noire de l’IA, à comprendre le code et l’algorithme, à choisir les données personnelles qu’on souhaite lui confier et celles qu’on veut lui interdire. Cette ambition nécessite aussi de lutter contre le sentiment d’incompétence face à la technoscience, et de donner les clés pour se former et maîtriser les techniques de l’IA[8].

Une éthique à la première personne appliquée à l’IA doit être rejetée si elle se fige sur une approche maximaliste qui se réduit à un progrès utile, une volonté de nous améliorer toujours plus. Elle devient par contre un programme de travail exigeant dans une approche minimaliste. Celle-ci nous engage à rechercher quel progrès subtil peut être généré grâce à l’IA, en ouvrant la boîte noire et en nous efforçant à la comprendre pour combattre toutes les atteintes qu’elle pourrait générée sur notre bien-être, en abusant de nos données, en piratant notre attention et en réduisant l’enthousiasme dans notre rapport au monde.

Une éthique à la deuxième personne

La position de la deuxième personne conduit à cette interrogation : l’IA peut-elle contribuer à améliorer les relations entre 2 personnes ?

La maximaliste prétend que l’IA joue un rôle majeur pour favoriser la collaboration et qu’elle peut encore aller plus loin en permettant de déléguer le soin à autrui.

Le minimaliste lui demande seulement que l’IA ne nuise pas à notre rapport à autrui, qu’elle n’empêche pas la coopération.

Pour la maximaliste, l’économie collaborative est la preuve que la technologie facilite la rencontre et l’échange entre des personnes qui ne se seraient jamais rencontrées sans le numérique. A ce titre, elle attend de l’IA qu’elle prolonge les miracles de l’économie collaborative en jouant un rôle d’intermédiaire pour favoriser toujours plus de collaboration et même lui déléguer le soin que nous souhaiterions apporter à autrui ou à tout être sentient. Selon la maximaliste, l’IA doit faciliter toujours plus la rencontre et l’échange en délégant ce qui est le plus pénible dans les relations humaines (plutôt que de se confronter à un inconnu avec qui on risque de ne pas s’entendre, l’IA va faciliter le matching des profils ; plutôt que d’apporter des soins à un proche dépendant, l’IA créera des robots à qui nous pourront déléguer ce soin, ou encore des robots pour élever et abattre les animaux en espérant le faire de manière plus respectueuse de leur bien-être que ce que pratique aujourd’hui l’agro-industrie).

L’approche maximaliste réduit la relation à son efficacité. Mais l’économie de la réputation qu’elle favorise génère aussi de l’autocensure et la culture du conformisme. En favorisant l’évaluation standard et formelle, elle remplace le jugement de face-à-face. Elle nuit à l’empathie indispensable à la coopération. Elle a tendance à ignorer les compétences dialogiques nécessaires à la coopération comme savoir porter une attention et une sensibilité à l’autre.[9]

Le minimaliste qui veut seulement que l’IA n’empêche pas la coopération s’inquiètera de ces dérives et s’insurgera contre le refroidissement social que génèrent les technologies numériques[10]. 

Son indignation rejoint le combat pour les communs[11], pour défendre la capacité à s’auto-organiser entre plusieurs personnes autour d’une ressource. Les communs ont subi de nombreuses attaques dans l’histoire humaine : l’enclosure des terres, la protection de la propriété intellectuelle, l’extension de la sphère marchande sont des exemples de dangers auxquels sont confrontés les communs. A chaque fois la capacité à coopérer a été ébranlée par différentes formes d’appropriation.

Ainsi l’économie de marché a limité le besoin de commun en fétichisant la monnaie comme seul critère d’évaluation de l’échange. Sur un marché traditionnel, je peux discuter du prix avec mon marchand, il y a encore une rencontre et une négociation. Quand le prix est fixé, affiché, et non négociable, la rencontre disparaît de l’échange. L’économie de plateforme introduit de nouvelles formes d’échanges intermédiés par le numérique. Certaines solutions introduisent du don et des formes de coopérations, mais l’économie collaborative marchande est avant tout fondée sur des évaluations standards qui elles-aussi « refroidissent » les échanges.

Le mouvement des communs soutient le coopérativisme de plateforme[12] pour créer des modèles coopératifs susceptibles de concurrencer les plateformes marchandes de l’économie collaborative. L’objectif est d’associer les parties prenantes à l’élaboration de l’algorithme au cœur de la plateforme, et donc de cette manière de les mêler à la gouvernance du commun que permet la plateforme. C’est aussi une manière de veiller à ce que les échanges facilités par le numérique favorisent autant que possible des formes de coopération. Le minimaliste peut soutenir de telles alternatives pour éviter l’emprise de l’économie collaborative.

Le minimaliste refuse aussi que la délégation du soin conduise à nous couper du rapport à autrui. Il ne s’opposera pas forcément à ce que le robot facilite la tâche de soin mais il sera vigilant à ce que la technologie ne coupe par la relation interindividuelle, ou de l’homme à l’animal.

Une éthique à la deuxième personne appliquée à l’IA doit être rejetée dans son approche maximaliste qui à travers son économie collaborative finit par produire du refroidissement social. Par contre, dans une approche minimaliste, cette éthique peut alimenter le mouvement pour la défense des communs en utilisant l’IA comme simple outil pour mieux coopérer et mieux prendre soin, tout en étant vigilant sur toute technologie qui porterait atteinte à notre considération vis-à-vis d’autrui et de chaque être sentient.

Une éthique à la troisième personne

A la troisième personne, l’interrogation éthique est : comment l’IA peut-elle améliorer le bien-être de la société dans son ensemble ?

Pour le maximaliste, l’humanité s’améliorera si chacun.e s’améliore soi-même. L’IA y contribue en particulier grâce aux techniques de nudges (coup de pouce) : avec ces techniques, elle nous permet d’inciter chacun.e à contribuer à l’intérêt général, sans même qu’il ou elle en ait conscience. 

Pour la minimaliste, il faut seulement éviter ce qui nuit à autrui. Elle est vigilante à ce que l’IA ne nuise pas elle-même et peut mobiliser l’IA comme outil pour éviter un préjudice à autrui.

Le maximaliste croît aux nudges pour protéger l’environnement (grâce à des incitations aux écogestes) et pour nous améliorer dans nos relations sociales (par exemple en nous incitant à la charité). L’IA peut apporter l’efficacité qu’il recherche dans de telles mesures en ciblant mieux ces dispositifs et en les rendant plus automatiques au risque de les rendre plus intrusifs à l’insu des personnes dont on souhaite modifier les comportements. Le maximaliste poursuit l’utopie technocratique d’une transformation sociale grâce à la technique, au risque, souvent assumé, de le faire contre la démocratie. Nul besoin de perdre son temps à consulter le citoyen pour servir l’intérêt général, seul le technocrate sait quel intérêt doit guider sa décision pour le bien commun, et l’IA l’aidera à être plus efficace dans cet objectif.

La minimaliste refuse cette approche car quand elle dit qu’il faut éviter de nuire à autrui, elle exclut tout ce qui est nuisance à soi-même et demande l’indifférence au rapport à soi-même[13]. Elle défend par ailleurs l'égale considération des voix et revendications de chacun.e, pour ne pas qu’une décision soit prise dans l’intérêt de quelqu’un sans que cette personne ne puisse dire quel si oui ou non c’est bien son intérêt. La perspective d’une généralisation des nudges lui inspire le plus profond dégoût[14]. Elle en rejette le paternalisme sous-jacent, tout comme elle refuse l’attitude paternaliste des technocrates qui prétendent calculer l’intérêt général sans interroger les personnes concernées. 

Elle souhaite par contre que les technologies numériques, à travers les civic tech[15], facilitent l’expression des revendications de chacun.e et augmente la démocratie en associant mieux chacun.e à toutes les décisions qui peuvent les concerner.

L’approche minimaliste n’exclut pas l’application de la logique économique pour appréhender les enjeux sociaux : la minimaliste pourra s’inspirer du principe de Pareto. Celui-ci dit qu’un changement qui améliore la situation d’un individu et ne lèse personne est socialement souhaitable et ne peut donc être contrecarrée ni par l'Etat ni par quiconque. Ce principe est en faveur de la liberté contractuelle. Cependant la minimaliste pourra aussi mettre en avant la loi des grands nombres qui fait que des décisions individuelles qui ne nuisent à personne peuvent lorsqu’elles se répètent finir par nuire collectivement[16]. Elle ne s’opposera donc pas à des régulations dès lors qu’elles sont proportionnées aux torts qu’on prétend éviter.

L’approche minimaliste présente dans cette perspective une réelle opportunité pour un développement responsable. L’IA peut aider à déceler et mettre en évidence les situations de nuisance à autrui. Elle peut aussi devenir un outil pour évaluer la pertinence des politiques mises en place pour éliminer celles qui réduisent abusivement nos libertés. Elle peut ainsi continuer à faire évoluer radicalement le pouvoir législatif et judiciaire pour limiter les régulations inutilement contraignantes et garantir ainsi plus de libertés. Ces libertés pourront être mises au service de la construction de nouveaux communs dans tous les domaines.

L’approche minimaliste pour un programme de travail en faveur d’un développement éthique de l’IA

En guise de conclusion, voilà un programme de travail pour l’IA qui pourrait découler d’une approche minimaliste tout en visant de réelles ambitions de transformations sociales et individuelles.

1. Programmer l’IA avec comme principe premier de ne pas nuire à autrui : La machine ne devrait jamais avoir de conception figée de ce qu’est un préjudice à autrui. Elle doit au contraire chercher à toujours mieux collecter les revendications de chacun.e pour s’assurer que ce qu’elle considère comme une nuisance ou pas à une personne est en phase avec ce que cette personne revendique. Fondée sur cette approche, l’IA pourra alors être mobilisée pour s’empêcher elle-même de nuire, mais aussi alerter d’un préjudice qu’elle détecte ou même prévenir une atteinte à autrui.

2. Mobiliser l’IA pour accompagner la construction de communs : L’outil numérique peut non seulement faciliter des modes de participation citoyenne mais peut aussi aider à la négociation et la concertation de règles partagées lorsque des revendications multiples se confrontent entre elles. Wikipedia est un exemple de commun qui parvient à faire émerger des textes consensuels sur des sujets où souvent s’opposent différentes positions et recommandations. L’IA pourra alors aider à la définition et la mise en place de communs qui préservent des ressources matérielles ou immatérielles tout en respectant le principe de non-nuisance à autrui.

3. Permettre à chacun.e de gagner en compétence face à la technologie numérique : les communs, notamment les plateformes coopératives, seront des succès seulement si elles associent largement les personnes concernées par les communs. L’IA peut être mobilisée pour faciliter cet accès, en rendant plus accessible les enjeux technologiques et en aidant à des formations adaptées à tous et toutes. C’est d’abord par la maîtrise de la donnée personnelle que la transformation individuelle pourra être conduite et générer, grâce à l’implication dans des communs de tout type, une transformation sociale complète.

 

 

[1] Voir https://www.declarationmontreal-iaresponsable.com/la-declaration

[2] Cette distinction de l’éthique en différentes positions est inspirée par Francis Wolff dans son livre Trois utopies contemporaines, Fayard, 2017

[3] L’opposition entre maximaliste et minimaliste est reprise des travaux de Ruwen Ogien, notamment dans son livre Mon dîner chez les cannibales, Grasset, 2016

[4] Pascal Chabot, l’Age des transitions, Puf, 2016

[5] Wolff, op. cit.

[6] Voir par exemple le mouvement TimeWellSpent.io lancé par Tristan Harris

[7] Chabot, op. cit.

[8] Enjeu porté notamment par Florence Piron dans Science et bien communs

[9] Voir Richard Sennett, Ensemble, Albin Michel, 2014

[10] Voir l’analyse de Tijmen Schep par exemple sur socialcooling.fr

[11] Référence ici aux travaux d’Elinor Ostrom et aux mouvements qu’elle a généré, comme Commons Strategies Group fondé par 3 figures clé du mouvement des communs David Bollier, Silke Helfrich et Michel Bauwens

[12] Voir Trebor Scholz, Plateform Cooperativism, Rosa Luxemburg Stiftung, 2016

[13] Ces principes résument ici l’approche de l’éthique minimale de Ruwen Ogien. Voir par ex. ethique.xyz

[14] Ogien, op. cit.

[15] Voir par exemple le manifeste de CivicTechno

[16] La loi des grands nombres est expliquée par Kaushik Basu dans Au-delà du marché, Ed. de l’Atelier, 2017