IA, société et démocratie: le professeur Marc-Antoine Dilhac nous livre ses impressions

« L’impression que les machines prennent le contrôle est parfois vive, mais on oublie facilement que ce sont les humains qui organisent le monde social et mettent en place des procédures algorithmiques, intelligentes ou non, pour gouverner. » Voilà la motivation principale derrière la création de la Déclaration de Montréal pour le développement responsable de l’intelligence artificielle, codirigée par le professeur en éthique et philosophie politique de l’Université de Montréal, Marc-Antoine Dilhac. Selon lui, il était primordial d’élaborer un cadre éthique créé par des humains pour des humains, qui prendrait la forme d’une déclaration de principes, le tout dans un processus inclusif, multipartite et démocratique et qui atténuerait le sentiment de désorientation provoqué par le développement rapide de l’IA.

La Déclaration, qui sera lancée le 4 décembre prochain, un an après que la version préliminaire a été lancée, sera plus précise et adaptée aux multiples enjeux du développement et du déploiement des technologies numériques et de l’IA, des questions d’autonomie, de vie privée ainsi que celles de responsabilité et d’environnement. Elle comporte maintenant 10 principes généraux et une soixantaine de principes plus ciblés. Elle engage aussi un débat public s’articulant autour de 4 axes prioritaires : la gouvernance algorithmique, la littératie numérique, l’inclusion de la diversité et la transition écologique.

Avec la popularité grandissante de l’IA, la Déclaration résonne évidemment ailleurs qu’au Québec. Sans vouloir donner de leçons, la Déclaration représente une réflexion collective et inclusive sur l’orientation éthique de l’IA qui peut être partagée différents groupes humains, nations et pays. L’IA est une révolution mondiale et n’est pas à prendre à la légère, nous avons donc besoin de tous les acteurs pour réussir à rendre responsable la transition de cette technologie.

Tout d’abord, le professeur Dilhac définit l’IA comme étant un ensemble de techniques informatiques qui permettent de réaliser des fonctions de l’intelligence naturelle telles que de reconnaître un objet, prendre des décisions dans l’incertitude, prédire des phénomènes et des comportements, etc. Toutefois, il est important de garder à l’esprit que son fonctionnement qui repose sur des algorithmes complexes, est très différent de celui l’intelligence naturelle. Cependant, pour certaines opérations mentales, l’IA fonctionne comme le raisonnement humain (et non pas comme le cerveau humain). En effet, si on est capable d’expliquer un raisonnement de manière logique, en faisant apparaître les étapes qui conduisent à une conclusion, il faut reconnaître que l’IA est capable d’en faire autant. Dans les deux cas, le raisonnement est de type algorithmique.

C’est pourquoi selon l’expert, l’IA est d’un côté surévaluée : l’intelligence humaine est déjà en grande partie algorithmique et l’IA n’enlève rien à la créativité humaine. Pensez à l’utilisation d’une calculatrice. Bien que pour faire des opérations algébriques, l’utilisation de cet outil ne menace en rien la capacité humaine à élaborer des théories mathématiques. D’un autre côté, l’IA est également sous-estimée; pour un grand nombre de tâches, elle le fait aussi bien ou mieux que l’humain, autant qu’une calculatrice résout une opération mathématique complexe plus facilement et rapidement que nous pouvons le faire.

Par conséquent, bien que l’IA s’avère être une technologie très puissante, la place de l’humain restera centrale. Les humains prennent les décisions et exercent fondamentalement leur liberté de cette manière, même quand ils décident de laisser autrui ou une machine prendre les décisions à leur place. M. Dilhac évoque le philosophe Jean-Paul Sartre qui affirmait que ne pas choisir, c’était encore choisir : « choisir de ne pas choisir. » Il faut donc bien comprendre que déléguer une décision à une machine est encore une décision humaine et que les humains restent responsables de la décision.

Toutefois, M. Dilhac admet que le développement de l’IA a un impact important sur l’organisation démocratique de la société, sur ses institutions publiques et sur les droits des personnes et des groupes. Il fait alors référence à deux enjeux problématiques résultant de l’IA. Tout d’abord, les algorithmes intelligents peuvent renforcer un contrôle bureaucratique automatique. Il déclare que « si la démocratie signifie minimalement que les individus ont droit de recevoir des justifications raisonnables et de participer aux décisions publiques, l’utilisation de l’IA dans l’administration constitue un problème pour la démocratie. » Ensuite, les algorithmes intelligents peuvent reproduire des biais défavorables à des groupes vulnérables : les femmes, les minorités culturelles ou encore les plus démunis. Ils génèrent ainsi des décisions discriminatoires. Alors, « si la démocratie signifie aussi la protection de droits fondamentaux comme l’égalité de traitement, certaines utilisations de l’IA constituent une violation des droits en démocratie », affirme l’expert.

Pour autant, il ne faut pas percevoir l’avènement de l’IA comme seulement négative. Elle est plutôt une occasion de renforcer la démocratie. Les deux phénomènes décrits précédemment existent avec ou sans l’IA, mais lorsqu’ils résultent de celle-ci, c’est à ce moment qu’ils sont perçus comme étant plus graves. Tel que mentionné par M. Dilhac, « l’avènement de l’IA comme technique d’administration et de gouvernance permet de reposer la question de la démocratie et de rappeler les droits fondamentaux que les individus doivent pouvoir exercer : le droit de participer à une décision publique, le droit d’être traité équitablement sans distinction arbitraire, et enfin, le droit d’obtenir une justification pour les décisions qui les concernent. » En tant que citoyen, il faut donc faire preuve d’une grande vigilance afin de faire face aux dérives possibles de cette technologie en mobilisant les ressources de l’intelligence naturelle collective. C’est d’ailleurs une des préoccupations qui a mené à la création de la Déclaration.

Biographie

Docteur en philosophie politique de l’Université de Paris 1 Panthéon-Sorbonne (2009), Marc-Antoine Dilhac a obtenu en 2011 une bourse postdoctorale Banting (CRSH) qui lui a permis de poursuivre ses recherches sur les enjeux de la tolérance et de la liberté d’expression au Centre de recherche en éthique de l'Université de Montréal. Il publie sur ce sujet plusieurs articles et un livre qui fait la synthèse de ses recherches en 2014 : La tolérance, un risque pour la démocratie? (Paris, Vrin, 2014). Spécialiste des théories de la justice et de la démocratie, M. Dilhac fait sa première rentrée universitaire à l'Université de Montréal comme professeur adjoint en éthique et philosophie politique en 2013. Il détient également depuis 2014 la chaire de recherche du Canada en Éthique publique et théorie politique et codirige l'axe Éthique et politique du Centre de recherche en éthique. S’intéressant à l’enjeu de l’éducation à la citoyenneté et à l’esprit critique, il devient directeur-fondateur de l’Institut Philosophie Citoyenneté Jeunesse en 2017. Instigateur du projet de Déclaration de Montréal pour un développement responsable de l’IA en 2017, il est responsable de son comité d’élaboration.

AI, society and democracy: Professor Marc-Antoine Dilhac’s position

"The feeling that machines are slowly taking control may sometimes be strong, but we tend to easily forget that it’s humans who are responsible for organizing the social world and implementing algorithmic procedures to govern, whether they’re intelligent or not.”

This is the motivation behind the Montreal Declaration for Responsible Artificial Intelligence, co-led by Marc-Antoine Dilhac, Professor of Ethics and Philosophy at the Université de Montréal. According to Professor Dilhac, it is essential to formulate an ethical framework created by humans for humans. The framework is a declaration of principles created in an inclusive, multiparty and democratic process that mitigates the feeling of disorientation provoked by the advancement of AI.

The Declaration launches on December 4, one year after the preliminary version was announced. This version will be more detailed and address challenges of the development and deployment of digital technologies, AI and autonomy issues, well as the concerns related to responsibility and environment. The Declaration now includes 10 general principles and about 60 more developed principles. It also initiates a public debate centred on four main areas: algorithmic governance, digital literacy, diversity inclusion and the ecological transition.

With the growing popularity of AI across various sectors and regions, the Declaration is relevant not only in Quebec, but also on other continents. Without giving any lessons, the Declaration represents a collective, objective and inclusive reflection on the ethical orientation of AI to different groups of people, nations and countries. AI is a global revolution that should not be taken lightly. That is why we need all members to make the transition of this technology responsible.

Professor Dilhac defines AI as a set of computer-based algorithms that enable natural intelligence functions such as recognizing an object, making decisions in uncertainty, predicting phenomena and behaviours. It is important to keep in mind that it’s functioning, which relies on complex algorithms, is very different from natural intelligence.

However, for some mental operations, AI works like human reasoning (but not like the human brain). If one is able to explain reasoning in a logical way, by revealing the steps that lead to a conclusion, we must recognize that AI is able to do the same. In both cases, the reasoning is algorithmic.

This is why, according to the Professor Dilhac expert, AI is, on the one hand, overvalued. Human intelligence is already largely algorithmic and AI does not detract from the human creativity. Think about using a calculator to make algebraic operations, the use of this tool does not threaten the human ability to develop mathematical theories. On the other hand, AI is also underestimated for a lot of tasks, it does it as well or better than the human brain, as much as a calculator solves a complex mathematical operation more easily and quickly than we can do it.

Therefore, although AI is proving to be a very powerful technology, the role of the human mind will remain central. Humans make decisions and exercise their freedom in this way, even when they decide to let others or a machine make the decisions for them. Dr. Dilhac quotes the philosopher Jean-Paul Sartre who affirmed that not to choose, it was still to choose: "to choose not to choose. It must be understood that delegating a decision to a machine is still a human decision and that humans remain responsible for the decision.

Nonetheless, Dr. Dilhac admits that the development of AI has a significant impact on the democratic organization of the society, its public institutions and the rights of individuals and groups. He also refers to two problematic issues resulting from AI. First, intelligent algorithms can reinforce automatic bureaucratic control. He states that "while democracy means that individuals are entitled to reasonable justifications and to participate in public decisions, the use of AI in the administration is a problem for democracy.”

Dr. Dilhac also notes that intelligent algorithms can reproduce unfavorable biases for vulnerable groups: women, cultural minorities or poorer people. Thus, they can generate discriminatory decisions. Therefore, "if democracy also means the protection of fundamental rights such as equal treatment, some uses of AI are a violation of rights in a democracy," says Dilhac.

According to Professor Dilhac, we should not perceive AI as only negative. It is rather an opportunity to strengthen democracy. The two phenomena previously described will still exist with or without AI, but when they result from it, it is at this particular moment that they are perceived as being more serious. As mentioned by Dr. Dilhac, "the invention of AI as a technique of administration and governance allows society to bring back the question of democracy and to recall the fundamental rights that individuals must be able to exercise. It includes the right to participate in a public decision, the right to be treated fairly without arbitrary distinction, and finally, the right to obtain a justification for the decisions that concern them.” As individual citizens, we must be extremely vigilant in order to face the possible impacts of this technology by mobilizing the resources of the collective natural intelligence. This concern is one that led to the creation of the Declaration.

Biography

Doctor in political philosophy from the University of Paris 1 Panthéon-Sorbonne (2009), Marc-Antoine Dilhac obtained in 2011 a Banting Postdoctoral Fellowship (SSHRC) which enabled him to continue his research on the issues of tolerance and freedom of expression at the Center for Research on Ethics at the Université de Montréal. He publishes on this subject several articles and a book that summarizes his research in 2014: Tolerance, a risk for democracy? (Paris, Vrin, 2014). A specialist in theories of justice and democracy, Mr. Dilhac began his first year at the Université de Montréal as an assistant professor of ethics and political philosophy in 2013. Since 2014, he has also held the Canada Research Chair in Public Ethics and political theory and co-directs the Ethics and Policy axis of the Center for Research on Ethics. Focusing on the issue of citizenship education and critical thinking, he became founding director of the Institute Philosophy Youth Citizenship in 2017. Instigator of the Declaration of Montreal for a responsible development of the IA in 2017, he is responsible for his elaboration committee.