Rechercher
  • declaration-iaresp

DÉVOILEMENT DE LA DÉCLARATION DE MONTRÉAL POUR UN DÉVELOPPEMENT RESPONSABLE DE L’IA

Des principes et recommandations pour le développement éthique de l’IA


*English to follow

L’Université de Montréal, en collaboration avec les Fonds de recherche du Québec, est heureuse de dévoiler la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle. Ces orientations éthiques pour le développement de l’intelligence artificielle sont le point culminant de plus d’un an de travail, de recherches et de consultations auprès de citoyens, d’experts, de responsables publics, de parties prenantes de l’industrie, d’organisations de la société civile et d’ordres professionnels.





L’intelligence artificielle constitue un progrès scientifique et technologique majeur qui peut engendrer des bénéfices sociaux considérables. Le développement de l’intelligence artificielle présente cependant des défis éthiques et des risques sociaux. Il incombe aux différents acteurs et décideurs publics et privés, au niveau local, national et international, de s’assurer que le développement et le déploiement de l’intelligence artificielle soient compatibles avec la protection et l’épanouissement des capacités humaines fondamentales.


« L’Université de Montréal a été au cœur des avancées scientifiques de l’intelligence artificielle et je suis heureux de constater qu’aujourd’hui, un vaste réseau de chercheurs et de leaders du milieu scientifique, juridique, économique et politique se constitue aussi autour des enjeux sociaux et éthiques. J’invite toutes les personnes intéressées par le sujet à consulter le texte de la Déclaration et à y ajouter leur signature pour que cette voix soit entendue, » explique Guy Breton, recteur de l’Université de Montréal.


« En plus de soutenir le développement de l’expertise scientifique en intelligence artificielle, il devenait important pour les Fonds de recherche du Québec de tenir compte des aspects éthiques et sociétaux des avancées de ce champ de recherche. Dans cette optique, je salue les travaux qui ont mené au lancement de la Déclaration de Montréal en intelligence artificielle responsable, élaborés sur une approche collaborative avec la société civile. Le nouvel Observatoire international sur les impacts sociétaux de l’intelligence artificielle et du numérique, annoncé hier, pourra très certainement s’appuyer sur les principes contenus dans la Déclaration, » ajoute Rémi Quirion, scientifique en chef du Québec.


« Comme scientifique, je sens une grande responsabilité de veiller à ce que l’utilisation des fruits de mes recherches et de tout le secteur de l’intelligence artificielle se fasse au bénéfice du plus grand nombre. En intégrant des principes de responsabilité sociale dès le développement des technologies, dans les laboratoires des universités et des entreprises, on peut avoir un véritable impact positif et concret. C’est ce qui distingue cette Déclaration de façon particulière : elle intègre les préoccupations de l’ensemble des acteurs du domaine et interpelle toute la société civile autour de principes forts, » précise Yoshua Bengio, membre du comité d’orientation de la Déclaration de Montréal IA responsable.


Les dix principes de la Déclaration


L’un des principaux objectifs de la Déclaration consiste à identifier les principes et les valeurs éthiques, appliqués au domaine du numérique et de l’intelligence artificielle, afin de mettre en lumière les intérêts fondamentaux des personnes et des groupes.


1- Le bien-être: le développement et l’utilisation des systèmes d’intelligence artificielle (SIA) doivent permettre d’accroître le bien-être de tous les êtres sensibles.


2- Respect de l’autonomie: les SIA doivent être développés et utilisés dans le respect de l’autonomie des personnes et dans le but d’accroître le contrôle des individus sur leur vie et leur environnement.


3- Protection de la vie privée et de l’intimité: la vie privée et l’intimité doivent être protégées de l’intrusion de SIA et de systèmes d’acquisition et d’archivage des données personnelles.


4- Solidarité: le développement de SIA doit être compatible avec le maintien de liens de solidarité entre les personnes et les générations.


5- Participation démocratique: les SIA doivent satisfaire les critères d’intelligibilité, de justifiabilité et d’accessibilité, et doivent pouvoir être soumis à un examen, un débat et un contrôle démocratiques.


6- Équité: le développement et l’utilisation des SIA doivent contribuer à la réalisation d’une société juste et équitable.


7- Inclusion de la diversité: le développement et l’utilisation de SIA doivent être compatibles avec le maintien de la diversité sociale et culturelle et ne doivent pas restreindre l’éventail des choix de vie et des expériences personnelles.


8- Prudence: toutes les personnes impliquées dans le développement des SIA doivent faire preuve de prudence en anticipant autant que possible les conséquences néfastes de l’utilisation des SIA et en prenant des mesures appropriées pour les éviter.


9- Responsabilité: le développement et l’utilisation des SIA ne doivent pas contribuer à une déresponsabilisation des êtres humains quand une décision doit être prise.


10- Développement soutenable: le développement et l’utilisation de SIA doivent se réaliser de manière à assurer une soutenabilité écologique forte de la planète.



Les huit recommandations de la Déclaration


De ces principes ont été élaborées des recommandations dont l’objectif est de proposer des lignes directrices pour réaliser la transition numérique dans le cadre éthique de la Déclaration.


Organisme indépendant de veille et de consultation citoyenne: la mise en place d’un organisme de veille et de recherche sur les usages et les impacts sociétaux du numérique et de l’intelligence artificielle.


1- Politique d’audit et de certification des SIA: la mise en place d’une politique cohérente d’audit et de certification des SIA qui promeut un déploiement responsable.


2- Encapacitation et automatisation: le soutien de l’encapacitation des citoyens face aux technologies du numérique par l’accès à de la formation qui permet la compréhension, la critique, le respect et la responsabilisation afin de participer activement à une société numérique durable.


3- Formation et éthique: repenser la formation des partis concernés par la conception, le développement et l’exploitation des SIA en investissant dans la pluridisciplinarité et l’éthique.


4- Développement inclusif de l’IA: mettre en oeuvre une stratégie cohérente qui utilise les différentes ressources institutionnelles existantes afin de favoriser un développement inclusif de l’IA et de prévenir les biais et les discriminations potentiels liés au développement et au déploiement des SIA.


5- Protection de la démocratie: protéger la démocratie des manipulations politiques de l’information: la mise en oeuvre d’une stratégie d’endiguement des informations destinées à tromper les citoyens et de la manipulation politique sur les plateformes sociales et les sites Internet malveillants, ainsi qu’une stratégie de lutte contre le profilage politique afin de préserver les conditions d’un fonctionnement sain des institutions démocratiques et de l’exercice éclairé de la citoyenneté.


6- Dévoilement international de l’IA: l’adoption d’un modèle de développement international non prédateur qui vise l’inclusion des différentes régions du globe sans abuser des pays à faible revenu et à revenu intermédiaire (PFR-PRI).


7- Empreinte environnementale: mettre en oeuvre une stratégie publique/privée pour que le développement et le déploiement de SIA et des autres objets numériques soient à la fois compatibles avec une soutenabilité écologique forte et apportent des solutions à la crise environnementale.


Les citoyens sont invités à signer la Déclaration en ligne à l’adresse suivante : https://www.declarationmontreal-iaresponsable.com/je-signe


OFFICIAL LAUNCH OF THE MONTRÉAL DECLARATION FOR RESPONSIBLE DEVELOPMENT OF ARTIFICIAL INTELLIGENCE

Principles and recommendations for ethical development of AI are unveiled


Université de Montréal, in collaboration with the Fonds de recherche du Québec, is pleased to unveil the Montréal Declaration for Responsible Development of Artificial Intelligence. This set of ethical guidelines for the development of artificial intelligence is the culmination of more than a year of work, research and consultations with citizens, experts, public policymakers and industry stakeholders, civil society organizations, and professional orders.


Artificial intelligence (AI) is a major form of scientific and technological progress that can generate considerable social benefits. The development of AI, however, poses ethical challenges and social risks. It is incumbent on the various public and private stakeholders and policymakers, at the local, national and international levels, to ensure that the development and deployment of AI are compatible with the protection and fulfilment of fundamental human capacities and goals.


“Université de Montréal has been at the heart of many scientific breakthroughs in artificial intelligence, and I am pleased that a vast network of researchers and leaders from the scientific, legal, economic and political spheres has now coalesced around the social and ethical challenges related to AI,” said Université de Montréal rector Guy Breton. “I invite everyone with an interest in the subject to read the text of the Declaration and to sign it, so that their voice can be heard.”


“In addition to supporting the development of scientific expertise in artificial intelligence, it became important for the Fonds de recherches du Québec to take into account the ethical and societal aspects of progress in this field of research. With that in mind, I salute the work that led to the launch of the Montreal Declaration for Responsible Development of Artificial Intelligence, developed in collaboration with civil society. The new International Observatory on the Societal Impacts of Artificial Intelligence and Digital Technologies, announced yesterday, will most certainly be based on the principles contained in the Declaration” adds Rémi Quirion, Chief Scientist of Quebec.


Dr. Yoshua Bengio, a member of the Montréal Responsible AI Declaration Steering Committee, added: “As a scientist, I feel a great responsibility to see to it that the outcomes of my research and of developments across the AI spectrum are used for the benefit of as many people as possible. By integrating social responsibility principles at the outset of technological development in university and industry laboratories, we can have a truly positive and concrete impact. That is the distinguishing feature of this Declaration: it incorporates the concerns of all stakeholders in the field and rallies all of civil society around sound principles.”


The 10 principles of the Declaration


A key objective of the Declaration is to identify the ethical principles and values applicable to the fields of digital technology and AI that promote the fundamental interests of people and groups. These principles are as follows:


1- Well-being: The development and use of artificial-intelligence systems (AIS) must permit the growth of the well-being of all sentient beings.


2- Respect for autonomy: AIS must be developed and used with respect for people’s autonomy, and with the goal of increasing people’s control over their lives and their surroundings.


3- Protection of privacy and intimacy: Privacy and intimacy must be protected from intrusion by AIS and by data-acquisition and archiving systems.


4- Solidarity: The development of AIS must be compatible with maintaining the bonds of solidarity among people and generations.


5- Democratic participation: AIS must meet intelligibility, justifiability and accessibility criteria, and must be subjected to democratic scrutiny, debate and control.


6- Equity: The development and use of AIS must contribute to the creation of a just and equitable society.


7- Diversity inclusion: The development and use of AIS must be compatible with maintaining social and cultural diversity, and must not restrict the scope of lifestyle choices and personal experience.


8- Prudence: Every person involved in AIS development must exercise caution by anticipating, as far as possible, the potential adverse consequences of AIS use, and by taking appropriate measures to avoid them.


9- Responsibility: The development and use of AIS must not contribute to diminishing the responsibility of human beings when decisions must be made.


10- Sustainable development: The development and use of AIS must be carried out so as to ensure strong environmental sustainability of the planet.


The 8 recommendations of the Declaration


Based on these principles, recommendations have been developed, for the purpose of suggesting guidelines for accomplishing the digital transition within the ethical framework of the Declaration.


1- Organization for independent citizen scrutiny and consultation: An organization dedicated to the examination of and research into the uses and social impacts of digital technology and AI should be established.


2- SIA audit and certification policy: A coherent policy for the auditing and certification of AIS that promotes responsible deployment should be instituted.


3- Empowerment and automation: There should be support for empowerment of citizens in the face of digital technologies, in the form of access to education that enables understanding, critical thinking, respect, and accountability, so as to promote active participation in a sustainable digital society.


4- Education and ethics: The education of stakeholders concerned by the design, development and use of AIS should be rethought, with investment in multidisciplinarity and ethics.


5- Inclusive development of AI: A coherent strategy should be implemented, utilizing the various existing institutional resources, to promote inclusive development of AI and prevent potential biases and discrimination related to development and deployment of AIS.

6- Protection of democracy: To safeguard democracy against the manipulation of information for political ends, a containment strategy is required to prevent deception and political manipulation of citizens via malicious social platforms and websites, along with a strategy to combat political profiling, so as to maintain the conditions for healthily functioning democratic institutions and informed citizens.


7- International development of AI: A non-predatory model of international development should be adopted that aims to include the various regions of the globe without abusing low- and middle-income countries (LMICs).


8- Environmental footprint: A public/private strategy should be implemented to ensure that development and deployment of AIS and other digital technologies are compatible with robust environmental sustainability and conducive to advancement of solutions to the environmental crisis.


Citizens are urged to sign the Declaration online at the following address: https://www.declarationmontreal-iaresponsable.com/je-signe

2,736 vues1 commentaire

© 2018 Déclaration de Montréal pour le développement responsable de l'IA

Université de Montréal

Suivez-nous!

  • Grey Twitter Icon
  • Grey Flickr Icon