LA DÉCLARATION DE MONTRÉAL POUR UN DÉVELOPPEMENT RESPONSABLE DE L'INTELLIGENCE ARTIFICIELLE

Télécharger la version PDF

LIRE LA DÉCLARATION DE MONTRÉAL IA RESPONSABLE

UNE DÉCLARATION, POUR QUOI FAIRE?

La Déclaration de Montréal pour un développement responsable de l’intelligence artificielle poursuit pour
3 objectifs :

1. Élaborer un cadre éthique pour le développement et ledéploiement de l’IA ;


2. Orienter la transition numérique afin que tous puissent bénéficier de cette révolution technologique ;


3. Ouvrir un espace de dialogue national et international pour réussir collectivement un développement inclusif, équitable et écologiquement soutenable de l’IA.


 

UNE DÉCLARATION, DE QUOI ?

DES PRINCIPES

Le premier objectif de la Déclaration consiste à identifier les principes et les valeurs éthiques
qui promeuvent les intérêts fondamentaux des personnes et des groupes. Ces principes appliqués au domaine du numérique et de l’intelligenceartificielle restent généraux et abstraits. Pour les lire adéquatement, il convient de garder à l’esprit les points suivants :

  • Bien qu’ils soient présentés sous forme de liste, ils ne sont pas hiérarchisés. Le dernier principe n’est pas moins important que le premier. Mais il est possible, selon les circonstances, d’attribuer plus de poids à un principe qu’à un autre, ou de considérer qu’un principe est plus pertinent qu’un autre.

  • Bien qu’ils soient divers, ils doivent faire l’objet d’une interprétation cohérente afin d’évitertout conflit qui empêche leur application. D’une manière générale, les limites de l’application d’un principe sont tracées par le domaine d’application d’un autre principe.

  • Bien qu’ils reflètent la culture morale et politique de la société dans laquelle ils ont été élaborés, ils constituent une base pour un dialogue interculturel et international.

  • Bien qu’ils puissent être interprétés de diverses manières, ils ne peuvent pas être interprétés de n’importe quelle manière. Il est impératif que l’interprétation soit cohérente.

  • Bien que ce soit des principes éthiques, ils peuvent être traduits en langage politique et interprétés de manière juridique.

De ces principes ont été élaborées des recommandations dont l’objectif est de proposer des lignes directrices pour réaliser la transitionnumérique dans le cadre éthique de la Déclaration. Elles couvrent quelques thèmes intersectoriels clés pour penser la transition vers une société dans laquelle l’IA permet de promouvoir le bien commun : la gouvernance algorithmique, la littératie numérique, l’inclusion numérique de la diversité
et la soutenabilité écologique.

UNE DÉCLARATION, DE QUOI ?

La Déclaration de Montréal est adressée à toute personne, toute organisation de la société civile
et toute compagnie désireuses de participer audéveloppement de l’intelligence artificielle demanière responsable, que ce soit pour y contribuer scientifiquement et technologiquement, pourdévelopper des projets sociaux, pour élaborer desrègles (règlements, codes) qui s’y appliquent, pour pouvoir en contester les orientations mauvaises ou imprudentes, ou encore pour être en mesure de lancer des alertes à l’opinion public quand cela estnécessaire.


Elle s’adresse également aux responsables politiques, élus ou nommés, dont les citoyens attendent qu’ils prennent la mesure des changements sociaux en gestation, qu’ils mettent en place rapidement les cadres permettant la transition numérique pour le bien de tous, et qu’ils anticipent les risques sérieux que présente le développement de l’IA.

UNE DÉCLARATION SELON QUELLE MÉTHODE ?

La Déclaration est issue d’un processus délibératif inclusif qui met en dialogue citoyens, experts, responsables publics, parties prenantes de l’industrie, des organisations de la société civile et des ordres professionnels. L’intérêt de cettedémarche est triple :


1. Arbitrer collectivement les controverses éthiques et sociétales sur l’IA ;


2. Améliorer la qualité de la réflexion sur l’IA responsable ;


3. Renforcer la légitimité des propositions pour une IA responsable.


L’élaboration de principes et des recommandations est un travail de coconstruction qui a impliqué une diversité de participants dans des lieuxpublics, dans des salles de réunion d’organisations professionnelles, autour de tables rondes d’experts internationaux, dans des bureaux de chercheurs, dans des salles de cours ou en ligne sur internet, toujours avec la même rigueur.

APRÈS LA DÉCLARATION ?

Parce que la Déclaration porte sur une technologie qui n’a cessé de progresser depuis les années
1950 et dont le rythme des innovations majeures s’accélère de manière exponentielle, il est essentiel de concevoir la Déclaration comme un document d’orientation ouvert, révisable et adaptable en fonction de l’évolution des connaissances et des techniques, et des retours d’expériences sur l’utilisation de l’IA dans la société. À la fin du processus d’élaboration de la Déclaration, nous sommes arrivés au point de départ d’une conversation ouverte et inclusive sur l’avenir de l’humanité servie par les technologies de l’intelligence artificielle.

 
 

PRÉAMBULE

Pour la première fois dans l’histoire de l’humanité, il est possible de créer des systèmes autonomes capables d’accomplir des tâches complexes que l’on croyait réservées à l’intelligence naturelle : traiter de grandes quantités d’informations, calculer et prédire, apprendre et adapter ses réponses aux situations changeantes, et reconnaître et classer des objets.


En raison de la nature immatérielle de ces tâches qu’ils réalisent, et par analogie avec l’intelligence humaine, on désigne ces systèmes très divers par le terme général d’intelligence artificielle. L’intelligence artificielle constitue un progrès scientifique et technologique majeur qui peut engendrer des bénéfices sociaux considérables en améliorant les conditions de vie, la santé et la justice, en créant de la richesse, en renforçant la sécurité publique ou en maîtrisant l’impact des activités humaines sur l’environnement et le climat. Les machines intelligentes ne se contentent pas de mieux calculer que les êtres humains, elles peuvent interagir avec les êtres sensibles, leur tenir compagnie et s’occuper d’eux.


Le développement de l’intelligence artificielleprésente cependant des défis éthiques et des risques sociaux majeurs. En effet, les machines intelligentes peuvent contraindre les choix des individus et des groupes, abaisser la qualité de vie, bouleverser l’organisation du travail et le marché de l’emploi, influencer la vie politique, entrer en tension avec les droits fondamentaux, exacerber les inégalités économiques et sociales, et affecterles écosystèmes, l’environnement et le climat. Bien qu’il n’y ait pas de progrès scientifique ni de vie sociale sans risque, il appartient aux citoyennes et aux citoyens de déterminer les finalités morales et politiques qui donnent un sens aux risques encourus dans un monde incertain.


Les bénéfices de l’intelligence artificielle seront d’autant plus grands que les risques liés à sondéploiement seront faibles. Or le premier danger que présente le développement de l’intelligenceartificielle consiste à donner l’illusion que l’onmaîtrise l’avenir par le calcul. Réduire la société àdes nombres et la gouverner par des procédures algorithmiques est un vieux rêve qui nourrit encore les ambitions humaines. Mais dans les affaires humaines, demain ressemble rarement à aujourd’hui, et les nombres ne disent pas ce qui a une valeur morale, ni ce qui est socialement désirable.

 

Les principes de la présente Déclaration sont les directions d’une boussole éthique qui permet d’orienter le développement de l’intelligenceartificielle vers des finalités moralement et socialement désirables. Ils offrent aussi un cadre éthique qui permet de promouvoir les droits humains reconnus internationalement dans les domaines concernés par le déploiement de l’intelligenceartificielle. Pris dans leur ensemble, les principes formulés posent enfin les bases de la confiance sociale envers les systèmes artificiellement intelligents.


Les principes de la présente Déclaration reposentsur l’idée commune que les êtres humains cherchent à s’épanouir comme êtres sociaux doués de sensations, d’émotions et de pensées, et qu’ils s’efforcent de réaliser leurs potentialités en exerçant librement leurs capacités affectives, morales et intellectuelles. Il incombe aux différents acteurs etdécideurs publics et privés, au niveau local, national et international, de s’assurer que le développement et le déploiement de l’intelligence artificielle soient compatibles avec la protection et l’épanouissement des capacités humaines fondamentales. C’est en fonction de cet objectif que les principes proposés doivent être interprétés de manière cohérente, en tenant compte de la spécificité des contextes sociaux, culturels, politiques et juridiques de leur application.

1- PRINCIPE DE BIEN-ÊTRE

 

Le développement et l’utilisation de SIA doivent être compatibles avec le maintien de la diversité sociale et culturelle et ne doivent pas restreindre l’éventail des choix de vie et des expériences personnelles.


1) Le développement et l’utilisation de SIA ne devraient pas conduire à une uniformisation de la société par la normalisation des comportements et des opinions. 2) Le développement et le déploiement des SIA doivent prendre en considération les multiples expressions des diversités sociales et culturelles, et cela dès la conception des algorithmes. 3) Les milieux de développement de l’IA, aussi bien dans la recherche que dans l’industrie, doivent être inclusifs et refléter la diversité des individus et des groupes de la société. 4) Les SIA doivent éviter d’enfermer les individus dans un profil d’utilisateur ou une bulle filtrante, de fixer les identités personnelles par le traitement des données de leurs activités passées et de réduire leurs options de développement personnel, en particulier dans les domaines de l’éducation, de la justice et des pratiques commerciales. 5) Les SIA ne doivent pas être utilisés ni développés dans le but de limiter la liberté d’exprimer des idées et de communiquer des opinions, dont la diversité est la condition de la vie démocratique. 6) Pour chaque catégorie de service, l’offre de SIA doit être diversifiée afin que des monopoles de fait ne se constituent pas et ne nuisent aux libertés individuelles.





 2- PRINCIPE DE RESPECT DE L’AUTONOMIE

 

Le développement et l’utilisation de SIA doivent être compatibles avec le maintien de la diversité sociale et culturelle et ne doivent pas restreindre l’éventail des choix de vie et des expériences personnelles.


1) Le développement et l’utilisation de SIA ne devraient pas conduire à une uniformisation de la société par la normalisation des comportements et des opinions. 2) Le développement et le déploiement des SIA doivent prendre en considération les multiples expressions des diversités sociales et culturelles, et cela dès la conception des algorithmes. 3) Les milieux de développement de l’IA, aussi bien dans la recherche que dans l’industrie, doivent être inclusifs et refléter la diversité des individus et des groupes de la société. 4) Les SIA doivent éviter d’enfermer les individus dans un profil d’utilisateur ou une bulle filtrante, de fixer les identités personnelles par le traitement des données de leurs activités passées et de réduire leurs options de développement personnel, en particulier dans les domaines de l’éducation, de la justice et des pratiques commerciales. 5) Les SIA ne doivent pas être utilisés ni développés dans le but de limiter la liberté d’exprimer des idées et de communiquer des opinions, dont la diversité est la condition de la vie démocratique. 6) Pour chaque catégorie de service, l’offre de SIA doit être diversifiée afin que des monopoles de fait ne se constituent pas et ne nuisent aux libertés individuelles.





 

3- PRINCIPE DE PROTECTION DE L'INTIMITÉ ET DE LA VIE PRIVÉE

Le développement et l’utilisation de SIA doivent être compatibles avec le maintien de la diversité sociale et culturelle et ne doivent pas restreindre l’éventail des choix de vie et des expériences personnelles.


1) Le développement et l’utilisation de SIA ne devraient pas conduire à une uniformisation de la société par la normalisation des comportements et des opinions. 2) Le développement et le déploiement des SIA doivent prendre en considération les multiples expressions des diversités sociales et culturelles, et cela dès la conception des algorithmes. 3) Les milieux de développement de l’IA, aussi bien dans la recherche que dans l’industrie, doivent être inclusifs et refléter la diversité des individus et des groupes de la société. 4) Les SIA doivent éviter d’enfermer les individus dans un profil d’utilisateur ou une bulle filtrante, de fixer les identités personnelles par le traitement des données de leurs activités passées et de réduire leurs options de développement personnel, en particulier dans les domaines de l’éducation, de la justice et des pratiques commerciales. 5) Les SIA ne doivent pas être utilisés ni développés dans le but de limiter la liberté d’exprimer des idées et de communiquer des opinions, dont la diversité est la condition de la vie démocratique. 6) Pour chaque catégorie de service, l’offre de SIA doit être diversifiée afin que des monopoles de fait ne se constituent pas et ne nuisent aux libertés individuelles.





 

4- PRINCIPE DE SOLIDARITÉ

Le développement de SIA doit être compatible avec le maintien de liens de solidarité entre les personnes et les générations.


1) Les SIA ne doivent pas nuire au maintien de relations humaines affectives et morales épanouissantes, et devraient être développés dans le but de favoriser ces relations et de réduire la vulnérabilité et l’isolement des personnes. 2) Les SIA doivent être développés dans le but de collaborer avec les humains sur des tâches complexes et devraient favoriser le travail collaboratif entre les humains. 3) Les SIA ne devraient pas être mis en œuvre pour remplacer des personnes sur des tâches qui requièrent une relation humaine de qualité, mais devraient être développés pour faciliter cette relation. 4) Les systèmes de santé qui recourent aux SIA doivent prendre en considération l’importance pour les patients des relations avec le personnel médical et la famille. 5) Le développement des SIA ne devrait pas stimuler des comportements cruels avec des robots qui prennent l’apparence d’êtres humains ou d’animaux et semblent agir comme eux. 6) Les SIA devraient permettre d’améliorer la gestion des risques et créer les conditions d’une société de mutualisation des risques individuels et collectifs plus efficace.





 

5- PRINCIPE DE PARTICIPATION DÉMOCRATIQUE

Le développement et l’utilisation de SIA doivent être compatibles avec le maintien de la diversité sociale et culturelle et ne doivent pas restreindre l’éventail des choix de vie et des expériences personnelles.


1) Le développement et l’utilisation de SIA ne devraient pas conduire à une uniformisation de la société par la normalisation des comportements et des opinions. 2) Le développement et le déploiement des SIA doivent prendre en considération les multiples expressions des diversités sociales et culturelles, et cela dès la conception des algorithmes. 3) Les milieux de développement de l’IA, aussi bien dans la recherche que dans l’industrie, doivent être inclusifs et refléter la diversité des individus et des groupes de la société. 4) Les SIA doivent éviter d’enfermer les individus dans un profil d’utilisateur ou une bulle filtrante, de fixer les identités personnelles par le traitement des données de leurs activités passées et de réduire leurs options de développement personnel, en particulier dans les domaines de l’éducation, de la justice et des pratiques commerciales. 5) Les SIA ne doivent pas être utilisés ni développés dans le but de limiter la liberté d’exprimer des idées et de communiquer des opinions, dont la diversité est la condition de la vie démocratique. 6) Pour chaque catégorie de service, l’offre de SIA doit être diversifiée afin que des monopoles de fait ne se constituent pas et ne nuisent aux libertés individuelles.





 

6- PRINCIPE D'ÉQUITÉ

Le développement de SIA doit être compatible avec le maintien de liens de solidarité entre les personnes et les générations.


1) Les SIA ne doivent pas nuire au maintien de relations humaines affectives et morales épanouissantes, et devraient être développés dans le but de favoriser ces relations et de réduire la vulnérabilité et l’isolement des personnes. 2) Les SIA doivent être développés dans le but de collaborer avec les humains sur des tâches complexes et devraient favoriser le travail collaboratif entre les humains. 3) Les SIA ne devraient pas être mis en œuvre pour remplacer des personnes sur des tâches qui requièrent une relation humaine de qualité, mais devraient être développés pour faciliter cette relation. 4) Les systèmes de santé qui recourent aux SIA doivent prendre en considération l’importance pour les patients des relations avec le personnel médical et la famille. 5) Le développement des SIA ne devrait pas stimuler des comportements cruels avec des robots qui prennent l’apparence d’êtres humains ou d’animaux et semblent agir comme eux. 6) Les SIA devraient permettre d’améliorer la gestion des risques et créer les conditions d’une société de mutualisation des risques individuels et collectifs plus efficace.





7- PRINCIPE D'INCLUSION DE LA DIVERSITÉ

 

Le développement et l’utilisation de SIA doivent être compatibles avec le maintien de la diversité sociale et culturelle et ne doivent pas restreindre l’éventail des choix de vie et des expériences personnelles.


1) Le développement et l’utilisation de SIA ne devraient pas conduire à une uniformisation de la société par la normalisation des comportements et des opinions. 2) Le développement et le déploiement des SIA doivent prendre en considération les multiples expressions des diversités sociales et culturelles, et cela dès la conception des algorithmes. 3) Les milieux de développement de l’IA, aussi bien dans la recherche que dans l’industrie, doivent être inclusifs et refléter la diversité des individus et des groupes de la société. 4) Les SIA doivent éviter d’enfermer les individus dans un profil d’utilisateur ou une bulle filtrante, de fixer les identités personnelles par le traitement des données de leurs activités passées et de réduire leurs options de développement personnel, en particulier dans les domaines de l’éducation, de la justice et des pratiques commerciales. 5) Les SIA ne doivent pas être utilisés ni développés dans le but de limiter la liberté d’exprimer des idées et de communiquer des opinions, dont la diversité est la condition de la vie démocratique. 6) Pour chaque catégorie de service, l’offre de SIA doit être diversifiée afin que des monopoles de fait ne se constituent pas et ne nuisent aux libertés individuelles.





 

8- PRINCIPE DE PRUDENCE

Toutes les personnes impliquées dans le développement des SIA doivent faire preuve de prudence en anticipant autant que possible les conséquences néfastes de l’utilisation des SIA et en prenant des mesures appropriées pour les éviter.


1) Il est nécessaire de développer des mécanismes qui tiennent compte du potentiel de double-usage (bénéfique et néfaste) de la recherche en IA (qu’elle soit publique ou privée) et du développement des SIA afin d’en limiter les usages néfastes. 2) Lorsque l’utilisation détournée d’un SIA peut représenter un danger sérieux pour la sécurité ou la santé publique, avec une probabilité élevée, il est prudent de restreindre la diffusion publique ou l’accès libre à son algorithme. 3) Avant d’être mis sur le marché, qu’ils soient payants ou gratuits, les SIA doivent satisfaire des critères rigoureux de fiabilité, de sécurité et d’intégrité, et faire l’objet de tests qui ne mettent pas en danger la vie des personnes, ne nuisent pas à leur qualité de vie ni ne portent atteinte à leur réputation ou leur intégrité psychologique. Ces tests doivent être ouverts aux autorités publiques compétentes et aux parties prenantes concernées. 4) Le développement des SIA doit prévenir les risques d’une utilisation néfaste des données d’utilisateurs et protéger l’intégrité et la confidentialité des données personnelles. 5) Les erreurs et les failles découvertes dans les SIA et SAAD devraient être partagées publiquement par les institutions publiques et les entreprises dans les secteurs qui présentent un danger important pour l’intégrité personnelle et l’organisation sociale, et ce, à l’échelle mondiale.





9- PRINCIPE DE RESPONSABILITÉ

 

Toutes les personnes impliquées dans le développement des SIA doivent faire preuve de prudence en anticipant autant que possible les conséquences néfastes de l’utilisation des SIA et en prenant des mesures appropriées pour les éviter.


1) Il est nécessaire de développer des mécanismes qui tiennent compte du potentiel de double-usage (bénéfique et néfaste) de la recherche en IA (qu’elle soit publique ou privée) et du développement des SIA afin d’en limiter les usages néfastes. 2) Lorsque l’utilisation détournée d’un SIA peut représenter un danger sérieux pour la sécurité ou la santé publique, avec une probabilité élevée, il est prudent de restreindre la diffusion publique ou l’accès libre à son algorithme. 3) Avant d’être mis sur le marché, qu’ils soient payants ou gratuits, les SIA doivent satisfaire des critères rigoureux de fiabilité, de sécurité et d’intégrité, et faire l’objet de tests qui ne mettent pas en danger la vie des personnes, ne nuisent pas à leur qualité de vie ni ne portent atteinte à leur réputation ou leur intégrité psychologique. Ces tests doivent être ouverts aux autorités publiques compétentes et aux parties prenantes concernées. 4) Le développement des SIA doit prévenir les risques d’une utilisation néfaste des données d’utilisateurs et protéger l’intégrité et la confidentialité des données personnelles. 5) Les erreurs et les failles découvertes dans les SIA et SAAD devraient être partagées publiquement par les institutions publiques et les entreprises dans les secteurs qui présentent un danger important pour l’intégrité personnelle et l’organisation sociale, et ce, à l’échelle mondiale.





10- PRINCIPE DE DÉVELOPPEMENT SOUTENABLE

 

Le développement et l’utilisation de SIA doivent être compatibles avec le maintien de la diversité sociale et culturelle et ne doivent pas restreindre l’éventail des choix de vie et des expériences personnelles.


1) Le développement et l’utilisation de SIA ne devraient pas conduire à une uniformisation de la société par la normalisation des comportements et des opinions. 2) Le développement et le déploiement des SIA doivent prendre en considération les multiples expressions des diversités sociales et culturelles, et cela dès la conception des algorithmes. 3) Les milieux de développement de l’IA, aussi bien dans la recherche que dans l’industrie, doivent être inclusifs et refléter la diversité des individus et des groupes de la société. 4) Les SIA doivent éviter d’enfermer les individus dans un profil d’utilisateur ou une bulle filtrante, de fixer les identités personnelles par le traitement des données de leurs activités passées et de réduire leurs options de développement personnel, en particulier dans les domaines de l’éducation, de la justice et des pratiques commerciales. 5) Les SIA ne doivent pas être utilisés ni développés dans le but de limiter la liberté d’exprimer des idées et de communiquer des opinions, dont la diversité est la condition de la vie démocratique. 6) Pour chaque catégorie de service, l’offre de SIA doit être diversifiée afin que des monopoles de fait ne se constituent pas et ne nuisent aux libertés individuelles.





LEXIQUE

 

Le développement et l’utilisation de SIA doivent être compatibles avec le maintien de la diversité sociale et culturelle et ne doivent pas restreindre l’éventail des choix de vie et des expériences personnelles.


1) Le développement et l’utilisation de SIA ne devraient pas conduire à une uniformisation de la société par la normalisation des comportements et des opinions. 2) Le développement et le déploiement des SIA doivent prendre en considération les multiples expressions des diversités sociales et culturelles, et cela dès la conception des algorithmes. 3) Les milieux de développement de l’IA, aussi bien dans la recherche que dans l’industrie, doivent être inclusifs et refléter la diversité des individus et des groupes de la société. 4) Les SIA doivent éviter d’enfermer les individus dans un profil d’utilisateur ou une bulle filtrante, de fixer les identités personnelles par le traitement des données de leurs activités passées et de réduire leurs options de développement personnel, en particulier dans les domaines de l’éducation, de la justice et des pratiques commerciales. 5) Les SIA ne doivent pas être utilisés ni développés dans le but de limiter la liberté d’exprimer des idées et de communiquer des opinions, dont la diversité est la condition de la vie démocratique. 6) Pour chaque catégorie de service, l’offre de SIA doit être diversifiée afin que des monopoles de fait ne se constituent pas et ne nuisent aux libertés individuelles.





CRÉDITS

 

Le développement de SIA doit être compatible avec le maintien de liens de solidarité entre les personnes et les générations.


1) Les SIA ne doivent pas nuire au maintien de relations humaines affectives et morales épanouissantes, et devraient être développés dans le but de favoriser ces relations et de réduire la vulnérabilité et l’isolement des personnes. 2) Les SIA doivent être développés dans le but de collaborer avec les humains sur des tâches complexes et devraient favoriser le travail collaboratif entre les humains. 3) Les SIA ne devraient pas être mis en œuvre pour remplacer des personnes sur des tâches qui requièrent une relation humaine de qualité, mais devraient être développés pour faciliter cette relation. 4) Les systèmes de santé qui recourent aux SIA doivent prendre en considération l’importance pour les patients des relations avec le personnel médical et la famille. 5) Le développement des SIA ne devrait pas stimuler des comportements cruels avec des robots qui prennent l’apparence d’êtres humains ou d’animaux et semblent agir comme eux. 6) Les SIA devraient permettre d’améliorer la gestion des risques et créer les conditions d’une société de mutualisation des risques individuels et collectifs plus efficace.





 

© 2018 Déclaration de Montréal pour le développement responsable de l'IA

Université de Montréal

Suivez-nous!

  • Grey Twitter Icon
  • Grey Flickr Icon