La coconstruction de l’automne 2018 : les activités clés
Les activités de coconstruction sont au cœur de la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle. Plusieurs ateliers ses sont tenus de janvier à mai, mais aussi cet automne. L’équipe de la Déclaration a en effet poursuivi ses activités en organisant 4 activités clés : une journée de coconstruction à Paris, un groupe de discussion avec la Coalition pour la diversité des expressions culturelles, et les étudiants-chercheurs, dans le cadre des Journées de la relève en recherche de l’ACFAS, ainsi qu’une conférence, suivi d’un échange, avec le Syndicat de la fonction publique et parapublique du Québec. Ces activités font l’objet d’un rapport sur la Déclaration de Montréal IA responsable, disponible sur le site web. Nous vous présentons ici un aperçu des enjeux et pistes de solutions dont il a été question pendant ces rencontres.
JOURNÉE DE COCONSTRUCTION AU CENTRE CULTUREL CANADIEN À PARIS
Organisée le 9 octobre dernier en partenariat avec l’Ambassade du Canada à Paris et la Maison des étudiants canadiens, cette journée de coconstruction a été l’occasion de discuter des enjeux de l’IA portant autour des thèmes de la démocratie, de l’environnement et du monde du travail.
Les enjeux de démocratie à travers les fausses nouvelles
Les participants ont discuté du fait que l’IA en elle-même n’est pas la cause d’atteintes à la démocratie : ces problèmes existent déjà, ils sont cependant nuancés ou augmentés par les possibilités permises par l’IA. Trois enjeux sont prioritaires selon eux :
1) Assurer la véracité et la fiabilité des informations pour préserver la santé des échanges démocratiques
2) Encadrer la diffusion des informations sans empiéter sur les libertés fondamentales par le développement, entre autres, de normes journalistiques et technologiques en matière de diffusion de l’information
3) Outiller les citoyens quant aux usages politiques de l’IA, pour que ceux-ci puissent se renseigner et développer leur propre opinion librement
Plusieurs propositions d’encadrement sont ressorties : la création d’une autorité de certification établissant des normes journalistiques via un système d’indicateur de fiabilité des informations. Des pistes de solution qui sont analysées en détail dans le rapport et qui ont enrichi la Déclaration.
Aborder les enjeux liés à l’environnement
À cette table de discussion, il fut question des enjeux éthiques des systèmes d’intelligence artificielle suivants : l’autonomie, la possibilité d’actions de réduction des gaz à effet de serre hors marché (ex. une initiative citoyenne sur la mobilité quotidienne) et, la question de la justice, la question de la possibilité, et des éventuelles limites, à la compensation carbone pour les plus riches, ou au partage des émissions évitées pour les citoyens ayant une consommation plus sobre.
Aborder les enjeux de la transition numérique dans le monde du travail
Les participants ont identifié une foule d’enjeux en lien avec le développement de l’IA dans le monde du travail. Les 3 qui furent déterminés comme prioritaires :
1) Comment encadrer l’évaluation de la performance en respectant à la fois les objectifs de l’entreprise (productivité) et l’individu (normalisation) ?
2) Comment faire en sorte qu’entreprise et employés comprennent l’IA (et garantir l’adhésion) ?
3)Comment L’IA peut contribuer au bien-être des employés.
Parmi les recommandations, il fut mentionné : la mise à jour du code du travail afin de l’adapter à la réalité numérique, une loi qui doit définir et imposer l’interprétabilité des IA et qui définit les critères minimums pour protéger le bien-être des individus, ou encore le financement de recherches publiques et d’études pilotes sur l’IA et ses impacts sur le monde du travail.
DISCUSSION AUTOUR DU THÈME DE LA CULTURE AVEC LES MEMBRES DE LA COALITION POUR LA DIVERSITÉ DES EXPRESSIONS CULTURELLES (CDEC-CANADA)
Afin d’aborder les enjeux relatifs au développement de l’IA dans le domaine de l’art et de la culture, un atelier de discussion a été organisé avec la CDEC le 25 septembre 2018, réunissant près de 11 experts et parties prenantes du domaine. Suite à cette session de travail, la CDEC a consulté ses membres, puis a produit d’un mémoire, disponible sur leur site. Les discussions préliminaires ont porté principalement sur les thématiques des droits d’auteur dans un contexte de cocréation par les IA et de l’enjeu de la diversité culturelle face aux nouveaux dispositifs de recommandation par algorithme.
Les discussions autour de ces thèmes ont fait émerger les enjeux sur la découvrabilité de nouveaux artistes, sur les conséquences sur l’emploi et sur les moyens de repenser les droits d’auteurs.
Dans son mémoire, la CDEC propose notamment un principe de valorisation de la culture, des artistes et des producteurs de contenus culturels. Elle propose ensuite un principe de transparence (au niveau du code des algorithmes, mais aussi des données prises en compte) et de dialogue (notamment, avec les utilisateurs). Enfin, un principe de primauté de l’intérêt public fait également partie des propositions.
RENCONTRE AVEC LES MEMBRES DU SYNDICAT DE LA FONCTION PUBLIQUE ET PARAPUBLIQUE DU QUÉBEC (SFPQ)
Le 17 octobre 2018, l’équipe de la Déclaration a participé à une journée organisée par le SFPQ sur le thème de l’Intelligence artificielle et de ses impacts sur le monde du travail. La rencontre réunissait des représentants syndicaux d’une dizaine de centrales syndicales ou syndicats indépendants.
Plusieurs thématiques ont été abordées et des questions, soulevées.
« Pourrait-on avoir un jour une IA morale ? » « Y a-t-il un risque de normalisation de nos conduites? » « Comment se préparer à ces changements dans le monde du travail ? » « Quels rôles jouent les médias dans un contexte de fausses nouvelles ? » « Dans le réseau de la santé et des services sociaux du Québec, on a mis en place un nouvel algorithme pour l’organisation du travail auprès des personnes ayant un soin à domicile, mais il soulève de nombreux problèmes chez les travailleurs sociaux, notamment l’utilisation d’un questionnaire auprès des usagers. Qu’en pensez-vous? »
Les représentants syndicaux poursuivront leur réflexion dans leur secteur. Une réflexion sur l’éthique de l’IA qui amènera certainement son lot de recommandations.
FAIRE LE PONT ENTRE LES CITOYENS ET LA RELÈVE : SIMULATION DE LA RÉDACTION DE BRÈVES POLITIQUES
Afin de faire le pont entre la relève en recherche et les citoyens, la Déclaration a participé à l’organisation d’une activité de simulation en partenariat avec le Comité intersectoriel étudiant (CIÉ) des Fonds de recherche du Québec (FRQ) et l’École de politique appliquée (EPA) de l’Université de Sherbrooke dans le cadre des Journées de la relève en recherche (J2R) organisées par l’Acfas. L’activité de simulation « Politique et intelligence artificielle » avait pour but de réunir des étudiants de la relève en recherche dans l’optique de produire 3 brèves politiques sur l’IA. C’est avec l’objectif de permettre à la relève de prendre part aux discussions relatives à l’IA et les enjeux éthiques et sociaux de son développement que cette activité s’est organisée.
Trois problématiques, issues des discussions de la coconstruction citoyenne réalisée lors de l’hiver 2018, ont été soumises aux étudiants. À partir de ces problématiques, les groupes de travail devaient formuler des brèves politiques. Ayant un objectif avant tout pédagogique, les recommandations présentées dans ces brèves se révèlent pertinentes et nous donnent ainsi accès à la perspective des étudiants de la relève ayant participé.
La première brève politique traite des conséquences engendrées par une mauvaise évaluation des capacités de l’IA, problème qui s’intègre dans la première problématique proposée sur la sécurité et l’intégrité des systèmes.
La seconde brève, intitulée « Fausses nouvelles, vrais enjeux : s’éduquer pour y faire face » aborde le problème de la manipulation de l’information (en particulier, la création de fausses nouvelles) sur internet par le biais de l’IA. Les étudiants ont mis de l’avant la nécessité de favoriser le développement d’un esprit critique.
La troisième brève traite de la problématique de la gouvernance de l’IA, explorant les enjeux liés aux brèches dans les politiques et les règlementations actuelles qui concernent le secteur de l’IA. Le défi est ici de trouver une forme de gouvernance de l’IA qui répond au mieux aux besoins des différents acteurs concernés (entreprises, citoyens, institutions publiques). L’objectif principal de cette brève politique est de fournir une méthode de travail et de réflexion afin de répondre adéquatement aux enjeux soulevés, dont les politiques actuelles mal adaptées et l’inquiétudes des citoyens.
La pertinence de cette activité nous a conduit à appuyer le CIÉ dans sa recommandation de créer plus d’opportunités pour les étudiants aux cycles supérieurs de se former aux activités professionnelles extra-académiques et plus particulièrement à la participation politique.
La version enrichie de la Déclaration de Montréal pour un développement responsable de l’IA.
Le 4 décembre dernier fut dévoilée la version enrichie de la Déclaration de Montréal. Les activités clés décrites dans cet article s’ajoutent aux activités de coconstruction de l’hiver, ainsi qu’à l’ensemble des mémoires reçus et des questionnaires répondus en ligne. La somme de ces délibérations et de ces textes a mené à l’élaboration de 10 principes éthiques et 60 sous-principes constituant la Déclaration. L’ensemble de la démarche et des résultats d’analyse est disponible sur notre site web, dans le rapport de la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle 2018.