Une initiative de l'Université de Montréal
LA COCONSTRUCTION EN UN COUP D'OEIL
POUR UNE IA RESPONSABLE
La Déclaration de Montréal IA responsable s’appuie sur une déclaration de principes éthiques qui s’articulent autour de 7 valeurs fondamentales : bien-être, autonomie, justice, vie privée, connaissance, démocratie et responsabilité. Ces valeurs, proposées par un groupe d’experts de l’éthique, du droit, des politiques publiques et de l’intelligence artificielle, ont été enrichies par un processus délibératif. Cette délibération a pris la forme de consultations qui se sont échelonnées sur trois mois, dans 15 lieux publics différents et ont suscité des échanges avec plus de 500 citoyens, experts et parties prenantes de tout horizon.
La délibération - EXPOSER, DÉBATTRE, PROPOSER
EXPOSER – Introduction pédagogique, éthique et méthodologique
Qu’est-ce que l’intelligence artificielle? Quels sont les enjeux éthiques soulevés par l’IA? Qu’est-ce que la coconstruction et surtout, qu’attend-on des citoyens? Les codirecteurs scientifiques de la Déclaration répondent à ces questions et mettent la table aux discussions qui suivront.
DÉBATTRE - Discussions en équipe sur les enjeux de l’IA
Éducation, Santé, Ville intelligente, Justice et Marché du travail sont les 5 secteurs autour desquels des scénarios prospectifs ont été élaborés. À partir de ces scénarios se déroulant en 2025, des groupes de 5 à 8 personnes, guidées par un facilitateur, discutent d’enjeux éthiques.
PROPOSER - Des enjeux éthiques aux propositions
À partir des enjeux formulés pour 2025, les participants doivent maintenant imaginer des recommandations pour permettre un déploiement et une utilisation responsables de l’IA au Québec.
UN APERÇU DES DÉLIBÉRATIONS
À l’une des tables discutant d’ÉDUCATION, il était question d’une classe du primaire de 2025 où AlterEgo, une IA qui assiste les professeurs, peut détecter les enfants en difficulté d’apprentissage et même faire des recommandations pédagogiques.
Exrait du débat
Depuis quand les données sur l’élève sont collectées? Qui a accès à ces données? Est-ce que l’enfant va vivre avec « son profil » toute sa vie d’étudiant? Le risque de discrimination est bien réel.
Une proposition retenue par le groupe
Tout le monde doit comprendre les conséquences de l’utilisation des données : les professionnels, les étudiants comme les parents. Une formation en littératie numérique est primordiale.
L’un des scénarios du thème de la VILLE INTELLIGENTE a porté la discussion sur un couple muni d’un appareil qui prépare lui-même le menu de la semaine et qui est connecté à un réfrigérateur intelligent, à leurs montres et leurs cellulaires. Les données sur leur sommeil, dépense d’énergie, quantité de gras consommé, sont enregistrées et transmises… à leur assureur santé.
Exrait du débat
Bien utile pour une vie chargée. Mais le jour où la famille souhaite manger un burger et une frite, est-ce qu’elle verra le coût de ses assurances augmenter? Les données sur la consommation, est-ce que ça peut être transmis à des compagnies? Sommes-nous autonomes face à nos choix dits santé?
Une proposition retenue par le groupe
La loi sur la protection des consommateurs devrait être modernisée, adaptée, afin d’éviter tout conflit d’intérêt. On doit s’assurer de la transparence de l’utilisation des données et l’utilisateur doit avoir le droit de paramétrer des objets connectés.
À l’une des tables sur la SANTÉ, on a discuté du cas de Soline, une dame âgée maintenue à domicile grâce à son robot Vigilo. Cette IA évalue l’évolution de la démence de la patiente, prépare ses piluliers et peut même converser avec elle. La famille peut consulter l’ensemble des données et des interactions à tout moment. Voilà qui est très rassurant pour la famille.
Exrait du débat
Rester à domicile, c’est une priorité pour la patiente, et un gain pour le système de santé. Mais est-ce qu’une prise en charge par un robot aura comme conséquence de déresponsabiliser la famille ET le personnel soignant? Et la patiente… souhaite-t-elle vraiment que sa famille sache tout sur elle?
Une proposition retenue par le groupe
Les programmes de recherche devraient favoriser le développement des algorithmes en open source (libre de droits) pour réduire le coût, pour la transparence et pour favoriser la mutualisation. Une bonne façon d’éviter la discrimination sociale et régionale.