C’est entourée d’une trentaine d’étudiants que l’équipe de l’Université de Montréal a donné le coup d’envoi à la coconstruction de la Déclaration de Montréal IA responsable le 16 février dernier. Des jeunes de secondaire 4 à universitaire ont débattu des grands principes pour déterminer des recommandations. Un débat enlevant, où l’intelligence collective a donné lieu à des idées créatives et engagées.

 

Yoshua Bengio, à titre de panéliste, a donné le ton le vendredi soir en parlant de l’importance de considérer tous les aspects sociaux et humains pour développer l’intelligence artificielle.

 

Dès le samedi matin, dans la salle de cours du Collège Maisonneuve, les professeurs de l’Université de Montréal Christophe Abrassart et Marc-Antoine Dilhac ont présenté la Déclaration et expliqué les enjeux éthiques liés à l’IA, ainsi que la méthode utilisée pour alimenter les discussions. Cette méthode consiste à mobiliser les groupes de travail autour de scénarios permettant de se projeter dans un avenir rapproché, et dans lesquels les IA soulèvent un questionnement éthique. Les thèmes abordés : monde du travail, éducation, santé et objets connectés.

 

Un groupe s’est projeté dans une classe du primaire de 2025, où AlterEgo, une IA qui assiste les professeurs, peut détecter les enfants en difficulté d’apprentissage et même faire des recommandations pédagogiques pour améliorer les résultats. Un outil fort appréciable, mais quel est l’effet sur l’estime de soi des élèves ?

 

Un autre groupe a discuté de l’histoire d’un couple qui se munit d’un FantastikCook, un appareil qui planifie et prépare lui-même le menu de la semaine ! Il est connecté à un réfrigérateur intelligent,  à leurs montres et leurs cellulaires. Les données sur leur sommeil, dépense d’énergie, quantité de gras consommé, sont enregistrées et transmises… à leur assurance santé. Quand le couple programme le FantastikCook pour un repas de burgers et frites, les conséquences déboulent. Est-ce que le paramétrage, conçu pour inciter certains choix dits santé devient un enjeu démocratique ?

 

Un 3e groupe a délibéré sur un scénario, où dans le cadre d’un programme gouvernemental « d’anticipation des comportements criminels » qui croise des données de documents juridiques, comportementales, bancaires et de médias sociaux, un homme se fait arrêter de façon préventive, mais erronée. Étant dans une mauvaise passe de sa vie, cet homme a colligé bien malgré lui des données qui l’ont injustement conduit à faire face à la justice. Est-ce qu’aborder un suspect permettra de réduire la criminalité ? Et en cas d’erreur, qui protégera ou « réparera » les dommages causés au citoyen ?

 

Finalement, un 4e groupe a discuté du scénario mettant en scène un jeune homme qui reçoit une notification sur son téléphone lui annonçant qu’un de ses jumeaux numériques vient de recevoir un diagnostic de dépression. L’instance gouvernementale qui gère le « nuage de santé mondial » suggère au jeune homme un traitement préventif adapté, mais il n’a pas vraiment le temps, ni l’intention de suivre. Outre les problèmes liés aux assurances, le personnage se voit discriminé quant à sa priorité d’accès aux soins quand d’autres problèmes de santé surgissent… Que penser de cette discrimination basée sur le mérite ? Comment concilier le respect de la vie privée et la mise en commun des données pour diminuer les risques en santé et augmenter l’efficacité des thérapies ?

 

Les recommandations furent créatives : de la nationalisation de l’IA à la création d’un institut pour la protection civile, toutes les propositions ont fait avancer la réflexion sur la place de l’humain dans la prise de décision et sur la gouvernance des données.

 

La coconstruction de la Déclaration de Montréal a été lancée le 3 novembre 2017 au Palais de congrès de Montréal lors du Forum IA responsable. Des activités de consultations ont lieu dans les bibliothèques municipales et sont ouvertes au grand public. Consultez notre calendrier, et participez à la réflexion collective.