Principes directeurs pour une utilisation éthique et responsable de l’IA en recherche
Dix principes directeurs ont été établis afin d’encadrer l’usage des systèmes d'intelligence artificielle (SIA) en recherche. Fondés sur les meilleures pratiques en la matière, ils ont pour objectif de favoriser une intégration de l’IA qui soit à la fois responsable, éthique et rigoureuse au sein de la communauté scientifique ULaval.
1. Intégrité scientifique
L’IA peut enrichir la recherche à condition qu’elle soit intégrée dans un cadre de rigueur intellectuelle, de responsabilité individuelle et de conformité aux principes de conduite responsable en recherche. La valeur des contenus générés repose sur une validation humaine systématique qui assure leur fiabilité, leur cohérence, leur pertinence scientifique et leur véracité. Cette vigilance contribue à la crédibilité des résultats, à la confiance du public et au maintien de l’autonomie intellectuelle au sein de la communauté de recherche.
L’intégrité scientifique implique également une attention particulière à la qualité, à la pertinence et à la validité des données utilisées pour alimenter ou entraîner les SIA, ainsi qu’au respect des droits d’auteur et des licences encadrant leur utilisation. Les chercheuses et chercheurs doivent s’assurer que les données mobilisées sont exactes, représentatives et suffisamment documentées pour soutenir des analyses robustes, éviter des erreurs méthodologiques et favoriser la reproductibilité des travaux lorsque celle-ci est possible et appropriée au contexte disciplinaire. L’Université soutient cette intégrité en fournissant des repères clairs, des exemples concrets et des ressources (outils institutionnels, formations, guides, etc.) pour orienter l’usage des SIA dans un esprit de collaboration et d’innovation.
2. Vigilance sur les biais
Les SIA mobilisés en recherche nécessitent une attention constante pour identifier et limiter les biais présents dans les données, les modèles d’entraînement et les interprétations humaines. Ces biais, qu’ils soient culturels, sociaux ou historiques, peuvent influencer l’analyse et compromettre la qualité des résultats. Une approche proactive consiste à détecter, à corriger et à documenter les biais, afin de renforcer la validité scientifique et de favoriser une recherche ouverte à la pluralité des perspectives. L’Université soutient cette vigilance et organise des activités de sensibilisation interdisciplinaire, afin de réduire leurs effets de manière concrète.
3. Protection des données
L’utilisation des SIA en recherche implique une attention particulière à la cybersécurité et à la gouvernance des données, incluant la confidentialité, l’intégrité, la disponibilité et la conformité aux lois applicables (ex. la Loi 25 au Québec modernisant la protection des renseignements personnels, le Règlement Général sur la Protection des Données – RGPD de l’Union européenne, etc.). Les données sensibles, les résultats non publiés et la propriété intellectuelle doivent être protégés par des mesures techniques (chiffrement, authentification forte, sauvegardes) et organisationnelles (gestion des accès, politiques claires) pour éviter toute divulgation ou usage non souhaité. La localisation des données et des infrastructures doit être connue et conforme aux exigences institutionnelles et légales. Adopter une gestion responsable et transparente de l’information permet de préserver l’intégrité des travaux et la confiance de la communauté scientifique. L’Université appuie cette protection en formulant des lignes directrices, en offrant des solutions sécurisées et en favorisant l’utilisation de services conformes aux standards reconnus (ex. ISO 27001, SOC 2, etc.).
4. Transparence dans les usages
L’intégration des SIA en recherche requiert une communication claire et systématique sur les outils utilisés, leur rôle dans les démarches scientifiques, leurs paramètres, versions et limites, ainsi que sur la provenance des données et des modèles. Cette transparence favorise la reproductibilité des travaux, renforce la confiance entre les membres de la communauté et leurs partenaires et soutient l’intégrité des résultats. L’Université encourage cette pratique en proposant des repères pour documenter les contributions humaines et algorithmiques, assurer la traçabilité (journaux, métadonnées) et promouvoir l’explicabilité des résultats, adaptée aux exigences de chaque discipline.
5. Contextualisation disciplinaire
L’efficacité des SIA en recherche repose sur leur intégration réfléchie aux méthodes, aux langages, aux standards scientifiques et aux normes propres à chaque discipline. Pour assurer la pertinence et l’interprétabilité des résultats, l’usage des SIA doit être contextualisé, en tenant compte des exigences méthodologiques, des standards de publication et des pratiques reconnues dans chaque champ d’expertise. Cette adaptation inclut la collaboration interdisciplinaire pour enrichir les approches et prévenir les biais liés aux silos disciplinaires. L’Université soutient cette adaptation en encourageant une utilisation réfléchie, contextualisée et compatible avec les pratiques de chaque domaine de recherche.
6. Jugement humain
L’intégration des SIA en recherche repose sur le discernement, la créativité et la responsabilité des membres de la communauté de recherche. Si ces outils peuvent accélérer certaines étapes du processus scientifique, ils ne remplacent ni l’expertise humaine, ni la capacité à orienter les choix méthodologiques, ni la qualité des interprétations. Adopter un SIA implique de comprendre ses fonctions, ses limites et ses effets sur les démarches engagées. L’Université valorise cette complémentarité en promouvant une autonomie intellectuelle active, fondée sur la maîtrise des choix, la clarté des intentions et la rigueur disciplinaire. Elle inscrit les SIA dans une recherche où la pensée critique, l’innovation intellectuelle et la cohérence scientifique sont amplifiées, tout en maintenant le rôle central des membres de la communauté de recherche dans la production du savoir.
7. Développement continu des compétences
L’évolution rapide des SIA transforme les pratiques de recherche et exige une mise à jour continue des compétences techniques, éthiques, juridiques et disciplinaires. Développer une littératie numérique et critique des outils, de leurs limites et de leurs impacts permet de renforcer l’autonomie des membres de la communauté de recherche, d’améliorer la qualité des travaux et de saisir les opportunités offertes par l’IA. Cette actualisation inclut la veille technologique et réglementaire, ainsi que la capacité à anticiper les changements dans les standards scientifiques. L’Université soutient cette démarche en offrant un accompagnement institutionnel, favorisant une adoption responsable et durable des technologies émergentes.
8. Accessibilité équitable
Les SIA peuvent élargir les possibilités en recherche, mais aussi accentuer les inégalités si leur accès est limité. Favoriser une accessibilité universelle et équitable aux outils, aux compétences et aux infrastructures numériques est essentiel pour réduire les disparités et soutenir l’inclusion. Cette accessibilité inclut des mesures pour les personnes en situation de handicap, la diversité linguistique et la disponibilité financière des solutions. L’Université favorise l’accès à des plateformes conformes, des ressources partagées et des programmes de soutien, afin que l’IA renforce l’équité plutôt que l’exclusion, et contribue à une recherche ouverte et collaborative.
9. Responsabilité environnementale
La responsabilité environnementale doit guider l’usage des SIA en recherche, en visant à réduire leur empreinte écologique tout au long du cycle d’utilisation. L’Université privilégie des infrastructures écoresponsables, encourage la mutualisation des ressources et promeut la sobriété numérique pour éviter une consommation inutile. Cette démarche s’appuie sur des indicateurs et sur des pratiques collaboratives permettant de concilier innovation scientifique et durabilité.
10. Conscience sociétale
L’intégration des systèmes d’IA en recherche doit s’accompagner d’une vigilance proactive relativement à leurs impacts sociaux, culturels et politiques. Cette responsabilité implique d’anticiper et d’évaluer les effets potentiels sur les communautés, les institutions et la société, notamment en matière d’inégalités, de marginalisation, de désinformation et de manipulation algorithmique. L’Université soutient cette conscience sociétale en favorisant le dialogue interdisciplinaire, l’analyse critique des usages et l’engagement envers une innovation inclusive, transparente et socialement éclairée.
Évolution et mise à jour des principes
Dans un contexte de recherche en évolution constante, ces principes ne sont pas figés. Ils devront être réexaminés au fil du temps pour rester en phase avec les progrès rapides de l’IA et avec les transformations que ces systèmes entraînent dans les pratiques scientifiques. Leur mise à jour reflétera l’approfondissement des connaissances sur les systèmes d’IA, ainsi que les nouvelles réalités éthiques, méthodologiques, réglementaires et sociales qui émergent autour de leur usage en recherche. L’objectif est de s’assurer que ces principes demeurent un outil pertinent et adapté aux enjeux, aux attentes et aux responsabilités de la communauté de recherche.
Des questions?
Vous avez des questions en lien avec le numérique en recherche ou sur l'utilisation des systèmes d'intelligence artificielle en recherche? Communiquez avec l’équipe du Bureau du numérique en recherche!