Trousse à outils pour soutenir l’utilisation de l’intelligence artificielle générative
Synthèses des directives, principes et balises sur l’utilisation de l’IA générative
Directive sur l’utilisation de l’IA générative dans les tâches administratives
Cinq principes directeurs balisent l’utilisation de l’IA générative dans les tâches administratives au Cégep de Rosemont.
Prioriser les systèmes les moins énergivores en adoptant une démarche de sobriété numérique
Avant de recourir à l’utilisation d’un système d’IA générative, il faut évaluer si l’utilisation d’un moteur de recherche classique ne pourrait pas permettre de trouver l’information recherchée à moindre cout énergétique. Il faut aussi se demander si l’utilisation d’un système d’IA générative apporte réellement une valeur ajoutée à la tâche que l’on souhaite réaliser.
Contrôle humain de toute production par l’IA générative avant sa diffusion ou son utilisation
Il est primordial que la vérification soit toujours le fait d’un être humain et d’exercer son jugement et sa réflexion éthique avant d’utiliser les résultats générés par une IA en relisant tout élément généré par un système d’IA générative.
Il est nécessaire de faire preuve d’esprit critique en vérifiant systématiquement la qualité du contenu généré par un système d’IA générative afin de s’assurer que le contenu généré ne contient pas de confabulation, qu’il est le plus possible exempt de contenu biaisé ou discriminatoire, et que les sources citées dans les résultats sont conformes à la réalité.
Protection des renseignements personnels, des informations confidentielles ou sensibles
Tout utilisateur de systèmes d’IA générative ne doit jamais inclure des renseignements personnels, des informations confidentielles ou des informations sensibles dans la formulation de requêtes dans un système public d’IA générative. Des informations confidentielles ou sensibles sont constituées de :
- Documents internes qui traitent de questions stratégiques;
- Données internes qui n’ont pas été produites avec le but explicite d’être partagées à l’ensemble de la communauté rosemontoise.
Il en va de même pour le respect des droits d’auteur et de la propriété intellectuelle, c’est-à-dire qu’il faut s’assurer d’obtenir toutes les autorisations requises pour utiliser du contenu protégé par des droits d’auteur dans tout système d’IA générative.
Maintien de la responsabilité individuelle de toute production assistée par l’IA générative
Puisque l’IA générative est un outil, les personnes demeurent entièrement responsables de l’utilisation qu’elles en font, et ce, d’autant plus si cette utilisation porte sur des communications officielles à l’externe comme aux instances internes de gouvernance ou si l’utilisation vise à produire des documents servant à soutenir la prise de décision. Ultimement, l’organisation et son personnel sont responsables de l’utilisation des résultats générés par les systèmes d’IA générative d’où l’importance d’en valider la véracité avant de les utiliser.
Utilisation transparente de l’IA générative
La transparence constitue un des principes fondamentaux pour assurer la confiance du public au service duquel le Cégep œuvre. Des logos doivent être utilisés dans les deux cas ci-dessous pour un usage institutionnel exclusivement.
- Pour toutes communications faites au nom du Cégep de Rosemont (soit à partir d’une adresse courriel générique @crosemont.qc.ca ou @cegepadisance.ca, c’est-à-dire au nom d’un service ou d’un bureau et non en votre nom);
- Pour tout document ou toute présentation destinée à des instances du Cégep de Rosemont ou à des partenaires externes.
Principes et balises de l’utilisation responsable de l’IAG dans les activités pédagogiques (à la formation ordinaire et à la formation continue)
Trois principes directeurs balisent l’utilisation de l’IA générative dans les activités pédagogiques au Cégep de Rosemont.
Principe 1 – L’autonomie professionnelle
Le personnel enseignant décide de permettre ou non aux étudiantes et aux étudiants d’utiliser les applications d’IAG dans le cadre des activités de son cours. Il a également le choix de les utiliser dans sa propre pratique, mais l’évaluation des compétences demeure sa responsabilité. Bien qu’autonome dans son développement professionnel, il est encouragé à comprendre les principes, limites et enjeux éthiques liés à l’usage des outils d’IAG.
Balises | Pour le personnel enseignant | Pour les élèves |
|---|---|---|
Dans le cas où l’utilisation des outils d’IAG est autorisée, préciser les modalités d’utilisation dans la section du plan de cours prévue à cet effet. | ✔️ | |
Dans le cas où l’utilisation des outils d’IAG est autorisée, préciser dans les consignes d’activités d’évaluation les outils permis et les contextes d’utilisation. | ✔️ | |
Dans le cas où l’utilisation des outils d’IAG est autorisée, former les étudiantes et les étudiants à l’utilisation des outils autorisés en montrant, notamment, des pratiques exemplaires.
| ✔️ |
Principe 2 – Le soutien à l’apprentissage
Le personnel enseignant s’assure que les instruments d’évaluation permettent de juger de l’atteinte des compétences des étudiantes et des étudiants en dépit de l’existence des applications d’IAG. Par ailleurs, la décision d’utiliser des applications d’IAG dans les activités pédagogiques repose sur une analyse des impacts positifs sur l’apprentissage et le développement des compétences.
Balises | Pour le personnel enseignant | Pour les élèves |
|---|---|---|
Utiliser l’IAG comme des outils d’apprentissage et d’aide à la création, et non comme des substituts à la pensée et à l’expression personnelle. | ✔️ | ✔️ |
Faire preuve de discernement et de responsabilité dans le choix et l’usage de l’IAG, en tenant compte de leurs impacts potentiels sur soi-même et sur les autres. | ✔️ | ✔️ |
S’engager à respecter les conditions d’utilisation prescrites par le personnel enseignant. | ✔️ | |
Adapter l’évaluation au contexte d’utilisation de l’IAG en mettant en place des mécanismes permettant un regard plus global sur le processus de réalisation de la tâche. | ✔️ | |
S’assurer que l’intégration de l’IAG soit justifiée par des avantages pour les apprentissages des étudiantes et des étudiants. | ✔️ |
Principe 3 – L’intégrité intellectuelle
Le personnel enseignant et élèves gardent une posture critique par rapport aux outils d’IAG et aux résultats des requêtes. Elles ou ils déclarent explicitement l’utilisation de l’IAG dans toutes leurs activités au Cégep selon les règles établies.
Balises | Pour le personnel enseignant | Pour les élèves |
|---|---|---|
Respecter la rigueur méthodologique et scientifique dans la conception, le développement et le déploiement des supports pédagogiques et, pour les élèves, des outils d’évaluation. | ✔️ | |
Citer les sources. | ✔️ | ✔️ |
Déclarer l’utilisation (les parties générées par l’IAG doivent être clairement identifiées). | ✔️ | ✔️ |
Documenter l’utilisation de l’IAG à chaque étape où elle a contribué à la production du contenu ou de la forme de quelque nature que ce soit. | ✔️ | ✔️ |
Produire les preuves nécessaires en cas de validation (traçabilité). | ✔️ | ✔️ |
Vérifier et valider de façon continue l’exactitude et la fiabilité des données générées par l’IAG. | ✔️ | ✔️ |
Respecter les consignes du personnel enseignant et les normes méthodologiques applicables au Cégep. | ✔️ |