La Commission européenne a récemment publié des lignes directrices éthiques sur l’utilisation de l’intelligence artificielle (IA) à l’intention du personnel enseignant. Elles constituent un instrument de travail utile pour l’introduction et l’utilisation de l’IA. Et leur publication n’est en aucun cas prématurée.
Certes, l’intelligence artificielle (IA) est depuis longtemps un thème d’actualité, également dans la formation continue. Mais depuis le lancement, à la fin de l’année dernière, de la plate-forme GPT par l’entreprise américaine Open AI, les débats autour de l’IA gagnent véritablement tous les domaines possibles. En effet, ChatGPT n’est plus un simple système de dialogue interactif basé sur du texte. Ses capacités vont bien au-delà de celles des agents conversationnels (« chatbots ») classiques.
ChatGPT apporte des réponses à toutes les questions possibles, et les réponses fournies sont parfois étonnamment brillantes et créatives. ChatGPT peut aussi rédiger des textes entiers ou analyser des business plans, répondre à des e-mails ou créer des codes de programmes. Il peut résoudre des problèmes de maths et réussir des examens, et ce pour n’importe qui. Cet agent conversationnel est tellement performant que son usage est déjà interdit dans les écoles aux États-Unis afin d’éviter tout utilisation abusive.
L’IA en ligne de mire
Jeff Maggioncalda, CEO de la plate-forme d’apprentissage en ligne Coursera, fait partie des utilisateurs réguliers de ChatGPT. Il n’échange pas seulement quotidiennement avec l’IA et lui laisse le soin de répondre à ses e-mails, Jeff Maggioncalda la considère – en étant tout à fait conscient des risques – comme un partenaire motivant pour développer les capacités cognitives, comme il l’a confié à CNN. Il n’est pas étonnant qu’il souhaite faire de l’IA un élément essentiel de son entreprise Coursera. Jeff Maggioncalda pense notamment à la possibilité, grâce à l’IA, de rendre plus flexible l’apprentissage pour les personnes qui n’ont pas accès à des cours en présentiel ni à des spécialistes.
Le CEO ne sera pas le seul gérant d’une plate-forme de formation continue à envisager l’utilisation de l’IA. La question de savoir à quelles règles il faut soumettre l’utilisation de l’IA dans le domaine de l’éducation se pose donc d’autant plus.
La Commission européenne édicte des lignes directrices
C’est précisément sur cette question que se penche la Commission européenne. À la fin de l’année dernière, elle a publié des lignes directrices éthiques sur l’utilisation de l’intelligence artificielle (IA) dans l’enseignement. Ces dernières sont conçues pour aider le personnel enseignant à comprendre le potentiel des applications de l’IA et de l’utilisation des données dans le domaine de l’enseignement et pour les sensibiliser aux éventuels risques. Une application des lignes directrices à l’échelle européenne est prévue dans les écoles, mais aussi dans les établissements de formation continue.
Pour faire connaître ces lignes directrices, la Commission européenne met en place différentes manifestations, comme celles dans le cadre du Pôle européen d’innovation numérique. En janvier dernier, celui-ci a organisé un atelier en ligne pour présenter les lignes directrices et montrer des exemples concrets de l’utilisation de l’IA dans l’éducation.
Un outil de travail pour le quotidien
Les lignes directrices, qui sont disponibles au téléchargement dans toutes les langues de l’UE, ne sont pas une réglementation rigide. Elles doivent plutôt être perçues comme un instrument de travail qui doit accompagner l’introduction et l’utilisation de l’IA dans le domaine de l’éducation. Elles commencent par une définition de l’IA et expliquent les méprises courantes au sujet de cette technologie. Des exemples d’utilisation de l’IA sont décrits, tout comme les exigences fondamentales pour une IA digne de confiance.
La base des lignes directrices est toutefois constituée par des questions concrètes que les institutions de formation et le personnel enseignant peuvent se poser lors de l’achat, la mise en œuvre et l’utilisation concrète d’un système d’IA. Il s’agit de 7 thématiques qui doivent permettre de déterminer si le système d’IA est «fiable, équitable, sûr et digne de confiance» et de comprendre «si la gestion des données éducatives est sécurisée et si le système d’IA protège la vie privée des personnes et est utilisé pour le bien commun».
Il s’agit des thèmes suivants:
- Priorité à l’action humaine et au contrôle humain
- Transparence
- Diversité, non-discrimination et équité
- Bien-être sociétal et environnemental
- Respect de la vie privée et gouvernance des données
- Robustesse technique et sécurité
- Responsabilisation
Des lignes directrices qui arrivent au bon moment
L’IA est une réalité et fera aussi son chemin dans les institutions de formation, si ce n’est pas encore déjà fait. Elle offre de nombreux avantages et contribue notamment à individualiser l’éducation et à la rendre plus flexible. Cependant, il ne faut pas minimiser les risques d’utilisation abusive et de perte de données. Compte tenu des évolutions techniques, la publication de ces lignes directrices sur l’utilisation de l’IA n’est en aucun cas prématurée.
Graphique: Commission européenne