Une grande partie des prestataires de formation continue voient des risques \u00e9thiques dans l’utilisation de l’IA. C’est ce que r\u00e9v\u00e8le l’\u00e9tude FOCUS de la FSEA. L’experte Insa Reichow explique comment ils peuvent n\u00e9anmoins garantir une utilisation \u00e9thiquement acceptable de l’IA.<\/p>\n\n\n\n
Selon les r\u00e9sultats de l’enqu\u00eate 2024 de la FSEA aupr\u00e8s des prestataires de formation continue, 60 % des prestataires suisses estiment que l’IA comporte des risques \u00e9thiques pour la formation continue. \u00cates-vous d’accord avec cette estimation ? Cette proportion vous para\u00eet\u2011elle r\u00e9aliste\u00a0? Et, le cas \u00e9ch\u00e9ant, quels risques voyez\u2011vous?<\/em><\/strong> Vous vous prononcez en faveur d’une \u00abutilisation \u00e9thiquement inoffensive de l’IA\u00bb dans le domaine de l’\u00e9ducation. Qu’est-ce que cela signifie exactement?<\/em><\/strong> Quelles mesures une organisation de formation continue peut-elle prendre pour utiliser l’IA de mani\u00e8re \u00e9thique?<\/em><\/strong><\/p>\n\n\n\n Les organisations de formation continue doivent d’une part garder un \u0153il sur la situation juridique. En particulier, les organisations de formation continue actives au sein de l’Union europ\u00e9enne doivent observer comment le r\u00e8glement sur l’IA est effectivement mis en \u0153uvre et quelles obligations en d\u00e9coulent pour l’organisation elle-m\u00eame (mot-cl\u00e9 : formation aux comp\u00e9tences en IA). Il est possible que certains aspects du r\u00e8glement sur l’IA s’imposent \u00e9galement en Suisse. D’un autre c\u00f4t\u00e9, il existe, en plus de ce domaine juridiquement contraignant, le domaine de l’\u00e9thique, qui peut \u00eatre librement abord\u00e9. Malheureusement, il y a souvent peu de place pour les r\u00e9flexions \u00e9thiques dans l’agitation des t\u00e2ches du quotidien. Discuter ensemble, se mettre d’accord sur des principes \u00e9thiques et int\u00e9grer diff\u00e9rents contextes professionnels demande du temps et un espace d\u00e9di\u00e9. Je recommande vivement aux organismes de formation continue de prendre le temps d’organiser des ateliers sp\u00e9cifiques sur l’\u00e9thique. Il s’agit de pr\u00e9voir des tables rondes de plusieurs heures au cours desquelles des repr\u00e9sentants de diff\u00e9rents groupes de parties prenantes se r\u00e9unissent pour discuter des aspects \u00e9thiques pertinents dans leur propre contexte et r\u00e9fl\u00e9chir ensemble aux aspects critiques de l’utilisation pr\u00e9vue de la technologie. Ensuite, on peut r\u00e9fl\u00e9chir ensemble aux mesures \u00e0 prendre pour att\u00e9nuer ces aspects critiques. Jusqu’\u00e0 pr\u00e9sent, nous avons utilis\u00e9 le mod\u00e8le MEESTAR (voir ci-dessus) comme point de d\u00e9part pour ces ateliers \u00e9thiques. Et pas de craintes \u00e0 avoir: il n’est pas n\u00e9cessaire d’avoir fait des \u00e9tudes d’\u00e9thique pour mener de telles r\u00e9flexions \u00e9thiques. Le bon sens et surtout la connaissance du groupe cible et du domaine d’application sont tout \u00e0 fait suffisants pour mener des discussions enrichissantes. Dans le cadre de ces discussions \u00e9thiques, mais aussi dans le discours public, il est de plus en plus important de nommer ce que nous entendons exactement par \u00abIA\u00bb. Le champ des technologies bas\u00e9es sur l’IA est d\u00e9sormais si vaste, m\u00eame dans le domaine de l’\u00e9ducation, que nous devons \u00eatre plus pr\u00e9cis afin de mener des discussions qui font du sens.<\/p>\n\n\n\n Dr. Insa Reichow travaille depuis juin 2021 en tant que chercheuse senior au sein du laboratoire de technologie \u00e9ducative du Centre allemand de recherche sur l’intelligence artificielle (DFKI). Elle a \u00e9tudi\u00e9 les sciences cognitives et la recherche sur l’enseignement et l’apprentissage et \u00e9tudie maintenant l’utilisation et l’impact des technologies bas\u00e9es sur l’IA (par exemple, les chatbots, les plateformes d’apprentissage adaptatives) dans les processus \u00e9ducatifs, <\/strong>notamment dans le cadre du projet Metavorhaben de la ligne de financement BMBF INVITE<\/a> (plateforme num\u00e9rique de formation professionnelle continue).<\/p>\n\n\n\n
La question pos\u00e9e dans l’enqu\u00eate aupr\u00e8s des prestataires est tr\u00e8s g\u00e9n\u00e9rale. Comme l’\u00abIA\u00bb n’est pas d\u00e9finie plus pr\u00e9cis\u00e9ment, nous ne pouvons que supposer ce que les personnes interrog\u00e9es ont imagin\u00e9 sous le terme \u00abIA\u00bb: l’utilisation de mod\u00e8les de langage pour aider \u00e0 cr\u00e9er des projets de cours? Des g\u00e9n\u00e9rateurs d’images pour illustrer le mat\u00e9riel p\u00e9dagogique? Un syst\u00e8me de recommandation orientant vers des formations continues en ligne adapt\u00e9es? Un syst\u00e8me bas\u00e9 sur l’IA pour la s\u00e9lection automatique des candidates et candidats? Il est certain que l’\u00e9valuation des risques \u00e9thiques diff\u00e8re tr\u00e8s nettement d’un sc\u00e9nario \u00e0 l’autre. Pour \u00e9valuer correctement ces risques, il faut examiner des cas d\u2019usage concrets. Les cadres peuvent aider \u00e0 d\u00e9terminer plus pr\u00e9cis\u00e9ment les risques \u00e9thiques. Ils mettent en \u00e9vidence les aspects \u00e9thiques qui jouent souvent un r\u00f4le dans les technologies d’IA. Des cadres d\u2019analyse peuvent aider\u00a0: le groupe d\u2019experts de haut niveau sur l\u2019IA de la Commission europ\u00e9enne retient notamment l\u2019\u00e9quit\u00e9, l\u2019explicabilit\u00e9, la pr\u00e9vention des dommages et le respect de l\u2019autonomie humaine comme principes d\u2019une IA digne de confiance, auxquels s\u2019ajoutent des exigences telles que la transparence, la robustesse et la s\u00e9curit\u00e9 techniques. Le fait que l’\u00e9ducation soit un domaine sensible dans lequel nous devons faire preuve d’une prudence particuli\u00e8re se refl\u00e8te \u00e9galement dans le r\u00e8glement de l’Union europ\u00e9enne sur l’IA. L’e r\u00e8glement sur l’IA. L’IA Act vise \u00e0 r\u00e9glementer certaines technologies d’IA dans toute l’UE et adopte pour cela une approche bas\u00e9e sur les risques. Le secteur de l’\u00e9ducation est un secteur \u00e0 haut risque qui impose des obligations particuli\u00e8res aux fournisseurs de technologies \u00e9ducatives avant m\u00eame que ces syst\u00e8mes ne puissent \u00eatre largement utilis\u00e9s. Outre notre propre boussole \u00e9thique, que nous pouvons utiliser pour remettre en question les technologies, il y aura donc \u00e0 l’avenir des exigences l\u00e9gales au sein de l’UE. Dans l’ensemble, ces d\u00e9veloppements autour du r\u00e8glement sur l’IA, le nombre croissant de lignes directrices \u00e9thiques et les r\u00e9sultats de l’enqu\u00eate aupr\u00e8s des prestataires montrent que nous sommes sensibilis\u00e9s \u00e0 la question de l’\u00e9thique. La prise de conscience de l’existence de risques \u00e9thiques nous am\u00e8ne, dans le meilleur des cas, \u00e0 examiner de mani\u00e8re critique les technologies disponibles, \u00e0 prendre des mesures pour rendre leur utilisation acceptable ou \u00e0 rejeter en connaissance de cause certaines technologies ou certains usages.<\/p>\n\n\n\n
Il n’existe pas de technologies qui soient totalement exemptes de pr\u00e9occupations \u00e9thiques pour toutes les parties concern\u00e9es, des d\u00e9veloppeurs aux utilisateurs finaux en passant par les producteurs. Peut-\u00eatre que le terme \u00ab\u00e9thiquement acceptable\u00bb serait plus appropri\u00e9. Un examen de l’acceptabilit\u00e9 \u00e9thique comprend des aspects sociaux, culturels et bas\u00e9s sur des valeurs qui ne font pas (encore) partie de la jurisprudence officielle, mais qui sont essentiels pour une conception fiable et durable des syst\u00e8mes techniques. Il s’agit d’aspects tels que ceux mentionn\u00e9s ci-dessus, par exemple la transparence et l’\u00e9quit\u00e9. Une utilisation \u00ab\u00e9thiquement acceptable\u00bb d’une technologie suppose que tous ces aspects \u00e9thiques possibles aient \u00e9t\u00e9 pris en compte pour l’application concr\u00e8te. Pour ce faire, les diff\u00e9rents acteurs, qu’il s’agisse des enseignants, des apprenants, des prestataires de formation continue ou des employeurs, doivent se parler. Qui profite de l’utilisation d’une technologie et comment ? Quels sont les inconv\u00e9nients possibles, y compris \u00e0 long terme, de l’utilisation d’une technologie dans notre contexte \u00e9ducatif ? Constatons-nous, par exemple, que certains groupes de personnes ne peuvent pas utiliser un outil? Craignons-nous que nos apprenants ne puissent plus d\u00e9cider de mani\u00e8re autonome de leur propre parcours \u00e9ducatif si des algorithmes d\u00e9terminent automatiquement les meilleurs parcours d’apprentissage? Ce sont l\u00e0 quelques-unes des questions qu’il faut discuter ensemble, en fonction de la technologie concern\u00e9e. Dans ce contexte, nous avons fait de bonnes exp\u00e9riences avec le mod\u00e8le MEESTAR. MEESTAR est un mod\u00e8le d’\u00e9valuation \u00e9thique des arrangements socio-techniques. Le mod\u00e8le a \u00e9t\u00e9 d\u00e9velopp\u00e9 dans le contexte des soins et des syst\u00e8mes d’assistance adapt\u00e9s aux personnes \u00e2g\u00e9es, mais il peut \u00eatre facilement adapt\u00e9 aux technologies dans le domaine de l’\u00e9ducation. Des ateliers de deux jours en g\u00e9n\u00e9ral permettent d’approfondir les enjeux \u00e9thiques et les dimensions d’une technologie et d’en d\u00e9duire des options d’action possibles pour la poursuite du projet ou le d\u00e9veloppement de la technologie. Certaines des nombreuses questions \u00e9thiques ne peuvent certainement pas \u00eatre clarifi\u00e9es \u00e0 l’avance et mon plaidoyer en faveur du d\u00e9bat \u00e9thique ne signifie pas non plus qu’il faille tout discuter et ne plus rien essayer. Au contraire: il faut souvent une mise en pratique dans le contexte \u00e9ducatif pour voir ce qu’une technologie apporte r\u00e9ellement. Si les diff\u00e9rents aspects \u00e9thiques ont \u00e9t\u00e9 examin\u00e9s pour diff\u00e9rents groupes d’acteurs, si des mesures ont \u00e9t\u00e9 prises pour minimiser les risques autant que possible et si l’on parvient ensemble \u00e0 la conclusion que l’utilisation d’une technologie dans un domaine \u00e9ducatif particulier est judicieuse, alors je consid\u00e9rerais cette utilisation comme \u00e9thiquement acceptable.<\/p>\n\n\n\nPlus d’informations<\/h2>\n\n\n\n