La maggior parte degli enti di formazione continua ritiene che l’uso dell’intelligenza artificiale (IA) comporti rischi etici. Questo \u00e8 quanto emerge dallo studio FOCUS condotto dalla FSEA. L’esperta Insa Reichow spiega come sia possibile comunque gestire l’IA in modo accettabile.<\/p>\n\n\n\n
Secondo i risultati del sondaggio 2024 condotto dalla FSEA, il 60% degli enti svizzeri di formazione continua ritiene che l’IA comporti rischi etici per la formazione continua. \u00c8 d’accordo con questa valutazione? Se s\u00ec, quali rischi etici vede nell’uso dell’IA nella formazione (continua)?<\/em><\/strong><\/em><\/strong> Lei \u00e8 a favore di un \u00abuso eticamente ineccepibile dell’IA\u00bb nel campo della formazione. Cosa significa esattamente?<\/em><\/strong> Quali misure pu\u00f2 adottare un’organizzazione di formazione continua per utilizzare l’IA in modo eticamente accettabile?<\/em><\/strong><\/em><\/strong> La dottoressa Insa Reichow lavora da giugno 2021 come ricercatrice senior presso l’Educational Technology Lab del Centro tedesco di ricerca sull’intelligenza artificiale (DFKI). Ha studiato scienze cognitive e ricerca sull’insegnamento e l’apprendimento e ora sta studiando l’uso e l’impatto delle tecnologie basate sull’IA (ad esempio chatbot, piattaforme di apprendimento adattivo) nei processi formativi, <\/strong>tra l’altro nel progetto generale della linea di finanziamento BMBF INVITE<\/a> (piattaforma digitale per la formazione professionale continua)<\/em>.<\/em><\/p>\n\n\n\n
La domanda nel sondaggio svolto presso gli enti di formazione continua \u00e8 molto generica. Poich\u00e9 il termine \u201cIA\u201d non \u00e8 definito in modo pi\u00f9 dettagliato, possiamo solo supporre cosa gli intervistati abbiano immaginato: forse l’uso di modelli linguistici che assistono l\u2019utente nella creazione di progetti didattici? O generatori di immagini per illustrare il materiale didattico? Un sistema di raccomandazione che consiglia corsi di formazione online adeguati? Un sistema basato sull’IA per la selezione automatica dei candidati? Certamente, la valutazione dei rischi etici varia sensibilmente da un caso all\u2019altro. Per valutare in modo sensato i possibili rischi etici, dobbiamo quindi fare riferimento a tecnologie specifiche in casi d’uso concreti. I quadri di riferimento possono aiutare a determinare pi\u00f9 precisamente i rischi etici. Essi mostrano quali aspetti etici spesso giocano un ruolo nelle tecnologie di IA. Il gruppo di esperti di alto livello della Commissione europea per l’IA ha definito, ad esempio, \u00abequit\u00e0\u00bb, \u00abspiegabilit\u00e0\u00bb, \u00abprevenzione dei danni\u00bb e \u00abrispetto dell’autonomia umana\u00bb come principi che caratterizzano i sistemi di IA affidabili. Ha inoltre definito altri sette requisiti fondamentali, come \u00abtrasparenza\u00bb e \u00abrobustezza tecnica e sicurezza\u00bb. A questi requisiti piuttosto generici si aggiungono anche principi etici, che assumono un\u2019importanza particolare nel settore della formazione, come ad esempio il fatto che l’uso della tecnologia debba contribuire a promuovere l’equit\u00e0 nella formazione o al raggiungimento di obiettivi formativi concreti. Il fatto che il settore della formazione sia un settore sensibile in cui dovremmo prestare particolare attenzione si riflette anche nel regolamento dell’Unione Europea sull’IA. Questo regolamento mira a regolamentare determinate tecnologie di IA a livello di UE adottando un approccio basato sul rischio. Il settore della formazione \u00e8 considerato ad alto rischio, il che impone obblighi specifici ai fornitori di tecnologie formative, che devono soddisfare determinati requisiti prima ancora che questi sistemi possano essere utilizzati su larga scala. Oltre alla nostra bussola etica, che possiamo usare per mettere in discussione le tecnologie, in futuro ci saranno anche requisiti legali a livello dell’Unione Europea. Nel complesso, questi sviluppi relativi al regolamento sull’IA, il numero in continua crescita di linee guida etiche e anche i risultati del sondaggio svolto presso gli enti di formazione dimostrano che siamo sempre pi\u00f9 sensibilizzati al tema dell’etica. La consapevolezza dell’esistenza di rischi etici ci porta, nella migliore delle ipotesi, a esaminare criticamente le tecnologie disponibili, ad adottare misure per rendere il loro uso responsabile o anche all\u2019esclusione consapevole di determinate tecnologie o ambiti di applicazione. <\/p>\n\n\n\n
Non esistono tecnologie completamente prive di implicazioni etiche per tutte le parti coinvolte, dagli sviluppatori ai produttori fino agli utenti finali. Forse \u201ceticamente accettabile\u201d sarebbe quindi una formulazione migliore. Un esame dell\u2019accettabilit\u00e0 etica comprende aspetti sociali, culturali e basati sui valori che, sebbene non facciano (ancora) parte della giurisprudenza ufficiale, sono fondamentali per una progettazione affidabile e sostenibile dei sistemi tecnici. Si tratta di aspetti come quelli sopra menzionati, ad esempio la trasparenza e l’equit\u00e0. L’uso \u201ceticamente accettabile\u201d di una tecnologia presuppone che tutti questi possibili aspetti etici siano stati presi in considerazione per lo scopo specifico dell’uso. A tal fine, i vari attori, siano essi formatori, studenti, enti di formazione continua o datori di lavoro, devono dialogare tra loro. Chi beneficia dell’uso di una tecnologia e in che modo? Quali sono i possibili svantaggi, anche a lungo termine, di un uso nel nostro contesto formativo? Vediamo, ad esempio, che alcuni gruppi di persone sono esclusi dall\u2019uso di uno strumento? Temiamo che i nostri studenti non possano pi\u00f9 decidere autonomamente il proprio percorso formativo se gli algoritmi prescrivono automaticamente i percorsi di apprendimento ritenuti migliori? Queste sono solo alcune delle domande che devono essere discusse insieme in modo specifico per ciascuna tecnologia. In questo contesto abbiamo avuto buone esperienze con il modello MEESTAR. MEESTAR \u00e8 un modello per la valutazione etica degli accordi socio-tecnici. Il modello \u00e8 stato sviluppato nel contesto dell’assistenza infermieristica e dei sistemi di assistenza adeguati all’et\u00e0, ma \u00e8 facilmente adattabile alle tecnologie nel campo della formazione. In workshop che solitamente durano due giorni, vengono analizzate in profondit\u00e0 le sfide e le dimensioni etiche di una tecnologia e vengono derivate possibili opzioni di azione per l’ulteriore sviluppo del progetto o della tecnologia. Alcune delle numerose questioni etiche non possono essere chiarite in anticipo. Allo stesso modo il mio appello a un dibattito etico non deve essere interpretato come un invito a discutere all\u2019infinito senza sperimentare pi\u00f9 nulla. Al contrario: spesso \u00e8 necessario l’uso pratico nella realt\u00e0 formativa per vedere quali sono gli effetti reali di una tecnologia. Se i vari aspetti etici sono stati analizzati per i diversi gruppi di attori, sono state adottate misure per ridurre al minimo i rischi e si \u00e8 giunti alla conclusione comune che l’uso di una tecnologia in un determinato settore della formazione sia ragionevole, allora considererei questo uso eticamente accettabile. <\/p>\n\n\n\n
Da un lato, le organizzazioni di formazione continua dovrebbero tenere d’occhio la situazione giuridica. In particolare, le organizzazioni di formazione continua attive all’interno dell’Unione Europea dovrebbero monitorare come viene attuata concretamente la normativa sull’IA e quali obblighi derivano da essa per la loro attivit\u00e0 (parola chiave: formazione sulle competenze in materia di IA). \u00c8 possibile che alcuni aspetti del regolamento sull’IA si affermino come standard anche in Svizzera. D’altra parte, oltre a questo ambito giuridicamente vincolante, esiste anche un ambito etico che pu\u00f2 essere modellato liberamente. Purtroppo, spesso rimane poco spazio per le riflessioni etiche nella frenesia della vita quotidiana. Discutere insieme, comunicare i principi etici e coinvolgere diversi background professionali richiede tempo e un luogo dedicato. Consiglio vivamente alle organizzazioni di formazione continua di dedicare del tempo alla realizzazione di workshop specifici sull’etica. In altre parole, di programmare sessioni di discussione approfondite di diverse ore in cui i rappresentanti di vari gruppi di stakeholder si riuniscono per discutere quali aspetti etici siano effettivamente rilevanti per il proprio contesto e riflettere insieme su dove l’uso previsto della tecnologia potrebbe essere critico. Successivamente, si pu\u00f2 riflettere insieme su quali misure possano essere adottate per ridurre questi aspetti critici. Finora abbiamo utilizzato il modello MEESTAR (vedi sopra) come punto di partenza per questi workshop etici. E non preoccupatevi: non \u00e8 necessario aver completato gli studi di etica per condurre tali riflessioni. Il buon senso e soprattutto la conoscenza del gruppo target e dell’area di applicazione sono sufficienti per condurre discussioni proficue. Sia nelle discussioni etiche specifiche sia nel dibattito pubblico, diventa sempre pi\u00f9 importante definire esattamente cosa intendiamo per \u201cIA\u201d. Il campo delle tecnologie basate sull’IA \u00e8 ormai cos\u00ec vasto anche nel settore della formazione, che dobbiamo essere pi\u00f9 specifici per condurre discussioni pertinenti.<\/p>\n\n\n\nMaggiori informazioni<\/h2>\n\n\n\n