Il documento “Guidance for generative AI in education and research”[1] è stato elaborato e proposto da UNESCO[2] e pubblicato il 7 Settembre 2023[3]. Vuole essere, come dichiarato nell’introduzione, “la prima guida globale dell’UNESCO per l’uso dell’intelligenza artificiale generativa”.La pubblicazione offre raccomandazioni concrete destinate ai decisori politici e al mondo dell’educazione su come l’uso degli strumenti GenAI possa e debba essere pensato e accompagnato per aiutare realmente studenti, insegnanti e ricercatori.
Scopo e rischi
Lo scopo prioritario della guida è quello di “supportare i paesi nell’attuazione di azioni immediate, pianificare politiche a lungo termine e sviluppare la capacità umana per garantire una visione delle nuove tecnologie incentrata sull’uomo”. Presenta infatti, senza sconti, una valutazione dei possibili rischi che l’intelligenza artificiale generativa può comportare per gli equilibri della nostra realtà. Potrebbe, infatti, mettere a rischio alcuni dei valori fondamentali che promuovono l’azione umana come l’inclusione, l’equità, l’uguaglianza di genere, le diversità linguistiche e culturali, nonché le opinioni e le espressioni plurali.
Senza toni allarmistici, propone alcuni passaggi chiave affinché le agenzie governative possano regolamentare l’uso dell’Intelligenza Artificiale, compreso l’obbligo di tutelare la privacy dei dati. Per esempio, come recentemente ha sottolineato il nostro garante della privacy[4], è importante che ci sia un limite di età per il loro utilizzo.
Delinea, inoltre, i requisiti per i fornitori affinché ci sia un uso etico ed efficace dell’Intelligenza Artificia nell’istruzione e sottolinea la necessità che le istituzioni che si occupano di educazione convalidino i sistemi di GenAI. I docenti e i dirigenti sono guidati nell’analisi dell’adeguatezza etica e pedagogica di tali sistemi. L’intelligenza artificiale è, daltronde, una sfida che interpella tutta la comunità internazionale a riflettere sulle possibili implicazioni a lungo termine per la conoscenza, l’insegnamento, l’apprendimento e la valutazione.
La guida si divide in sei capitoli che qui riassumiamo in maniera essenziale.
Che cos’è GenAI e come si può utilizzare nel mondo del lavoro
Il primo capitolo, intitolato “What is GenAI and how does it work?”, introduce il concetto di GenAI e le sue diverse modalità e modelli, ne spiega il funzionamento, le sue potenzialità e i limiti.
L’intelligenza artificiale generativa è una forma di intelligenza artificiale che può produrre nuovi contenuti, come testi, immagini, audio o video, a partire da grandi quantità di dati che i modelli hanno appreso. In questo capitolo sono ben descritti i principali modelli: quelli basati su modelli informatici, modelli statistici, modelli su reti neurali o modelli ibridi. Illustra inoltre alcuni esempi di applicazioni di GenAI nell’educazione e nella ricerca, come la creazione di domande e risposte, la generazione di testi narrativi o informativi, la sintesi vocale o la traduzione automatica, concludendo con una panoramica delle sfide e delle opportunità che il sistema GenAI offre per l’educazione e la ricerca. Viene sottolineata più volte la necessità di una visione umanistica e di una regolamentazione etica ed efficace di queste nuove tecnologie.
Questioni etiche e politiche
Non a caso il secondo capitolo si intitola “Ethical and policy issues around GenAI”. Analizza conseguentemente le questioni etiche e politiche nell’educazione e nella ricerca, come la protezione dei dati, la qualità e l’accuratezza dei contenuti generati, la responsabilità e l’accountability degli utenti e dei produttori, la diversità e l’inclusione, i diritti umani e i valori umanistici. Presenta infatti una serie di possibili questioni controverse e sfide che il sistema GenAI pone ai valori umani fondamentali: la dignità, i diritti, la libertà, la giustizia, la solidarietà e la sostenibilità. Entrando più nel dettaglio, si focalizzano i seguenti temi “caldi”:
- privacy dei dati e rischio di violazione, furto o uso improprio dei dati personali o sensibili degli utenti da parte dei fornitori di GenAI o di terze parti;
- qualità e affidabilità dei contenuti generati dal GenAI, rischio di errori, distorsioni, falsificazioni o manipolazioni che possono compromettere la veridicità, l’accuratezza e la validità delle informazioni;
- responsabilità e trasparenza dei processi e dei risultati e rischio di opacità, ambiguità o inganno che possono ostacolare la comprensione, l’interpretazione e la valutazione critica dei contenuti generati;
- diversità e inclusione delle persone e delle culture nel GenAI e rischio di discriminazione, esclusione o marginalizzazione che possono derivare da pregiudizi, stereotipi o disuguaglianze nei dati, nei modelli o nelle applicazioni;
- creatività e originalità degli autori umani e dei prodotti del GenAI e rischio di plagio, contraffazione o appropriazione indebita che possono minare la proprietà intellettuale, il merito e il riconoscimento;
- autonomia e interazione degli utenti umani e degli agenti del GenAI e rischio di dipendenza, alienazione o manipolazione che possono influenzare le decisioni, le preferenze e i comportamenti.
Il capitolo conclude con una riflessione sul ruolo dell’educazione e della ricerca per affrontare queste questioni etiche e politiche e per promuovere una visione più integrata e umanistica del GenAI.
Regole nell’uso di GenAI
Il terzo capitolo, intitolato “Regulating GenAI based on a human-centred approach”, propone una serie di passi chiave per regolamentare l’uso del GenAI nell’educazione e nella ricerca. È un approccio, centrato sull’uomo, che garantisce un uso etico, sicuro, equo e significativo di queste nuove tecnologie. In questa sezione si parla di protezione della privacy dei dati, di limite di età per le conversazioni indipendenti con le piattaforme GenAI, di validazione etica e pedagogica delle applicazioni GenAI, di formazione e di sensibilizzazione degli utenti e dei produttori, di monitoraggio e di valutazione degli impatti e dei rischi. Vengono proposte alcune azioni:
- adottare misure proattive per controllare l’integrazione delle tecnologie di Intelligenza artificiale nell’educazione, come la creazione di comitati etici, la definizione di standard di qualità e la formazione degli insegnanti e degli studenti;
- adottare misure preventive per proteggere la privacy dei dati degli utenti, come la richiesta del consenso informato, la limitazione dell’accesso ai dati e la criptazione dei dati;
- adottare misure protettive per garantire la sicurezza e l’affidabilità dei contenuti generati dal GenAI, come la verifica dell’autenticità, la correzione degli errori e la segnalazione delle fonti;
- adottare misure inclusive per promuovere la diversità e l’equità nel GenAI, come la rimozione dei pregiudizi, la rappresentazione delle minoranze e la riduzione delle disuguaglianze;
- adottare misure creative per stimolare la creatività e l’originalità nel GenAI, come il riconoscimento della proprietà intellettuale, l’incoraggiamento dell’innovazione e il sostegno alla collaborazione;
- adottare misure educative per sviluppare l’autonomia e l’interazione nel GenAI, come l’educazione alla cittadinanza digitale, il pensiero critico e il dialogo interculturale.
Il capitolo terzo si conclude con una discussione sul ruolo delle organizzazioni internazionali, come UNESCO, per sostenere i paesi nella regolamentazione del GenAI basandosi su una visione umanistica e su una raccomandazione etica sull’intelligenza artificiale.
Uso creativo di GenAI nell’educazione e nella ricerca
Il quarto capitolo, intitolato “Using GenAI creatively in education and research” esplora le possibilità di usare creativamente GenAI nella progettazione curricolare, nell’insegnamento, nell’apprendimento e nella ricerca, presentando alcuni esempi pratici di come queste applicazioni possano arricchire e personalizzare l’esperienza educativa, promuovere la diversità culturale e linguistica, stimolare la creatività e l’innovazione, e rafforzare le competenze di intelligenza artificiale.
Il capitolo propone alcune piste di utilizzo di GenAI:
- per creare domande e risposte su vari argomenti e livelli di difficoltà, per stimolare la curiosità, la motivazione e l’autovalutazione degli studenti;
- per generare testi narrativi o informativi su temi di interesse o di attualità, per arricchire il materiale didattico, sviluppare le competenze linguistiche e promuovere la lettura critica;
- per produrre audio o video su contenuti educativi o culturali, per facilitare l’accesso, la comprensione e la memorizzazione delle informazioni, soprattutto per gli studenti con bisogni speciali;
- per tradurre testi o discorsi tra diverse lingue, per favorire la comunicazione, la collaborazione e l’apprendimento interculturale tra studenti e docenti di diversa provenienza;
- per sintetizzare voci o immagini di personaggi storici, letterari o artistici, per rendere più coinvolgenti e realistiche le lezioni di storia, letteratura o arte;
- per simulare scenari o esperimenti in ambito scientifico, tecnologico o sociale, per permettere agli studenti di esplorare, ipotizzare e verificare le proprie conoscenze e abilità.
Si conclude con una riflessione sul ruolo di GenAI come strumento di supporto e non di sostituzione dell’educazione, sottolineandone sempre la necessità di un uso etico, sicuro, equo e significativo.
Implicazioni a lungo termine
Il quinto capitolo si intitola “Long-term implications of GenAI for education and research”. Si discutono le implicazioni a lungo termine del GenAI per l’educazione e la ricerca, riflettendo sulle sfide e le opportunità che queste tecnologie pongono per il futuro del lavoro, della conoscenza, della cultura e della società.
Si esplorano i seguenti interrogativi:
- come cambierà il ruolo degli insegnanti e dei ricercatori in un mondo in cui il GenAI può creare contenuti educativi e scientifici di alta qualità e personalizzati?
- come cambierà il ruolo degli studenti e dei ricercatori in un mondo in cui il GenAI può assistere, sostituire o superare le loro capacità cognitive, creative e collaborative?
- Come cambierà il ruolo delle istituzioni educative e di ricerca in un mondo in cui il GenAI può offrire opportunità di apprendimento e di innovazione a chiunque, ovunque e in qualsiasi momento?
- Come cambierà il ruolo della società e della cultura in un mondo in cui il GenAI può influenzare, modificare o generare i valori, le norme e le identità delle persone e delle comunità?
Il capitolo propone alcune risposte possibili a queste domande, basandosi su una visione più “umanistica” del GenAI, che ne valorizzi le potenzialità, e che ne limiti i pericoli.
Raccomandazioni per i prossimi scenari
Il sesto capitolo suggerisce anche alcune raccomandazioni per prepararsi ai prossimi scenari futuri sviluppando:
- una cultura dell’apprendimento permanente, che permetta alle persone di acquisire nuove competenze e conoscenze in modo continuo e adattivo;
- una cultura della creatività critica, che permetta alle persone di esprimere la propria originalità e individualità, ma anche di valutare la qualità e l’etica dei contenuti generati dal GenAI;
- una cultura della collaborazione inclusiva, che permetta alle persone di interagire e cooperare con gli altri, sia umani che artificiali, in modo equo e solidale;
- una cultura della cittadinanza responsabile, che permetta alle persone di partecipare attivamente alla vita sociale e politica, con consapevolezza e rispetto dei diritti umani.
Il capitolo si conclude con una riflessione sul ruolo del GenAI come partner e non come antagonista dell’educazione e della ricerca “umana”, tornando a sottolineare la di un uso etico, sicuro, equo e consapevole.
In sintesi
La guida, disponibile in formato PDF e in lingua inglese, è certamente una lettura consigliata per tutti gli educatori, i ricercatori, i decisori politici e i cittadini che vogliono approfondire il tema dell’Intelligenza artificiale generativa e del suo uso nell’educazione e nella ricerca. Costituisce anche un interessante documento da sottoporre agli studenti per riflettere insieme a loro sulle tematiche tecniche, etiche e politiche che emergono nei vari capitoli, per organizzare dibattiti e approfondimenti, in altre parole, per facilitare la conoscenza del GenAI in termini critici e consapevoli.
[1] Guidance for generative AI in education and research.
[2] Unesco: Organizzazione delle Nazioni Unite per l’educazione, la scienza e la cultura.
[3] L’articolo sul GenAI e il futuro dell’educazione è stato pubblicato sotto la direzione di Stefania Giannini, ex ministra dell’Istruzione, oggi Assistente Direttore Generale per l’Educazione di UNESCO. Nel documento si evidenzia una visione umanistica di UNESCO oltre che le raccomandazioni per la regolamentazione e l’uso etico ed efficace del GenAI (acronimo per Intelligenza Artificiale Generativa) nell’educazione e nella ricerca.
[4] Cfr CPDP. Garante della protezione dei dati personali.
