Il dibattito sull’intelligenza artificiale, IA, tocca temi di ordine morale, filosofico e legale. Molto spesso si mette in luce il problema della privacy nell’IA, anche quando è applicata al settore dell’istruzione.
La domanda che tutti si pongono è: che fine fanno tutti i dati che forniamo ai nostri assistenti virtuali o all’IA generativa?
In realtà, il dibattito sull’uso dell’IA è molto più ampio e tocca temi come la correttezza dei dati di partenza e la discriminazione di alcuni gruppi di persone o l’autenticità dei compiti svolti con l’IA.
In questo articolo vedremo quali sono le maggiori questioni etiche e di riservatezza collegate all’uso dell’IA nell’educazione.
IA e privacy: un problema generale
L’IA è una branca dell’informatica che addestra le macchine a comportarsi come esseri umani prendendo come modelli un’immensa quantità di dati. Analizzando la relazione statistica tra i dati, o basandosi su parametri più sofisticati, come succede con il deep learning o reti neurali, la macchina è in grado di fare cose straordinarie:
- Capire e rispondere agli esseri umani nel linguaggio naturale (la lingua che parliamo noi)
- Creare testi, immagini, video
- Interpretare il sentiment, il significato di discorsi
Le applicazioni dell’IA hanno trovato spazio in tutti gli ambiti della vita, inclusa l’istruzione. In ambito scolastico o accademico, per esempio, vengono usati dei sistemi di gestione dell’apprendimento, learning management system (Lms) basati su IA in grado di fornire materiale didattico sempre più personalizzato, in formati diversi e in linea con le preferenze di apprendimento degli studenti.
Lo stesso contenuto rispetta i criteri di accessibilità nell’istruzione con sistemi IA in grado di trasformare testi scritti in audio e immagini, generare automaticamente sottotitoli o file audio e naturalmente tradurre e fornire feedback in tempo reale.
I sistemi d’intelligenza artificiale applicati alle lingue permettono agli studenti di fare pratica di conversazione e ascolto con un assistente virtuale che li corregge passo passo allo scritto e all’orale.
Sembra tutto fantastico o è ancora meglio seguire delle ripetizioni online per prepararsi al meglio? Qual è il problema di fondo?
La questione principale legata alla privacy è che gli utenti cha parlano scrivono, fanno compiti con l’IA forniscono alla macchina una grande quantità di dati personali, ma non sappiamo come vengono trattati e archiviati tali dati.
L'Unione europea, Ue, ha chiesto alle case produttrici di IA generativa, quella cioè in grado di creare, il rispetto del Gdpr, le regole generali per la protezione dei dati che si applicano a tutte le aziende e agli individui che operano nell’Ue.
In questo modo sembra essersi risolto il problema della tutela e del trattamento dei dati degli utenti, ma il problema dei dati raccolti e usati dall’IA in realtà è a monte e risiede nei dati di partenza con cui è stata addestrata l’IA.
Quale sarà l'impatto dell'IA sull'educazione?
IA e privacy: correttezza dei dati e inclusione
La quantità di dati che serve all’intelligenza artificiale per analizzare, capire e creare un discorso umano è impressionante. Basti pensare che per addestrare ChatGPT, il potente chatbot lanciato dall’azienda OpenAI guidata da Sam Altman nel 2022, sono stati usati circa 500 miliardi di token, che equivalgono più o meno alle parole.
Quando chiediamo a ChatGPT di scrivere un articolo per noi, magari per una ricerca scolastica, non abbiamo alcuna idea di dove abbia preso i dati. Se è un argomento che non conosciamo bene, o abbastanza ampio, non abbiamo neanche gli strumenti per capire se i dati sono affidabili, autentici, verificati.
Il rischio è che l’IA produca qualcosa di falso.
Un altro problema legato all’origine dei dati deriva dal fatto che per la maggior parte sono stati usati i dati trovati su internet. Nel calderone potrebbero essere finiti non solo articoli o ricerche di enti con una buona reputazione, ma anche qualsiasi commento scritto dagli utenti su un social media.
Alcuni giornali, come il New York Times, hanno evidenziato che l’IA ha violato il proprio diritto d’autore, usando i propri articoli per creare testi per gli utenti. In realtà, il rischio è che oltre a essere lesivo dei diritti d’autore di qualcun altro, i testi prodotti dall’IA siano anche non inclusivi.
È capitato diverse volte che l’IA abbia trattato e interpretato immagini, testi o video in un modo non solo sbagliato, e quasi curioso, ma anche totalmente fuorviante o basandosi su un linguaggio non inclusivo e rispettoso.
Certo, il problema si risolverebbe dicendo agli studenti che non possono far fare il tema all’IA… ma sappiamo che serve una supervisione esterna e che forse è meglio seguire lezioni private e ripetizioni!
IA e istruzione: il processo decisionale
Pensa se l’IA analizza i dati scolastici degli studenti o viene usata dagli insegnanti per correggere un tema e deve scegliere quello che avrà un premio, o rappresenterà la scuola.
Se non è possibile assicurarsi che la capacità decisionale dell’IA allora il suo utilizzo nell’educazione deve essere regolamentato. Non si può consentire all’IA di prendere decisioni fondanti per l’istruzione degli studenti senza essere sicuri che i dati siano privi di pregiudizi, quelli che in inglese chiamano bias.
Inoltre, con tutti i dati che l’IA ha degli studenti è perfettamente in grado non solo di prendere le decisioni ma di indurre a decidere mostrando una sorta di manipolazione dei dati.
Come sappiamo, l’IA si basa sull’apprendimento automatico e sulle sue branche più all’avanguardia come il deep learning che consentono alla macchina di arrivare da sola a conclusioni, senza che sia l’uomo a suggerire le risposte.
L’IA parte dai dati di addestramento e analizza quelli forniti dall’utente e questo le consente di offrire contenuti personalizzati.
Ogni anno le Prove Invalsi dimostrano che l’andamento scolastico degli studenti è fortemente influenzato dal livello di economico e di istruzione della propria famiglia, dalla regione di residenza, dall’origine dei genitori ecc. Le disuguaglianze sociali peggiorano l’andamento scolastico e se si vuole utilizzare l’IA nell’istruzione è bene assicurarsi che il processo decisionale della macchina non acuisca la disparità tra gli studenti.
In che modo l'IA include le persone con disabilità?
IA nell’istruzione: libertà
L’apprendimento si basa sulla curiosità e sulla ricerca. Se uno studente ha delle difficoltà ad acquisire delle conoscenze, per esempio le operazioni in matematica, siamo sicuri che ripresentandogli i problemi sotto forma di video, testo o audio vada meglio? Non sarebbe meglio andare a ripetizioni?
A volte non sarebbe meglio affrontare un argomento in un modo totalmente diverso? Per esempio, per insegnare le operazioni di potrebbe organizzare un mercatino in classe dove bisogna fare la spesa, dividere e moltiplicare gli oggetti, addizionarli o sottrarli.
Se usata in modo ludico, l’IA può aiutare a stimolare la curiosità e la motivazione degli studenti. Per fare questo è importante che il docente abbia la libertà di esplorare le funzionalità dell’IA applicata all’istruzione e di scegliere gli strumenti come quelli basati sul gioco, gamification, che possono essere utili.
Il rischio dell’IA nell’istruzione è che l’insegnante deleghi completamente la creazione di contenuti, senza tenere conto delle esigenze degli studenti. Come con i dati di partenza, se c’è una chiara visione e metodologia allora anche l’IA può essere di grande aiuto agli insegnanti.
IA nell’istruzione: autenticità e dipendenza
Ora veniamo al più grande rischio dell’IA nell’istruzione per gli studenti. In realtà sono due: l’imbroglio e la dipendenza.
Quando chiedi a ChatGPT di fare un compito al posto tuo, sicuramente stai scegliendo la strada più breve. Il compito naturalmente non può essere considerato autentico. È chiaramente un imbroglio!
Oltre ai rischi che abbiamo visto prima sull’autenticità dei dati raccolti e quindi dei testi creati dall’IA c’è anche una questione morale. Gli studenti devono imparare e uno dei modi per imparare è fare degli errori. Se il compito è fatto da qualcun altro, che sia una persona o una macchina, non si può imparare!
Infine, diverse associazioni hanno messo in guardia sui rischi che l’uso dell’IA nell’istruzione faccia diventare i ragazzi ancora più dipendenti dalla tecnologia. Non bastano i reel, gli short, i social a riempire le giornate dei ragazzi?
Si può usare l'IA per imparare le lingue straniere?
IA e privacy: dibattito generale e bilancio nell’istruzione
Secondo un articolo di Wired, il dibattito sull’IA è dominato da quattro posizioni:
Apocalittica – Elon Musk, l’uomo che ha impiantato una rete neurale in un essere umano, nel 2022 metteva in guardia il mondo dai rischi dell’IA e dalla necessità di bloccarne lo sviluppo di sei mesi per regolamentarla.
Utopistica – Sam Altman e la sua OpenAI spingono per uno sviluppo dell’IA che consentirà di elevare gli esseri umani a livelli mai raggiunti prima.
Etica – Timnit Gebru, informatica di Google licenziata per un paper mai pubblicato sul rischio di bias e ambientali dell’IA, dice che servono regole contro la discriminazione.
Cauta – Bisogna sviluppare l’IA in modo sicuro imponendole dei limiti.
Il dibattito sull’IA nell’istruzione non può non tenere conto dei rischi etici e morali sollevati dall’IA. I dati di partenza devono essere corretti e liberi da qualsiasi forma di pregiudizio nei confronti delle persone disabili o delle minoranze, per esempio. L’uso dell’IA non deve cristallizzare le differenze di apprendimento che già ci sono, ma far superare le barriere dando libertà di insegnamento e apprendimento.
Ti è piaciuto quest'articolo? Lascia un commento
Loading...
