Nella giornata di mardedì 26 novembre 2024 ha avuto luogo presso la Facoltà di Lingue e letterature straniere dell’Università di Genova e online su Teams il seminario dal titolo “IA tra opportunità e rischi nella ricerca. Impatto dell’IA sulla metodologia della ricerca tradizionale”, tenuto dall’Ing. Giovanni Paolo Caruso.
Ingegnere elettronico dal 2005, Giovanni Paolo Caruso lavora come tecnologo presso l’ITD-CNR di Genova su tematiche quali l’Inclusione socio-educativa, l’Accesso agli strumenti e alle informazioni, la Cybersecurity, l’Intelligenza Artificiale generativa nel contesto educativo e la Formazione / Disseminazione.

L’intervento, da lui svolto durante la seconda giornata del seminario organizzato nell’ambito della programmazione didattica e di ricerca del dottorato il Digital Humanities, si è focalizzato su diversi aspetti inerenti all’ambito della ricerca relativa allo sviluppo delle IA. .

Introduzione all’Intelligenza Artificiale Generativa

In primis l’Ing. Caruso ha offerto una panoramica sulle IA generative e la loro storia, iniziando dalla nascita dei primi pensieri sull’intelligenza artificiale proposti da Alan Turing con la pubblicazione nel 1950 del suo articolo “Computing Machinery and intelligence”, nel quale il matematico pose uno degli interrogativi alla base dello sviluppo del settore: “Può una macchina pensare?”. Per rispondere a tale domanda Turing propose il proprio esperimento, che nato negli anni ‘60, portò allo sviluppo di due diversi modelli di “intelligenza artificiale”: quello deduttivo e quello induttivo.

Un’intelligenza deduttiva, denominata anche simbolica, si muove dal generale al particolare e si  basa sull’uso dei simboli per la rappresentazione della conoscenza usando la logica aristotelica. Tuttavia, tale posizione porta con sé delle criticità; in particolare il Teorema di Gödel ha dimostrato che esiste un’infinità di problemi che non possono essere dimostrati tramite l’applicazione di una logica di questo tipo.
Un’intelligenza induttiva, per contro, segue un approccio dal particolare al generale e si basa su grandi quantità di dati, grazie ai quali è possibile estrarre modelli e regole utili per comprendere i fenomeni che li generano e predirne il comportamento. Tali moli di dati vengono elaborate dalle IA in vari modi, ma in ognuno dei casi si parla di apprendimento. Questo può essere di tipo:

• supervisionato: in cui l’utente fornisce i dati input e il modello fornisce l’output ricevendo un feedback (giusto/sbagliato);
• non supervisionato: che segue la stessa procedura, ma senza feedback; in quanto è il modello che deve capire da solo se sta sbagliando;
• semi-supervisionato;
• attivo.

Un primo quesito che ci si può porre, quindi, è: “Quali devono essere le dimensioni di un dataset?”. La risposta non è semplice: da una parte, ci deve essere il maggior numero di dati possibile e, dall’altra, la quantità minima di dati sufficiente a garantire che la macchina non restituisca degli output errati. L’accuratezza dei dati è fondamentale ed è direttamente proporzionale all’accuratezza dell’output restituito, che dipende anche dal modello usato dalla macchina.

Tra i modelli di IA generativa più comuni si trovano:

• gli LLM, ossia dei modelli ottimizzati per processare il linguaggio naturale (NLP). Si tratta tuttavia ancora di pappagalli stocastici che predicono quale simbolo deve seguirne un altro in base agli esempi che hanno a disposizione e sono in grado di riconoscere il sentiment di un testo e di tradurlo, riscriverlo o rispondere alle domande;
• i LAM (Large Action/Agenting Models) che sono ottimizzati per analizzare le azioni compiute dagli umani e predirne il comportamento futuro. Impiegati nella creazione di assistenti che comprendo le richieste degli utenti ed eseguono azioni, come ad esempio i chatbot.
• i RAG (Retrieval-Augmented Generation), in grado di addestrarsi con maggiore frequenza rispetto agli LLM, online e su contenuti elaborati ad hoc;

La maggior parte di questi modelli sono basati sull’architettura dei Transformers, che permettono di estrapolare le relazioni fra i token che gli vengono forniti per poi passarle agli LLM.

Opportunità e vantaggi

Numerosi sono i vantaggi offerti dall’intelligenza artificiale generativa a supporto della ricerca tradizionale, in particolare modo la generazione automatica di ipotesi e idee e quindi il suggerimento di domande di ricerca; l’analisi rapida ed efficiente di una grande quantità di dati in tempi contenuti e quindi l’elaborazione dei dati; l’individuazione di pattern e modelli per estrapolare informazioni che si ripetono ed elaborare successivi schemi; il supporto nella stesura di articoli scientifici, relazioni e, sempre più spesso, tesi. Per quanto riguarda quest’ultimo punto, si tratta di un tema molto discusso e sul quale non c’è ancora ampio accordo, dato che investe non solo le tesi di ambito accademico, bensì anche compiti e temi prodotti e presentati all’interno di ordine e grado inferiori.

Come esempio pratico per mettere in luce i risvolti positivi dell’intelligenza artificiale, è stato presentato il progetto TRIS (Tecnologie di Rete e Inclusione Socioeducativa) nato nel 2014 nell’ambito dell’apprendimento. Tramite l’utilizzo di Google Notebook LM, assistente di ricerca e strumento per prendere appunti basato sull’intelligenza artificiale sviluppato da Google, lo scopo del progetto era quello di proporre soluzioni per l’insegnamento verso studenti impossibilitati ad una normale frequenza scolastica per motivi che non rientrano né nell’istruzione domiciliare (ID) né nella scuola in ospedale. Il diritto allo studio di tali studenti facenti parte di una categoria “grigia” deve essere garantito; quindi, è stato creato un modello che permettesse allo studente di lavorare a distanza. 

Rischi e sfide

Tuttavia, accanto ai principali vantaggi dell’IA, emergono anche rischi e sfide: a livello più macroscopico, sono stati evidenziati sia nel seminario sia in letteratura i rischi di pregiudizio (bias) e discriminazione, poiché i modelli sono addestrati in contesti occidentali e più frequentemente legati alla lingua inglese. Un’altra questione emersa è quella della mancanza di trasparenza, dove i modelli di IA Generativa vengono spesso paragonati a una “scatola nera” (black box), intendendo come non sia possibile tracciare le fasi ed i processi di addestramento della macchina né percorrerli a ritroso. A questi due fenomeni, legati al rischio di mancanza di trasparenza ed alla diffusione di convinzioni discriminanti, si accompagna una fiducia eccessiva e acritica (overreliance) nelle risposte fornite dagli strumenti di IA Generativa, dove gli utenti tendono a considerare vero l’output fornito dallo strumento, un po’ come accade con i risultati forniti da un motore di ricerca.

È importante considerare che l’IA non è progettata con lo scopo di riferire informazioni restituendole così come le trova, ma elaborandole creando pattern che potrebbero servire a risolvere problemi. Come tale, l’IA non andrebbe usata come motore di ricerca ma come interlocutore, con la debita curiosità e diffidenza che mettiamo in atto con interlocutori sconosciuti. Questa eccessiva fiducia è evidente, in campo educativo e accademico, quando gli strumenti IA vengono utilizzati per produrre testi o eseguire compiti, con il concreto rischio di plagio, fenomeno che rimanda ad un altro problema, legato alla proprietà intellettuale ed alla necessità per le istituzioni di creare linee guida condivise. 

Dataleak & Databreach

A questi rischi appena descritti si aggiungono rischi concreti, quali la condivisione di informazioni sensibili e di materiali protetti da diritti d’autore, nonché la potenziale rivelazione di segreti industriali, in quanto inserire queste informazioni nelle richieste effettuate porta questi dati ad essere integrati nelle fasi successive di training, rendendo queste informazioni potenzialmente accessibili a chiunque.

Il principale rischio associato all’uso dell’IA generativa è l’esfiltrazione di informazioni personali o sensibili, che può portare a furti d’identità o data breach. Gli attacchi possono essere motivati dall’intento di ottenere vantaggi economici o l’accesso a documenti e risorse riservate. Inoltre, vi è la possibilità di arrecare danni o destabilizzare individui, organizzazioni o intere società, con conseguenze come il danno d’immagine, azioni di cyberwarfare o la diffusione di fake news.

L’esposizione accidentale o intenzionale di informazioni sensibili da parte di un LLM prende il nome di “Data Leakage” (fuga di informazioni). Il Data Leakage si può trasformare in “Data Breach”, ossia ovvero la distruzione, la perdita, diffusione non autorizzata, accesso a informazioni trasmesse, stoccate o processate in altro modo all’interno di un supporto, per farne uso contro altre persone.
Le cause di un Data Breach possono essere molteplici e si manifestano in diverse modalità. Un esempio comune è il furto o lo smarrimento di dispositivi personali o aziendali, che possono contenere informazioni sensibili. Anche il furto di identità digitale rappresenta un rischio significativo, poiché consente a malintenzionati di accedere ai nostri account e utilizzare le informazioni personali per fini illeciti, come il ricatto. Altre cause molto diffuse sono la propagazione di malware, ransomware, cryptolocker o altri virus, spesso presenti in software craccati, che possono bloccare l’accesso ai file, esportarli nel dark web e richiedere un riscatto per recuperarli, e le truffe online, come il phishing, smishing e qishing, che sfruttano pagine web ingannevoli per sottrarre credenziali di accesso.
A ciò si aggiungono cattive abitudini personali, come l’utilizzo di password deboli o riutilizzate per più servizi, che facilitano l’accesso non autorizzato ai dati. Anche un’eccessiva esposizione sui social network, l’accesso da parte di terzi ai nostri account e la mancata creazione di backup su supporti esterni contribuiscono ad aumentare il rischio di violazioni dei dati.

Riprendendo l’esempio del Cyberspazio, nel contesto di una classe ibrida le vittime potenziali includono sia le persone – studenti, famiglie, docenti, dirigenti e ricercatori – sia le organizzazioni coinvolte.

Accenni legislativi

Con lo sviluppo e la presenza sempre più pervasiva dell’Intelligenza Artificiale generativa in ogni ambito della società, gli organi nazionali e internazionali si stanno dotando di nuovi protocolli legislativi che possano normare e arginare le problematiche di cybersecurity. 

Per quanto concerne l’Unione Europea dal 2016 è stato adottato il General Data Protection Regulation 2016/679 (GDPR), che si pone come obiettivo la protezione dei dati degli utenti dando omogeneità in ambito comunitario, al fine di garantire la totale trasparenza in merito al trattamento di informazioni sensibili e personali.

A questo si somma l’EU Artificial Intelligence Act, il primo regolamento sull’AI da parte di un’autorità di regolamentazione ufficiale, approvato da parte del Consiglio dell’Unione europea il 21 maggio 2024. Tale legge ha come scopo categorizzare e normare le applicazioni dell’intelligenza artificiale in base al rischio di causare danni ai cittadini. Nello specifico, tale classificazione distingue i programmi AI in tre diversi livelli di rischio. Le pratiche che creano un rischio inaccettabile sono vietate all’interno dell’Unione Europea in quanto comportano gravi pericoli in merito ai diritti fondamentali dell’uomo, quali salute e sicurezza. Tra queste, ci segnalano a titolo esemplificativo: i sistemi di manipolazione subliminale, di social scoring e di classificazione biometrica in tempo reale in spazi accessibili al pubblico. Si hanno in seguito quelle che vengono definite applicazioni ad alto rischio, il cui utilizzo scorretto può comportare danni alla sicurezza delle persone. Per tale motivo, l’applicazione, prima di poter essere rilasciata, deve soddisfare una serie di requisiti rigorosi per attestare la conformità ai più alti standard di sicurezza imposti. Alcuni dei sistemi che sono inquadrati in tale categoria sono quelli utilizzati in infrastrutture, trasporti, istruzione, occupazione e giustizia. Le applicazioni che non fanno parte di queste due tipologie sono invece in gran parte non regolamentate e sono classificate come rischio limitato e minimo. Questi parametri sono da ritenersi validi per le aziende che utilizzano e sviluppano i programmi per fini commerciali, mentre queste regolamentazioni non sono applicate nell’ambito della ricerca.

Accanto alle questioni legali correlate all’utilizzo e la diffusione dell’AI, si pongono anche problematiche riguardanti i principi etici dell’utilizzo di queste tecnologie. Un documento che si pone come finalità aiutare gli Stati a pianificare politiche a lungo termine per lo sviluppo dell’AI è la Guida per l’Intelligenza Artificiale generativa nell’educazione e nella ricerca, rilasciata dall’Unesco nel settembre 2023. Nell’ambito dell’educazione, in particolare, si suggerisce un approccio ponderato, etico e student-based al fine di stimolare un’integrazione responsabile, con la creazione di comitati etici, la definizione di standard e la realizzazione di percorsi di formazione volti a sviluppare competenze e atteggiamenti digitali sempre più coscienziosi nelle nuove generazioni per padroneggiare le complessità del lavoro.

Conclusioni

L’intervento dell’Ing. Caruso ha dunque permesso di approfondire il rapporto complesso tra le opportunità e i rischi legati all’adozione dell’intelligenza artificiale generativa. Se da un lato emergono grandi potenzialità nel supportare e rivoluzionare la metodologia tradizionale, dall’altro non mancano criticità legate a questioni etiche, legislative e di sicurezza. È quindi fondamentale adottare un approccio equilibrato, al fine di valorizzare tali tecnologie senza trascurarne l’aspetto etico e sostenibile.

Post a cura di Eliana Bergaglio, Matilde Bianchi, Laura Ferroglio, Giovanni Mantegazza, Giada Pantana, Giulia Pilosu, e Davide Ponzini.