Digital resources in the Social Sciences and Humanities OpenEdition Our platforms OpenEdition Books OpenEdition Journals Hypotheses Calenda Libraries OpenEdition Freemium Follow us

La non-neutralità degli strumenti di IA – Seminario IA, Silvia Crafa, 17/02/2025

A cura di Giada D’Ippolito e Giovanni Mantegazza

La rivoluzione digitale ha cambiato profondamente la nostra società, suscitando reazioni contrastanti: entusiasmo per le opportunità offerte dalle nuove tecnologie, ma anche timore per i loro effetti imprevisti. Fino a questo momento, molti seminari e discussioni sull’intelligenza artificiale si sono concentrati sull’entusiasmo per l’innovazione e sull’incoraggiamento a un “buon utilizzo” della tecnologia. Tuttavia, nel seminario online tenutosi il 17 febbraio 2025, ‘La non-neutralità degli strumenti di IA’, Silvia Crafa, prof.ssa di Logica Matematica dell’Università di Padova, ha proposto una riflessione più critica, analizzando gli aspetti che richiedono maggiore attenzione e cautela. Il tema centrale è stato la presunta obiettività degli strumenti di intelligenza artificiale, mettendo in luce come la loro progettazione e il loro utilizzo possano influenzarne l’apparente neutralità.

L’illusione della neutralità

Un concetto chiave emerso nel seminario ha riguardato il fatto che la tecnologia non è mai neutrale: non esiste un sistema di IA “puro” e imparziale, poiché ogni strumento tecnologico è il risultato di scelte progettuali e culturali. Un primo elemento critico riguarda la terminologia stessa: termini come “apprendimento” o “allucinazioni” vengono impiegati per descrivere il funzionamento dei modelli di IA, ma portano con sé un carico semantico che richiama caratteristiche tipicamente umane, contribuendo a un’errata percezione del loro reale funzionamento.

Inoltre, la tendenza a ridurre la complessità della realtà a mere correlazioni statistiche rischia di escludere elementi fondamentali per la comprensione di fenomeni complessi. Un esempio tipico, presentato dalla prof.ssa Crafa, è l’uso dell’IA nella selezione del personale, dove un algoritmo che analizza i CV può ridurre la valutazione di un candidato a una serie di punteggi numerici, senza tenere conto di aspetti qualitativi, che spesso sono fondamentali.

IA e bias: un problema strutturale

Un’altra criticità presentata riguarda i dati utilizzati per addestrare i modelli di IA. Questi strumenti non “comprendono” realmente le informazioni, ma si limitano a riconoscere pattern statistici nei dati forniti. Se i dati di partenza contengono distorsioni o bias, l’IA finirà inevitabilmente per replicarli e amplificarli. Questo fenomeno è evidente in ambiti delicati come la giustizia predittiva, dove modelli di machine learning vengono impiegati per stimare il rischio di recidiva di un individuo. Se i dati storici su cui si basano contengono pregiudizi sistemici, l’algoritmo riprodurrà tali distorsioni, contribuendo a decisioni discriminatorie.

Qualità degli output e limiti dell’IA

Poiché il funzionamento dell’IA si basa su correlazioni probabilistiche, gli errori non sono un’eccezione, ma una caratteristica intrinseca del sistema. Se un modello confonde un cane con un gatto, l’impatto è minimo, ma in contesti critici, come la diagnosi medica o l’assegnazione di un prestito bancario, tali imprecisioni possono avere conseguenze gravi.

Inoltre, l’eccessiva fiducia nei sistemi automatici può portare a una perdita di elementi fondamentali della competenza umana, come la capacità di valutare le informazioni con flessibilità e contesto. Come sottolineato nel seminario, la saggezza non è riducibile a un modello matematico: l’intelligenza artificiale può supportare il lavoro umano, ma non sostituirlo completamente

Verso un uso consapevole dell’IA

Le IA generative e gli strumenti di machine learning rappresentano un’opportunità straordinaria per numerosi ambiti, ma è essenziale adottare un approccio critico e responsabile. Più che un problema di progresso tecnologico, il nodo centrale riguarda la consapevolezza nell’uso di questi strumenti: la quantità di dati a disposizione non deve oscurare la necessità di una riflessione etica sulla loro applicazione.

In conclusione, la non-neutralità degli strumenti di IA non è una questione meramente tecnica, ma sociale e culturale. La vera sfida non è solo sviluppare modelli sempre più performanti, ma garantire che il loro impatto sia equo e trasparente. Solo così l’IA potrà diventare uno strumento di progresso, e non un ulteriore fattore di disuguaglianza.

La competenza, ormai, è nelle mani delle macchine, ma ciò che manca è l’etica. La quantità di dati è facilmente accessibile, ma è la qualità quella che deve essere al centro della riflessione etica sul loro utilizzo. Come sottolineato dalla prof.ssa Crafa, il progresso tecnologico da solo non basta: è la creatività umana, con un approccio consapevole ed etico, che può trasformare l’IA in uno strumento di valore. La vera sfida risiede nella capacità di plasmare un futuro in cui innovazione tecnologica e intelligenza umana collaborano per il bene comune.


OpenEdition vi suggerisce di citare questo post nel modo seguente:
Giada D'Ippolito (18 Febbraio 2025). La non-neutralità degli strumenti di IA – Seminario IA, Silvia Crafa, 17/02/2025. Digital Humanities PhD. Recuperato il 15 Maggio 2025 da https://doi.org/10.58079/13c6g


Potrebbero interessarti anche...

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *

This site uses Akismet to reduce spam. Learn how your comment data is processed.