Contrastare odio e disinformazione online: il ruolo dell’intelligenza artificiale

Le piattaforme social sono uno spazio di interazione fondamentale per la società contemporanea, e la diffusione di contenuti d’odio e disinformazione online ha un potenziale di influenza crescente sullo spazio pubblico. Questi fenomeni non solo fomentano conflitti e divisioni sociali, ma hanno il potere di minare il patto sociale e di mettere in discussione i principi su cui si basano la democrazia, i diritti umani e la salute pubblica.
Disinformazione e discorsi d’odio: due facce della stessa medaglia
La disinformazione e i discorsi d’odio sono due fenomeni strettamente interconnessi, ma che finora sono stati considerati in maniera distinta. Con disinformazione ci si riferisce alla diffusione intenzionale di informazioni false o fuorvianti. I discorsi d’odio invece consistono in espressioni che attaccano o incitano alla violenza contro individui o gruppi sulla base di caratteristiche come etnia, religione o genere. Nel tempo si sono venute a creare diverse figure professionali con delle pratiche e linee guida distinte, e quindi una gestione dei fenomeni separata: da una parte le ONG per la gestione dei discorsi d’odio e dall’altra i fact-checker per la verifica dell’attendibilità delle notizie.
Un progetto europeo che si pone come obiettivo la costruzione di una pratica comune è “HateDemics Project“, in cui si propone di sviluppare una piattaforma per fornire strumenti educativi e operativi alla società civile, integrando competenze degli esperti di fact-checking e delle ONG.
Strumenti e strategie per contrastare l’odio online e la disinformazione
Le strategie di contrasto comune a discorsi d’odio e disinformazione possono essere raggruppate in tre categorie principali: identificazione e rimozione, shadow banning e counter speech. Le prime due si concentrano sull’eliminazione dei contenuti problematici o sulla loro invisibilità nei motori di ricerca. Tuttavia, queste misure possono risultare inefficaci o percepite come censura.
Il counter speech si presenta come un’alternativa più equilibrata: consiste nel rispondere ai contenuti d’odio con argomentazioni non aggressive e ben fondate. Tale approccio mira non solo a contrastare l’odio, ma anche a influenzare positivamente i cosiddetti “bystander”, ovvero gli spettatori passivi della discussione. Il limite principale del counter speech è la difficoltà di gestire la mole di commenti da parte di operatori umani.
Strumenti AI a supporto
L’utilizzo dell’AI è già stato sperimentato per aiutare il processo di identificazione dei contenuti potenzialmente dannosi, ma la diffusione di strumenti generativi basati sul Natural Language Processing (NLP) ha reso possibile generare contenuti di counter speech in modo automatizzato. Questo ha aperto la strada ad una gestione scalabile del counter speech, anche se emergono problemi legati alla qualità delle risposte, alla loro coerenza e al rischio di creare nuove narrazioni di odio o disinformazione. Le tecniche più avanzate, come il fine-tuning e il reinforcement learning, mirano a migliorare la pertinenza e l’efficacia delle risposte generate dall’AI.
Conclusioni
Il contrasto a odio e disinformazione online richiede un approccio multidimensionale che combini tecnologia avanzata e competenze umane. L’adozione di strumenti di intelligenza artificiale può potenziare le capacità di risposta, ma sempre in un’ottica di una supervisione basata sulla competenza umana, e non quindi con una prospettiva nel lungo termine di sostituzione della competenza di giudizio dell’esperto. Questi strumenti possono aiutare a promuovere un ambiente digitale più sicuro e inclusivo, tutelando al contempo il diritto alla libertà di espressione.
OpenEdition vi suggerisce di citare questo post nel modo seguente:
edoardodallamutta (21 Marzo 2025). Contrastare odio e disinformazione online: il ruolo dell’intelligenza artificiale. Digital Humanities PhD. Recuperato il 13 Giugno 2025 da https://doi.org/10.58079/13ju8