Etichette
Pubblicato da

Chi insegna alle macchine?

Immagine da Pixabay

Potere, dati e valori nell’addestramento dell’intelligenza artificiale. 

 – di Marco Guarracino – 

Chiedete a un assistente virtuale di tradurre un testo, di suggerirvi un farmaco per un sintomo, di valutare il profilo di un candidato. Risposte immediate, sicure, spesso sorprendentemente accurate. Ma dietro quella risposta c’è una storia lunga e complessa, fatta di scelte umane, di interessi economici, di culture prevalenti e di culture assenti. Una storia che vale la pena conoscere, non per diffidare dell’intelligenza artificiale, ma per usarla con consapevolezza. L’addestramento di un modello di IA non è un processo neutro. È una sequenza di scelte – su quali dati raccogliere, chi li classifica, quali comportamenti premiare – che plasmano in modo profondo ciò che la macchina “sa” e come lo esprime. Capire questa catena significa comprendere dove nascono i bias (una distorsione soggettiva della realtà), chi detiene il potere sui contenuti e, in ultima istanza, chi può fidarsi di questi strumenti e chi no.

L’illusione della neutralità: chi modella la mente artificiale?

L’addestramento di un grande modello linguistico si articola in fasi distinte che riflettono le asimmetrie del nostro mondo. La prima, il pre-training, consiste nell’esporre l’algoritmo a quantità enormi di testo raccolto dal web, da libri e forum; qui emerge il primo nodo critico: internet non è uno specchio fedele dell’umanità. È prevalentemente in inglese e prodotto da popolazioni occidentali e istruite – le lingue minoritarie e le tradizioni non digitalizzate semplicemente non esistono per il modello. La seconda fase, il fine-tuning con feedback umano (RLHF), è ancora più rivelatrice. Migliaia di lavoratori – spesso localizzati in Kenya, nelle Filippine o in India – vengono assunti per classificare risposte e definire cosa sia “utile” o “sicuro”. Queste persone, pagate pochi dollari l’ora e spesso esposte a materiale disturbante, danno forma ai valori operativi del sistema, lavorando in condizioni psicologicamente logoranti (Perrigo, 2023). A questo si aggiunge l’uso recente di dati sintetici – dati generati da altri modelli – che introduce il rischio di un apprendimento autoreferenziale. Un esempio eloquente è Moltbook, il social network popolato da soli agenti IA (Moltbook, 2026): qui i modelli si auto-alimentano riproducendo pattern culturali senza il contatto autentico con la diversità umana, esponendo inoltre vulnerabilità tecniche capaci di compromettere le identità digitali degli utenti supervisori.

La materia dell’astrazione: il costo ecologico e geopolitico

Il dibattito pubblico tende a concentrarsi sui rischi immateriali, ma l’IA ha un costo fisico e ambientale crescente che non può essere ignorato. L’addestramento di un modello consuma quantità di energia paragonabili al fabbisogno annuale di centinaia di abitazioni e i data center richiedono enormi volumi d’acqua per il raffreddamento – spesso in aree già soggette a stress idrico. Ricerche recenti hanno dimostrato che generare una singola immagine tramite IA può consumare tanta energia quanto caricare completamente uno smartphone (Luccioni et al., 2023). Microsoft, Google e Amazon hanno registrato aumenti significativi delle proprie emissioni di CO2​ negli ultimi anni, in aperta contraddizione con gli impegni di neutralità carbonica. C’è poi la dimensione della filiera hardware: le GPU necessarie per il calcolo richiedono terre rare estratte in condizioni problematiche, mentre i semiconduttori avanzati sono prodotti in pochissime fabbriche nel mondo, creando dipendenze geopolitiche fragilissime. La sostenibilità del digitale è, dunque, un capitolo fondamentale della nostra responsabilità collettiva.

Dati, confini e cittadinanza: verso un uso consapevole

La questione della riservatezza e della sicurezza nell'uso dell'IA è strutturale. Lo dimostra il caso Samsung del 2023, quando l'uso di strumenti generativi espose incautamente codice sorgente proprietario (Vincent, 2023): il problema risiedeva nell’inconsapevolezza su dove finissero quei dati. Una volta inviati al server, i dati possono essere utilizzati per addestrare modelli futuri o diventare accessibili a terzi. Sebbene l'AI Act europeo rappresenti un argine normativo pionieristico (Unione Europea, 2024), la sua applicazione è ancora in evoluzione, aggravata da vulnerabilità come il prompt injection – tecniche che permettono di manipolare il comportamento del modello attraverso input costruiti ad arte. Conoscere questi meccanismi non è un esercizio accademico, ma una forma di responsabilità digitale. Sapere che dietro ogni risposta “intelligente” c’è una catena di scelte umane ci rende consumatori di tecnologia più esigenti e meno vulnerabili. L’IA è oggi un pilastro del digitale: non usarla sarebbe rinunciare a strumenti straordinari, ma usarla senza comprenderla significa delegare a sistemi opachi decisioni cruciali sulla nostra salute, sul nostro lavoro e sulla nostra identità.


Riferimenti


Labels:
Location: Roma RM, Italia

Commenti

Non sono consentiti nuovi commenti.