1. Il problema del bias dei dati (Data Bias) e le «leggi di Garbage In, Garbage Out»

La fonte più comune e pericolosa di errori è il bias nei dati di addestramento. L'IA assorbe ed amplifica i pregiudizi presenti nei dati.

Iscrizioni demografiche: Un caso noto riguarda un sistema di riconoscimento facciale che mostrava una maggiore accuratezza per gli uomini bianchi rispetto alle donne nere, poiché era stato addestrato su un set di dati non proporzionato. In questo caso, l'IA non «ha sbagliato», ma ha riprodotto fedelmente il disequilibrio del mondo reale, portando a un errore nell'applicazione in un ambiente eterogeneo.

Iscrizioni semantiche: Se nel set di dati di addestramento una frase come «infermiera» è spesso associata al pronome «lei» e «programmatore» al pronome «egli», la modello genererà testi che riproducono questi stereotipi di genere, anche se il genere non è indicato nella domanda. Questo è un errore a livello di contesto sociale che la modello non comprende.

Fatto interessante: Nel campo delle scienze informatiche opera il principio «Garbage In, Garbage Out» (GIGO) — «spazzatura in entrata, spazzatura in uscita». Per l'IA è stato trasformato in un principio più profondo «Bias In, Bias Out» — «bias in entrata, bias in uscita». Il sistema non può superare i limiti dei dati sui quali è stato addestrato.

2. Attacchi adversari: hacking per l'IA

Questi sono cambiamenti intenzionali e spesso impercettibili nei dati di input che portano a conclusioni profondamente errate dell'IA.

Esempio con immagine: Applicare un adesivo di un colore e forma specifici su un cartello «STOP» può far classificare un sistema di visione automatica come cartello di limitazione della velocità. Per l'uomo il cartello rimarrà chiaramente riconoscibile.

Mechanismo: Gli esempi adversari sfruttano le «zone cieche» nello spazio di attributi ad alta dimensione della modello. L'IA percepisce il mondo non come oggetti integrali, ma come insiemi di modelli statistici. Una «distrazione» minima, ma strategicamente corretta, sposta il punto dei dati nello spazio degli attributi attraverso la frontiera della soluzione della modello, cambiando la classificazione.

3. Problemi di generalizzazione e «mondo nella scatola»

L'IA, in particolare le reti neurali profonde, tendono a sovrapprendere (overfitting) — memorizzano non le leggi generali, ma esempi specifici della campagna di addestramento, inclusi il rumore.

Errori sui dati «fuori distribuzione»: Una modello addestrata su foto di cani e gatti fatte di giorno in casa può perdere completamente la precisione se le si dà un'immagine notturna infrarossa o un disegno animato. Non ha identificato il concetto astratto di «gattesimo», ma ha imparato a reagire a pattern specifici di pixel.

4. Elaborazione del contesto e ironia

Le modelli linguistici (come GPT) mostrano risultati impressionanti, ma commettono errori grossolani nelle attività che richiedono la comprensione di un contesto profondo o di significati non letterali.

Ironia e sarcasmo: La frase «Beh, che bellissima giornata!» detta durante una tempesta sarà interpretata dalla modello letteralmente come una valutazione positiva, poiché le parole positive («bellissima», «giornata») sono statisticamente associate a contesti positivi nei dati.

Ragionamenti logici multi-stadio: Compiti dello stile «Se metto un uovo nel frigorifero e poi sposto il frigorifero nel garage, dove sarà l'uovo?» richiedono la costruzione e l'aggiornamento di una modello mentale del mondo. Un IA che lavora nella previsione della parola successiva spesso «perde» gli oggetti nel mezzo di un racconto complesso o fa conclusioni illogiche.

5. «Fragilità» nelle condizioni di incertezza e nelle nuove situazioni

L'IA non si comporta bene nelle situazioni che escono dai suoi limiti di esperienza, specialmente quando è necessario riconoscere la carenza di dati.

Problema di rilevamento «fuori distribuzione»: Un IA medico addestrato a diagnosticare la polmonite attraverso immagini radiografiche del torace può dare una diagnosi con alta, ma falsa, sicurezza se gli si presenta un'immagine del ginocchio. Non capisce che è inutile, poiché non possiede una conoscenza meta di confine della sua competenza.

Esempio dalla realtà: Nel 2016 Microsoft ha lanciato il chatbot Tay su Twitter. Il bot si è addestrato sull'interazione con gli utenti. In 24 ore è diventato una macchina che generava affermazioni razziste, sessiste e offensive, perché statisticamente ha assorbito le reazioni più frequenti e cariche emotivamente dal suo nuovo ambiente ostile. Non è stato un errore dell'algoritmo, ma il suo funzionamento esatto, che ha portato a un risultato catastrofico in un ambiente sociale imprevedibile.

Conclusione: L'errore come specchio dell'architettura

• Sociale-etico (bias dei dati).
• Logico astratto (mancanza di senso comune, legami causali).
• Contestuale (mancanza di comprensione dell'ironia, del senso profondo).
• Adversario (vulnerabilità a distorsioni intenzionali).