EMM@: quando l'IA non è intelligente...
e perché.

EMM@ è il modello AI sviluppato con l'intento dichiarato di affermare la sovranità tecnologica italiana in campo AI — e che ha mostrato concretamente le complessità dell'implementazione IA nel settore pubblico.

Quello che segue è una simulazione satirica di EMM@ — non il servizio originale. Abbiamo addestrato un modello a rispondere come EMM@ per mettere in scena quello che molti hanno già sperimentato.

Hai 5 domande gratuite. Usale bene.

Il test

Abbiamo fatto le domande più semplici che potessimo immaginare. Non trabocchetti, non domande tecniche. Cose che sa chiunque abbia frequentato le scuole elementari.

I risultati li avete appena visti. O li vedrete, se avete ancora domande da usare.

La tentazione sarebbe fermarsi alla battuta. Ma c'è qualcosa di più interessante da capire: perché succede? Perché un sistema progettato per rispondere alle domande dei cittadini italiani non sa rispondere a domande banali?

La risposta non è "perché è fatto male". È più sottile di così.

Perché le AI sbagliano

Un modello linguistico nella sua forma base non "sa" le cose nel senso in cui le sa un essere umano. Non ha una rappresentazione interna della realtà: ha pattern statistici estratti da miliardi di testi. Quando risponde, non sta recuperando un fatto verificato — sta generando la sequenza di parole più probabile dato il contesto. È una distinzione che sembra tecnica ma cambia tutto nella pratica.

Questo funziona sorprendentemente bene per molte cose. E fallisce in modo spettacolare su altre — spesso proprio le più semplici, dove la risposta corretta è così ovvia che il modello ha incontrato milioni di variazioni durante il training, incluse le risposte errate, le domande retoriche, le ironie. Il modello impara il pattern della risposta articolata, non necessariamente quello della risposta corretta.

Ma — ed è il punto che vale la pena capire — questo descrive solo il comportamento di un modello usato da solo, senza strati aggiuntivi. Un sistema ben progettato non chiede al modello di "ricordare" le cose. Gliele fornisce nel momento in cui servono.

Il problema delle allucinazioni

Si chiama "allucinazione" il fenomeno per cui un modello linguistico produce informazioni plausibili ma false — date, nomi, citazioni, leggi — con la stessa sicurezza con cui afferma fatti reali.

Non è un bug nel senso tradizionale. È una caratteristica strutturale dei modelli addestrati a massimizzare la coerenza del testo, non la sua veridicità. Il modello non ha un meccanismo interno che distingue "so questa cosa" da "sto inventando questa cosa".

Per un assistente generico è un limite accettabile. Per un servizio pubblico che risponde ai cittadini su tasse, scadenze, normative — è un problema serio.

Fonti, addestramento e contesto aggiornato

Il secondo problema è il contesto. I grandi modelli hanno una data di cutoff — una data oltre la quale non hanno visto dati. Un modello addestrato nel 2023 non sa nulla di quello che è successo nel 2024 o nel 2025, a meno che non gli venga fornito il contesto al momento della richiesta.

Per un'azienda che vuole usare l'AI su dati interni — listini, procedure, prodotti, normative di settore — questo è il nodo centrale: il modello di base non conosce la tua azienda. Non conosce i tuoi prodotti, i tuoi processi, i tuoi clienti.

Ci sono due modi per affrontarlo. Il fine-tuning — addestrare il modello sui propri dati — è costoso, lento, e produce risultati che invecchiano non appena i dati cambiano. Il RAG (Retrieval-Augmented Generation) recupera i documenti rilevanti al momento della domanda e li fornisce al modello come contesto. È più flessibile, aggiornabile, e per la maggior parte degli use case aziendali è la scelta giusta.

Il nostro approccio: memoria a strati

La Knowledge Base che costruiamo per ogni cliente funziona su un principio opposto a quello del modello base: invece di chiedere al modello di ricordare, gli forniamo le informazioni giuste nel momento in cui servono. I documenti del cliente vengono indicizzati e quando arriva una domanda, il sistema recupera i passaggi rilevanti e li passa al modello come contesto reale. Il modello non inventa — legge.

Il risultato è un agente che risponde basandosi su quello che c'è nella Knowledge Base, non su quello che ha statisticamente appreso durante il training. Se la risposta non è nei documenti, l'agente lo dice invece di costruirne una plausibile.

Ma il recupero dei documenti è solo il primo strato. Un sistema pensato per durare nel tempo aggiunge qualcosa di più: una rappresentazione strutturata della conoscenza del cliente — non solo i documenti grezzi, ma i concetti, le relazioni tra essi, le definizioni condivise. Questa struttura viene costruita e mantenuta nel tempo, non generata al volo per ogni domanda. È la differenza tra avere un archivio e avere una biblioteca organizzata.

Il terzo strato è la memoria delle interazioni. Un sistema che non ricorda le conversazioni precedenti riparte da zero ogni volta — non impara dai casi già gestiti, non si adatta al contesto del cliente nel tempo, non accumula esperienza operativa. Integrare una memoria episodica persistente trasforma l'agente da strumento di risposta a collaboratore che cresce con l'azienda.

Questi tre livelli — recupero dai documenti, conoscenza strutturata, memoria delle esperienze — non sono funzionalità aggiuntive. Sono scelte architetturali che si fanno all'inizio o non si fanno. Non si aggiungono su un sistema già in produzione senza ricominciare da capo.

EMM@ non ce li ha. Non perché chi l'ha costruita non ci abbia pensato — ma perché costruire in questo modo richiede tempo, costo e una visione chiara di cosa deve fare il sistema nel lungo periodo. Un prototipo rapido non lo ha per definizione.

Domande frequenti