L'osservabilità dell'intelligenza artificiale (in inglese AI observability) è la pratica di raccogliere e analizzare la telemetria, cioè dati come i log, le metriche e le tracce che un sistema registra automaticamente durante il proprio funzionamento, provenienti da sistemi di intelligenza artificiale impiegati in produzione, allo scopo di comprendere come si comportano e quanto siano efficaci in termini di accuratezza, costo e sicurezza. Applica l'idea di osservabilità, concetto proveniente dal controllo automatico e dall'ingegneria del software, a sistemi basati su modelli di apprendimento automatico, e in particolare ai modelli linguistici di grandi dimensioni (large language model, LLM) e agli agenti autonomi. Nella teoria del controllo, l'osservabilità è una misura di quanto bene lo stato interno di un sistema possa essere dedotto dalle sue uscite esterne. L'osservabilità dell'IA viene spesso distinta dal monitoraggio tradizionale. Mentre il monitoraggio si basa su metriche, soglie e avvisi predefiniti per segnalare che si è verificato un problema, l'osservabilità mira a fornire un contesto sufficiente per comprendere perché si sia verificato. Questa distinzione è particolarmente rilevante per i sistemi di intelligenza artificiale, poiché un sistema può apparire in buono stato secondo le metriche infrastrutturali standard, come la latenza o il tasso di errore, pur continuando a produrre risposte errate, non pertinenti o pericolose.

Uno dei segnali monitorati dall'osservabilità dell'IA è il cambiamento nel comportamento di un modello nel tempo, un fenomeno studiato nell'apprendimento automatico con il nome di concept drift. L'osservabilità dell'IA è strettamente collegata al MLOps (machine learning operations), di cui talvolta è considerata una componente. Quando è applicata in modo specifico ai modelli linguistici o ai sistemi basati su agenti, viene anche chiamata LLM observability (osservabilità degli LLM) o agent observability (osservabilità degli agenti).

Contesto Il termine osservabilità ha origine nella teoria del controllo, dove fu introdotto da Rudolf E. Kálmán nel 1960 per descrivere quanto bene gli stati interni di un sistema dinamico possano essere dedotti dalle misurazioni delle sue uscite. Nell'ingegneria del software, il termine si diffuse a partire dalla metà degli anni 2010 per indicare la capacità di comprendere lo stato interno di sistemi distribuiti complessi a partire dalla telemetria da essi prodotta, comunemente organizzata nei "tre pilastri" di log, metriche e tracce.

Applicare l'osservabilità ai sistemi di intelligenza artificiale pone sfide che non si presentano nel software tradizionale. Nei sistemi tradizionali, ingressi e stati identici producono tipicamente uscite identiche, e i guasti possono di norma essere ricondotti a specifiche porzioni di codice. I modelli di apprendimento automatico, invece, campionano da distribuzioni di probabilità, per cui un sistema può mostrare caratteristiche operative normali pur continuando a generare uscite indesiderate come le allucinazioni. Questo divario ha motivato l'aggiunta di telemetria comportamentale e semantica, che copre il contenuto di prompt e risposte, la qualità dell'output e il drift del modello, accanto ai segnali convenzionali del monitoraggio del software.

Osservabilità e monitoraggio Sebbene i due termini siano talvolta usati come sinonimi, la letteratura li tiene generalmente distinti. Il monitoraggio è definito come la raccolta di misurazioni predefinite confrontate con soglie note, che genera avvisi quando tali soglie vengono superate; risponde a domande che gli operatori già sanno di dover porsi. L'osservabilità è la capacità più ampia, che permette agli operatori di indagare comportamenti imprevisti correlando segnali diversi in tutto il sistema, anziché limitarsi a rispondere a condizioni di allarme note. Un approccio basato solo sul monitoraggio dipende quindi dal fatto che ingegneri esperti sappiano in anticipo cosa cercare, mentre l'osservabilità supporta un'indagine aperta su qualsiasi anomalia.

Nel contesto dei sistemi di intelligenza artificiale, questa distinzione viene spesso descritta in termini di una dimensione comportamentale aggiuntiva, sovrapposta ai pilastri convenzionali della telemetria. I segnali a livello infrastrutturale possono indicare che un modello risponde rapidamente e senza errori, mentre sono necessari segnali distinti per valutare se le sue uscite sono accurate, pertinenti, conformi alle policy e prive di contenuti pericolosi.

Segnali e dimensioni L'osservabilità dell'IA si basa sui segnali di telemetria standard dell'ingegneria del software, ossia log, metriche e tracce, e aggiunge dimensioni specifiche dei modelli di apprendimento automatico. Le dimensioni più frequentemente descritte sono:

Ingressi e uscite: i prompt inviati a un modello e le risposte che restituisce. Talvolta vengono conservati integralmente in modo che i problemi possano essere studiati in un secondo momento. Costo e utilizzo delle risorse: quanti token utilizza una richiesta e quanto costa, insieme alla latenza. Sono misure comuni dell'efficienza dell'inferenza e aiutano a individuare sprechi e spese impreviste. Prestazioni: latenza, throughput e tasso di errore, come nella tradizionale gestione delle prestazioni applicative. Qualità dell'output: quanto la risposta è pertinente, accurata e allineata al prompt. Queste proprietà di norma non possono essere verificate da codice ordinario e comprendono il tasso di allucinazioni. Comportamento nel tempo: cambiamenti nel modello, noti come drift, e peggioramento dei risultati dopo una modifica del modello o del prompt. Sicurezza e policy: individuazione di violazioni delle policy, contenuti pericolosi e utilizzi anomali.

Per i sistemi basati su agenti sono necessari ulteriori segnali, poiché il lavoro si svolge in molte fasi. Questi segnali registrano i passaggi di ragionamento intermedi, le chiamate a strumenti esterni e API, e le catene di retrieval-augmented generation.

Tecniche e metodi Le tecniche associate all'osservabilità dell'IA comprendono:

Il tracciamento end-to-end delle richieste mentre attraversano pipeline, catene o passaggi di agenti, in modo che ogni fase dell'esecuzione diventi visibile. La registrazione strutturata (logging) di eventi, inclusi identificativi del modello, timestamp e coppie di richieste e risposte. Il rilevamento delle anomalie sulla telemetria, per far emergere comportamenti imprevisti. Il monitoraggio sintetico, in cui prompt di test predefiniti vengono inviati ripetutamente, ad esempio dopo un aggiornamento del modello o del prompt, per rilevare regressioni. La valutazione automatizzata, incluso l'uso di un modello linguistico per valutare l'output di un altro, un approccio spesso chiamato LLM-as-a-judge, per qualità difficili da misurare con codice convenzionale. La revisione human-in-the-loop nei punti di controllo più importanti.

Strumenti open source e standard Poiché l'osservabilità dell'IA è un campo nuovo, sono stati creati diversi standard aperti e strumenti open source per evitare di legare la telemetria a un singolo fornitore. Lo sforzo più rilevante è l'insieme di convenzioni semantiche per l'IA generativa definito da OpenTelemetry, un progetto della Cloud Native Computing Foundation. Queste convenzioni descrivono un modo comune per registrare le chiamate ai modelli, l'utilizzo dei token, le chiamate a strumenti e agenti, e i punteggi di valutazione, in modo che la telemetria prodotta da uno strumento possa essere letta da un altro. Al luglio 2026, queste convenzioni sono ancora in fase di sviluppo attivo e non sono ancora considerate stabili.

Le librerie di strumentazione open source possono generare automaticamente telemetria conforme a queste convenzioni per i principali fornitori di modelli e framework. Separatamente, diversi progetti open source si concentrano sul tracciamento e sulla valutazione di applicazioni di apprendimento automatico e LLM, e alcuni di essi possono esportare o importare dati nel formato OpenTelemetry, il che permette loro di funzionare insieme a backend di osservabilità generici invece che con la sola dashboard propria.

La tabella seguente elenca alcuni strumenti open source rappresentativi utilizzati nelle pipeline di osservabilità dell'IA. OpenTelemetry e MLflow sono orientati specificamente ai carichi di lavoro di apprendimento automatico; Prometheus e Grafana sono strumenti general-purpose che fungono comunemente da backend di metriche e visualizzazione verso cui i componenti specifici per l'IA esportano i dati.

Strumento Licenza Tipo Capacità principali per l'osservabilità dell'IA OpenTelemetry Apache 2.0 Standard di strumentazione SDK indipendenti dal fornitore; convenzioni semantiche per chiamate LLM, utilizzo dei token, invocazioni di strumenti e span di agenti MLflow Apache 2.0 Piattaforma IA/ML Tracciamento LLM con struttura gerarchica degli span; valutazione automatizzata LLM-as-a-judge; esportazione in OpenTelemetry Prometheus Apache 2.0 Database di metriche Raccolta di metriche a serie temporali e alerting; tipicamente utilizzato per segnali a livello infrastrutturale come latenza e tasso di errore Grafana AGPL-3.0 Dashboard e alerting Visualizzazione di metriche, log e tracce provenienti da più backend, tra cui Prometheus e fonti OpenTelemetry

Piattaforme proprietarie Diverse piattaforme commerciali offrono l'osservabilità dell'IA come servizio gestito, integrando in un unico prodotto tracciamento, valutazione e monitoraggio. La tabella seguente elenca alcuni fornitori rappresentativi; non è esaustiva.

Prodotto Fornitore Ambito Capacità principali per l'osservabilità dell'IA LLM Observability Datadog Osservabilità full-stack con livello LLM Tracciamento end-to-end di prompt, retrieval, chiamate a strumenti e passaggi di agenti, con monitoraggio di latenza, utilizzo dei token ed errori; valutatori predefiniti e personalizzati per allucinazioni, prompt injection e rilevamento di PII; test di regressione in produzione su dataset versionati Arize AI Arize AI Osservabilità IA/ML Auto-strumentazione per oltre 30 fornitori di modelli e framework, basata sullo standard aperto OpenInference; valutazione su larga scala con allineamento tra punteggi automatizzati e giudizio umano; guardrail sull'output e alerting per il monitoraggio in produzione Weave Weights & Biases Tracciamento di LLM e agenti Tracciamento nativo per agenti, che tratta sessioni, turni, passaggi e sotto-agenti come span di prima classe; valutatori di sicurezza predefiniti per allucinazioni, tossicità e rilevamento di PII; alerting automatizzato via webhook e Slack LangSmith LangChain Tracciamento e valutazione di applicazioni LLM Tracciamento di agenti passo-passo con supporto OpenTelemetry e SDK multilingua; dashboard in tempo reale per utilizzo dei token, latenza e costo; valutazione online LLM-as-a-judge; clustering automatizzato per far emergere pattern di errore

Osservabilità degli agenti

L'osservabilità degli agenti autonomi viene spesso trattata come una sotto-area distinta, poiché gli agenti percorrono flussi di lavoro articolati in più fasi, prendono decisioni autonome e invocano strumenti esterni, producendo percorsi di esecuzione più complessi di quelli delle chiamate a modello con un singolo prompt. I professionisti del settore distinguono la valutazione, che verifica se un agente è in grado di svolgere un compito prima o durante il rilascio, dall'osservabilità, che monitora se esso sta effettivamente funzionando correttamente una volta rilasciato.