Modelli statistici e di apprendimento automatico per l'analisi dell'incertezza relativa a dati di performance di un cluster HPC in ambito industriale

Abstract

I cluster ad alte prestazioni (HPC) generano dati di telemetria, consumo energetico, tempi di attesa in coda, temperatura dell'aria di raffreddamento, caratterizzati da marcata asimmetria, code pesanti e dipendenza temporale. Questo lavoro, svolto nell'ambito di un tirocinio presso Leonardo S.p.A. sul cluster davinci-1, affronta il problema della predizione di queste grandezze e della relativa quantificazione dell'incertezza.

L'analisi esplorativa mostra che i modelli distribuzionali parametrici classici (Log-Normale, Pareto, GPD, e un modello ibrido composito Log-Normale–GPD) non riescono a descrivere adeguatamente né il corpo né la coda delle distribuzioni empiriche, e che test di autocorrelazione e stazionarietà (ACF/PACF, ADF) rivelano una forte dipendenza temporale che viola l'ipotesi di scambiabilità. Questi risultati motivano l'adozione di un approccio non parametrico basato su ensemble ad alberi. Dopo aver mostrato i limiti della regressione lineare e degli alberi di decisione singoli, si costruisce un predittore puntuale tramite XGBoost, per poi estendere la stima alla regressione quantilica con Histogram Gradient Boosting.

Poiché la minimizzazione della pinball loss su campione finito non garantisce una copertura nominale valida, il lavoro integra tecniche di Conformal Prediction: Split Conformal, Conformalized Quantile Regression (CQR) e Weighted Conformal Prediction con pesi a decadimento temporale esponenziale, quest'ultima necessaria per gestire il drift distributivo dovuto alla non-stazionarietà dei dati. L'adozione di uno split cronologico a tre blocchi (training, calibrazione, test), anziché una suddivisione casuale, garantisce la validità delle procedure di calibrazione preservando la causalità temporale.

I risultati ottenuti forniscono intervalli di predizione calibrati e statisticamente validi, applicabili operativamente alla gestione dei job e al monitoraggio termico ed energetico del cluster davinci-1.

High-performance computing (HPC) clusters generate telemetry data, energy consumption, queue wait times, cooling-air temperature, characterized by marked asymmetry, heavy tails, and temporal dependence. This work, carried out during an internship at Leonardo S.p.A. on the davinci-1 cluster, addresses the prediction of these quantities and the associated uncertainty quantification.

Exploratory analysis shows that classical parametric distributional models (Log-Normal, Pareto, GPD, and a composite hybrid Log-Normal–GPD model) fail to adequately capture either the body or the tail of the empirical distributions, and that autocorrelation and stationarity tests (ACF/PACF, ADF) reveal strong temporal dependence that violates the exchangeability assumption. These findings motivate a non-parametric, tree-ensemble-based approach. After showing the limitations of linear regression and single decision trees, a point predictor is built using XGBoost, and the estimation is then extended to quantile regression via Histogram Gradient Boosting.

Since minimizing the pinball loss on a finite sample provides no guarantee of valid nominal coverage, the work integrates Conformal Prediction techniques: Split Conformal, Conformalized Quantile Regression (CQR), and Weighted Conformal Prediction with exponentially time-decayed weights, the latter needed to handle distributional drift caused by non-stationarity in the data. A three-block chronological split (training, calibration, test), rather than a random one, ensures the validity of the calibration procedures while preserving temporal causality.

The resulting prediction intervals are well-calibrated and statistically valid, with direct operational applications to job scheduling and to thermal/energy anomaly detection on the davinci-1 cluster.