Uno Studio Comparativo delle Pipeline di Machine Learning Tradizionali e dei Sistemi Multi-Agente basati su LLM per la Classificazione Binaria delle Serie Temporali

Abstract

Le serie temporali sono tra gli strumenti più utilizzati per descrivere l'evoluzione dei fenomeni nel tempo. In ambito industriale, la loro analisi svolge un ruolo fondamentale nel prevedere le tendenze future e nell’implementare strategie di manutenzione predittiva volte a garantire l’efficienza dei processi produttivi. Negli ultimi anni, i progressi nell'intelligenza artificiale hanno dimostrato l'efficacia dei modelli di apprendimento automatico nell'analisi di tali dati. In questo contesto, questo lavoro indaga il contributo degli agenti AI basati su Large Language Models come strumento per supportare lo sviluppo di modelli di Machine Learning per l'analisi di serie temporali, con particolare attenzione alle previsioni formulate come un problema di classificazione binaria. Lo studio si compone di due fasi principali. La prima fase prevede lo sviluppo e la valutazione di diversi modelli di Machine Learning al fine di identificare la soluzione più performante nel contesto operativo considerato. La seconda fase si concentra sull'integrazione di un sistema multi-agente per supportare l'esecuzione di attività specifiche all'interno della pipeline di apprendimento automatico del modello identificato come baseline nella prima fase. In particolare, lo studio esamina il contributo degli agenti AI nella gestione dei valori mancanti, nell'esecuzione della selezione delle caratteristiche e nella definizione dello spazio di ricerca per l'ottimizzazione degli iperparametri. L'obiettivo è valutare se la conoscenza generalizzata incorporata nei modelli linguistici può supportare l'identificazione di soluzioni efficaci, migliorando le prestazioni predittive dei modelli sviluppati e riducendo al contempo i tempi richiesti rispetto a un'analisi tradizionale.

Time series are among the most widely used tools for describing the evolution of phenomena over time. In the industrial domain, their analysis plays a fundamental role in predicting future trends and implementing predictive maintenance strategies aimed at ensuring the efficiency of production processes. In recent years, advances in Artificial Intelligence have demonstrated the effectiveness of Machine Learning models in analyzing such data. In this context, this work investigates the contribution of AI Agents based on Large Language Models as a tool to support the development of Machine Learning models for time series analysis, with a specific focus on forecasting formulated as a binary classification problem. The study consists of two main phases.The first phase involves the development and evaluation of several Machine Learning models in order to identify the best-performing solution within the considered operational context. The second phase focuses on the integration of a Multi-Agent System to support the execution of specific tasks within the Machine Learning pipeline of the baseline model identified in the first phase. In particular, the study investigates the contribution of AI Agents in handling missing values, performing feature selection, and defining the search space for hyperparameter optimization. The goal is to assess whether the generalized knowledge embedded in language models can support the identification of effective solutions, improving the predictive performance of the developed models while reducing the time required compared to a traditional analysis.