Cyber-Range per test realistici di rilevatori di malware basati su Intelligenza Artificiale

Abstract

I cyber range sono strumenti avanzati che replicano e simulano reti informatiche complesse per addestrare il personale a gestire attacchi informatici su larga scala o per analizzare il comportamento di ambienti in costante evoluzione in modo controllato. In questo contesto, l'avvento del machine learning potrebbe migliorare ulteriormente il settore, integrando questi componenti nelle reti informatiche complesse simulate all'interno dei cyber range. Di conseguenza, i modelli di machine learning potrebbero essere analizzati e testati in scenari realistici, invece di essere studiati isolatamente, come spesso avviene nella ricerca accademica. Un ambito specifico che potrebbe trarre vantaggio da questo scenario di test ampliato è la rilevazione di malware, dove il machine learning è già utilizzato come prima linea di difesa. Gli attaccanti potrebbero sfruttare vulnerabilità del machine learning, come gli attacchi di avvelenamento (poisoning), che manipolano i dati di addestramento e compromettono i modelli, rendendoli suscettibili ad azioni successive. Tuttavia, manca ancora una comprensione approfondita di come queste strategie possano influenzare un ambiente reale, poiché molteplici componenti possono agevolare o interferire con tali attacchi. Pertanto, in questa tesi si propone la creazione di un cyber range dedicato, in grado di simulare diversi attacchi contro modelli di machine learning sviluppati per fermare i malware. Immaginiamo una rete simulata con client che inviano campioni a uno scanner online alimentato da un modello di machine learning, il quale viene addestrato iterativamente con nuovi campioni etichettati tramite un sistema separato. In questo contesto, puntiamo a testare l'efficacia degli attacchi di avvelenamento ispirati a metodi esistenti e a sviluppare nuove minacce che mirino direttamente alla rete complessa in cui operano i modelli.

Cyber ranges are advanced tools that replicate and simulate complex computer networks to either train personnel on how to deal with emulated cyber attacks at scale, or analyze the behavior of always-evolving environments in a controlled way. In this context, the advent of machine learning technologies might improve this field even more by introducing these components as a part of the complex computer networks envisioned inside cyber ranges. As a consequence, machine learning models could be analyzed and tested inside a realistic scenario, rather than in isolation as is currently common in academic research. One specific domain that could benefit from this enlarged testing scenario is malware detection, where machine learning is already employed as a first line of defense. Attackers could exploit vulnerabilities in machine learning, such as poisoning attacks that tamper with training data and compromise models, making them susceptible to subsequent actions. However, we still lack a deep understanding of how these strategies can affect a real-world environment, since there are many different components that can help or interfere with this process. Thus, in this thesis, we pursue the creation of a dedicated cyber-range that can simulate different attacks against machine learning models developed to stop malware. Specifically, we envision a simulated computer network with clients which send samples to an online scanner powered by a machine learning model. This model is iteratively trained with new incoming samples labeled through a separate system, which might be another machine learning model or not. In this context, we aim to test the efficacy of poisoning attacks inspired by existing methods and develop new threats that directly target the complex network where models are immersed.