Inferenza e Autoencoders Variazionali: un esempio

Abstract

Gli autoencoders variazionali (VAE) sono modelli generativi basati su reti neurali e rappresentano una versione evoluta rispetto agli autoencoders tradizionali, perchè non si limitano ad apprendere una rappresentazione compatta dei dati, ma sono addestrati per modellare la distribuzione sottostante, ovvero il processo generatore dei dati. I VAE utilizzano l’inferenza variazionale per approssimare tale distribuzione, difficile o impossibile da calcolare analiticamente. Questa tecnica di approssimazione si basa sulla minimizzazione della distanza tra la distribuzione approssimante e quella reale. Può essere efficacemente implementata attraverso la struttura delle reti neurali, perché queste vengono addestrate per risolvere il problema di ottimizzazione associato. In questa tesi, viene approfondito il metodo di approssimazione dell’inferenza variazionale e come esso viene integrato nella struttura neurale degli autoencoders.

Variational autoencoders (VAEs) are generative models based on neural networks, representing an advanced version of traditional autoencoders. Unlike traditional autoencoders, VAEs do not merely learn a compact representation of the data but are trained to model the underlying distribution, which is the data generation process.

VAEs utilize variational inference to approximate this distribution, which is difficult or impossible to calculate analytically. This approximation technique is based on minimizing the distance between the approximating distribution and the real distribution. It can be effectively implemented through the neural network structure, as these networks are trained to solve the associated optimization problem. This thesis explores the variational inference approximation method and its integration into the neural architecture of autoencoders.