Supervised learning con regolarizzazione di Dirichlet: problema degenere e comportamento asintotico di una sua perturbazione

Abstract

Nella tesi abbiamo cercato di comprendere un modello continuo per il classico problema di apprendimento supervisionato in machine learningimpiegando l’energia di Dirichlet come regolarizzatore. Il problema che stiamo affrontando è il seguente: dato un insieme aperto e regolare Ω (ad esempio una sfera)in R^n e dati N punti in Ω, vogliamo trovare la funzione che minimizza l’energia e tale che la funzione assuma in corrispondenza di ciascun punto x_i, con i = 1, 2, . . . , N ,un certo valore y_i ∈ R. Inizialmente, ci siamo limitati a cercare una soluzione al problema nello spazio C^2(Ω), ma tale soluzione esiste soltanto se tutti i valori y_i sono uguali tra loro e in tal caso la soluzione è costante. Per cercare la soluzione nel caso generale in cui i valori y_i non siano tutti uguali, abbiamo indebolito le ipotesi cercando una soluzione in H1(Ω) (Lo spazio di Sobolev delle funzioni che stanno in L2(Ω) con derivata in L2(Ω, R^n)). A tal fine, abbiamo preso un ε > 0 e abbiamo studiato il problema in cui la funzione cercata sia uguale a y_i all’interno di una sfera di raggio ε e centro xi_. La soluzione di questo problema esiste e l’obiettivo della tesi è quello di studiare il comportamento asintotico di tale funzione quando ε → 0.

We seek to understand a continuous model for the classical machine learning problem of supervised learning in the zero loss case (interpolation) and choosing the Dirichlet energy as regularizer. We then study solutions of the degenerate Dirichlet problem, described by the associated Euler-Lagrange equations. It can be shown that such solution exists if and only if y_i = y ∀i and the solution of this problem is the constant solution. Such solution does not satisfy us since we would have to assume that y_i are all equal to each other, so we try to generalize the problem by finding a solution to the variational problem associated. In the second part of the thesis we perturb the Dirichlet boundary conditions and we analyze the asymptotic behaviour of the solution.