Adattamento di dominio non supervisionato in contesti biasati

Abstract

Le Deep Neural Networks spesso sfruttano correlazioni spurie nei dati di addestramento, portando a un comportamento instabile in caso di cambiamento di distribuzione. L'adattamento di dominio non supervisionato (UDA) mira a trasferire la conoscenza da un dominio di origine etichettato a un dominio di destinazione non etichettato, ma l'interazione tra il bias di origine e l'adattamento rimane poco chiara. Questa tesi studia l'interazione tra il bias del set di dati e l'UDA attraverso un protocollo controllato in due fasi. Introduciamo OfficeHomeBiased, una variante bias di Office-Home in cui viene modificato solo il dominio Prodotto, creando ProductBiased attraverso una correlazione del colore di sfondo dipendente dalla classe. I modelli di origine vengono addestrati con ERM e obiettivi orientati alla robustezza come GDRO e GEORGE, e poi adattati utilizzando diversi metodi UDA. Oltre all'accuratezza del target, analizziamo la geometria di rappresentazione attraverso metriche di distanza del centroide che misurano la separazione tra gruppi allineati al bias e gruppi in conflitto con il bias. I risultati mostrano che i metodi di allineamento della distribuzione globale possono trasferire strutture spurie quando il codificatore sorgente codifica fortemente il bias, mentre i metodi di allineamento avversario sono generalmente più stabili. L'addestramento robusto della sorgente modifica la geometria di rappresentazione, ma il suo effetto sull'adattamento dipende sia dal dominio target che dal metodo di adattamento. Nel complesso, la tesi mostra che la robustezza e l'adattamento del dominio non possono essere trattati in modo indipendente e che l'analisi geometrica è fondamentale per comprendere il bias in caso di cambiamento di dominio.

Deep neural networks often exploit spurious correlations in training data, leading to brittle behaviour under distribution shift. Unsupervised Domain Adaptation (UDA) aims to transfer knowledge from a labeled source domain to an unlabeled target domain, but the interaction between source bias and adaptation remains poorly understood. This thesis studies the interplay between dataset bias and UDA through a controlled two-stage protocol. We introduce OfficeHomeBiased, a biased variant of Office-Home in which only the Product domain is modified, creating ProductBiased through a class-dependent background-color correlation. Source models are trained with ERM and robustness-oriented objectives such as GDRO and GEORGE, and then adapted using multiple UDA methods. Beyond target accuracy, we analyze representation geometry through centroid-distance metrics measuring the separation between bias-aligned and bias-conflicting groups. Results show that global distribution alignment methods may transfer spurious structure when the source encoder strongly encodes bias, whereas adversarial alignment methods are generally more stable. Robust source training changes the representation geometry, but its effect on adaptation depends on both the target domain and the adaptation method. Overall, the thesis shows that robustness and domain adaptation cannot be treated independently, and that geometric analysis is crucial for understanding bias under domain shift.