Traduzione di lingue a basse risorse: Uno studio sul Genovese

Abstract

La traduzione automatica neurale per le lingue ad alte risorse ha registrato notevoli progressi. Tuttavia, le lingue a basse risorse soffrono ancora di gravi colli di bottiglia nella qualità della traduzione a causa della carenza di dati paralleli e della mancanza di sistemi di scrittura standardizzati. Il genovese, classificato dall'UNESCO come lingua decisamente in pericolo (definitely endangered), affronta entrambe queste sfide. Per affrontare questo problema, abbiamo dapprima sviluppato una pipeline di normalizzazione ortografica adottando la grafia unitäia approvata dal Consiglio per il Patrimonio Linguistico Ligure. Nello specifico, abbiamo addestrato da zero una rete neurale ricorrente bidirezionale a livello di carattere con meccanismo di attenzione (BiLSTM), superando il precedente stato dell'arte e riducendo il tasso di errore sui caratteri (CER) dal 2,47% all'1,33%. Questo normalizzatore è stato applicato per armonizzare i dati non standard prima dell'addestramento alla traduzione. Per la fase di traduzione sono stati esplorati quattro diversi approcci. Nello specifico, abbiamo impiegato una baseline addestrata da zero modificando il vocabolario della BiLSTM, due modelli sequence-to-sequence, uno con supporto nativo per il genovese (NLLB) e uno non nativo (mBART), adattati tramite Quantized Low-Rank Adaptation (QLoRA), e un Large Language Model basato solo su decoder (EuroLLM), anch'esso messo a punto tramite QLoRA. I modelli sono stati valutati su un set di test personalizzato e su due benchmark globali, Flores+ e Bouquet. In particolare, sul benchmark Bouquet, i modelli hanno raggiunto i migliori risultati in termini di Character F-score plus plus (chrF++) per la traduzione dall'italiano al genovese e le migliori prestazioni valutate tramite MetricX per la traduzione dal genovese all'italiano.

Neural machine translation for high-resource languages has reached remarkable progress. However, low-resource languages still suffer from severe translation quality bottlenecks due to parallel data scarcity and a lack of standardized writing systems. Genoese, classified by UNESCO as a definitely endangered language, faces both of these challenges. To address this issue, we first developed an orthographic normalization pipeline adopting the grafia unitäia endorsed by the Council for Ligurian Linguistic Heritage. Specifically, we trained from scratch an attention-augmented character-level bidirectional Long Short-Term Memory network, outperforming the previous state-of-the-art baseline by reducing the Character Error Rate (CER) from 2.47% to 1.33%. This normalizer was applied to harmonize non-standard data prior to translation training. Four different approaches were explored for the translation phase. Specifically, we employed a baseline trained from scratch by modifying the BiLSTM vocabulary and two sequence-to-sequence models, one supporting Genoese natively (NLLB) and one non-native (mBART), adapted via Quantized Low-Rank Adaptation (QLoRA). Additionally, a decoder-only Large Language Model (EuroLLM) was evaluated, also fine-tuned using QLoRA. The models were evaluated on a custom test set as well as on two global benchmarks, Flores+ and Bouquet. Specifically, on the Bouquet benchmark, they achieved top results in terms of Character F-score plus plus (chrF++) for Italian-to-Genoese translation and the best performance evaluated via MetricX for Genoese-to-Italian translation.