Skip to main contentSkip to search
Episciences
Open Access Journals
|Sign in(new window)
Revue Africaine de Recherche en Informatique et Mathématiques Appliquées logo
Revue Africaine de Recherche en Informatique et Mathématiques Appliquées
Revue Africaine de Recherche en Informatique et Mathématiques Appliquées logo
Revue Africaine de Recherche en Informatique et Mathématiques Appliquées
|Sign in(new window)
Articles & Issues
All articlesAll accepted articlesAll volumesLast volumeSpecial issuesAuthors
About
The journalIndexingNewsStatistics
Boards
Publish
For authorsEthical charterFor reviewersProposing special issues
Submit
Revue Africaine de Recherche en Informatique et Mathématiques Appliquées logo
Contact
|
Credits
eISSN 1638-5713
|
RSS
|
Atom
Episciences
Documentation
|
Acknowledgements
|
Publishing policy
Accessibility: non-compliant
|
Legal mentions
|
Privacy statement
|
Terms of use
  1. Home > Articles & Issues >
  2. Articles >
  3. Self-supervised and ...
Article

Self-supervised and multilingual learning applied to the Wolof, Swahili and Fongbe

Prestilien Djionang Pindoh (1), Paulin Melatagia Yonta ORCID (2) (1)
(1) Département d'Informatique [Yaoundé I]
(2) Unité de modélisation mathématique et informatique des systèmes complexes [Bondy]
Download article
Open on HAL
Submitted on
April 16, 2024
Accepted on
January 17, 2025
Published on
February 11, 2025
Last modified on
April 1, 2025
Special issue 42
Volume 41-42 - Special issue CRI 2023
DOI
10.46298/arima.13416
License
Attribution 4.0 International (CC BY 4.0)
Indicators
735
Views
520
Downloads

Self-supervised and multilingual learning applied to the Wolof, Swahili and Fongbe

Prestilien Djionang Pindoh (1), Paulin Melatagia Yonta ORCID (2) (1)
(1) Département d'Informatique [Yaoundé I]
(2) Unité de modélisation mathématique et informatique des systèmes complexes [Bondy]
Abstract
English
Under-resourced languages encounter substantial obstacles in speech recognition owing to the scarcity of resources and limited data availability, which impedes their development and widespread adoption. This paper presents a representation learning model that leverages existing frameworks based on self-supervised learning techniques—specifically, Contrastive Predictive Coding (CPC), wav2vec, and a bidirectional variant of CPC—by integrating them with multilingual learning approaches. We apply this model to three African languages: Wolof, Swahili, and Fongbe. Our evaluation of the resulting representations in a downstream task, automatic speech recognition, utilizing an architecture analogous to DeepSpeech, reveals the model’s capacity to discern language specific linguistic features. The results demonstrate promising performance, achieving Word Error Rates (WER) of 61% for Fongbe, 72% for Wolof, and 88% for Swahili. These findings underscore the potential of our approach in advancing speech recognition capabilities for under-resourced languages, particularly within the African linguistic landscape.
French
Les langues sous-dotées rencontrent d'importants obstacles en reconnaissance vocale en raison du manque de ressources et de la disponibilité limitée des données, ce qui freine leur développement et leur adoption à grande échelle. Cet article présente un modèle d'apprentissage de représentations qui s'appuie sur des cadres existants basés sur des techniques d'apprentissage auto-supervisé — en particulier le Contrastive Predictive Coding (CPC), wav2vec, et une variante bidirectionnelle du CPC — en les intégrant à des approches d'apprentissage multilingue. Nous appliquons ce modèle à trois langues africaines : le wolof, le swahili et le fongbe. L'évaluation des représentations obtenues dans une tâche en aval, la reconnaissance automatique de la parole, en utilisant une architecture similaire à DeepSpeech, montre la capacité du modèle à discerner des caractéristiques linguistiques propres à chaque langue. Les résultats démontrent des performances prometteuses, avec des taux d'erreur de mots (WER) de 61 % pour le fongbe, 72 % pour le wolof et 88 % pour le swahili. Ces résultats soulignent le potentiel de notre approche pour faire progresser les capacités de reconnaissance vocale des langues sous-dotées, en particulier dans le contexte linguistique africain.
Keywords
English
  • [INFO]Computer Science [cs]
  • Self-supervised learning
  • Multilingual representation learning
  • Automatic speech recognition
  • Under-resourced languages
French
  • Apprentissage auto-supervisé
  • Apprentissage de représentations multilingues
  • Reconnaissance automatique de la parole
  • Langues peu dotées
Preview
Loading PDF preview...