Apprentissage par transfert
Technique d'apprentissage automatique qui réutilise les connaissances acquises par un modèle sur une tâche pour en améliorer l'efficacité sur une autre tâche, souvent avec peu de données disponibles.
Définition
L'apprentissage par transfert (transfer learning) est une approche qui consiste à exploiter un modèle déjà entraîné sur une tâche source (souvent avec un grand volume de données) pour l'adapter à une tâche cible où les données sont limitées. Le principe est que certaines représentations apprises (formes, structures, relations linguistiques) sont réutilisables dans différents contextes. En pratique, on prend un modèle pré‑entraîné, par exemple ResNet (vision) ou BERT (langage), et on le spécialise par fine‑tuning sur de nouvelles données. Cette approche réduit considérablement les besoins en données et en temps d'entraînement, et permet aux petites organisations d'utiliser des architectures puissantes. L'apprentissage par transfert est très répandu en vision par ordinateur, NLP et biomédecine. Il reste toutefois sensible à la différence entre domaine source et domaine cible : un transfert inadéquat peut dégrader les performances (phénomène de negative transfer). Deux stratégies sont possibles. La première, l'extraction de caractéristiques, garde le modèle pré-entraîné figé et n'entraîne qu'une petite couche finale par-dessus : c'est rapide, peu coûteux, et suffisant quand la tâche ressemble à celle d'origine. La seconde, le réglage fin, réentraîne aussi une partie des couches du modèle d'origine, avec un pas d'apprentissage faible pour ne pas détruire ce qu'il savait. Dans les deux cas, la qualité du résultat dépend de la proximité entre le domaine source et le domaine cible : un modèle de vision entraîné sur des photos courantes se transfère bien vers des photos de produits, moins bien vers des images de microscopie. Côté juridique, il faut vérifier la licence du modèle de départ (usage commercial autorisé ou non) et l'origine de ses données, car les droits et les biais du modèle d'origine accompagnent le modèle adapté.
Catégorie
Apprentissage
Synonymes
transfer learning, apprentissage transféré
Avantages
- Réduction du besoin en données annotées
- Gain de temps et de ressources d'entraînement
- Accès facilité à des modèles puissants pour PME et recherche
- Le coût de calcul reste à la portée d'une PME, car seule une fraction du modèle est réentraînée.
- Le délai de mise au point est raccourci : on évite de reconstituer un jeu de données massif.
- Il donne accès à des performances que l'on n'obtiendrait pas en partant de zéro avec peu d'exemples.
Limites
- Negative transfer si les domaines sont trop différents
- Risque de biais hérités du modèle source
- Dépendance aux grands acteurs fournissant les modèles pré‑entraînés
- La licence du modèle d'origine peut restreindre l'usage commercial ou la redistribution du modèle adapté.
- Les défauts du modèle source (erreurs sur certains publics, angles morts) se retrouvent dans le modèle final.
- Un réglage trop poussé sur peu d'exemples peut faire oublier au modèle ses connaissances générales.
Exemples concrets
Découvrez comment ce concept s'applique dans la réalité
Utiliser un modèle ResNet pré‑entraîné sur ImageNet pour classifier des images médicales
Adapter BERT pour l'analyse de sentiments
Réutiliser un modèle de reconnaissance vocale pour une nouvelle langue avec peu de données
Imaginons un électricien qui veut trier des photos de tableaux électriques en « conforme » et « à vérifier » : il part d'un modèle de vision généraliste et ne l'entraîne que sur quelques centaines de ses propres photos.
Une boutique de vêtements peut adapter un modèle de classification d'images pour reconnaître ses catégories (robes, vestes, accessoires) à partir de son catalogue photo.
Un cabinet de recrutement peut adapter un modèle de langage multilingue pour classer des CV en français selon des compétences métier, avec un petit lot de CV déjà annotés.
Applications pratiques
Où « apprentissage par transfert » sert concrètement
Santé : classification d'images médicales avec peu d'exemples
Langage : adaptation de modèles multilingues à une langue rare
Industrie : spécialisation de modèles génériques pour cas spécifiques
Marketing : fine‑tuning de modèles de texte pour sentiment analysis
Artisanat et bâtiment : tri de photos de chantier par un modèle de vision adapté.
Commerce : classement automatique d'un catalogue d'images.
Ressources humaines : classement de documents par un modèle de langage adapté au français.
Questions fréquentes
Les questions que posent les entreprises sur « apprentissage par transfert »
Quelle différence avec un entraînement classique ?
On ne part pas de zéro mais d'un modèle déjà entraîné sur une tâche proche.
Quels modèles sont les plus utilisés ?
ResNet, EfficientNet, BERT, GPT, T5, etc.
Quels secteurs en profitent le plus ?
Vision médicale, NLP multilingue, reconnaissance vocale.
Quels risques ?
Biais hérités des données source, performances faibles si domaine cible très différent.
Est-ce compatible avec le deep learning ?
Oui, c'est même la pratique dominante en vision et NLP aujourd'hui.
Quels avantages pour PME/startups ?
Réduire les coûts de calcul et éviter de collecter des datasets massifs.
Exemple concret en NLP ?
Adapter BERT ou GPT pour un chatbot juridique francophone.
Quelle différence entre transfert et fine-tuning ?
Le transfert est le principe général de réutiliser un modèle existant. Le fine-tuning, ou réglage fin, est une manière de le mettre en œuvre, en réentraînant tout ou partie des paramètres sur vos données. On peut aussi faire du transfert sans fine-tuning, en n'entraînant qu'une couche finale.
Combien d'exemples faut-il pour adapter un modèle ?
Il n'y a pas de seuil fixe. Pour une tâche proche de celle du modèle source, quelques centaines d'exemples bien choisis peuvent suffire ; pour une tâche très différente, il en faut davantage. La seule façon fiable de le savoir est de mesurer le résultat sur un jeu de test écarté de l'entraînement.
Source et références
Source : CNIL – Glossaire IA
Voir la sourceTermes associés
Notions proches de « apprentissage par transfert »
Envie d'approfondir vos connaissances en IA ?
Découvrez tous nos termes et concepts dans le lexique complet
Un projet autour de « apprentissage par transfert » ?
Décrivez-nous votre besoin : nous vous répondons sous 24 h, sans engagement.
Testez gratuitement la visibilité de votre entreprise dans les IA. Lancer le test de visibilité dans les IA