Aller au contenu principal
Retour au lexique IA
Apprentissage

Apprentissage par transfert

Technique d'apprentissage automatique qui réutilise les connaissances acquises par un modèle sur une tâche pour en améliorer l'efficacité sur une autre tâche, souvent avec peu de données disponibles.

Définition

L'apprentissage par transfert (transfer learning) est une approche qui consiste à exploiter un modèle déjà entraîné sur une tâche source (souvent avec un grand volume de données) pour l'adapter à une tâche cible où les données sont limitées. Le principe est que certaines représentations apprises (formes, structures, relations linguistiques) sont réutilisables dans différents contextes. En pratique, on prend un modèle pré‑entraîné, par exemple ResNet (vision) ou BERT (langage), et on le spécialise par fine‑tuning sur de nouvelles données. Cette approche réduit considérablement les besoins en données et en temps d'entraînement, et permet aux petites organisations d'utiliser des architectures puissantes. L'apprentissage par transfert est très répandu en vision par ordinateur, NLP et biomédecine. Il reste toutefois sensible à la différence entre domaine source et domaine cible : un transfert inadéquat peut dégrader les performances (phénomène de negative transfer). Deux stratégies sont possibles. La première, l'extraction de caractéristiques, garde le modèle pré-entraîné figé et n'entraîne qu'une petite couche finale par-dessus : c'est rapide, peu coûteux, et suffisant quand la tâche ressemble à celle d'origine. La seconde, le réglage fin, réentraîne aussi une partie des couches du modèle d'origine, avec un pas d'apprentissage faible pour ne pas détruire ce qu'il savait. Dans les deux cas, la qualité du résultat dépend de la proximité entre le domaine source et le domaine cible : un modèle de vision entraîné sur des photos courantes se transfère bien vers des photos de produits, moins bien vers des images de microscopie. Côté juridique, il faut vérifier la licence du modèle de départ (usage commercial autorisé ou non) et l'origine de ses données, car les droits et les biais du modèle d'origine accompagnent le modèle adapté.

Catégorie

Apprentissage

Synonymes

transfer learning, apprentissage transféré

Avantages

  • Réduction du besoin en données annotées
  • Gain de temps et de ressources d'entraînement
  • Accès facilité à des modèles puissants pour PME et recherche
  • Le coût de calcul reste à la portée d'une PME, car seule une fraction du modèle est réentraînée.
  • Le délai de mise au point est raccourci : on évite de reconstituer un jeu de données massif.
  • Il donne accès à des performances que l'on n'obtiendrait pas en partant de zéro avec peu d'exemples.

Limites

  • Negative transfer si les domaines sont trop différents
  • Risque de biais hérités du modèle source
  • Dépendance aux grands acteurs fournissant les modèles pré‑entraînés
  • La licence du modèle d'origine peut restreindre l'usage commercial ou la redistribution du modèle adapté.
  • Les défauts du modèle source (erreurs sur certains publics, angles morts) se retrouvent dans le modèle final.
  • Un réglage trop poussé sur peu d'exemples peut faire oublier au modèle ses connaissances générales.

Exemples concrets

Découvrez comment ce concept s'applique dans la réalité

  1. Utiliser un modèle ResNet pré‑entraîné sur ImageNet pour classifier des images médicales

  2. Adapter BERT pour l'analyse de sentiments

  3. Réutiliser un modèle de reconnaissance vocale pour une nouvelle langue avec peu de données

  4. Imaginons un électricien qui veut trier des photos de tableaux électriques en « conforme » et « à vérifier » : il part d'un modèle de vision généraliste et ne l'entraîne que sur quelques centaines de ses propres photos.

  5. Une boutique de vêtements peut adapter un modèle de classification d'images pour reconnaître ses catégories (robes, vestes, accessoires) à partir de son catalogue photo.

  6. Un cabinet de recrutement peut adapter un modèle de langage multilingue pour classer des CV en français selon des compétences métier, avec un petit lot de CV déjà annotés.

Applications pratiques

Où « apprentissage par transfert » sert concrètement

  • Santé : classification d'images médicales avec peu d'exemples

  • Langage : adaptation de modèles multilingues à une langue rare

  • Industrie : spécialisation de modèles génériques pour cas spécifiques

  • Marketing : fine‑tuning de modèles de texte pour sentiment analysis

  • Artisanat et bâtiment : tri de photos de chantier par un modèle de vision adapté.

  • Commerce : classement automatique d'un catalogue d'images.

  • Ressources humaines : classement de documents par un modèle de langage adapté au français.

Questions fréquentes

Les questions que posent les entreprises sur « apprentissage par transfert »

Quelle différence avec un entraînement classique ?

On ne part pas de zéro mais d'un modèle déjà entraîné sur une tâche proche.

Quels modèles sont les plus utilisés ?

ResNet, EfficientNet, BERT, GPT, T5, etc.

Quels secteurs en profitent le plus ?

Vision médicale, NLP multilingue, reconnaissance vocale.

Quels risques ?

Biais hérités des données source, performances faibles si domaine cible très différent.

Est-ce compatible avec le deep learning ?

Oui, c'est même la pratique dominante en vision et NLP aujourd'hui.

Quels avantages pour PME/startups ?

Réduire les coûts de calcul et éviter de collecter des datasets massifs.

Exemple concret en NLP ?

Adapter BERT ou GPT pour un chatbot juridique francophone.

Quelle différence entre transfert et fine-tuning ?

Le transfert est le principe général de réutiliser un modèle existant. Le fine-tuning, ou réglage fin, est une manière de le mettre en œuvre, en réentraînant tout ou partie des paramètres sur vos données. On peut aussi faire du transfert sans fine-tuning, en n'entraînant qu'une couche finale.

Combien d'exemples faut-il pour adapter un modèle ?

Il n'y a pas de seuil fixe. Pour une tâche proche de celle du modèle source, quelques centaines d'exemples bien choisis peuvent suffire ; pour une tâche très différente, il en faut davantage. La seule façon fiable de le savoir est de mesurer le résultat sur un jeu de test écarté de l'entraînement.

Source et références

Source : CNIL – Glossaire IA

Voir la source

Envie d'approfondir vos connaissances en IA ?

Découvrez tous nos termes et concepts dans le lexique complet

Un projet autour de « apprentissage par transfert » ?

Décrivez-nous votre besoin : nous vous répondons sous 24 h, sans engagement.

Testez gratuitement la visibilité de votre entreprise dans les IA. Lancer le test de visibilité dans les IA