Fine-tuning
Processus d'adaptation d'un modèle d'IA pré-entraîné à un domaine ou une tâche spécifique en poursuivant l'entraînement sur des données ciblées.
Processus d'adaptation d'un modèle d'IA pré-entraîné à un domaine ou une tâche spécifique en poursuivant l'entraînement sur des données ciblées.
Définition détaillée
Le fine-tuning (ajustement fin) consiste à reprendre un modèle d'IA pré-entraîné (comme un LLM) et à poursuivre son entraînement sur un jeu de données spécialisé, plus petit. Cela permet d'adapter le modèle à un domaine spécifique (juridique, médical, technique), d'améliorer ses performances sur une tâche particulière, ou de lui apprendre un format de réponse spécifique. Des techniques comme LoRA (Low-Rank Adaptation) et QLoRA permettent un fine-tuning efficace avec des ressources limitées.
Cas d'usage
Modèle juridique spécialisé : fine-tuning d'un LLM généraliste sur 10 000 contrats types et décisions de justice pour obtenir un assistant capable de rédiger et analyser des clauses contractuelles avec une précision de 95%.
Termes associés
En savoir plus
Questions fréquentes
Combien de données sont nécessaires pour un fine-tuning efficace ?
Cela dépend de la tâche : quelques centaines d'exemples suffisent pour adapter le style, mais plusieurs milliers sont recommandés pour un savoir-faire métier spécifique.
Le fine-tuning est-il coûteux ?
Les techniques modernes (LoRA, QLoRA) permettent un fine-tuning pour quelques dizaines à centaines d'euros, bien moins que l'entraînement d'un modèle complet.