Merci d'avoir envoyé votre demande ! Un membre de notre équipe vous contactera sous peu.
Merci d'avoir envoyé votre réservation ! Un membre de notre équipe vous contactera sous peu.
Plan du cours
Introduction à QLoRA et la Quantification
- Aperçu de la quantification et son rôle dans l'optimisation des modèles
- Introduction au cadre QLoRA et ses avantages
- Differences clés entre QLoRA et les méthodes traditionnelles de fine-tuning
Fondements de Large Language Models (LLMs)
- Introduction aux LLM (Large Language Models) et leur architecture
- Défis du fine-tuning des grands modèles à grande échelle
- Comment la quantification aide à surmonter les contraintes computationnelles dans le fine-tuning des LLM
Mise en œuvre de QLoRA pour Fine-Tuning LLMs
- Configuration du cadre et de l'environnement QLoRA
- Préparation des jeux de données pour le fine-tuning QLoRA
- Guide pas à pas pour la mise en œuvre de QLoRA sur les LLMs en utilisant Python et PyTorch/TensorFlow
Optimisation des performances de Fine-Tuning avec QLoRA
- Comment équilibrer la précision du modèle et ses performances grâce à la quantification
- Techniques pour réduire les coûts de calcul et l'utilisation de la mémoire lors du fine-tuning
- Stratégies pour le fine-tuning avec des exigences matérielles minimales
Évaluation des Modèles Fine-Tunés
- Comment évaluer l'efficacité des modèles fine-tunés
- Métriques d'évaluation courantes pour les modèles de langage
- Optimisation des performances du modèle après le tuning et résolution des problèmes
Déploiement et Échelle des Modèles Fine-Tunés
- Bonnes pratiques pour déployer les LLM quantifiés dans des environnements de production
- Échelonnement du déploiement pour gérer les demandes en temps réel
- Outils et cadres pour le déploiement et la surveillance des modèles
Cas Pratiques Use Case et Études de Cas
- Étude de cas : Fine-tuning des LLMs pour le support client et les tâches NLP
- Exemples de fine-tuning des LLMs dans divers secteurs comme la santé, la finance et le e-commerce
- Leçons apprises des déploiements réels de modèles basés sur QLoRA
Résumé et Prochains Pas
Pré requis
- Une compréhension des fondamentaux de l'apprentissage automatique et des réseaux neuronaux
- Expérience en ajustement de modèles et apprentissage par transfert
- Familiarité avec les grands modèles de langage (GML) et les cadres d'apprentissage profond (par exemple, PyTorch, TensorFlow)
Public cible
- Ingénieurs en apprentissage automatique
- Développeurs IA
- Scientifiques des données
14 Heures
