Plan du cours

Introduction au déploiement de la production

  • Principaux défis liés au déploiement de modèles affinés
  • Différences entre les environnements de développement et de production
  • Outils et plateformes pour le déploiement de modèles

Préparation des modèles pour le déploiement

  • Exportation des modèles dans des formats standard (ONNX, TensorFlow SavedModel, etc.)
  • Optimisation des modèles pour la latence et le débit
  • Test des modèles sur des cas limites et des données réelles

Conteneurisation pour le déploiement de modèles

  • Introduction à Docker
  • Création d'images Docker pour les modèles ML
  • Meilleures pratiques pour la sécurité et l'efficacité des conteneurs

Mise à l'échelle des déploiements avec Kubernetes

  • Introduction à Kubernetes pour les charges de travail d'IA
  • Mise en place de clusters Kubernetes pour l'hébergement de modèles
  • Équilibrage de charge et mise à l'échelle horizontale

Surveillance et maintenance des modèles

  • Mise en œuvre de la surveillance avec Prometheus et Grafana
  • Journalisation automatisée pour le suivi des erreurs et des performances
  • Pipelines de recyclage pour la dérive des modèles et les mises à jour

Assurer la sécurité en production

  • Sécurisation des API pour l'inférence de modèles
  • Mécanismes d'authentification et d'autorisation
  • Répondre aux préoccupations en matière de confidentialité des données

Études de cas et travaux pratiques

  • Déploiement d'un modèle d'analyse des sentiments
  • Mise à l'échelle d'un service de traduction automatique
  • Mise en œuvre de la surveillance des modèles de classification d'images

Résumé et prochaines étapes

Pré requis

  • Forte compréhension des flux de travail d'apprentissage automatique
  • Expérience du réglage fin des modèles d'apprentissage automatique
  • Familiarité avec les principes DevOps ou MLOps.

Audience

  • DevOps ingénieurs
  • MLOps praticiens
  • Spécialistes du déploiement de l'IA
 21 Heures

Nombre de participants


Prix ​​par Participant

Nos clients témoignent (1)

Cours à venir

Catégories Similaires