Plan du cours

Introduction au déploiement de l'IA

  • Aperçu du cycle de vie du déploiement de l'IA
  • Défis liés au déploiement d'agents d'IA en production
  • Considérations clés : évolutivité, fiabilité et maintenabilité

Conteneurisation et orchestration

  • Introduction à Docker et aux bases de la conteneurisation
  • Utilisation de Kubernetes pour l'orchestration d'agents d'IA
  • Meilleures pratiques pour la gestion des applications d'IA conteneurisées

Servir les modèles d'IA

  • Vue d'ensemble des cadres de service de modèles (par exemple, TensorFlow Serving, TorchServe)
  • Création d'API REST pour l'inférence des agents d'IA
  • Gestion des prédictions par lots ou en temps réel

CI/CD pour AI Agents

  • Mise en place de pipelines CI/CD pour les déploiements d'IA
  • Automatiser les tests et la validation des modèles d'IA
  • Mise à jour et gestion du contrôle des versions

Surveillance et optimisation

  • Mise en œuvre d'outils de surveillance des performances des agents d'IA
  • Analyse de la dérive des modèles et des besoins de recyclage
  • Optimisation de l'utilisation des ressources et de l'évolutivité

Sécurité et Governance

  • Garantir la conformité avec les réglementations en matière de confidentialité des données
  • Sécurisation des pipelines de déploiement de l'IA et des API
  • Audit et journalisation des applications d'IA

Travaux pratiques Activities

  • Conteneurisation d'un agent d'IA avec Docker
  • Déploiement d'un agent d'IA à l'aide de Kubernetes
  • Mise en place d'une surveillance des performances de l'IA et de l'utilisation des ressources

Résumé et prochaines étapes

Pré requis

  • Maîtrise de la programmation Python
  • Compréhension des flux de travail de l'apprentissage automatique
  • Familiarité avec les outils de conteneurisation comme Docker
  • Expérience des pratiques DevOps (recommandé)

Audience

  • MLOps ingénieurs
  • DevOps professionnels
 14 Heures

Nombre de participants


Prix ​​par Participant

Cours à venir

Catégories Similaires