Aller au contenu principal

Autoscaling

Ajustez automatiquement vos conteneurs en fonction du CPU, de la mémoire ou de planifications.

L'autoscaling garantit que votre application dispose des bonnes ressources à tout moment — montée en charge lors des pics de trafic et réduction pendant les périodes calmes.

Comment Fonctionne l'Autoscaling​

SailOps ajuste automatiquement le nombre de réplicas d'un conteneur selon l'utilisation du CPU, de la mémoire ou un horaire.

Trafic ↑  →  Métriques ↑  →  Réplicas ↑
Trafic ↓ → Métriques ↓ → Réplicas ↓

Prérequis​

Volumes Persistants

L'autoscaling n'est pas disponible pour les conteneurs avec un volume persistant attaché. Les volumes nécessitent que le conteneur soit limité à un seul réplica. Pour utiliser l'autoscaling, supprimez d'abord le volume persistant.

Activer l'Autoscaling​

  1. Naviguez vers votre conteneur
  2. Cliquez sur l'onglet Autoscaling
  3. Activez Activer l'Autoscaling
  4. Configurez les paramètres
  5. Cliquez sur Enregistrer

Options de Configuration​

Limites de Réplicas​

ParamètreDescriptionRecommandation
Min RéplicasInstances minimum en cours d'exécutionAu moins 2 pour la HA
Max RéplicasInstances maximum pour la montée en chargeSelon le budget
Réplicas Minimum

Définissez les réplicas min à au moins 2 en production pour la haute disponibilité. Cela garantit que votre application reste en ligne si un réplica échoue.

Déclencheurs de Scaling​

Scaling Basé sur le CPU​

Scale selon l'utilisation CPU par rapport à la limite allouée du conteneur :

ParamètreValeurComportement
CPU Cible70%Scale up quand le CPU moyen dépasse 70% de la limite CPU du conteneur
Stabilisation Scale Up15sAttente avant ajout de réplicas
Stabilisation Scale Down300sAttente avant suppression de réplicas

Scaling Basé sur la Mémoire​

Scale selon l'utilisation mémoire par rapport à la limite allouée du conteneur :

ParamètreValeurComportement
Mémoire Cible80%Scale up quand la mémoire moyenne dépasse 80% de la limite mémoire du conteneur
Les seuils sont basés sur les limites

Les seuils CPU et mémoire sont toujours mesurés en pourcentage de la limite allouée de votre conteneur (les ressources que vous payez). Cela garantit un comportement cohérent quels que soient les ajustements internes des requests Kubernetes.

Scaling Basé sur la Planification​

Scale basé sur des horaires pour les patterns de trafic prévisibles :

Comment Fonctionne le Scaling Planifié​

Le scaling planifié ajuste automatiquement les réplicas selon l'heure, parfait pour les patterns de trafic prévisibles :

  1. Pendant la période planifiée (entre Heure de Début et Heure de Fin les Jours Actifs) :

    • Les réplicas montent à la valeur Réplicas Souhaités
  2. En dehors de la période planifiée :

    • Les réplicas redescendent au Min Réplicas
    • Si Min Réplicas est 0, le conteneur s'arrête complètement (scale to zero)
Comprendre les Heures de Début et de Fin
  • Heure de Début : Quand votre conteneur monte au nombre souhaité de réplicas
  • Heure de Fin : Quand votre conteneur redescend au minimum de réplicas

Entre les heures de début et de fin les jours actifs, SailOps maintient le nombre de réplicas souhaité. En dehors de cette fenêtre, il utilise le paramètre minimum de réplicas.

Options de Configuration​
ParamètreDescriptionExemple
Jours ActifsJours où la planification est activeLun, Mar, Mer, Jeu, Ven
Heure de DébutHeure de montée en charge08:00
Heure de FinHeure de descente en charge20:00
Réplicas SouhaitésRéplicas cibles pendant la planification3
Fuseau HoraireFuseau horaire pour la planificationEurope/Paris

Comportement de Scaling​

Scale Up​

Quand les métriques dépassent la cible :

  1. L'autoscaler détecte la charge accrue
  2. Les nouveaux réplicas sont planifiés
  3. Les health checks vérifient la disponibilité
  4. Le trafic est routé vers les nouveaux réplicas

Comportement par défaut : Scale-up rapide (sous 15 secondes)

Scale Down​

Quand les métriques passent sous la cible :

  1. L'autoscaler détecte la charge réduite
  2. La période de stabilisation commence (5 minutes)
  3. Les réplicas sont progressivement terminés
  4. Le trafic se draine proprement

Comportement par défaut : Scale-down lent pour éviter les oscillations

Périodes de Cooldown​

Prévention des oscillations rapides de scaling :

DirectionPar DéfautDescription
Scale Up15 secondesTemps minimum entre les scale-ups
Scale Down5 minutesTemps minimum entre les scale-downs

Exemples de Configuration​

Application Web​

Configuration typique pour un serveur web :

ParamètreValeur
Activétrue
Min Réplicas2
Max Réplicas10

Déclencheurs : CPU à 70%, Mémoire à 80%

Serveur API​

Haute disponibilité pour les APIs :

ParamètreValeur
Activétrue
Min Réplicas3
Max Réplicas20

Déclencheurs : CPU à 60%, Mémoire à 75%

Worker en Arrière-Plan​

Scale selon l'utilisation CPU pour les traitements en arrière-plan :

ParamètreValeur
Activétrue
Min Réplicas1
Max Réplicas10

Déclencheurs : CPU à 80%

Surveiller l'Autoscaling​

Statut Actuel​

Consultez le statut d'autoscaling dans les détails du conteneur :

MétriqueDescription
Réplicas ActuelsInstances actives actuellement
Réplicas SouhaitésCible selon les métriques
CPU ActuelCPU moyen sur tous les réplicas
Mémoire ActuelleUtilisation mémoire moyenne

Événements​

Les événements d'autoscaling apparaissent dans l'onglet Événements :

  • ScaledUp : Réplicas augmentés
  • ScaledDown : Réplicas réduits
  • FailedScale : Échec du scaling

Métriques​

Surveillez les patterns de scaling :

  1. Allez dans l'onglet Métriques
  2. Consultez le nombre de réplicas dans le temps
  3. Corrélez avec les métriques CPU/mémoire

Bonnes Pratiques​

Dimensionner Correctement Votre Classe de Calcul​

Avant de vous reposer sur l'autoscaling, assurez-vous que votre classe de calcul est appropriée :

  1. Les conteneurs devraient tourner à 40-60% CPU normalement
  2. Si toujours à 100%, envisagez d'augmenter la classe de calcul
  3. L'autoscaling gère les pics, pas la capacité de base

Définir des Cibles Appropriées​

CibleTrop BasseCorrecteTrop Haute
CPU40%60-70%90%
Mémoire50%70-80%95%
  • Trop basse : Gaspillage de ressources, scaling fréquent
  • Trop haute : Mauvaises performances, réponse lente aux pics

Configurer les Health Checks​

Assurez-vous que les réplicas sont sains avant de recevoir du trafic :

ParamètreValeur
Chemin/health
Délai Initial10s
Période5s

Arrêt Propre​

Gérez les signaux de terminaison :

process.on('SIGTERM', () => {
server.close(() => {
process.exit(0);
});
});

Tester Votre Scaling​

Utilisez des tests de charge pour vérifier :

  1. Le scale-up se produit à la charge attendue
  2. Le scale-down est progressif et stable
  3. Aucune requête n'est perdue pendant le scaling

Scale to Zero​

Définir Min Réplicas à 0 permet d'arrêter complètement le conteneur : aucun réplica ne tourne et aucun calcul n'est facturé. Le scale to zero nécessite un déclencheur de Planification. Un minimum de 0 est refusé lorsque les seuls déclencheurs sont CPU ou mémoire, car ceux-ci sont mesurés sur les réplicas en cours d'exécution et ne pourraient jamais redémarrer le conteneur.

Pas de réveil sur requête entrante

Un conteneur à zéro réplica ne démarre pas à l'arrivée d'une requête. Les requêtes envoyées alors qu'aucun réplica ne tourne échouent jusqu'à la prochaine heure de début planifiée. Le scale to zero convient aux charges aux horaires prévisibles, comme l'arrêt d'un environnement de staging la nuit, et non aux services qui doivent répondre à tout moment.

Exemple : Scale to Zero en Dehors des Heures de Bureau​

Économisez des coûts en faisant tourner 0 réplica pendant les nuits et week-ends :

Étape 1 : Configurer les Paramètres d'Autoscaling

ParamètreValeurDescription
Activer Autoscaling✓Activer le scaling automatique
Min Réplicas0Permettre le scaling à zéro
Max Réplicas10Maximum pendant les pics

Étape 2 : Ajouter un Déclencheur de Planification

ParamètreValeurDescription
Jours ActifsLun, Mar, Mer, Jeu, VenJours ouvrables uniquement
Heure de Début08:00Montée en charge à 8h00
Heure de Fin20:00Descente en charge à 20h00
Réplicas Souhaités2Minimum pendant les heures de bureau
Fuseau HoraireEurope/ParisVotre fuseau horaire local

Résultat :

  • Lun-Ven 8h00-20h00 : 2+ réplicas actifs (peut monter plus haut avec les déclencheurs CPU/Mémoire)
  • Lun-Ven 20h00-8h00 : 0 réplica (conteneur arrêté, aucun calcul facturé)
  • Week-ends : 0 réplica (hors planification)
Économies de Coûts

Cette configuration peut réduire les coûts jusqu'à 70% pour les applications de développement ou internes qui ne sont utilisées que pendant les heures de bureau.

Exemple : Différentes Capacités pour les Heures de Pointe​

Vous pouvez ajouter plusieurs déclencheurs de Planification pour différentes périodes :

Planification 1 - Pic Matinal :

  • Jours Actifs : Lun-Ven
  • Début : 08:00, Fin : 10:00
  • Réplicas Souhaités : 5

Planification 2 - Heures Normales :

  • Jours Actifs : Lun-Ven
  • Début : 10:00, Fin : 18:00
  • Réplicas Souhaités : 3

Planification 3 - Pic du Soir :

  • Jours Actifs : Lun-Ven
  • Début : 18:00, Fin : 20:00
  • Réplicas Souhaités : 4

Avec Min Réplicas : 0, votre conteneur :

  • Fait tourner 5 réplicas pendant le rush matinal
  • Fait tourner 3 réplicas pendant les heures de bureau normales
  • Fait tourner 4 réplicas pendant le trafic du soir
  • S'arrête complètement la nuit et les week-ends

Temps de Démarrage après un Scale to Zero​

Au début d'une planification, le conteneur passe de 0 réplica au nombre souhaité. Il ne peut pas répondre aux requêtes avant la fin du démarrage :

FacteurTemps Typique
Petite image (<100MB)5-15 secondes
Grande image (>500MB)30-60 secondes
Initialisation rapide d'app5-10 secondes
Initialisation lourde (BDD, cache)30+ secondes

Temps de démarrage total = Téléchargement image + Démarrage conteneur + Initialisation app + Vérification santé

Recommandations pour le scale-to-zero :

  • Placer l'heure de début de la planification quelques minutes avant le besoin
  • Optimiser la taille de l'image conteneur (utiliser des builds multi-étapes)
  • Configurer des sondes de démarrage appropriées
  • Pour les services qui doivent répondre à tout moment, conserver Min Réplicas: 1 ou plus

Combiner la Planification avec le Scaling CPU/Mémoire​

Vous pouvez utiliser le scaling planifié avec les déclencheurs CPU/Mémoire. SailOps utilise le nombre de réplicas maximum de tous les déclencheurs actifs.

Exemple de Configuration :

  • Déclencheur CPU : cible 70%
  • Déclencheur Planification : Lun-Ven 9h00-18h00, Réplicas Souhaités : 3
  • Min Réplicas : 1

Comportement :

PériodeDéclencheurs ActifsRésultat
Heures de bureau semaine, faible traficPlanification (3) + CPU (1)3 réplicas (max)
Heures de bureau semaine, fort traficPlanification (3) + CPU (8)8 réplicas (max)
Nuit en semaine, faible traficCPU seulement (1)1 réplica
Week-endCPU seulementBasé sur l'usage CPU

C'est utile pour :

  • Assurer une capacité minimum pendant les périodes d'activité connues
  • Permettre un scaling supplémentaire pendant les pics de trafic inattendus

Dépannage​

Le Scaling ne Fonctionne Pas​

  • Vérifiez que l'autoscaling est activé
  • Vérifiez que les métriques sont collectées
  • Assurez-vous que min/max réplicas sont différents
  • Consultez les Événements pour les erreurs

Trop de Scaling​

  • Augmentez les fenêtres de stabilisation
  • Augmentez les pourcentages cibles
  • Vérifiez les fuites mémoire de l'application

Scaling Pas Assez Rapide​

  • Diminuez les pourcentages cibles
  • Réduisez la stabilisation de scale-up
  • Pré-scalez avant le trafic attendu

Les Réplicas Plantent en Boucle​

  • Vérifiez la configuration du health check
  • Vérifiez que l'application gère les requêtes concurrentes
  • Consultez les logs pour les crashs

Optimisation des Coûts​

L'autoscaling aide à optimiser les coûts :

StratégieImplémentation
Scale to zero la nuitUtiliser des déclencheurs de Planification avec Min Réplicas : 0
Dimensionner la capacité de baseAnalyser les patterns d'utilisation réels
Définir des maximums appropriésÉviter les coûts incontrôlés
Optimisation heures de pointePlusieurs déclencheurs de Planification pour différentes périodes

Sujets Connexes​