Autoscaling
Ajustez automatiquement vos conteneurs en fonction du CPU, de la mémoire ou de planifications.
L'autoscaling garantit que votre application dispose des bonnes ressources à tout moment — montée en charge lors des pics de trafic et réduction pendant les périodes calmes.
Comment Fonctionne l'Autoscaling
SailOps ajuste automatiquement le nombre de réplicas d'un conteneur selon l'utilisation du CPU, de la mémoire ou un horaire.
Trafic ↑ → Métriques ↑ → Réplicas ↑
Trafic ↓ → Métriques ↓ → Réplicas ↓
Prérequis
L'autoscaling n'est pas disponible pour les conteneurs avec un volume persistant attaché. Les volumes nécessitent que le conteneur soit limité à un seul réplica. Pour utiliser l'autoscaling, supprimez d'abord le volume persistant.
Activer l'Autoscaling
- Naviguez vers votre conteneur
- Cliquez sur l'onglet Autoscaling
- Activez Activer l'Autoscaling
- Configurez les paramètres
- Cliquez sur Enregistrer
Options de Configuration
Limites de Réplicas
| Paramètre | Description | Recommandation |
|---|---|---|
| Min Réplicas | Instances minimum en cours d'exécution | Au moins 2 pour la HA |
| Max Réplicas | Instances maximum pour la montée en charge | Selon le budget |
Définissez les réplicas min à au moins 2 en production pour la haute disponibilité. Cela garantit que votre application reste en ligne si un réplica échoue.
Déclencheurs de Scaling
Scaling Basé sur le CPU
Scale selon l'utilisation CPU par rapport à la limite allouée du conteneur :
| Paramètre | Valeur | Comportement |
|---|---|---|
| CPU Cible | 70% | Scale up quand le CPU moyen dépasse 70% de la limite CPU du conteneur |
| Stabilisation Scale Up | 15s | Attente avant ajout de réplicas |
| Stabilisation Scale Down | 300s | Attente avant suppression de réplicas |
Scaling Basé sur la Mémoire
Scale selon l'utilisation mémoire par rapport à la limite allouée du conteneur :
| Paramètre | Valeur | Comportement |
|---|---|---|
| Mémoire Cible | 80% | Scale up quand la mémoire moyenne dépasse 80% de la limite mémoire du conteneur |
Les seuils CPU et mémoire sont toujours mesurés en pourcentage de la limite allouée de votre conteneur (les ressources que vous payez). Cela garantit un comportement cohérent quels que soient les ajustements internes des requests Kubernetes.
Scaling Basé sur la Planification
Scale basé sur des horaires pour les patterns de trafic prévisibles :
Comment Fonctionne le Scaling Planifié
Le scaling planifié ajuste automatiquement les réplicas selon l'heure, parfait pour les patterns de trafic prévisibles :
-
Pendant la période planifiée (entre Heure de Début et Heure de Fin les Jours Actifs) :
- Les réplicas montent à la valeur
Réplicas Souhaités
- Les réplicas montent à la valeur
-
En dehors de la période planifiée :
- Les réplicas redescendent au
Min Réplicas - Si
Min Réplicasest 0, le conteneur s'arrête complètement (scale to zero)
- Les réplicas redescendent au
- Heure de Début : Quand votre conteneur monte au nombre souhaité de réplicas
- Heure de Fin : Quand votre conteneur redescend au minimum de réplicas
Entre les heures de début et de fin les jours actifs, SailOps maintient le nombre de réplicas souhaité. En dehors de cette fenêtre, il utilise le paramètre minimum de réplicas.
Options de Configuration
| Paramètre | Description | Exemple |
|---|---|---|
| Jours Actifs | Jours où la planification est active | Lun, Mar, Mer, Jeu, Ven |
| Heure de Début | Heure de montée en charge | 08:00 |
| Heure de Fin | Heure de descente en charge | 20:00 |
| Réplicas Souhaités | Réplicas cibles pendant la planification | 3 |
| Fuseau Horaire | Fuseau horaire pour la planification | Europe/Paris |
Comportement de Scaling
Scale Up
Quand les métriques dépassent la cible :
- L'autoscaler détecte la charge accrue
- Les nouveaux réplicas sont planifiés
- Les health checks vérifient la disponibilité
- Le trafic est routé vers les nouveaux réplicas
Comportement par défaut : Scale-up rapide (sous 15 secondes)
Scale Down
Quand les métriques passent sous la cible :
- L'autoscaler détecte la charge réduite
- La période de stabilisation commence (5 minutes)
- Les réplicas sont progressivement terminés
- Le trafic se draine proprement
Comportement par défaut : Scale-down lent pour éviter les oscillations
Périodes de Cooldown
Prévention des oscillations rapides de scaling :
| Direction | Par Défaut | Description |
|---|---|---|
| Scale Up | 15 secondes | Temps minimum entre les scale-ups |
| Scale Down | 5 minutes | Temps minimum entre les scale-downs |
Exemples de Configuration
Application Web
Configuration typique pour un serveur web :
| Paramètre | Valeur |
|---|---|
| Activé | true |
| Min Réplicas | 2 |
| Max Réplicas | 10 |
Déclencheurs : CPU à 70%, Mémoire à 80%
Serveur API
Haute disponibilité pour les APIs :
| Paramètre | Valeur |
|---|---|
| Activé | true |
| Min Réplicas | 3 |
| Max Réplicas | 20 |
Déclencheurs : CPU à 60%, Mémoire à 75%
Worker en Arrière-Plan
Scale selon l'utilisation CPU pour les traitements en arrière-plan :
| Paramètre | Valeur |
|---|---|
| Activé | true |
| Min Réplicas | 1 |
| Max Réplicas | 10 |
Déclencheurs : CPU à 80%
Surveiller l'Autoscaling
Statut Actuel
Consultez le statut d'autoscaling dans les détails du conteneur :
| Métrique | Description |
|---|---|
| Réplicas Actuels | Instances actives actuellement |
| Réplicas Souhaités | Cible selon les métriques |
| CPU Actuel | CPU moyen sur tous les réplicas |
| Mémoire Actuelle | Utilisation mémoire moyenne |
Événements
Les événements d'autoscaling apparaissent dans l'onglet Événements :
ScaledUp: Réplicas augmentésScaledDown: Réplicas réduitsFailedScale: Échec du scaling
Métriques
Surveillez les patterns de scaling :
- Allez dans l'onglet Métriques
- Consultez le nombre de réplicas dans le temps
- Corrélez avec les métriques CPU/mémoire
Bonnes Pratiques
Dimensionner Correctement Votre Classe de Calcul
Avant de vous reposer sur l'autoscaling, assurez-vous que votre classe de calcul est appropriée :
- Les conteneurs devraient tourner à 40-60% CPU normalement
- Si toujours à 100%, envisagez d'augmenter la classe de calcul
- L'autoscaling gère les pics, pas la capacité de base
Définir des Cibles Appropriées
| Cible | Trop Basse | Correcte | Trop Haute |
|---|---|---|---|
| CPU | 40% | 60-70% | 90% |
| Mémoire | 50% | 70-80% | 95% |
- Trop basse : Gaspillage de ressources, scaling fréquent
- Trop haute : Mauvaises performances, réponse lente aux pics
Configurer les Health Checks
Assurez-vous que les réplicas sont sains avant de recevoir du trafic :
| Paramètre | Valeur |
|---|---|
| Chemin | /health |
| Délai Initial | 10s |
| Période | 5s |
Arrêt Propre
Gérez les signaux de terminaison :
process.on('SIGTERM', () => {
server.close(() => {
process.exit(0);
});
});
Tester Votre Scaling
Utilisez des tests de charge pour vérifier :
- Le scale-up se produit à la charge attendue
- Le scale-down est progressif et stable
- Aucune requête n'est perdue pendant le scaling
Scale to Zero
Définir Min Réplicas à 0 permet d'arrêter complètement le conteneur : aucun réplica ne tourne et aucun calcul n'est facturé. Le scale to zero nécessite un déclencheur de Planification. Un minimum de 0 est refusé lorsque les seuls déclencheurs sont CPU ou mémoire, car ceux-ci sont mesurés sur les réplicas en cours d'exécution et ne pourraient jamais redémarrer le conteneur.
Un conteneur à zéro réplica ne démarre pas à l'arrivée d'une requête. Les requêtes envoyées alors qu'aucun réplica ne tourne échouent jusqu'à la prochaine heure de début planifiée. Le scale to zero convient aux charges aux horaires prévisibles, comme l'arrêt d'un environnement de staging la nuit, et non aux services qui doivent répondre à tout moment.
Exemple : Scale to Zero en Dehors des Heures de Bureau
Économisez des coûts en faisant tourner 0 réplica pendant les nuits et week-ends :
Étape 1 : Configurer les Paramètres d'Autoscaling
| Paramètre | Valeur | Description |
|---|---|---|
| Activer Autoscaling | ✓ | Activer le scaling automatique |
| Min Réplicas | 0 | Permettre le scaling à zéro |
| Max Réplicas | 10 | Maximum pendant les pics |
Étape 2 : Ajouter un Déclencheur de Planification
| Paramètre | Valeur | Description |
|---|---|---|
| Jours Actifs | Lun, Mar, Mer, Jeu, Ven | Jours ouvrables uniquement |
| Heure de Début | 08:00 | Montée en charge à 8h00 |
| Heure de Fin | 20:00 | Descente en charge à 20h00 |
| Réplicas Souhaités | 2 | Minimum pendant les heures de bureau |
| Fuseau Horaire | Europe/Paris | Votre fuseau horaire local |
Résultat :
- Lun-Ven 8h00-20h00 : 2+ réplicas actifs (peut monter plus haut avec les déclencheurs CPU/Mémoire)
- Lun-Ven 20h00-8h00 : 0 réplica (conteneur arrêté, aucun calcul facturé)
- Week-ends : 0 réplica (hors planification)
Cette configuration peut réduire les coûts jusqu'à 70% pour les applications de développement ou internes qui ne sont utilisées que pendant les heures de bureau.
Exemple : Différentes Capacités pour les Heures de Pointe
Vous pouvez ajouter plusieurs déclencheurs de Planification pour différentes périodes :
Planification 1 - Pic Matinal :
- Jours Actifs : Lun-Ven
- Début : 08:00, Fin : 10:00
- Réplicas Souhaités : 5
Planification 2 - Heures Normales :
- Jours Actifs : Lun-Ven
- Début : 10:00, Fin : 18:00
- Réplicas Souhaités : 3
Planification 3 - Pic du Soir :
- Jours Actifs : Lun-Ven
- Début : 18:00, Fin : 20:00
- Réplicas Souhaités : 4
Avec Min Réplicas : 0, votre conteneur :
- Fait tourner 5 réplicas pendant le rush matinal
- Fait tourner 3 réplicas pendant les heures de bureau normales
- Fait tourner 4 réplicas pendant le trafic du soir
- S'arrête complètement la nuit et les week-ends
Temps de Démarrage après un Scale to Zero
Au début d'une planification, le conteneur passe de 0 réplica au nombre souhaité. Il ne peut pas répondre aux requêtes avant la fin du démarrage :
| Facteur | Temps Typique |
|---|---|
| Petite image (<100MB) | 5-15 secondes |
| Grande image (>500MB) | 30-60 secondes |
| Initialisation rapide d'app | 5-10 secondes |
| Initialisation lourde (BDD, cache) | 30+ secondes |
Temps de démarrage total = Téléchargement image + Démarrage conteneur + Initialisation app + Vérification santé
Recommandations pour le scale-to-zero :
- Placer l'heure de début de la planification quelques minutes avant le besoin
- Optimiser la taille de l'image conteneur (utiliser des builds multi-étapes)
- Configurer des sondes de démarrage appropriées
- Pour les services qui doivent répondre à tout moment, conserver
Min Réplicas: 1ou plus
Combiner la Planification avec le Scaling CPU/Mémoire
Vous pouvez utiliser le scaling planifié avec les déclencheurs CPU/Mémoire. SailOps utilise le nombre de réplicas maximum de tous les déclencheurs actifs.
Exemple de Configuration :
- Déclencheur CPU : cible 70%
- Déclencheur Planification : Lun-Ven 9h00-18h00, Réplicas Souhaités : 3
- Min Réplicas : 1
Comportement :
| Période | Déclencheurs Actifs | Résultat |
|---|---|---|
| Heures de bureau semaine, faible trafic | Planification (3) + CPU (1) | 3 réplicas (max) |
| Heures de bureau semaine, fort trafic | Planification (3) + CPU (8) | 8 réplicas (max) |
| Nuit en semaine, faible trafic | CPU seulement (1) | 1 réplica |
| Week-end | CPU seulement | Basé sur l'usage CPU |
C'est utile pour :
- Assurer une capacité minimum pendant les périodes d'activité connues
- Permettre un scaling supplémentaire pendant les pics de trafic inattendus
Dépannage
Le Scaling ne Fonctionne Pas
- Vérifiez que l'autoscaling est activé
- Vérifiez que les métriques sont collectées
- Assurez-vous que min/max réplicas sont différents
- Consultez les Événements pour les erreurs
Trop de Scaling
- Augmentez les fenêtres de stabilisation
- Augmentez les pourcentages cibles
- Vérifiez les fuites mémoire de l'application
Scaling Pas Assez Rapide
- Diminuez les pourcentages cibles
- Réduisez la stabilisation de scale-up
- Pré-scalez avant le trafic attendu
Les Réplicas Plantent en Boucle
- Vérifiez la configuration du health check
- Vérifiez que l'application gère les requêtes concurrentes
- Consultez les logs pour les crashs
Optimisation des Coûts
L'autoscaling aide à optimiser les coûts :
| Stratégie | Implémentation |
|---|---|
| Scale to zero la nuit | Utiliser des déclencheurs de Planification avec Min Réplicas : 0 |
| Dimensionner la capacité de base | Analyser les patterns d'utilisation réels |
| Définir des maximums appropriés | Éviter les coûts incontrôlés |
| Optimisation heures de pointe | Plusieurs déclencheurs de Planification pour différentes périodes |