Cloud/Kubernetes
원본 글 보기

[Kubernetes] 오토스케일링(HPA) 설정하기

[Kubernetes] 오토스케일링(HPA) 설정하기

[Kubernetes]

Autoscaling 오토스케일링

#오토스케일링 이란,

CPU와 메모리 사용률에 따라 파드나 노드의 수를 자동으로 늘리고 줄이는 기능.

1) 쿠버네티스의 오토스케일 서브 프로젝트

쿠버네티스의 오토스케일을 개발하는 여러 서브 프로젝트가 있다.

그 중에서도 특히 주목할 만한 것이 다음 두 가지다.

(1) 수평 파드 오토스케일러 ✅

(Horizontal Pod Autoscaler, HPA)

- 루프를 돌면서 대상이되는 파드의 CPU 사용률을 정기적으로 수집

- 파드들의 CPU 평균을 목표값이 되도록 레플리카 수를 조절

(2) 클러스터 오토스케일러 (Cluster Autoscaler, CA)

- 필요할 때 노드를 자동으로 추가.

HPA는 파드의 개수를 조절하지만 새로운 노드를 추가하진 않는다.

CA는 클라우드 API와 연동해서 노드를 늘리거나 줄여 비용 절약 가능.

2) HPA 실습

(1) 부하 테스트용 컨테이너 준비



vi Dockerfile



FROM php:7.0-apache
ADD ./index.php /var/www/html/index.php
RUN chmod a+rx /var/www/html/*.php




vi index.php



<?php
  $x = 0.0001;
for ($i = 0; $i <= 200000; $i++) {
    $x += sqrt($x);
}
  echo "OK!";
?>

이미지 생성



docker build --tag minji/auto:1.0 ./

이미지 허브에 업로드



docker push minji/auto:1.0



auto-deploy.yml



apiVersion: apps/v1
kind: Deployment
metadata:
name: web-php
spec:
replicas: 1
selector:
matchLabels:
run: web-php
  template:
metadata:
labels:
run: web-php
    spec:
containers:
- image: [허브에 업로드한 이미지]  ex) minji/auto:1.0
name: web-php
        resources:
requests:
cpu: 200m



 spec:
containers:
- image: ghdalswl77/auto:1.0
name: web-php
        resources:
limits:
cpu: 500m
          requests:
cpu: 200m

📍오토스케일링에서 중요한 것 : resources

수평 파드 오토스케일러가 'cpu: 200m' 부분 등을 체크한다.



auto-svc.yml



apiVersion: v1
kind: Service
metadata:
name: web-php
spec:
type: NodePort
  selector:
run: web-php
  ports:
- port: 80
protocol: TCP
nodePort: 31446

(노드 포트 30000~32767 번 사이의 포트를 지정해줬다. 지정하지 않으면 이 사이 임의의 수가 포트 지정된다.)



kubectl apply -f auto-deploy.yml



kubectl apply -f auto-svc.yml

서비스 생성 확인:



kubectl get service

접속해서 확인:



kubectl get pods -o wide



kubectl exec -it web-php-55c5d596fb-ntpdn bash

수평 파드 오토스케일러 생성

[생성 전 확인]



kubectl get hpa

[생성]



kubectl autoscale deployment web-php --cpu-percent=50 --min=1 --max=10

다시 확인:

📍 kube-system/metrics-server false (missingendpoints),

kubectl get hpa <unknown> 에러 해결

위 에러의 원인은 ssl 인증서와 관련이 있다.

해결 방법은 두 가지가 있지만, 우선 여기선 둘 중 간단한 방법으로 해결한다.

해당 에러 해결에 대한 자세한 글 은 여기를 참고해주세요!!

아래 명령어로 metric 서비스를 관련 사항을 뽑아보자.



kubectl get apiservices | grep metric

여기서 False 가 뜬다면, 아래를 따라하면 해결될 것이다.

아래 사이트에서 4.0 버전의 components.yaml 파일을 받는다.



wget https://github.com/kubernetes-sigs/metrics-server/releases/download/v0.4.0/components.yaml

파일에서 몇 가지 수정한다.



vi components.yaml

133번 라인쪽에 아래 두 줄 추가.



- --kubelet-insecure-tls
- --kubelet-preferred-address-types=InternalIP

'insecure-tls'.

ssl 인증 방식을 사용하지 않겠다고 설정해주는 것이다.

야매스럽지만 우선 hpa 실습을 위해 이렇게 하고 넘어가도 된다.

정석스럽게 ssl 인증서를 생성해주는 해결 방법은 다음 포스팅을 참고해 주세요!

그리고 165번 쪽에 아래 한 줄 추가.



hostNetwork: true



kubectl apply -f components.yaml

다시 파일을 적용해주고 확인해보자.

그럼 이제 metrics-server : True가 되어 있을 것이다.

다시 web-php라는 이름의 hpa를 생성한다.

hpa 생성



autoscale deployment web-php --cpu-percent=50 --min=1 --max=10

터미널 창 하나 더 띄워서 부하 주기.



kubectl run -it busybox --restart=Never --image=busybox sh

# --restart=Never 옵션: 컨테이너 생성하지 않고 pod 실행.

부하 주기



while true; do wget -q -O - http://web-php > /dev/null; done

http://web-php 사이트 내용을 /dev/null로 보내는(거의 받고 그냥 다시 버리는) 행동을 무한 반복해서 부하를 준다.

터미널 창 또 하나 띄워서 상태 확인.



kubectl get hpa -w

💡 kubectl get hpa '-w옵션' :

-w 또는 --watch 플래그를 지정하여 특정 오브젝트에 대한 업데이트 진행과정을 확인할 수 있다.