[Istio 가이드 ep.35] 5부 운영 및 최적화 #5 | Istio 비용 절감 및 성능 튜닝 가이드

🔹 개요

이번 글에서는 Istio의 운영 비용을 절감하고, 성능을 최적화하는 방법을 살펴보겠습니다.
Istio는 서비스 메시 기능을 제공하는 강력한 도구지만,
잘못된 설정으로 인해 불필요한 리소스 사용 증가 및 운영 비용 상승이 발생할 수 있습니다.

이 글에서는 Istio의 비용을 줄이는 최적화 전략, 리소스 효율화 및 실전 적용 사례를 설명하겠습니다.

---

🔹 1. Istio 운영 비용이 증가하는 원인

Istio 운영 비용이 증가하는 주요 원인은 다음과 같습니다.

✅ 1.1 불필요한 Sidecar Proxy 사용

• 모든 Pod에 Sidecar(Envoy Proxy)를 주입하면 CPU 및 메모리 사용량이 증가합니다.
• 네트워크 트래픽이 적거나 Sidecar가 필요하지 않은 서비스에도 자동으로 주입되면 불필요한 리소스 낭비가 발생할 수 있습니다.

💡 해결 방법: 불필요한 Sidecar 주입을 방지하고, 특정 네임스페이스에서만 Sidecar를 사용하도록 설정해야 합니다.

---

✅ 1.2 과도한 네트워크 트래픽 로깅

• 기본적으로 Istio는 모든 트래픽 로그를 수집 및 저장합니다.
• 트래픽 로그가 많아질수록 디스크 사용량과 로깅 비용이 증가합니다.

💡 해결 방법: 필요한 로그만 저장하고, 과도한 트래픽 로깅을 방지해야 합니다.

---

✅ 1.3 Envoy Proxy 리소스 과다 사용

• Envoy Proxy는 네트워크 요청을 처리하면서 CPU 및 메모리를 소비합니다.
• 요청이 많아질수록 Envoy Proxy가 클러스터에서 차지하는 리소스가 증가할 수 있습니다.

💡 해결 방법: Envoy Proxy의 Keepalive 및 Connection Pool 설정을 최적화하여 불필요한 리소스 사용을 줄여야 합니다.

---

🔹 2. Istio 비용 절감을 위한 최적화 방법

✅ 2.1 불필요한 Sidecar 자동 주입 방지

모든 네임스페이스에 Sidecar를 자동 주입하는 것은 비효율적일 수 있습니다.
따라서 필요한 네임스페이스에서만 Sidecar를 활성화하는 것이 중요합니다.

kubectl label namespace default istio-injection=enabled
kubectl label namespace kube-system istio-injection=disabled

💡 특정 네임스페이스에서만 Sidecar 주입을 활성화하면 불필요한 리소스 사용을 줄일 수 있습니다.

---

✅ 2.2 Sidecar 리소스 제한 설정

Sidecar Proxy(Envoy)의 CPU 및 메모리 사용량을 제한하면 비용을 절감할 수 있습니다.

apiVersion: apps/v1
kind: Deployment
metadata:
  name: my-app
  namespace: default
spec:
  template:
    spec:
      containers:
        - name: my-app
          image: my-app:v1
        - name: istio-proxy
          resources:
            requests:
              cpu: "100m"   # 최소 100m CPU 요청
              memory: "256Mi" # 최소 256Mi 메모리 요청
            limits:
              cpu: "500m"  # 최대 500m CPU 제한
              memory: "512Mi" # 최대 512Mi 메모리 제한

설명:

• requests.cpu: "100m" → 최소 100m(0.1 CPU)를 사용하도록 설정
• limits.cpu: "500m" → 최대 500m(0.5 CPU)까지만 사용 가능
• requests.memory: "256Mi" → 최소 256Mi 메모리 요청
• limits.memory: "512Mi" → 최대 512Mi 메모리 제한

💡 Sidecar의 리소스를 제한하면 클러스터 비용을 절감할 수 있습니다.

---

✅ 2.3 불필요한 트래픽 로깅 방지

모든 요청을 로깅하면 디스크 사용량이 증가하고, 운영 비용이 높아질 수 있습니다.
따라서 필요한 요청만 로그로 저장하는 것이 중요합니다.

apiVersion: telemetry.istio.io/v1alpha1
kind: Telemetry
metadata:
  name: access-logs
  namespace: istio-system
spec:
  accessLogging:
    providers:
      - name: envoy
    filter:
      expression: 'response.code >= 400'  # HTTP 400 이상 에러 로그만 저장

설명:

• filter.expression: 'response.code >= 400' → 오류(HTTP 400 이상)만 로그로 저장

💡 불필요한 트래픽 로그를 줄이면 디스크 사용량과 운영 비용을 절감할 수 있습니다.

---

✅ 2.4 Envoy Proxy Keepalive 및 Connection Pool 설정 최적화

Envoy Proxy가 불필요한 네트워크 연결을 유지하면 리소스 사용량이 증가할 수 있습니다.
이를 방지하려면 Keepalive 및 Connection Pool 설정을 최적화해야 합니다.

apiVersion: networking.istio.io/v1alpha3
kind: DestinationRule
metadata:
  name: my-service-dr
  namespace: default
spec:
  host: my-service.default.svc.cluster.local
  trafficPolicy:
    connectionPool:
      http:
        http1MaxPendingRequests: 5  # 대기 중인 요청 수 제한
        maxRequestsPerConnection: 3  # 하나의 연결당 최대 요청 개수 제한
      tcp:
        maxConnections: 50  # 최대 TCP 연결 수 제한
    outlierDetection:
      consecutiveErrors: 3  # 오류가 3회 발생하면 연결 해제
      interval: 5s  # 오류 감지 주기
      baseEjectionTime: 10s  # 연결 해제 후 재시도 시간

설명:

• http1MaxPendingRequests: 5 → HTTP 요청 대기열을 5개로 제한
• maxRequestsPerConnection: 3 → 하나의 연결에서 최대 3개의 요청만 허용
• tcp.maxConnections: 50 → 최대 50개의 TCP 연결 유지
• consecutiveErrors: 3 → 3번 연속 오류가 발생하면 해당 연결 차단

💡 Envoy의 연결 수를 최적화하면 메모리 사용량을 줄이고 성능을 향상할 수 있습니다.

---

📌 결론

• 불필요한 Sidecar 자동 주입을 방지하면 리소스를 절감할 수 있습니다.
• Sidecar Proxy(Envoy)의 CPU 및 메모리 사용량을 제한하면 운영 비용을 줄일 수 있습니다.
• 불필요한 트래픽 로깅을 방지하면 디스크 사용량과 네트워크 비용을 절감할 수 있습니다.
• Envoy Proxy의 Connection Pool 및 Keepalive 설정을 최적화하면 성능을 개선하고 비용을 절감할 수 있습니다.