[Istio 가이드 ep.15] 2부 트래픽 관리 #9 | Istio에서 TCP, gRPC 트래픽을 관리하는 방법

🔹 개요

이번 글에서는 Istio를 활용하여 TCP 및 gRPC 트래픽을 효과적으로 관리하는 방법을 살펴보겠습니다.
일반적인 HTTP 트래픽 외에도 TCP 및 gRPC 통신을 제어할 필요가 있는 서비스가 많습니다.
Istio는 이러한 트래픽을 VirtualService, DestinationRule, Gateway를 활용하여 세밀하게 관리할 수 있습니다.

이 글에서는 TCP 및 gRPC 트래픽의 개념, Istio에서 이를 처리하는 방법,
그리고 실제 YAML 예제를 통해 적용 방법을 설명하겠습니다.

---

🔹 1. TCP 및 gRPC 트래픽 개념

✅ 1.1 TCP 트래픽 관리란?

TCP 기반의 애플리케이션(예: 데이터베이스, 메시지 큐, 원격 서비스 등)은 HTTP 기반 서비스와 다르게 세션을 유지하는 특성이 있습니다.
이러한 TCP 트래픽도 Istio에서 제어할 수 있으며,
로드 밸런싱, 타임아웃, 서킷 브레이커 등의 기능을 적용할 수 있습니다.

Istio에서 TCP 트래픽을 제어하는 주요 기능

• TCP 서비스의 트래픽 라우팅 및 로드 밸런싱
• TLS를 통한 보안 통신 지원
• TCP 기반의 서비스(예: Redis, MySQL, Kafka)와의 통합 가능

---

✅ 1.2 gRPC 트래픽 관리란?

**gRPC(Google Remote Procedure Call)**는 HTTP/2를 기반으로 한 고성능 RPC(Remote Procedure Call) 프레임워크입니다.
Istio는 gRPC 트래픽을 HTTP와 동일하게 처리할 수 있으며,
세밀한 트래픽 제어, 리트라이, 로드 밸런싱, 보안 기능 등을 적용할 수 있습니다.

Istio에서 gRPC 트래픽을 제어하는 주요 기능

• gRPC 요청을 HTTP처럼 처리 가능
• VirtualService를 활용하여 gRPC 트래픽을 특정 서비스로 라우팅
• 리트라이, 타임아웃, 서킷 브레이커 설정 가능

---

🔹 2. Istio TCP 트래픽 관리

✅ 2.1 TCP 트래픽을 위한 DestinationRule 설정

아래 예제에서는 TCP 트래픽을 특정 서비스로 라우팅하는 DestinationRule을 설정합니다.

apiVersion: networking.istio.io/v1alpha3
kind: DestinationRule
metadata:
  name: tcp-service
spec:
  host: my-tcp-service  # TCP 서비스 대상
  trafficPolicy:
    connectionPool:
      tcp:
        maxConnections: 100  # 최대 동시 연결 수 제한
      http:
        maxRequestsPerConnection: 1  # HTTP 연결당 요청 개수 제한
    outlierDetection:
      consecutive5xxErrors: 3  # 5xx 오류가 3번 발생하면 해당 인스턴스를 제거
      interval: 10s  # 오류 감지 주기 (10초)
      baseEjectionTime: 30s  # 서킷 브레이커 활성화 후 30초 동안 차단

설명:

• trafficPolicy.connectionPool.tcp.maxConnections: 100 → 최대 동시 연결 100개까지 허용
• outlierDetection.consecutive5xxErrors: 3 → 3번 연속 5xx 오류가 발생하면 해당 서비스 제거
• baseEjectionTime: 30s → 오류가 발생한 서비스는 30초 동안 차단됨

💡 활용 사례:

• TCP 기반 서비스(예: MySQL, Redis)의 과부하 방지를 위해 최대 연결 수 제한
• 네트워크 장애 발생 시 서킷 브레이커를 활용하여 트래픽 자동 차단

---

✅ 2.2 TCP 트래픽을 위한 VirtualService 설정

아래 예제에서는 특정 포트(3306, MySQL)에서 TCP 트래픽을 처리하는 VirtualService를 설정합니다.

apiVersion: networking.istio.io/v1alpha3
kind: VirtualService
metadata:
  name: tcp-service
spec:
  hosts:
    - my-tcp-service
  tcp:
    - match:
        - port: 3306  # MySQL 포트에서 TCP 트래픽 수신
      route:
        - destination:
            host: my-tcp-service
            port:
              number: 3306

설명:

• tcp.match.port: 3306 → MySQL의 기본 포트(3306)에서 트래픽을 수신
• route.destination.host: my-tcp-service → 트래픽을 해당 서비스로 전달

💡 활용 사례:

• TCP 서비스(MySQL, Redis, Kafka 등)를 Istio 내부에서 관리할 때 사용

---

🔹 3. Istio gRPC 트래픽 관리

✅ 3.1 gRPC 트래픽을 위한 VirtualService 설정

아래 예제에서는 gRPC 요청을 특정 서비스로 라우팅하는 VirtualService를 설정합니다.

apiVersion: networking.istio.io/v1alpha3
kind: VirtualService
metadata:
  name: grpc-service
spec:
  hosts:
    - my-grpc-service
  http:
    - match:
        - uri:
            prefix: "/grpc"  # "/grpc"로 시작하는 모든 요청을 처리
      route:
        - destination:
            host: my-grpc-service
            port:
              number: 50051  # gRPC 기본 포트

설명:

• match.uri.prefix: "/grpc" → 모든 gRPC 요청을 특정 서비스로 라우팅
• destination.port.number: 50051 → gRPC 서비스의 기본 포트(50051)로 전달

💡 활용 사례:

• Istio를 사용하여 gRPC 서비스 간 트래픽을 세밀하게 제어
• 특정 gRPC 메서드(API 엔드포인트)를 기반으로 트래픽을 다른 서비스로 분배

---

✅ 3.2 gRPC 요청의 리트라이 설정

아래 설정은 gRPC 요청이 실패했을 경우 최대 3회 재시도하도록 구성합니다.

apiVersion: networking.istio.io/v1alpha3
kind: VirtualService
metadata:
  name: grpc-service
spec:
  hosts:
    - my-grpc-service
  http:
    - route:
        - destination:
            host: my-grpc-service
      retries:
        attempts: 3  # 최대 3번까지 재시도
        perTryTimeout: 2s  # 각 요청당 최대 2초 대기
        retryOn: "cancelled,unavailable,resource-exhausted"  # 특정 gRPC 오류 시 재시도

설명:

• retries.attempts: 3 → 최대 3번까지 재시도
• retries.perTryTimeout: 2s → 각 요청당 최대 2초 동안 대기
• retryOn: "cancelled,unavailable,resource-exhausted"
  → gRPC 오류(cancelled, unavailable, resource-exhausted) 발생 시 재시도 수행

💡 활용 사례:

• gRPC 서버 장애 시 자동 재시도를 통해 서비스 가용성을 유지

---

📌 결론

• TCP 트래픽은 VirtualService 및 DestinationRule을 활용하여 포트별 트래픽 라우팅 및 서킷 브레이커 적용 가능
• gRPC 트래픽은 HTTP처럼 관리할 수 있으며, 세밀한 트래픽 제어 및 리트라이 설정 가능
• TCP 서비스(MySQL, Redis, Kafka 등) 및 gRPC API를 Istio 내부에서 효과적으로 관리 가능
• 리트라이 및 서킷 브레이커를 조합하여 장애 발생 시 자동으로 복구할 수 있도록 구성 가능