[7편] FastAPI 벡터 검색 성능 최적화 (pgvector 인덱스 및 Auto Scaling 적용)

📌 개요

 

이 글에서는 FastAPI + PostgreSQL + pgvector를 활용한 대규모 벡터 검색 성능 최적화 방법을 다룹니다.

✅ pgvector의 HNSW(Hierarchical Navigable Small World) 인덱스를 활용한 검색 속도 개선

✅ 대량 벡터 데이터 처리 및 검색 최적화

✅ Kubernetes에서 FastAPI의 Auto Scaling 적용

 

---

🚀 1. pgvector의 성능 최적화를 위한 HNSW 인덱스 적용

 

pgvector는 벡터 검색을 최적화하기 위해 L2 distance (유클리드 거리), Cosine similarity, Inner product 등의 방법을 지원합니다.

HNSW(Hierarchical Navigable Small World) 인덱스를 활용하면 대규모 데이터에서도 빠른 검색이 가능합니다.

 

1️⃣ 기존 벡터 테이블 확인

 

먼저, 현재 벡터 데이터를 저장하는 테이블 구조를 확인합니다.

\dt

 

✅ 출력 예시

          List of relations
 Schema |    Name    | Type  |  Owner  
--------+-----------+-------+---------
 public | embeddings | table | postgres

 

📌 현재 테이블 구조 조회

\d embeddings

 

✅ 출력 예시

 Column   |   Type   | Collation | Nullable | Default
----------+---------+-----------+----------+---------
 id       | integer |           | not null | nextval('embeddings_id_seq'::regclass)
 content  | text    |           |          |
 embedding| vector(3) |         |          |
Indexes:
    "embeddings_pkey" PRIMARY KEY, btree (id)

 

 

---

2️⃣ HNSW 인덱스 적용

 

HNSW 인덱스는 벡터 검색 성능을 대폭 향상시키는 데 유용합니다.

CREATE INDEX embeddings_hnsw ON embeddings USING hnsw (embedding vector_l2_ops);

 

✅ 적용된 인덱스 확인

SELECT indexname, indexdef FROM pg_indexes WHERE tablename = 'embeddings';

 

✅ 출력 예시

 indexname     |               indexdef
---------------+----------------------------------------------
 embeddings_pkey | CREATE UNIQUE INDEX embeddings_pkey ON embeddings USING btree (id)
 embeddings_hnsw | CREATE INDEX embeddings_hnsw ON embeddings USING hnsw (embedding vector_l2_ops)

📌 HNSW 인덱스가 적용되었는지 확인 후 검색 성능 테스트 진행

 

---

🚀 2. 대규모 벡터 데이터 검색 최적화

 

HNSW 인덱스를 활용한 검색 최적화 쿼리를 실행합니다.

 

📌 HNSW 인덱스를 활용한 최근접 이웃 검색

SELECT content, embedding <-> '[0.2, 0.2, 0.2]' AS distance
FROM embeddings
ORDER BY distance
LIMIT 5;

 

✅ 출력 예시

      content       | distance  
--------------------+-----------
 Hello, world!      | 0.141421
 How are you?       | 0.173205
 This is PostgreSQL | 0.500000
(3 rows)

📌 Cosine Similarity 검색

SELECT content, embedding <#> '[0.2, 0.2, 0.2]' AS similarity
FROM embeddings
ORDER BY similarity DESC
LIMIT 5;

 

✅ 출력 예시

      content       | similarity  
--------------------+------------
 How are you?       | 0.98
 Hello, world!      | 0.95
 This is PostgreSQL | 0.80
(3 rows)

 

 

---

🚀 3. Kubernetes에서 FastAPI Auto Scaling 적용

 

1️⃣ Kubernetes HPA (Horizontal Pod Autoscaler) 활성화

 

FastAPI가 많은 요청을 처리할 때 자동으로 스케일링할 수 있도록 설정합니다.

 

📌 HPA 적용을 위한 Metrics Server 설치

kubectl apply -f https://github.com/kubernetes-sigs/metrics-server/releases/latest/download/components.yaml

 

📌 HPA를 위한 FastAPI autoscaling.yaml 생성

apiVersion: autoscaling/v2
kind: HorizontalPodAutoscaler
metadata:
  name: fastapi-vector-search-hpa
  namespace: fastapi
spec:
  scaleTargetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: fastapi-vector-search
  minReplicas: 1
  maxReplicas: 5
  metrics:
  - type: Resource
    resource:
      name: cpu
      target:
        type: Utilization
        averageUtilization: 70

 

📌 HPA 적용

kubectl apply -f autoscaling.yaml -n fastapi

 

✅ HPA 상태 확인

kubectl get hpa -n fastapi

 

✅ 출력 예시

NAME                        REFERENCE                        TARGETS   MINPODS   MAXPODS   REPLICAS
fastapi-vector-search-hpa   Deployment/fastapi-vector-search 50%/70%   1         5         2

HPA가 트래픽에 따라 자동으로 FastAPI Pod을 확장하는 것을 확인할 수 있습니다.

 

---

📌 4. 최종 정리

 

✅ HNSW 인덱스를 활용한 벡터 검색 성능 최적화

✅ Cosine Similarity, L2 distance를 활용한 벡터 검색

✅ Kubernetes HPA를 이용한 FastAPI Auto Scaling 적용

✅ 벡터 검색 성능을 대폭 향상시켜 대량의 데이터에서도 빠른 검색 가능