How Salesforce migrated from Cluster Autoscaler to Karpenter across their fleet of 1,000 EKS clusters

원문: How Salesforce migrated from Cluster Autoscaler to Karpenter across their fleet of 1,000 EKS clusters (AWS Architecture Blog, 2026-01-12)

오늘의 결론

내가 오늘 해결하고 싶은 문제는 Kubernetes 클러스터의 자동 확장을 효율적으로 관리하는 것이며, Salesforce가 Karpenter로의 마이그레이션을 통해 복잡성을 줄이고 운영 효율성을 극대화한 사례에서 구체적인 해결책을 얻을 수 있습니다.

이 글이 "단순한 기술 전환"이 아닌 이유

Salesforce의 Karpenter로의 전환은 단순히 기술을 교체한 것이 아니라, 운영의 복잡성을 줄이고, 비용을 절감하며, 개발자들의 생산성을 높이는 근본적인 변화를 가져왔습니다.

내가 본 것:

1. 오토스케일링 복잡성: Salesforce는 전통적인 오토스케일링 방식으로 수천 개의 노드 그룹과 자동 확장 그룹을 관리해야 했습니다. 이는 운영 병목현상을 초래하여 신속한 대응이 어려웠습니다. 이 경험은 많은 기업들이 겪는 문제로, 복잡한 오토스케일링 구조는 성능 저하로 이어질 수 있습니다.

1. Karpenter의 도입 이유: Karpenter는 Kubernetes를 위한 오픈 소스 노드 프로비저닝 프로젝트로, 성능 최적화 및 자원 활용을 극대화할 수 있는 가능성을 보여줍니다. 이는 내가 일하는 환경에서도 비슷한 적용이 가능하다는 점에서 흥미롭습니다.

1. 자동화된 전환 프로세스: Salesforce는 수천 개의 클러스터를 중단 없이 마이그레이션하기 위해 자동화된 전환 도구와 패치 점검 도구를 개발했습니다. 이러한 접근 방식은 안전하고 일관되며, 대규모 인프라에서의 변화에 대한 두려움을 줄이는 데 큰 도움이 됩니다.

내가 가져갈 실행 포인트 3개

(1) 오토스케일링 복잡성의 해결: Karpenter 도입 검토

Salesforce는 기존의 오토스케일링 구조에서 발생하는 복잡성을 Karpenter를 도입함으로써 해결했습니다. 나 또한 기업 내 다양한 서비스의 요구에 따라 Karpenter를 도입할 수 있는 가능성을 검토해야 합니다. 이를 통해 자원 관리와 성능 최적화를 동시에 달성할 수 있을 것입니다.

(2) 자동화의 중요성: 마이그레이션 도구 개발

Salesforce가 개발한 Karpenter 전환 도구는 대규모 인프라에서의 마이그레이션을 안전하고 일관되게 진행하는 데 중요한 역할을 했습니다. 나도 비슷한 상황에 처했을 때, 자동화 도구를 개발하여 마이그레이션 과정의 리스크를 줄이고 효율을 높일 수 있는 방안을 고민해야 합니다.

(3) 개발자 생산성 향상: 내부 툴 활용

Karpenter의 도입은 Salesforce 내부 개발자들에게 더 큰 자율성을 주었고, 이는 혁신을 촉진하는 요소가 되었습니다. 나 또한 내부 개발자들이 더 빠르게 실험할 수 있도록 지원하는 도구와 프로세스를 구축함으로써, 생산성을 높이고 혁신을 유도할 수 있도록 해야 합니다.

내가 설계할 기준

Karpenter와 같은 기술을 활용하기 좋은 상황

• 다수의 서비스가 다양한 리소스를 요구하는 환경
• 운영 효율성을 극대화해야 하는 대규모 클러스터
• 빠른 서비스 배포와 변화가 필요한 개발 환경

이 기술이 맞지 않는 경우

• 클러스터 수가 극히 적은 소규모 환경
• 단순한 워크로드만 처리하는 경우

실패를 줄이는 운영 체크리스트

• 자동화 도구 개발 없이 수동으로 마이그레이션 시도하지 말 것
• Karpenter 도입 전 충분한 테스트를 거치지 말 것
• 내부 팀과의 소통 없이 진행하지 말 것
• 운영 환경에 대한 이해 없이 적용하지 말 것
• 자원 사용량 모니터링을 소홀히 하지 말 것

이번 주에 할 1가지

• 대상: Karpenter 도입을 위한 초기 평가 및 테스트 환경 구축
• 측정: 리소스 사용량과 응답 시간을 모니터링하여 Karpenter의 효과를 측정
• 성공 기준: 1주일 내에 초기 테스트를 완료하고 결과를 보고서로 작성하여 팀에 공유할 것

마무리

Karpenter로의 전환은 Salesforce와 같은 대규모 클라우드 환경에서의 혁신을 가능하게 했습니다. 이러한 사례는 운영의 복잡성을 줄이고 비용을 절감하는 방법을 제시해줍니다. Timeware의 관점에서 문제 해결 순서를 통해 안정적인 운영을 구축하고, 실행 기준을 마련하는 것이 중요하다는 점을 잊지 말아야 합니다.

FAQ

Q. Karpenter의 주요 장점은 무엇인가요?

Karpenter는 Kubernetes 클러스터의 리소스를 더욱 효율적으로 관리할 수 있는 능력을 제공합니다. 이는 자동으로 적절한 크기의 노드를 프로비저닝하여 자원 사용을 최적화할 수 있게 해줍니다.

Q. 실무 적용 시 가장 많이 막히는 부분은?

Karpenter를 적용할 때는 기존 시스템과의 호환성 문제나 마이그레이션 과정에서 발생할 수 있는 리스크를 검토해야 합니다. 충분한 테스트와 시뮬레이션이 필요합니다.

Q. Timeware는 이것을 어떻게 활용하나요?

Timeware는 Karpenter와 같은 최신 기술을 활용하여 클라이언트의 요구에 맞는 최적의 솔루션을 제공하고 있습니다. 이를 통해 고객의 운영 효율성을 극대화할 수 있도록 지원합니다.

Q. 이 흐름은 앞으로 어떻게 전개될까요?

Kubernetes 생태계는 계속해서 발전하고 있으며, Karpenter와 같은 자동화 도구는 더욱 일반화될 것입니다. 기업들은 이러한 기술을 통해 운영 효율성을 극대화하고 혁신적인 서비스를 제공할 수 있을 것입니다.