LLM Serving Ecosystem Engineer (NPU Software Stack)

Rebellions | KoreaPosted 1 day ago

Apply on Rebellions's career page

Market pay check

Matched to Computer systems and software professionals

Source: Ministry of Employment and Labor wage information system (wage.go.kr), wage distribution by occupation.

What you'd do

Design and operate CI that validates component version combinations automatically for release criteria
Design efficient tests for serving functionality and output accuracy verification
Manage dependencies,container image builds,reduce CI duration,and handle flaky tests

What they want

Proficient in Linux,Python,and shell scripting
Experience building,deploying,and debugging in container and Kubernetes environments
Experience building or operating CI/CD pipelines

Nice to have

Experience operating LLM serving frameworks like vLLM or llm-d,or contributing upstream to open source
Experience building or optimizing distributed LLM serving (parallelism,KV cache,PD disaggregation)
Experience building or operating accelerator-based test infrastructure (GPU/NPU)

Seoulstart's read

Visa tier (likely): E-7 specialty / professional (likely)
Korean language: Korean requirement not stated
English friendliness: Medium: English JD, mixed-language workplace
Context: Domestic AI chip company in Korea; the JD is mostly Korean with English tech terms,so expect Korean communication to be needed day to day despite no explicit fluency requirement.

This is Seoulstart's analysis of the public job description, not the employer's stated policy. Verify visa sponsorship, language requirements, and remote allowances directly with the recruiter.

Original posting from Rebellions

Ecosystem 파트는 각 컴포넌트가 하나의 서빙 스택으로 실제 고객 시나리오에서 동작하는지 검증해 release하고, 리벨리온 NPU를 vLLM, llm-d 등 오픈소스 서빙 생태계에 통합합니다. 반복 작업은 AI coding agent에게 맡기고, 사람은 검증 설계와 판단에 집중하는 방식으로 일합니다.

Responsibilities and Opportunities

통합 검증 및 Release
컴포넌트 버전 조합을 자동 검증하는 CI 설계·운영 및 release 기준 수립
서빙 기능·출력 정확도 검증을 위한 효율적인 테스트 설계
의존성 관리 및 컨테이너 이미지 빌드, CI 소요 시간 단축 및 flaky test 관리
서빙 생태계 통합 및 성능 검증
vLLM, llm-d, Kubernetes 기반 AI 플랫폼과의 통합 및 upstream 기여
분산 서빙(PD disaggregation, KV cache offloading 등) 성능 측정 및 회귀 원인 분석
테스트 인프라
NPU 다중 노드 클러스터 기반의 안정적인 CI 환경 구축·운영
컴포넌트·버전·하드웨어·설정 단위로 회귀 지점을 좁히는 진단 체계 구축

Key Qualifications

Linux, Python, Shell script 활용에 능숙한 분
컨테이너·Kubernetes 환경에서의 빌드·배포·디버깅 경험
CI/CD 파이프라인 구축 또는 운영 경험
변인 통제를 통해 재현 가능한 형태로 문제 원인을 좁혀 본 경험
LLM 추론 서빙 또는 클러스터 인프라(네트워크, 스토리지, 가상화) 중 한 분야에 대한 깊은 이해
Claude Code, Codex 등 AI coding agent를 실무에 활용하고 결과물을 검증할 수 있는 분

Ideal Qualifications

vLLM, llm-d 등 LLM 서빙 프레임워크 운영 또는 오픈소스 upstream 기여 경험
분산 LLM 서빙(병렬화, KV cache, PD disaggregation) 구성 및 성능 최적화 경험
GPU/NPU 등 가속기 기반 테스트 인프라 구축·운영 경험
RDMA 네트워크 또는 분산 스토리지 경험
재현·비교 가능한 성능 벤치마크 설계 경험
CI 최적화, release 절차 정비, self-hosted runner 운영 경험

전형절차

서류전형 > On-line 인터뷰 > On-site 인터뷰(프로젝트 발표 포함) > Culture-fit 인터뷰 > 처우 협의 > 최종 합격
전형절차는 직무별로 다르게 운영될 수 있으며, 일정 및 상황에 따라 변동될 수 있습니다.
전형 일정 및 결과는 지원 시 작성하신 이메일로 개별 안내드립니다.

참고사항

본 공고는 모집 완료 시 조기 마감될 수 있습니다.
지원서 내용 중 허위사실이 있는 경우에는 합격이 취소될 수 있습니다.
채용 및 업무 수행과 관련하여 요구되는 법령 상 자격이 갖추어지지 않은 경우 채용이 제한될 수 있습니다.
보훈 대상자 및 장애인 여부는 채용 과정에서 어떠한 불이익도 미치지 않습니다.
담당 업무 범위는 후보자의 전반적인 경력과 경험 등 제반사정을 고려하여 변경될 수 있습니다. 이러한 변경이 필요할 경우, 최종 합격 통지 전 적절한 시기에 후보자와 커뮤니케이션 될 예정입니다.
채용 관련 문의사항은 아래 메일 주소로 문의바랍니다.
recruit@rebellions.ai