ML Engineer (Runtime Optimization)

About

㈜에스아이에이는 지구 관측을 통해 현명한 결정을 하기 위한 가치를 제공하는 인공지능 기반 위성·항공 영상 분석 전문 기업입니다.

본 직무는 제품개발실 개발팀 소속으로 인공지능연구소와 긴밀히 협업하며, OVISION Int에 적용되는 사내 모델과 오픈소스 모델의 serving/runtime 최적화, 모델 실행 인터페이스(Model Inference Interface) 개선, 추론 속도 개선, OVISION Int 배포 모델 artifact 버전 관리와 제품 적용을 담당합니다.

단순 모델 호출을 넘어 모델 구조와 GPU 실행 특성을 이해하고, 실제 고객 운영 환경에 맞게 최적화된 AI 런타임을 만드는 역할입니다

Responsibilities

1) OVISION Int 적용 Computer Vision 모델의 Serving/Runtime 최적화 및 제품 적용
2) 인공지능연구소 모델 및 오픈소스 모델 패키징·관리
- 모델의 artifact 버전, 실행 설정, 의존성을 확인하고 재현 가능한 제품 배포 형태로 패키징 및 버전 관리
3) 추론 성능 및 GPU 메모리 병목 분석·개선
- PyTorch/CUDA 환경에서 병목을 분석하고, 적절한 추론 최적화 기법과 runtime/serving 도구를 적용
4) 운영 환경 대응 및 배포 체계 고도화
- Linux 기반 On-Premise 환경의 CUDA·GPU driver 버전 호환성 이슈 분석 및 대응
- 대표 운영 환경에서 추론 속도 측정 및 재현 조건 문서화
5) 협업 및 품질 검증 지원
- 모델 실행 인터페이스 개선 및 Backend 서비스 API 연동 방식 협의
- 모델 특성, 알려진 실패 조건 및 runtime 제약을 바탕으로 QA 항목/검증 기준을 제시하고 QA Engineer의 독립적 검증 지원
- PM과 고객 환경 및 제품 우선순위를 확인하고 속도·GPU 메모리·모델 품질 간의 trade-off 및 기술적 제약 공유

Requirements

• AI 모델을 제품 환경에 적용·서빙·운영한 경력 3년 이상 (3년 이상 ~ 10년 이하)
• PyTorch/CUDA/Linux 환경에서 profiling 도구를 활용해 추론 속도와 GPU 메모리 병목을 분석하고, FP16 또는 BF16을 활용한 혼합 정밀도(mixed-precision) 추론을 적용할 수 있으신 분
• ONNX Runtime, TensorRT, NVIDIA Triton Inference Server 등 모델 runtime 또는 serving 도구 중 하나 이상 활용 경험이 있으신 분
• Docker/Kubernetes 기반으로 모델을 패키징 및 배포해 본 경험이 있으신 분
• 모델 실행 인터페이스와 Backend 서비스 API 연동 방식에 대한 이해가 있으신 분
• 모델 artifact의 버전, 실행 설정, 의존성, 출처를 재현 가능하게 관리하고 오픈소스 라이선스를 확인할 수 있는 역량을 갖추신 분
• 연구원, Backend Engineer, QA Engineer, PM 등 다양한 직무와 모델 제약사항, QA 항목, 제품 요구사항을 명확히 커뮤니케이션할 수 있으신 분

Preferred

• FlashAttention, quantization, torch.compile 등 추론 최적화 기법을 활용해 성능을 개선한 경험이 있으신 분
• Triton language 기반 GPU kernel 또는 CUDA kernel 등 저수준 GPU kernel을 직접 구현/최적화해 본 경험이 있으신 분
• 위성·항공·UAV 영상 등 지구관측·공간영상 도메인의 Computer Vision 모델 또는 대용량 영상 처리 프로젝트 경험이 있으신 분
• Rasterio, GDAL, TorchGeo 등 관련 도구를 활용한 영상 tiling·mosaicking, 좌표계 처리 또는 raster/vector 후처리 경험이 있으신 분
• 지역, 센서, 해상도, 계절 등 환경 차이를 고려해 GeoAI 모델을 제품에 적용해 본 경험이 있으신 분
• On-Premise GPU 환경에서 CUDA·GPU driver 호환성 이슈를 직접 해결하며 모델을 배포·운영해 본 경험이 있으신 분
• LLM 기반 agent 기능의 특성과 외부 API 기반 LLM 및 On-Premise LLM의 serving/runtime 차이에 대한 이해도가 있으신 분

* [기술 스택]
• 언어 / 프레임워크: Python, PyTorch
• 추론 / 서빙: CUDA, FP16/BF16 (Mixed-precision inference), ONNX Runtime, TensorRT, NVIDIA Triton Inference Server
• 인프라: Linux, Docker, Kubernetes, AWS, On-Premise 환경
• 협업 / 업무 도구: GitHub, Jira, MS Teams, JetBrains, ChatGPT+Codex

Benefits

• 선택적 근로시간제 (코어타임: 10~15시)
• 하이브리드 근무제 (월 2회 재택근무)
• 희망 개발장비 제공
• 당 충전소
• 자유로운 휴가 사용 문화
• 복지포인트 지급
• 3년단위 리프레시 휴가 부여
• 매년 종합검진 (본인+가족1인)
• 단체보험 가입 (본인+배우자+자녀)
• 첫 출근웰컴키트 + 부모님 선물
• 사내 채용 추천포상
• 생일선물