freehire launches on Product Hunt on 26 August.

Follow →

AI Backend Engineer

Summary

AI Backend Engineer at 멘타트, designing and operating search, agent, and workflow backends for an enterprise AI platform using technologies like hybrid search, LLM agents, and vLLM. Core tasks include building hybrid search pipelines, LLM agent harnesses, and GPU cluster infrastructure for regulated domains (legal/financial).

About

멘타트는 규제 도메인을 위한 엔터프라이즈 AI 플랫폼 기업입니다. 흩어진 사내 문서를 권한 체계 그대로 검색하는 기업 검색 엔진, 국내 현행법령 5,000여 개를 엮은 법령 지식그래프, 그 위에서 조사·초안 작성·검증을 수행하는 에이전트와 워크플로우 — 이 구조의 NEXUS 플랫폼을 개발·운영합니다. 국내 Top 3 로펌에 1,000만 건 규모의 문서 검색엔진을 공급했고, 금융그룹 온프레미스 구축으로 확장 중입니다.

AI Backend Engineer는 이 플랫폼의 코어인 검색·에이전트·워크플로우 백엔드를 설계하고 운영하는 포지션입니다.

Responsibilities

[Agentic RAG / 기업 검색]

수천만 건 규모 문서 대상 하이브리드 검색(벡터·BM25·리랭킹) 파이프라인 설계 및 운영
대규모 인덱싱·임베딩 파이프라인 구축과 검색 품질 평가 체계 설계
권한(ACL) 기반 검색, 멀티테넌트 컬렉션 아키텍처 설계

[에이전트 / 워크플로우]

LLM 에이전트 하네스(도구 호출·플래닝·자가 검증 루프) 설계 및 구현
사람의 승인 단계를 포함한 DAG 기반 워크플로우 엔진 개발
플러그인·스킬 조합으로 에이전트를 확장하는 구조 설계

[문서 이해 / 데이터 파이프라인]

VLM 기반 OCR·파싱 파이프라인 구축, 법률·금융 비정형 문서의 구조화
법령·판례·해석례를 엮는 지식그래프 구축 파이프라인 설계

[모델 서빙 / 인프라]

vLLM 기반 오픈소스 LLM·임베딩·리랭커 서빙 및 GPU 클러스터 운영
금융·법률 고객 환경에 맞춘 온프레미스/클라우드 하이브리드 배포

Requirements

백엔드 개발 경력 5년 이상 또는 그에 준하는 실무 경험
Python, TS, 웹 프레임워크로 프로덕션 서비스를 개발·운영해보신 분
API를 직접 설계·배포하고 운영까지 책임져보신 분
LLM 기반 애플리케이션을 데모가 아닌 운영 수준으로 구현해보신 분
RAG, 프롬프트/컨텍스트 엔지니어링, 에이전트 하네스 설계를 이해하고 구현하실 수 있는 분
동시성·비동기 처리 및 큐/워커 기반 시스템 설계 경험

Preferred

Qdrant·Milvus 등 벡터 DB 또는 OpenSearch/Elasticsearch 대규모 운영 경험
vLLM 등 모델 서빙 및 GPU 클러스터 인프라 운영 경험
검색 품질 평가 체계 설계, 임베딩·리랭커 파인튜닝 경험
법률·금융 도메인 지식 또는 규제 산업 대상 서비스 개발 경험
지식그래프·온톨로지 설계 경험
MCP 등 에이전트 프로토콜 기반 시스템 구축 경험

Benefits

"업무 몰입을 돕는 환경"

고사양 노트북과 모니터를 지원하며, 그 외 필요한 장비도 적극 지원해드려요.
AI Native 회사답게, Claude Code·ChatGPT·Cursor 등 업무에 필요한 AI 도구 구독을 전액 지원해드려요.
모델 실험과 개발에 필요한 GPU 컴퓨팅 자원을 지원해드려요.
점심 식사 비용을 지원하며, 야근 시 저녁 식사 비용도 함께 지원해드려요. (모바일 식권 이용)
당 떨어지는 일 없도록, 사무실에는 항시 간식을 구비하고 있어요.

"그 외에 챙겨드리는 것들"

설과 추석에는 명절 선물을 지급해드려요.
종합 건강 검진을 지원해드려요.
연차 외 유급 병가 제도를 운영 중이에요. (연 최대 5일)

See also

Tailor your CV for this role?

We couldn't check your fit for this role — add a CV to your profile to see it next time.

A new version of freehire is available