AI 工程師 - AI Engineer (Agent & LLM)
Posted Updated
Description
這個職位
我們正在打造專為企業情境設計的 AI Agent 系統。
這個職位是我們團隊第一位專注在「AI 技術本體」的核心工程師。在產品開發上,系統介面、底層後端、雲端與地端維運、測試自動化都有夥伴負責,你不需要包辦前後端開發或伺服器維運。你的核心任務是負責這個 Agent 的決策邏輯與模型調校:
- 負責 Agent 工作流與決策迴圈的設計與實作。
- 建立客觀嚴謹的評估機制(Evals),告別「感覺這次回答比較好」的玄學驗收。
- 在 RAG 與 Context 管理遇到瓶頸時,能動手針對開源模型進行後訓練(Post-training),讓模型穩定遵循業務指令或掌握特定領域知識。
因為你是團隊第一位專職 AI 人才,我們非常看重樂於分享、能輸出知識的特質。我們希望你能把 AI 的實戰經驗、踩坑心得與技術邊界帶進團隊,能把技術細節用白話講清楚,協助非 AI 領域的工程夥伴理解技術限制與協作方式。
你會負責什麼
- Agent 架構與工作流開發:設計具備 Tool Calling、多 Agent 協作、狀態持久化與錯誤自動修復的企業級 Agent 工作流程。
- Agent 評估體系(Evals)與品質管理:建立量化且自動化的評測流程(包含工具呼叫準確率、任務完成度、幻覺率評估),確保每次系統、Skill 或 Agent 工作流更新都有客觀指標把關。
- 開源模型後訓練(Post-Training):當 RAG 或 Context 管理無法滿足專業領域要求或指令遵循度時,負責資料清理與建置訓練資料集,並進行開源模型的 SFT、LoRA / QLoRA、DPO 或 GRPO 微調。
- 推論服務最佳化與部署:負責開源模型在本地或私有伺服器上的部署與加速,妥善處理 VRAM 佔用、推論延遲與吞吐量平衡。
- 模型選型與成本架構:根據任務特性決定何時使用開源模型自建服務、何時呼叫商業 API,取得延遲、成本與效果的最佳平衡。
- 跨職能協作與知識傳承:與 Rust 後端、全端工程師協同定義清晰的 API 與狀態規格;定期向團隊分享 AI 最新技術進展、架構設計思維與除錯經驗。
Requirements
必備條件
- 3 年以上軟體開發或 AI 相關實務經驗,其中至少有 1.5 年以上實際開發 LLM / Agent 應用或模型訓練的經驗。
- 熟悉主流 Agent 開發框架與 SDK:如 LangGraph、LlamaIndex、CrewAI、AutoGen 或 LiteLLM,能清楚說明狀態機設計、記憶體架構與例外處理機制,而非僅僅跑通官方範例。
- 具備紮實的 Agent 評估(Evals)實務經驗:曾導入或使用過 Ragas、DeepEval、Langfuse、LangSmith 或 Phoenix 等工具;懂得如何建立測試集(Ground Truth)、合成資料與自動化回歸測試。
- 具備開源模型後訓練實作能力:熟悉 Hugging Face 生態系,有實際跑過 SFT、LoRA / QLoRA、DPO 或 GRPO 的經驗(使用過 Unsloth、Axolotl、LLaMA-Factory、Torchtune 等工具皆可);能夠清楚解釋資料配比對模型行為的影響,以及 Loss 震盪時的排查思路。
- 具備私有化模型部署經驗:熟悉 vLLM、SGLang、Ollama 或 llama.cpp 等推論框架,理解模型量化(如 AWQ、GGUF)技術,以及在有限硬體 VRAM 下的部署策略。
- 樂於分享與清晰的跨職能溝通能力:習慣寫清楚的技術文件,能把複雜的模型概念與系統架構用白話解釋給夥伴聽。
加分條件
- 曾將開源模型(如 Qwen、Llama、DeepSeek 系列)經過微調後,實際部署於有限硬體規格(如單卡工作站或邊緣伺服器)並穩定提供商用服務。
- 熟悉 MCP(Model Context Protocol)或各類新興 Agent 互通通訊協定。
- 具備企業級 AI 安全治理經驗(如 Prompt Injection 防護、PII 個資遮蔽、輸出 Guardrails 規則建置)。
- 有開源社群貢獻、技術文章產出或公開演講分享經驗。
