LLM應用工程師

【Job Description & Required Qualifications】

1.雲端平台開發：雲端平台的前後端功能開發，數據流與控制流的穩定。熟練 AWS 雲端架構與服務操作，具備雲端架構設計思維，對 Docker 容器化技術有基本概念與實務操作經驗 (熟悉 Kubernetes 的部署與管理)，瞭解AWS IoT Core 的具體經驗（例如 MQTT 處理、Device Shadow）及 Greengrass V2 相關運作。

2.後端架構設計 (Python)：使用 Python 建構高效能、可擴展的 API 服務，處理物聯網裝置回傳的數據。精通 Python 開發，熟悉常用 Web Framework。

3.前端互動介面 (Next.js)：使用 React (Next.js) 開發直覺且響應式的管理儀表板 (Dashboard) 與用戶介面，俱備基本設計 UI 美術經驗，熟練 Next.js (App Router/Pages Router)、React、HTML5、CSS3。

4.雲端基礎建設 (AWS)：運用 AWS 雲端服務（如 IoT Core, Lambda, API Gateway 等）進行系統部署與維運優化。

5.RAG 檢索增強生成系統建置：描述方式：負責建置與優化 RAG（Retrieval-Augmented Generation）架構。處理結構化與非結構化數據，進行文本切塊、向量化與重排設計。

6.AI Agent與工作流開發：設計、開發具備工具呼叫能力的多代理人系統，使 AI 能夠自主規劃並執行複雜任務。

7.模型微調與優化：針對特定領域（Domain-specific）資料進行模型微調。需熟悉量化技術（Quantization）與高效微調技術（如 LoRA, QLoRA），以降低硬體成本並提升準確度。

8.LLM 評估與觀測：建立自動化模型評估機制（如 LLM-as-a-Judge），追蹤並減少模型幻覺，控管 p95 延遲與 API Token 成本預算。