Skip to content
Search jobs inside your AI agent. Claude, ChatGPT, Gemini, Cursor and Grok
Connect

國泰人壽保險股份有限公司_總公司_國泰金控

AI 維運工程師_I00024878

Posted Updated 4 views
Discussion

Description

【職務簡介】
負責 AI/ML/GenAI 模型在生產環境中的部署、監控、自動化(MLOps CI/CD)與性能優化。此角色專注於 MLOps/AIOps 實務落地,確保 AI 推論服務的高可用性、低延遲與可擴展性。

【工作內容】
1. 設計、建置與維護全自動化的 ML Pipeline (CI/CD/CT),包括模型訓練、版本管理、測試與部署,以實現數據產品上線流程管理。
2. 設計與優化 AI 推論服務的 API 架構,確保服務高可用性、低延遲、並具備完善的錯誤處理機制。
3. 實作 AI 共用模型(如 LLM)、RAG 檢索服務與 Agent 執行環境的部署與維運,並執行高效能 LLM 推論部署與模型加速優化(如模型量化、vLLM、Ollama 等)。
4. 建立 AI 推論服務(ML/DL/GenAI)的容器化與擴容機制(Docker, Kubernetes, Serverless),滿足業務需求。
5. 維護與管理 MLOps 平台工具及雲端數據平台 AI 應用服務之日常管理維運(AWS/GCP 等),並建立 GenAI 服務的專屬監控指標(如 Token 費用、延遲、RAG 檢索效率)。
6. 研究人工智慧平台、管線化、部署及 GPU 加速等技術與應用發展趨勢。
7. 與 AI、應用開發、資訊工程部門協作,確保 AI 系統生命週期管理與維運流程符合架構設計與治理要求。

Skills

Apply

See also

DevOps jobs by country — openings, pay and top skills →