Skip to content
Search jobs inside your AI agent. Claude, ChatGPT, Gemini, Cursor and Grok
Connect

富邦媒體科技股份有限公司(富邦momo)

DA7000 AI 架構師/AI Architect

Posted Updated 3 views
Discussion

Description

momo 正在打造屬於自己的企業級 AI 生態系,包括內部大型語言模型平台(momo GPT)、AI Agent Platform,以及未來的地端 AI 運算中心(AIDC)。
AI 架構師將負責整體 AI 平台與 AI 工作流程的架構設計,從雲端到地端 GPU 機房都會由團隊自行規劃、建置與維運。
________________________________________

工作內容:
1.AI 平台架構:設計並持續演進 AI Agent Platform(LLM Gateway、模型路由、觀測、資安防護、成本治理),涵蓋雲端(GCP/AWS)與地端環境。
2.地端 AIDC 建置與維運:GPU 機型評估與容量規劃、K8s 上的 GPU 資源調度(排程、配額、切片、租戶隔離、用量計費);負責 AIDC 的建置與日常維運(機台、網路、儲存、平台升級與故障排除)。
3.模型選型與調校:評估商用與開源模型,負責推論服務(如 vLLM)的部署、效能調校與微調(fine-tuning)規劃。
4.Agent 流程設計:與各使用單位(HR、財務、營運等)釐清需求,設計 agentworkflow、RAG 與工具串接(MCP 等),並做效能與成本調校。
5. Infra 與自動化:平台的網路、CI/CD、可觀測性、可靠性與災難復原;推動維運自動化(監控分析、告警分流、事件調查)。
6. AI 相關成本優化:AI token/GPU/模型用量的成本可視性、限額與優化。
7. 技術領導:制定開發規範與架構標準,帶領 AI Developer 落地,擔任使用單位提出AI 需求時的第一個技術窗口。

我們期待你具備的能力:
1. 5 年以上系統、雲端或平台架構相關經驗。
2. 熟悉 Kubernetes 與至少一家公有雲(GCP 或 AWS),具備正式環境維運經驗。
3. 熟悉 Python。
4. 實際使用過 LLM API 或開源模型,理解 RAG、agent、prompt 與工具呼叫的基本原理。
5. 能把模糊的業務需求轉成可落地的架構,並向非技術主管說明取捨。

加分條件(Nice to Have):
1. 解決方案架構師(SA)背景,看過多種客戶環境,從維運到 AI 都碰過。
2. GPU 叢集、推論服務(vLLM、Triton 等)或模型微調實作經驗;AMD/NVIDIA
GPU 平台經驗。
3. LLM Gateway(如 LiteLLM)、觀測(如 Langfuse、OpenTelemetry)、Terraform/GitOps(ArgoCD)經驗。
4. AI 資安與治理經驗(敏感資料偵測、guardrail、稽核)。
5. 地端機房或混合雲建置經驗。

Skills

Apply

See also

Architecture jobs by country — openings, pay and top skills →