AI 解決方案工程師(AI Solutions Engineer)0609
Description
[Job Description]
Agentic Hub 是群聯打造的企業地端 AI 推論與 Agentic AI 平台,
你將直接面對企業客戶,從售前評估、概念驗證、平台部署一路做到 Agent 應用落地,讓客戶在自己的機房裡安全地使用生成式 AI。
[工作內容]
需求訪談與方案設計:了解客戶的業務場景、資料型態與資安限制,規劃合適的模型、Agent 與 MCP 工具組合。
硬體與容量規劃:依照併發使用者數、模型大小與 KV Cache 需求,估算 GPU、VRAM 與 aiDAPTIV 配置,並提出建議規格。
平台部署與整合:在客戶機房完成 Agentic Hub 安裝與設定,涵蓋 HTTPS/TLS、權限與網路設定。
Agent 與 MCP 應用落地:串接客戶既有系統(Atlassian、資料庫、檔案系統、網頁流程等),建置可上線的 Agent 工作流程。
效能調校與問題排除:執行推論效能測試(throughput、latency、併發),處理 GPU 排程、資源分配與部署異常。
導入文件與驗收:協助客戶填寫部署前資訊收集表,執行驗收檢核,並撰寫架構與操作文件。
教育訓練與技術支援:為客戶 IT 團隊進行教育訓練,處理上線後的技術問題與升級。
售前技術支援:協同業務進行簡報、PoC 與技術 Q&A,並將現場經驗回饋給產品與研發團隊。
必備條件
資訊工程、資訊管理或相關科系,或具備同等實務經驗。
3 年以上系統整合、DevOps、MLOps 或後端開發經驗。
熟悉 Linux(Ubuntu 或 RHEL)、Docker 與 Kubernetes,具備實際部署與除錯經驗。
了解 LLM 推論的基本原理,例如 Prefill/Decode、KV Cache、量化與 Token 吞吐量。
熟悉 Python 與 REST API,能撰寫自動化腳本與整合程式。
具備良好的溝通與簡報能力,能向客戶 IT 主管清楚說明技術方案。
能接受依專案需求前往客戶端駐點或出差。
加分條件
有 vLLM、LiteLLM、Ollama 或 TensorRT-LLM 等推論框架的部署經驗。
有 RAG、Agent 框架、MCP 或多模態模型(如 Qwen-VL)的實作經驗。
熟悉 Helm、GitOps、監控工具(Prometheus、Grafana)。
了解 AI 安全防護(Guardrail)、資料權限控管或企業資安規範。
有企業客戶專案、售前工程師(Pre-sales)或技術顧問經驗。
我們提供
參與台灣少數的企業地端 AI 平台建置,從底層硬體到上層 Agent 應用都能接觸。
與儲存及 AI 研發團隊緊密合作,第一線接觸新世代 GPU 與 aiDAPTIV 技術。