[HQ] AI 運算叢集架構暨平台工程師_AI Cluster Architect & Platform Engineer_台北

我們昕力資訊是一家規模超過550+人的B2B跨國軟體設計與開發公司，主要提供企業軟體建置與顧問服務，專精於AI智能客服機器人、Fintech與數位銀行、行動壽險、行動App應用、大數據等系統解決方案，並擁有多項自有產品，經營據點跨足台北、新竹、台中、台南、高雄、新加坡及越南。

在現在這個數位轉型與 AI 技術爆發的大時代中，為了提供更專業的高效能運算架構與穩定產品服務，我們需要優秀的 AI 運算叢集架構暨平台工程師加入我們的團隊！

【AI 運算叢集架構暨平台工程師的工作內容會包含什麼？】
本職位負責依據 AI 訓練、推論及應用服務需求，規劃 AI Server Cluster 的整體拓樸與平台架構，並完成建置及驗證。工作涵蓋 GPU 運算、網路、儲存、資源調度，以及應用伺服器（AP Server）的高可用性與負載平衡，透過 Kubernetes 或其他合適架構，建立可擴充、可維運的 AI 運算環境。工作事項如下：

• 需求分析與容量規劃：釐清模型、工作負載、併發量、延遲、吞吐量、資料存取及服務可用性需求，評估 GPU、CPU、記憶體、網路與儲存資源
• 叢集拓樸設計：規劃運算節點、管理節點、應用節點、儲存系統及交換器的連接架構，定義管理、運算與儲存網路的配置及故障隔離方式
• 平台架構與建置：依需求設計及實作 Kubernetes、Slurm 或其他叢集管理架構，完成節點部署、GPU 資源整合、容器執行環境與工作排程
• 高可用性設計：規劃控制平面、AP Server、推論服務及相關相依元件的備援、健康檢查、故障切換與復原機制；針對訓練工作設計檢查點與失敗重啟策略
• 負載平衡與資源調度：設計服務入口、流量分配、服務探索及擴縮容機制，並依 GPU 工作負載特性規劃資源配額、節點選擇與排程策略
• 網路及儲存整合：與相關團隊完成高速網路、分散式儲存、共享檔案系統或物件儲存整合，分析資料傳輸與運算效能瓶頸
• 自動化與可觀測性：建立部署自動化、設定管理、監控、日誌及告警機制，追蹤 GPU 使用率、叢集容量、服務健康與效能
• 驗證與交付：執行負載、效能、故障切換及復原測試，交付叢集拓樸與容量規劃、平台架構及部署程式碼、HA 與負載平衡設計、監控告警配置、效能及故障復原測試報告、維運手冊

【我們希望您具備的技能】

• 具備 Linux、容器化平台及多節點叢集建置與故障排除經驗。
• 熟悉 Kubernetes 架構與實務操作，包含叢集網路、儲存整合、資源排程及存取權限管理。
• 具備 GPU 運算環境建置經驗，了解驅動、運算軟體堆疊與容器環境之間的相容性需求。
• 具備 TCP/IP、路由、DNS、負載平衡及高可用性架構的設計或實作經驗。
• 能依工作負載區分訓練、推論及一般應用服務的需求，設計對應的擴充與故障復原方式。
• 熟悉 Python、Bash、Ansible、Terraform 或其他自動化工具。
• 能獨立產出架構圖、技術設計文件、建置計畫與測試驗收標準。

【加分項目】

• 具備 NVIDIA 或 AMD GPU 叢集的實際導入經驗，熟悉 CUDA 或 ROCm 生態系加分。
• 熟悉 InfiniBand、RoCE、RDMA 或分散式 GPU 通訊與效能調校加分。
• 具備 Slurm、GPU Operator、Device Plugin、GPU 資源共享或多租戶管理經驗加分。
• 具備大型模型訓練、分散式推論或模型服務平台建置經驗加分。
• 熟悉 Prometheus、Grafana、GitOps、CI/CD 或基礎設施即程式碼（IaC）加分。
• 具備跨機櫃故障隔離、備份還原或災難復原設計與演練經驗加分。

【注意事項】
如果團隊覺得有機會合作，想跟您更深入的交流，我們將會儘速與您聯繫。
若不符合的面試者，將不另行通知，謝謝！