AI System Architect / AI系統架構師(台北)
Description
1. Kubernetes 叢集部署:規劃、部署並維運高可用性(HA)Kubernetes 叢集,採用 SUSE Rancher Prime/RKE2、Red Hat OpenShift、VMware Tanzu、原生 K8s 等常見企業級發行版,為客戶的 AI/ML 平台提供穩定的運作基礎。
2. 容器平台建置:建置容器執行環境(Docker/containerd/cri-o),並為客戶環境串接私有映像檔倉儲服務(Harbor、Quay)。
3. GPU 基礎架構:建置 GPU 伺服器(NVIDIA CUDA/AMD ROCm),管理驅動程式安裝與版本,並配置 GPU 虛擬化(如 MIG、細粒度 GPU 切分)以支援多租戶資源共享。
4. 儲存整合:串接並效能測試企業級儲存系統(NFS、S3 相容物件儲存,及 Dell、NetApp、Pure Storage、WEKA、VAST 等平台),滿足 AI 工作負載之資料吞吐需求。
5. 網路:執行高速網路(如 InfiniBand)之連通性測試與效能驗證,並配置平台流量所需之 Load Balancer。
6. 備份與災難復原:建置並驗證備份及災難復原機制,包含 etcd 備份、HA 架構切換測試與復原演練。
7. 平台與企業系統整合:協助整合企業身分驗證與監控系統,如 LDAP/MFA 身分驗證、RBAC 權限、Prometheus/OpenSearch 監控告警,以及 CI/CD 過版流程(如 Azure DevOps)。
8. 資安與合規:配合客戶與產業規範執行資安驗證作業,包含 CIS Benchmark 合規掃描與弱點掃描,並產出技術手冊與驗證文件。
9. 跨團隊協作:與原廠技術團隊及客戶端相關人員密切合作,排除建置過程中的技術問題,確保平台順利交付。
10. 維運支援:提供上線後之維運支援、問題排除與客戶端技術溝通。