AI Infrastructure Engineer

Arvinsa 正在招募 AI Infrastructure Engineer，加入 AI Silicon Engineering 團隊。

我們正在將 AI 深度導入 ASIC / SoC 的工程開發流程，從規格、RTL、驗證、Debug、Synthesis 到工程知識與工具整合。

這個職位的核心任務，是建立支撐整個 AI Engineering Workflow 的基礎架構，讓 LLM、AI Agent、Engineering Tools 與內部資料能夠在穩定、安全且可擴展的環境中運作。

這不是單純的 IT / DevOps 職缺，而是介於 AI Platform、Infrastructure 與 Developer Productivity 之間的工程角色。

• 建置與維護公司內部 AI Infrastructure 與 AI Development Platform
• 建置 LLM / VLM 等 AI Model 的 inference 與 serving environment
• 整合 Cloud API、Private Model 與 Self-hosted Model
• 建置 GPU Server / Workstation 的 AI runtime environment
• 建立 AI Agent 執行環境、task orchestration 與 tool integration framework
• 建立 Model Gateway、API Gateway 與統一的 AI service interface
• 管理 AI model、prompt、tool、workflow 與 configuration versioning
• 建置 AI Engineering Workflow 所需要的 backend services
• 串接 ASIC / SoC Engineering Tools 與 AI Agent
• 建置 internal API、CLI、service 與 automation tools
• 建置 containerized development environment
• 建立 AI service deployment、CI/CD 與 automated testing flow
• 建立 logging、monitoring、tracing、usage tracking 與 system observability
• 建立 AI workflow 的 evaluation、benchmark 與 regression infrastructure
• 優化 LLM inference latency、throughput、GPU utilization 與系統成本
• 建立權限管理、authentication、secret management 與 security mechanism
• 支援 Private / On-premise / Restricted Network 等企業環境部署
• 與 ASIC、SoC、Software 與 AI Engineering 團隊共同設計下一代工程平台

我們希望你具備

• Computer Science、Computer Engineering 或相關工程背景
• 熟悉 Linux 開發與系統環境
• 熟悉 Python
• 熟悉 Docker 與 container-based development
• 熟悉 REST API / Web Service 基本架構
• 具備 Backend、Infrastructure、DevOps 或 Platform Engineering 經驗
• 了解 Git、CI/CD 與 Software Development Workflow
• 具備良好的系統設計與 Debug 能力
• 對 LLM、AI Agent 與 Generative AI 有高度興趣
• 願意處理從 application 到 infrastructure 不同層次的工程問題

加分條件

具備以下任一經驗尤佳：

• Kubernetes / K8s
• GPU Infrastructure / NVIDIA GPU
• CUDA 基礎知識
• LLM inference framework，例如 vLLM、SGLang、TensorRT-LLM 等
• Self-hosted LLM deployment
• Hugging Face ecosystem
• AI Agent framework 或 Agentic Workflow 開發經驗
• MCP / Tool Calling / Function Calling
• Model Gateway / API Gateway
• Redis / PostgreSQL / Vector Database
• RAG / Embedding / Retrieval infrastructure
• MLflow 或其他 model / experiment management framework
• OpenTelemetry / Prometheus / Grafana 等 observability tools
• AWS / GCP / Azure 等 Cloud Infrastructure
• Terraform / Infrastructure as Code
• GitLab CI / GitHub Actions / Jenkins
• On-premise / Private Cloud deployment
• Air-gapped 或 restricted network environment 經驗
• Security / IAM / Secret Management 經驗
• AI Coding Agent，例如 Claude Code、Codex 或相關工具整合經驗
• Semiconductor / EDA / ASIC Design Flow 相關經驗

你會解決的問題

我們希望 AI Infrastructure Engineer 不只是維護 Server，而是實際思考例如：

• 如何讓數十個 AI Agents 安全且穩定地執行工程任務？
• 如何讓 AI 在不直接暴露公司 RTL 與機密資料的情況下使用模型？
• 如何讓不同 LLM 可以快速切換、benchmark 與比較？
• 如何讓 Agent 能安全操作 EDA Tool、Simulation 與內部工具？
• 如何追蹤每一次 AI 執行所使用的 Model、Prompt、Tool 與結果？
• 如何讓 AI Workflow 可以被測試、重現與 Regression？
• 如何在 GPU 資源有限的情況下最大化 inference efficiency？
• 如何將完整 AI Engineering Platform 部署到客戶的 Private / On-premise Environment？