工研院服科中心_AI晶片中介軟體與硬體加速演算法工程師(U300)

【工作內容】 結合軟硬體協同設計、作業研究(Operation Research)、數學建模與資料工程，開發專為AI晶片加速推論與強化硬體效能的演算法與中介軟體，於特定晶片硬體架構優化任務部署、模型量化壓縮與優化。 1.AI晶片中介軟體演算法設計與開發：設計與發展適合特定硬體加速器(如：NPU/GPU/FPGA)的模型量化(Quantization)、剪枝(Pruning)、任務指派與資源配置演算法，監控並優化模型表現，完成版本迭代。 2.數據資料建構與模擬：依據AI晶片與加速器之推論中介軟體框架與流程，利用AI技術建模，並於模擬環境預測效能與資料清洗，再依據實體硬體資源規格採集並統計分析效能運算數據。 3.模型部署與系統整合：部署AI模型及演算法於Mini Data Center或Edge AI平台，開發高效能硬體抽象層或驅動串接程式。 4.趨勢應用與導入：追蹤研析AI加速器發展趨勢，並據以發展新興技術，以運用於實證場域。 【需求條件】 1.精通Python、C相關(C、C++、C#)程式語言與Linux開發環境，熟悉各式AI加速器底層推論框架，通用框架如：vLLM、llama.cpp、ONNX Runtime等；專用框架如：PyTorch、ONNX、TensorRT、Triton Inference Server、OpenVINO等；有封裝演算法與應用系統串接的實戰經驗、熟習LLM、VLA、RAG者尤佳。 2.具備數位電路架構、記憶體頻寬限制，及訊號處理或電腦視覺之專業知識，以及IC設計所產生的結構化數據處理經驗，並能與硬體協作調優系統效能。 3.擁有處理海量數據及基本數據視覺化能力。 4.熱忱學習，可快速掌握新技術，能規劃技術規格，編寫技術文件，並轉化實作為技術產品；同時擁有良好的邏輯思維與跨部門溝通和團隊合作能力。