智騰半導體股份有限公司
Open positions
1 job
5 views last month
LLM AI Algorithm Engineer
APAC
Taiwan
Zhubei City, Hsinchu County1.依產品需求設計或選型 LLM 多模態等模型。 2.開發多階段微調策略，效能最佳化 3.低位元量化、稀疏化、蒸餾。 4.改良 KV-cache、Flash Attention 5.將 PyTorch 權重轉換為 GGUF / ONNX / TVM； 6.整合Lama.cpp、vLLM 7.與 NPU Compiler 團隊協作，調校張量切分 Pipeline 與 NoC 帶寬。 8.建立自動化 Benchmark，撰寫技術文件
LLM ONNX PyTorch vLLM