中/高级嵌入式工程师(NN编译)
Posted Updated 2
views
Description
工作职责:
1. 负责大模型部署优化方案及开发实现,包括动态性、算子优化、KV Cache等;
2. 负责NN编译优化技术方案,包括图优化、算子融合、后端指令生成、内存分配等核心模块设计;
3. 负责NN编译与硬件协同设计,参与NPU/VPU指令集和架构设计,芯片性能验证等。
任职要求:
1. 4年以上编译器开发经验,精通C++/Python,熟悉TVM/MLIR/XLA等工具;
2. 深入理解NPU/VPU架构及计算特性,具备芯片软硬件协同优化经验;
3. 熟悉Pytorch/Tensorflow/ONNX等AI推理框架;
4. 熟悉大模型等场景的编译需求。