模型部署优化工程师
Description
1)计算机科学、人工智能、电子工程、自动化等相关专业硕士及以上学历(优秀本科生且有3年以上相关经验可放宽)
2)3年以上深度学习模型部署、端侧AI推理优化或高性能计算相关经验
3)精通 C/C++ 与 Python,具备扎实的计算机体系结构知识,熟悉Linux环境下的开发与调试
4)深入理解深度学习模型训练与推理流程,了解 PyTorch,熟悉模型导出(ONNX/TorchScript)与转换流程
5)精通 NVIDIA Orin/Thor 平台开发,熟练掌握 CUDA 编程、TensorRT 推理优化及Nsight性能分析工具
6)熟悉 ROS2 框架,具备节点开发经验
7)熟悉模型量化(PTQ/QAT)、剪枝、蒸馏等压缩技术,有实际落地项目经验
8)熟悉Transformer架构及LLM/VLM推理机制,了解Prefill、Decode、KV Cache、Attention优化等核心概念
1)计算机科学、人工智能、电子工程、自动化等相关专业硕士及以上学历(优秀本科生且有3年以上相关经验可放宽)
2)3年以上深度学习模型部署、端侧AI推理优化或高性能计算相关经验
3)精通 C/C++ 与 Python,具备扎实的计算机体系结构知识,熟悉Linux环境下的开发与调试
4)深入理解深度学习模型训练与推理流程,了解 PyTorch,熟悉模型导出(ONNX/TorchScript)与转换流程
5)精通 NVIDIA Orin/Thor 平台开发,熟练掌握 CUDA 编程、TensorRT 推理优化及Nsight性能分析工具
6)熟悉 ROS2 框架,具备节点开发经验
7)熟悉模型量化(PTQ/QAT)、剪枝、蒸馏等压缩技术,有实际落地项目经验
8)熟悉Transformer架构及LLM/VLM推理机制,了解Prefill、Decode、KV Cache、Attention优化等核心概念
