大模型训推框架工程师-Data

1、负责机器学习引擎的设计与开发；
2、具体场景包括：
1）内部机器学习平台训练框架的研究与开发(包括数据预处理/训练/推理)，服务于广告、推荐、搜索等场景；
2）实时高性能推理系统设计与开发，如算子融合、编译优化、模型量化、混合精度、异构硬件加速等；
3）性能优化与架构升级，持续提升数据预处理/训练/推理性能；
4）与算法工程师深度合作，为重点项目进行算法与系统的联合优化。

1、熟练掌握C++，Python等编程语言，有GPU编程(CUDA)、AI编译器、分布式计算的经验；
2、对PyTorch推理加速有经验，如对FX、Dynamo、TensorRT、Triton等有深入了解；
3、对PyTorch/Tensorflow框架有了解，熟悉常用的搜索推荐算法、长序列建模、多模态推荐等；
4、在网络通信优化方面，对TCP、RPC、NCCL等比较了解，能做深度通信优化；
5、对机器学习框架比较了解，以上内容有一项特别强即可。

加分项：
1、好奇心强，热爱技术且对特定领域有深入钻研；
2、有直接面向用户的产品开发经验。