Skip to content
Search jobs inside your AI agent. Claude, ChatGPT, Claude Code, Codex, Gemini, Cursor and Grok
Connect

Tencent

NewBe an early applicant

混元推理算子开发工程师​

Posted
Discussion

Description

在腾讯,后台开发工程师不仅是“又快又稳”的问题解决专家,更是生态共创者。你将与技术团队一同沉淀优质代码,让它成为我们共有的宝贵资产。在不同的业务场景和技术发展阶段,你的架构思维也将帮助更多协作团队拓展新的思考。我们也珍视你的挑战精神,同时欢迎你一起参与团队愿景、文化和产品方向的探讨。

1.负责核心推理算子的设计、开发与优化,涵盖 Transformer 系列(Attention、FeedForward 等)、卷积、池化等关键算子,支撑模型端到端推理性能提升;​
2.针对 CPU(x86/ARM)、GPU(CUDA/TensorRT)、NPU 等异构硬件平台,进行算子适配与深度优化,解决计算效率、内存占用、 latency 等核心问题;​
3.参与推理引擎架构设计,优化算子调度策略、内存管理机制,提升模型推理的并发度与资源利用率;​
4.调研业界前沿推理优化技术(如算子融合、量化压缩、稀疏化、动态批处理等),并落地到实际产品中,持续迭代优化推理性能;​
5.与模型算法团队、工程架构团队紧密协作,理解模型特性与业务场景需求,提供高效、稳定的推理算子解决方案;​
6.负责算子性能测试、问题定位与调优,输出性能报告,保障推理系统的稳定性与可靠性。​

1.本科及以上学历,计算机科学、电子工程、软件工程等相关专业;
2.精通 C/C++/CUDA 编程,深入理解计算机体系结构(CPU/GPU 缓存、指令集、并行计算原理),具备扎实的算法与数据结构基础;​
3.熟悉至少一种主流深度学习框架(PyTorch/TensorFlow/MXNet)的底层算子实现机制,有大模型(LLaMA、GPT、BERT 等)推理优化经验者优先;​
4.掌握至少一种异构硬件平台的算子开发与优化技巧:​
GPU 方向:精通 CUDA 编程、TensorRT 优化、cuDNN/cuBLAS 使用,具备 kernel 调优经验;​
CPU 方向:熟悉 SIMD 指令集(AVX2/AVX512)、OpenMP 并行编程,有 BLAS/LAPACK 优化经验;​
NPU 方向:有昇腾 / 寒武纪等芯片算子开发经验者优先;​
5.熟悉大模型推理关键技术,如量化(INT8/INT4)、稀疏化、算子融合、动态批处理、推理加速框架(vLLM、TensorRT-LLM、Triton)等,有相关项目落地经验者优先;​
6.具备良好的问题分析与解决能力,较强的沟通协作与技术攻坚能力,对新技术有强烈的探索欲。

Skills

Apply

See also