大模型整网推理性能建模与仿真研究员

职位描述
我们致力于构建面向大模型推理系统的高性能仿真与优化平台，通过计算、存储和通信建模，实现大模型在不同硬件架构、集群拓扑及并行策略下的端到端性能预测，并基于仿真结果探索最优的推理部署方案。
主要工作包括：
大模型整网性能建模与仿真
研究 Transformer、MoE、Attention 等模型结构的计算图及执行过程，建立整网推理性能模型。
建模 Prefill、Decode、长上下文推理、投机解码等场景的计算、访存、通信及调度开销。
研发高精度、高效率的性能仿真方法，实现不同模型、硬件和部署配置下的性能预测。
分布式推理与集群通信建模
研究 TP、EP、DP、CP、Prefill/Decode 分离等并行与部署策略的性能特征。
建模 AllReduce、AllGather、ReduceScatter、AllToAll、P2P 等集合通信与点对点通信操作。
分析 PCIe、NVLink、RDMA 等互联技术及不同网络拓扑下的通信带宽、延迟、拥塞和计算通信重叠问题。
研究多机多卡、异构计算与异构互联环境下的性能瓶颈。
推理性能预测与系统优化
基于仿真平台研究不同并行策略、资源分配、调度及部署方案的性能表现。
面向吞吐、时延、资源利用率等指标，探索大模型推理系统的自动化性能优化与配置搜索方法。
结合实际硬件测试与性能分析，持续提升仿真模型的准确性和泛化能力。

职位要求
计算机、电子工程、软件工程等相关专业本科及以上学历，或具备同等研究和工程实践经验。
具备扎实的计算机系统、并行计算或分布式计算基础，理解大模型推理的主要计算流程及性能瓶颈。
熟悉 GPU/CPU 计算体系结构，理解计算吞吐、存储带宽、访存开销、计算通信重叠等性能分析基本概念。
具备基本的集群通信知识，理解通信带宽、延迟、网络拓扑以及常见集合通信操作的工作原理。
熟练掌握 Python/C++ 中至少一种编程语言，具备良好的算法设计、性能分析和工程实现能力。
具备较强的研究探索能力，能够独立分析复杂系统的性能问题，并通过建模、实验或工程实现进行验证。
熟悉 AI 时代的软件开发规范与工程实践，熟练使用 AI Coding 工具辅助需求分析、设计、编码、测试与重构，能够通过代码审查、自动化测试和技术文档等方式保障代码质量，实现软件的可持续开发、维护与演进。
加分项
熟悉 LLaMA、Qwen、DeepSeek、Kimi、GLM 等模型架构，了解 MoE、MLA、MTP、长上下文推理等技术。
熟悉 vLLM、SGLang、TensorRT-LLM 等推理框架，具有大模型分布式部署、调度或性能优化经验。
熟悉 TP、EP、DP、CP 等并行策略，具有大规模 MoE 推理、Prefill/Decode 分离或异构推理系统优化经验。
熟悉 NCCL/RCCL、NVLink/NVSwitch、InfiniBand/RoCE、RDMA 等通信技术，了解 Ring、Tree 等集合通信算法及网络拓扑对性能的影响。
具有计算图执行模拟、性能分析模型、离散事件仿真（DES）或分布式系统模拟器相关开发经验。
熟悉 Roofline、GPU Kernel 性能建模、通信带宽模型或其他软硬件性能评估方法。
具备 AI Native 思维及相关项目经验与实践，能够将 Agent/Harness 融入软件或仿真系统的设计与开发，通过清晰的接口抽象、模块化设计、完善的测试与可观测性等方式，构建便于 Agent 理解、调用、验证和持续演进的系统。
熟悉 Nsight Systems、Nsight Compute、PyTorch Profiler、NCCL Tests 等性能分析或测试工具。
在大模型推理、高性能计算、分布式系统、计算机体系结构等领域具有论文、开源项目或实际工程成果。