GPU 算子性能建模与架构仿真研究员
Description
我们致力于研发面向 AI 计算的高精度 GPU 性能建模与仿真技术,深入研究 GPU 微架构、算子执行机制、计算与访存流水线,实现从算法和 Kernel 实现到硬件执行性能的快速预测。
在此基础上,我们希望进一步突破传统单算子性能建模的局限,探索跨算子融合、Mega Kernel、计算通信协同等技术,让性能仿真从单纯的预测工具演进为面向大模型整网的自动化性能优化工具。
主要工作包括:
GPU 微架构与算子性能建模
研究 GPU 的计算、存储、调度和执行机制,建立细粒度性能模型。
针对 GEMM、Attention、MoE 等核心算子,研究 Tiling、计算访存流水线、指令依赖及资源竞争等性能影响因素。
探索解析建模、离散事件仿真(DES)、资源调度模拟等技术,实现高精度、低开销的算子性能预测。
研究不同 GPU 架构下的性能特征,提升仿真模型的可扩展性和跨架构适应能力。
算子编译、执行建模与自动优化
研究从算子算法描述、Tiling 策略到 GPU 执行过程的性能建模方法。
分析不同 Kernel 实现、Tile 配置、Pipeline 策略及计算访存调度方案的性能差异。
探索基于性能模型的自动化设计空间搜索,辅助寻找高性能 Kernel 实现方案。
结合真实 GPU 性能测试与 Profiling,验证并改进仿真精度。
算子融合与整网级性能优化
研究跨算子的执行依赖、数据流及存储复用,探索 Kernel Fusion、Persistent Kernel、Mega Kernel 等优化技术。
建模大规模算子融合后的寄存器、共享内存、计算单元占用及数据搬运开销,评估不同融合策略的性能收益。
研究 GPU 内部及跨 GPU 的数据交换、同步和通信机制,探索计算、访存与通信的协同优化。
逐步将细粒度性能仿真扩展至完整计算图和大模型推理网络,支持自动化算子融合、执行策略搜索与整网性能优化。
计算机、电子工程、微电子、软件工程等相关专业本科及以上学历,或具备同等研究和工程实践经验。
具备扎实的计算机体系结构、并行计算或高性能计算基础,理解 GPU 的计算、存储和并行执行机制。
熟悉 GPU 性能分析的基本方法,理解计算吞吐、内存带宽、数据局部性、指令依赖及资源利用率等概念。
了解 CUDA、Triton 等 GPU 编程模型,理解线程组织、内存层次结构、同步及数据搬运机制。
了解基本的并行通信机制,包括 GPU 内部线程间通信、同步与数据交换,以及多 GPU 系统中的集合通信、互联带宽与延迟等概念。
熟练掌握 C++/Python 中至少一种编程语言,具备较好的算法设计、工程实现和性能分析能力。
具有较强的研究探索能力,对 GPU 底层执行机制、性能建模和编译优化有浓厚兴趣。
熟悉 AI 时代的软件开发规范与工程实践,熟练使用 AI Coding 工具辅助需求分析、设计、编码、测试与重构,能够通过代码审查、自动化测试和技术文档等方式保障代码质量,实现软件的可持续开发、维护与演进。
加分项
具有 CUDA、Triton、TileLang、CUTLASS 等 GPU Kernel 开发或优化经验,熟悉 GEMM、Attention、MoE 等核心算子的实现机制。
熟悉 NVIDIA/AMD GPU 微架构,了解 SM/CU、Warp/Wavefront、Tensor Core、Register File、Shared Memory、HBM、Cache 等硬件资源及其性能特征。
熟悉 GPU 指令与执行机制,包括 Warp Scheduling、Tensor Core Pipeline、异步数据搬运、计算访存重叠等技术。
具备 AI Native 思维及相关项目经验与实践,能够将 Agent/Harness 融入软件或仿真系统的设计与开发,通过清晰的接口抽象、模块化设计、完善的测试与可观测性等方式,构建便于 Agent 理解、调用、验证和持续演进的系统。
具有 GPU 性能模型、计算机体系结构模拟器或离散事件仿真系统的研究开发经验,如 GPGPU-Sim、Accel-Sim、gem5 等。
熟悉编译器与程序优化技术,如 MLIR、LLVM、TVM、Triton Compiler,了解 Loop Transformation、Tiling、Scheduling、Kernel Fusion 等优化方法。
了解 Persistent Kernel、Mega Kernel、跨算子融合等技术,具有计算图优化、跨算子调度或自动 Kernel 生成相关经验。
熟悉 GPU 内部通信及多 GPU 互联,包括 Warp Shuffle、Shared Memory、NVLink、PCIe、NCCL/RCCL、NVSHMEM 等技术,或具有计算通信融合相关经验。
熟悉 Nsight Compute、Nsight Systems、ROCprofiler 等 GPU Profiling 工具,具备 GPU Kernel 性能瓶颈分析和优化经验。
熟悉大模型推理系统,了解 Transformer、MoE、Attention 等模型的计算模式及 TP/EP/CP 等分布式并行策略。
在计算机体系结构、高性能计算、编译优化、GPU Kernel、大模型推理等方向具有相关论文、开源项目或实际工程成果。
岗位特色
深入研究 GPU 底层执行机制,探索面向新型 AI 计算架构的高精度性能建模技术。
从传统算子性能预测,进一步拓展至自动 Tiling、Kernel 实现搜索及编译优化。
探索 Mega Kernel、跨算子融合及计算通信协同优化等前沿方向。
将 GPU 细粒度仿真与完整大模型推理网络相结合,推动从性能预测到自动化性能优化的技术突破。