Du Xiaoman

Du Xiaoman

last year

AI infra工程师

一、模型性能优化 算子开发与优化： 针对 Transformer 类模型（Qwen, MoE），使用 CUDA、Triton 或 CUTLASS 开发高性能算子（Attention, GEMM, Softmax 等） 模型量化落地： 负责大模型量化技术（FP8, INT8, INT4, AWQ, GPTQ 等）的工程落地与精度/性能调优，开发高效的量化计算 Kernel 极致时延优化：…