多模态大模型训练推理加速技术专家 - Data-抖音/直播/电商/剪映
Description
团队介绍:Data-架构团队是字节跳动的核心技术引擎,为抖音、今日头条、番茄小说、剪映等旗舰产品构建大规模、高可用、可持续演进的推荐、搜索与广告工程架构。团队深耕推荐架构、搜索架构、广告架构、机器学习基础设施、在线服务架构与稳定性工程等领域,在千亿乃至万亿级数据规模、超大流量与复杂业务逻辑的真实工程挑战中,持续以技术创新驱动人与信息、人与服务的高效连接,服务全球数亿用户。
目前,团队正积极探索搜广推架构下一代范式:从大规模在线预估框架到生成式推荐大模型的训练、后训练与端到端推理,从分布式异步图引擎、统一数据编排到平台化业务策略与 Infra Research,让大模型真正落地于亿级流量的真实在线系统。欢迎热爱分布式、AI 大模型、搜广推架构的同学加入。
1、负责多模态大模型(视觉AIGC/LLM/VLM)服务部署、训练推理加速、应用落地等,保障系统的高可用和低成本;
2、增强团队视觉大模型训练推理加速Infra能力,如模型蒸馏、量化推理、算子优化、异构卡型适配等;
3、与算法和业务侧产品研发团队深度合作,确保高标准的产品顺利交付。
1、本科及以上学历,计算机科学或相关专业,拥有5年以上后端和AI Infra研发经验;
2、精通Python/Go/C/C++等,熟悉PyTorch,具备扎实的AI工程架构和性能优化经验;
3、了解AIGC/LLM/VLM等算法原理,有多模态大模型异构卡型适配和训练推理加速经验,如通算融合、延时隐藏、TP/SP/PP并行等;
4、了解GPU/NPU硬件特性,熟悉CUDA/CUTLASS/AscendC等,掌握主流算子如FlashAttention/Conv2d/Matmul/MOE等的实现和加速方法;
5、有扎实的架构思维和技术追求,具备出色的沟通和跨团队协作能力,具备低比特量化、稀疏等优化技术经验者优先。
Skills
Sign in to read and join the discussion.