腾讯云-MaaS平台近线/离线推理研发专家

“用户为本，科技向善”，是写在每位腾讯产品人心中的一句箴言。在互联网浪潮中，大众的生活已被深刻地改变，如何为用户创造价值、创造怎样的价值，需要每位产品人花费更长时间去体会与探索。在这里，你将与同样关注细节、关注本质、关注美好的同事一道，开启你的创造性工作。

1.负责离线推理（Batch Inference）平台架构：任务调度、断点续跑、优先级队列、弹性伸缩；
2.负责推理吞吐与成本优化：PD分离架构、推理引擎（vLLM/SGLang/TensorRT-LLM 等）选型与调优、量化策略落地；
3.负责离线与在线推理的资源复用与错峰调度，持续提升整体GPU利用率；
4.建设离线推理的SLA体系与成本核算模型，支撑Token单价竞争力；
5.对接数据合成、模型评测、蒸馏等大规模离线Token消耗场景，形成业务闭环。

1.本科及以上学历，计算机相关专业，2年以上相关工作经验；
2.3年以上系统或推理基础设施经验，有大规模分布式系统或LLM推理优化的生产实践；
3.深入理解主流推理引擎架构，有量化、调度或serving性能调优的实际落地案例；
4.有从 0 到 1 搭建近线/离线推理或批处理平台经验者优先；
5.较好的主动性和责任心。