微信搜索-LLM大模型推理研发高级工程师-研发优化

在腾讯，后台开发工程师不仅是“又快又稳”的问题解决专家，更是生态共创者。你将与技术团队一同沉淀优质代码，让它成为我们共有的宝贵资产。在不同的业务场景和技术发展阶段，你的架构思维也将帮助更多协作团队拓展新的思考。我们也珍视你的挑战精神，同时欢迎你一起参与团队愿景、文化和产品方向的探讨。

1.结合搜索业务场景，研发SLM，LLM等各类型尺寸适合的线上推理模型，保障推理引擎的性能与稳定性，降低部署成本，有效承载C端大流量访问要求，模型类型包括但不限于生成式，判别式等；
2.熟悉搜广推场景的分布式系统的基本原理（检索引擎，KV服务等），能够将通用的系统工程思想注入到大模型推理领域，系统化解决线上的工程难题；
3.紧跟 LLM Infra 领域的前沿技术演进突破，将合适成果落地于实际应用；
4.与搜索算法同学深度合作，联合优化，设计实现能够给大型搜索系统带来代际更迭的大模型。

1.本科及以上学历，计算机/电子/自动化/软件等相关专业，有搜广推场景下推理工程优化经验的优先；
2.熟悉Linux 开发环境、熟悉C/C++编程语言，熟练掌握常用算法和数据结构；
3.熟悉业界常用的大模型推理框架VLLM，SGLang等，熟练掌握大模型算法结构原理。