TIONE-高级AI Infra后台研发工程师-K8S云原生方向-上海/杭州/深圳/北京
Description
在腾讯,后台开发工程师不仅是“又快又稳”的问题解决专家,更是生态共创者。你将与技术团队一同沉淀优质代码,让它成为我们共有的宝贵资产。在不同的业务场景和技术发展阶段,你的架构思维也将帮助更多协作团队拓展新的思考。我们也珍视你的挑战精神,同时欢迎你一起参与团队愿景、文化和产品方向的探讨。
1.负责基于 Kubernetes 的大模型推理云原生平台建设,主导推理场景下的 K8s 调度、资源管理与核心插件 (Operator / CSI / CNI / 设备插件)研发,构建高弹性、多租户、异构算力统一调度的大模型推理服务平台, 支撑混元及第三方模型高效、稳定上线;
2.负责海外机房建设进展跟综及GPU、网络等相关验收;
3.云原生推理平台架构:基于 K8s 主导 TIONE 推理平台控制面与数据面架构设计,构建高弹性、多租户的大模型推理服务,覆盖模型部署、弹性伸缩与推理调用全生命周期;
4.K8s 调度与资源管理:深度定制 K8s 调度器(Scheduler Framework / 调度插件),实现 GPU / NPU 拓扑感知调度、优先级抢占、配额与算力池化;
5.Operator 与 CRD 开发:设计推理平台核心 CRD(Model / InferenceService / Deployment 等)与 Controller,基于 controller-runtime 实现生命周期管理、状态协调与故障自愈;
6.设备插件 / CSI / CNI:开发 GPU / NPU 设备插件(Device Plugin)完成异构算力发现与分配;落地 CSI 存储插件支撑模型与 Checkpoint 高效挂载;集成并定制 CNI(RDMA / RoCE 高性能网络)保障推理 Pod 网络与跨节点通信。
1.本科及以上学历,计算机、软件工程、电子信息等相关专业;
2.精通 Go 语言(核心),熟悉 C++ / Python;具备大型分布式系统与高并发、高可用服务设计与编码能力;
3.具备海外视角,可以外派海外如欧美、东南亚等支持IDC建设及GPU验收等;
4.深入理解 Kubernetes 核心机制,包括但不限于:Scheduler Framework、CRD / Operator(controller-runtime)、Admission / Webhook、Device Plugin,以及 CSI / CNI 插件原理与开发;
5.熟悉 GPU / NPU 资源管理(设备插件、共享 / 虚拟化、拓扑调度)与高性能网络(RDMA / RoCE、CNI 定制);
6.:熟悉 x86 服务器硬件体系与 GPU 服务器(HGX 系列 / A100、H800、L20 等)架构:拓扑、供电、散热、PCIe / NVLink 互联、BMC / BIOS;
7.:熟悉数据中心网络:VLAN / BGP、Bonding、RDMA / RoCE 无损网络原理与调优,有专线开通或验收经验。