云原生AI研发工程师/架构师 - 计算
Description
团队介绍:字节跳动基础设施计算团队,专注构建面向大模型与 AI Agent 时代的 AI-Native Infra。我们从算力、系统到平台,围绕“AI 如何高效运行、持续进化、规模化落地”这一核心问题,重构计算基础设施。我们管理着数十万台服务器组成的超大规模集群,构建统一的异构算力调度与云原生运行体系;通过软硬协同与自研框架,持续突破大模型训练与推理的性能瓶颈;并进一步向上,打造企业级 AI Agent Infra,让 Agent 具备身份、权限、记忆、观测与治理能力,真正成为可运行在生产环境中的新型“应用形态”。
从云服务器、容器、函数,到 AI 网关、可观测与弹性体系,我们构建的是一个为 AI 而生、由 AI 驱动进化的基础设施平台,支撑集团多个业务与企业级客户的智能化升级。
如果你希望参与定义 AI 时代的 Infra 范式,而不仅是优化一个模块或服务——欢迎加入我们,一起构建下一代 AI 云原生基础设施。
1、负责混合云云原生AI Infra技术架构设计、推理场景系统优化、云原生AI套件等开发工作;
2、负责研发AI异构计算软件栈,通过结合不同硬件、高性能网络、缓存等技术,实现AI计算的全链路优化,助力打造高可靠、高性能、高效率的AI算力基础设施;
3、洞察人工智能及深度学习的发展趋势,积极参与下一代AI基础设施的设计与研发。
1、对大模型推理引擎、K8s、容器、网络,分布式、GPU架构、云原生AI等方面技术有深入研究;
2、熟悉Kubernetes工作原理,熟悉调度器、资源扩展机制、容器运行时、容器网络等技术;
3、具备扎实的工程能力,Go、C/C++、Python等开发语言,具有丰富的开发、调试和性能优化等经验;
4、熟悉主流深度学习框架(例如PyTorch)、推理引擎框架(vLLM、SGLang)、Kubeflow,并对底层实现有一定了解,在模型训练或推理性能优化方面有实操经验;
5、对AI系统的性能分析工具、GPU架构、高性能网络、高性能缓存、大模型原理等技术有深入理解,有开发和优化经验;
6、对混合云有认同感,对云原生AI方向非常感兴趣的,并有较强的学习能力、沟通协作能力。