Tech jobs
Job listings
Software Engineer - AI Compute Infrastructure
About the Team The Inference Infrastructure team is the creator and open-source maintainer of AIBrix, a Kubernetes-native control plane for large-scale LLM inference. We are part of ByteDance’s Core Compute…
高性能计算工程师
岗位职责 负责大规模深度学习训练/推理框架中 CUDA 内核的性能优化与定制开发 开展与 GPU 体系结构相关的前沿探索性工作，包括新指令集、算子融合、异构计算和硬件趋势研究 与算法研究员合作，推动模型结构与底层实现的协同优化 任职要求 计算机、电子工程或相关专业本科及以上学历，或3年以上相关工作经验 精通 CUDA 编程模型，熟悉 Tensor Core、WGMMA、Shared Memory 等底层细节…
豆包大模型算法工程师（火山方舟）-RL Infra
1、负责改进RL训练系统，包括基于Ray的RL Trainer功能拓展、Rollout/采样策略探索、Reward系统集成、Agent Loop复杂任务下轨迹管理等； 2、负责大模型SFT/RL训练性能和稳定性优化，支持Reasoning，Agent，VLM等各类Post-Training任务； 3、探索前沿大模型算法和训练技术，包括Off-Policy RL训练效果和效率、SRFT、OnPolicy Distillation等。…
【大模型北斗实习】大规模 Post-training 算法架构前沿研究
Post-training 是提升大模型专项能力的核心技术方向之一，包括不限于复杂推理（Reasoning）、价值观对齐（Alignment）、业务Agent应用等研究方向。 本课题研究方向包括但不限于： 1）实现高效灵活的多模型强化学习训练架构。 2）通过合理灵活动态配置资源，提升PPO及各变种算法运行效率。 3）研究低精度在 Post-training 中的应用方式。 4）研究不同的算法+数据对效果的影响。…
【大模型北斗实习】大模型推理系统前沿研究
大模型推理是大模型应用的核心能力，是影响大模型应用成本和效率的关键因素。本课题专注于大模型推理加速与分布式系统优化的前沿技术探索，通过软硬件协同设计和算法工程联合优化，降低大模型推理的应用成本，提高推理性能。 研究内容包括但不限于： 1）投机推理（Speculative Decoding），研究基于预测性执行的动态推理优化方法，参与设计低延迟推理框架，通过概率模型预生成候选序列以降低解码计算开销。…
【大模型北斗实习】大模型模型压缩技术探索
本课题专注于大模型前沿压缩技术探索，通过压缩技术降低大模型的推理部署成本。课题研究内容包括但不限于: 1) 探索多种模态（文本、语音、视觉）的模型压缩技术，不限剪枝、蒸馏、稀疏、量化、低秩化。 2) 探索新轻量化结构，不限 MoE、Mamba、Sparse-Attention、MTP，实现训练和推理的协同优化。 3) 探索低精度量化算法，以及新型量化格式，不限预训练和后训练过程，实现大模型的极致压缩。 4)…
Senior Research Engineer / Scientist - Storage for LLM
About the Team The Infrastructure System Lab is a hybrid research and engineering group focused on building next-generation AI-native data infrastructure. Positioned at the intersection of databases, large-scale…
Research Engineer / Scientist - Storage for LLM
About the Team The Infrastructure System Lab is a hybrid research and engineering group focused on building next-generation AI-native data infrastructure. Positioned at the intersection of databases, large-scale…
电商场景LLM/VLM/AIGC推理工程师-TikTok Shop
1、设计实现电商场景通用的大模型推理引擎，适用于在线实时推理和近离线批量推理等多个场景，并推广到电商各个场景中应用； 2、针对电商LLM/MLLM/AIGC等多种模型，进行针对性的推理性能优化，解决系统高并发、高可靠性、高可扩展性等技术难关； 3、面向全球多地域大规模GPU算力集群，通过弹性调度、GPU超卖、任务编排等方式不断提升算力利用率； 4、与算法部门深度合作，进行算法与系统的联合优化。…
计算AI研发工程师/架构师（混合云） - 计算
团队介绍：字节跳动基础设施计算团队，专注构建面向大模型与 AI Agent 时代的 AI-Native Infra。我们从算力、系统到平台，围绕“AI 如何高效运行、持续进化、规模化落地”这一核心问题，重构计算基础设施。我们管理着数十万台服务器组成的超大规模集群，构建统一的异构算力调度与云原生运行体系；通过软硬协同与自研框架，持续突破大模型训练与推理的性能瓶颈；并进一步向上，打造企业级 AI Agent Infra，让 Agent…
云原生AI研发工程师/架构师 - 计算
团队介绍：字节跳动基础设施计算团队，专注构建面向大模型与 AI Agent 时代的 AI-Native Infra。我们从算力、系统到平台，围绕“AI 如何高效运行、持续进化、规模化落地”这一核心问题，重构计算基础设施。我们管理着数十万台服务器组成的超大规模集群，构建统一的异构算力调度与云原生运行体系；通过软硬协同与自研框架，持续突破大模型训练与推理的性能瓶颈；并进一步向上，打造企业级 AI Agent Infra，让 Agent…
Senior Software Engineer, AI Infra Compute
About the team: Compute division focuses on building large-scale and highly available cloud infrastructure, which supports both public cloud products (like VolcEngine ECS service) and ByteDance internal products.…
Backend Engineer - AML Framework Development (Search, Ads, and Recommendation Direction)
About The Team The mission of our AML team is to push the next-generation AI infrastructure and recommendation platform for the ads ranking, search ranking, live & e-Commerce ranking in our company. We also drive…
大模型推理调度编排专家 - Seed Model
团队介绍：字节跳动 Seed 团队成立于 2023 年，致力于寻找通用智能的新方法，追求智能上限，为科技和社会发展作出贡献。 Seed 团队在 AI 领域拥有长期愿景与决心，团队研究方向涵盖 MLLM、GenMedia、AI for Science、机器人等，在中国、新加坡、美国等地设有实验室和岗位。目前，团队已推出业界领先的通用大模型以及前沿的多模态能力，支持豆包、即梦、TRAE 等超过 50…
大模型推理存储系统专家 - Seed Model
团队介绍：字节跳动 Seed 团队成立于 2023 年，致力于寻找通用智能的新方法，追求智能上限，为科技和社会发展作出贡献。 Seed 团队在 AI 领域拥有长期愿景与决心，团队研究方向涵盖 MLLM、GenMedia、AI for Science、机器人等，在中国、新加坡、美国等地设有实验室和岗位。目前，团队已推出业界领先的通用大模型以及前沿的多模态能力，支持豆包、即梦、TRAE 等超过 50…
Inference Engineer
About Cartesia Our mission is to architect AI that learns from and interacts with the world like humans do. We're pioneering the model architectures that will make this possible. Our founding team met as PhDs at the…