Infinigence AI

5 months ago

AI infra 推理优化研究员

1. 研究面向万亿参数大模型推理的超节点架构设计，落地多芯片互联、异构算力协同、分布式推理调度、内存层级与 IO 优化等关键技术攻关；搭建高吞吐、低时延、高密度部署的下一代推理超节点仿真原型，搭建配套评测体系。 2. 依托大模型、智能体技术，开展自动算子生成、算子融合、硬件感知代码生成、编译优化方向研发；搭建自适应算子搜索与生产工具链，适配 GPU/NPU/ 国产 AI 芯片多类硬件，持续打磨优化推理算子性能。 3.…

5 months ago

Tech Lead / Principal Researcher - 异构计算与推理系统研究主管

APACPrincipal

CUDA LLM TensorRT Triton vLLM

1. 针对无问芯穹独有的“M种模型xN种异构芯片”生态，研究下一代面向海量混合异构集群的分布式推理架构、极致调度算法与软硬协同设计（Co-design）。 2. 研究前沿的图编译技术、动态Shape优化、基于异构NPU/GPU的高效算子生成与极限内存优化（Memory-bound优化等）。 3. 主导团队在 OSDI、SOSP、ASPLOS、MLSys、ISCA、HPCA 等计算机系统与体系结构顶级会议，以及…

5 months ago

算法研究主管

1. 提出并验证突破性的算法模型架构，探索长文本处理优化、Memory机制、混合专家模型（MoE）的极致演进，以算法层面的创新大幅降低推理时的Token消耗与计算成本。 2. 设计更智能的Agent协同机制与推理框架，探索Agentic Workflow、自我反思与进化（Self-evolving）、复杂任务拆解与多步规划等前沿方向。 3. 主导团队在 NeurIPS、ICLR、ICML、CVPR、ACL…

10 months ago

测试开发工程师

AI C++ GitHub Github Copilot

1. 负责构建覆盖模型推理全链路的端到端效果与性能评测体系：结合业务场景与推理部署需求，设计完备的算法效果、推理性能及服务稳定性的测评方案，建立高置信度的评测标准与基线。 2. 依据推理优化与模型迭代需要，协助开发构建高质量的多场景评测数据集，建设合理的标签与难度分级体系，系统化管理和维护数据集版本。 3.…

last year

推理框架开发工程师/专家

AI C++ LLM Python TensorRT +1 skills

1. 负责大模型推理引擎的基础软件框架研发，构建高性能、高可靠的推理核心系统。 2. 对接上层大模型算法与部署组件，高效集成自研推理框架与异构算子库，实现端到端推理链路优化。 3. 参与设计并实现低开发门槛、用户友好的大模型中间层软件栈，提升模型部署效率与易用性。 1. 计算机相关专业背景，基础扎实，熟练掌握 C/C++ 和 Python，具备良好的数据结构与算法能力，有系统级软件架构设计经验。 2. 熟悉大模型推理核心技术，熟悉…

last year

强化学习训练框架研发工程师

1. 负责设计和开发高性能的强化学习训练框架，支持大规模并行、分布式训练任务。 2. 优化现有RL算法的执行效率，包括异步执行、批量采样、分布式推理、并行训练等。 3. 与算法团队紧密合作，提供接口友好、易扩展的算法集成能力。 4. 支持多种后端（如PyTorch、Megatron-LM、vLLM、SGLang）和硬件平台（GPU、国产芯片加速器）。 5.…

GPU vLLM

2 years ago

大模型端侧推理优化工程师

1. 负责端侧推理框架和推理产品的研发，支持LLM、SD等模型在端侧的部署应用。 2. 负责推理前沿优化技术在自研产品的落地，跟进学术与社区最新进展。 3. 负责标杆模型在端侧异构系统上的高效适配和硬件推理加速优化的研发。 4. 参与端侧大模型项目的研发规划，协同配合项目落地。 1. 本科及以上学历，计算机相关专业，具有扎实的计算体系结构的基础。 2. 熟悉C++/python/java，有较强的工程编程能力。 3.…

CUDA GPU Java Python

2 years ago

大模型分布式训练框架研发工程师

CI/CD C++ DeepSpeed Linux Python +1 skills

1. 参与大模型分布式训练框架中分布式并行、通信、精度验证等具体模块研发工作。 2. 参与大模型分布式训练框架接口设计和性能优化工作。 3. 面向实际业务场景需求，进行大模型分布式训练框架的持续迭代优化。 1. 计算机或电子通信相关专业，本科及以上学历。 2. 具备坚实的 Python、C++ 工程能力。 3. 具备良好的软件开发素养，熟悉 CI/CD、敏捷开发流程等。 4. 掌握 Linux…

Golang 后端工程师

1. 负责公司 To B 产品、原型、内部系统等的服务端架构设计和开发工作。 2. 后端语言：Golang为主、熟悉Python. 1. 本科及以上学历，3-7年后端开发经验。 2. 精通至少一门后端语言，入职后可根据公司安排，转用公司统一的语言/技术栈。 3. 有良好的编码习惯，善用单元测试和自动化测试，熟悉 DevOps 工作流程，精通 git。 4.…

DevOps Git Kafka Redis

前端开发工程师

CSS React TypeScript Vue WebGL

负责公司正式产品、原型产品或内部系统的WebUI开发。 1. 设计、开发和维护前端系统，确保产品的高质量、高性能和高可靠性； 2. 与产品和设计团队紧密合作，理解业务需求，制定最佳的技术方案； 3. 优化前端系统的性能和用户体验，确保产品能够在不同平台和设备上良好运行； 4. 负责前端代码的版本管理和部署工作； 5. 主动关注技术行业的最新趋势，探索新技术并将其应用于公司的产品和流程中。 1.本科及以上学历，3-5年工作经验。…

CUDA优化专家

1. 负责带领团队建设CUDA研发体系和GPU底层优化技术体系，跟踪和探索面向大模型的GPU底层优化技术新趋势。 2. 负责带领CUDA研发团队完成大模型算子计算库的 CUDA 开发及Kernel优化。 3. 负责与大模型工具链团队一起，共同完成大模型在云-边-端应用场景的压缩加速和部署优化。 1. 研究生及以上学历，计算机/电子相关专业优先，至少3—5年CUDA开发经验。 2. 熟悉常见CUDA优化手段，包括Memory…

CUDA

大模型算子开发工程师

1. 负责大模型算子加速库的研发。 2. 负责分析定位系统性能瓶颈，针对特定异构硬件平台（GPU/AI芯片）进行高性能计算加速和优化。 3. 负责解决大模型开发系统、离线训练系统、在线推理系统的效率和性能问题。 1. 硕士及以上，计算机相关专业。 2. 熟练掌握CUDA等异构编程语言。 3. 熟练掌握C/C++，编程语言基础扎实。 4. 熟悉计算机体系结构及操作系统原理。 5.…

C++ GPU