清程极智

4 months ago

GPU 服务器集群管理

GPU HPC InfiniBand Kubernetes Linux +1 skills

1. 配置、管理高性能 GPU 服务器集群，确保其全天可用、性能可靠、可监控。 2. 提升服务器集群的日常利用效率，减少闲置或拥挤。 3. 通过标准化和自动化，协调管理不同型号、来自不同供应商的 GPU 服务器集群。 4. 处理服务器故障等紧急情况。 1. 计算机科学或相关专业。 2. 具备管理 GPU 集群 / HPC 集群 / 超算集群的经验。 3. 熟练掌握 Linux…

5 months ago

大模型推理部署工程师

1. 根据业务需要，评估推理引擎的选型及候选部署参数。 2. 前往业务现场配置推理引擎部署环境，并部署、调优、测试推理引擎（能够接受频繁出差）。 3. 协助自研推理引擎开发团队对比评估推理引擎功能、性能。 1. 有相关从业经验。 2. 具有良好的学习能力和团队合作精神。 3. 熟悉 vLLM、SGLang 等常用推理引擎的运行、调优方式。 4. 熟悉 GPU 服务器中与推理性能相关的系统配置。 5.…

GPU vLLM

大模型量化工程师

1. 面向实际模型与实际硬件平台，对大模型进行量化。 2. 开发维护推理引擎中的量化推理功能。 3. 开发维护大模型量化工具。 1. 计算机科学或相关专业。 2. 具有良好的学习能力和团队合作精神。 3. 掌握 Python、C++、C 等编程语言，有良好的编程能力。 4. 熟悉主流的大模型训练后关于权重、激活值的整数、浮点数量化方法。 5. 熟悉 PyTorch 框架和大模型的完整推理流程。 6.…

C++ Python PyTorch

大模型推理加速优化工程师

1. 使用 PyTorch 开发与维护推理引擎。 2. 面向实际模型与实际硬件平台部署模型推理服务。 3. 面向实际模型与实际硬件平台对服务进行端到端性能优化。 1. 计算机科学或相关专业。 2. 具有良好的学习能力和团队合作精神。 3. 掌握 Python、C++、C 等编程语言，有良好的编程能力。 4. 熟悉 PyTorch 框架。 5. 熟悉大模型的完整推理流程，熟悉不同情形下模型推理的计算、访存、通信行为。 6.…

C++ Python PyTorch

AI、LLM 大模型算法、编译器、系统工程师

1. 对业内主流的语⾔模型、⽂⽣图模型的训练、微调、推理过程进⾏性能优化 2. 针对不同的上层应⽤需求，对基座模型进⾏剪枝量化、参数调优、提⽰词⼯程等⼯作 1. 计算机科学或相关领域硕⼠研究⽣及以上学历 2. 具备1年以上的AI算法开发经验者优先 3. 理解机器学习、深度学习、⼤模型等⼈⼯智能相关技术 4. 熟悉Python、C++、C等编程语⾔ 5. 熟悉Pytorch等深度学习框架 6. 有GPU等加速卡算子开发经验者优先 7.…

C++ Triton

算子开发工程师

AI C++ CUDA GPU Python +1 skills

1. 面向国内外多种 GPU 或其他 AI 算力进行高性能算子开发与优化。 2. 面向实际模型与实际硬件平台，进行算子与推理引擎的综合优化。 1. 计算机科学或相关领域硕士研究生及以上学历。 2. 具有良好的学习能力和团队合作精神。 3. 掌握 Python、C++、C 等通用编程语言，以及 CUDA 或 AscendC 等算子编程语言。 4. 具备 GPU 等加速卡的算子优化或算子自动编译优化经验。 5.…