Search jobs right inside Claude, ChatGPT or Cursor. Connect freehire over MCP — free, no account needed to search.
1. 使用 PyTorch 开发与维护推理引擎。 2. 面向实际模型与实际硬件平台部署模型推理服务。 3. 面向实际模型与实际硬件平台对服务进行端到端性能优化。 1. 计算机科学或相关专业。 2. 具有良好的学习能力和团队合作精神。 3. 掌握 Python、C++、C 等编程语言,有良好的编程能力。 4. 熟悉 PyTorch 框架。 5. 熟悉大模型的完整推理流程,熟悉不同情形下模型推理的计算、访存、通信行为。 6.…
1. 面向实际模型与实际硬件平台,对大模型进行量化。 2. 开发维护推理引擎中的量化推理功能。 3. 开发维护大模型量化工具。 1. 计算机科学或相关专业。 2. 具有良好的学习能力和团队合作精神。 3. 掌握 Python、C++、C 等编程语言,有良好的编程能力。 4. 熟悉主流的大模型训练后关于权重、激活值的整数、浮点数量化方法。 5. 熟悉 PyTorch 框架和大模型的完整推理流程。 6.…
1. 面向国内外多种 GPU 或其他 AI 算力进行高性能算子开发与优化。 2. 面向实际模型与实际硬件平台,进行算子与推理引擎的综合优化。 1. 计算机科学或相关领域硕士研究生及以上学历。 2. 具有良好的学习能力和团队合作精神。 3. 掌握 Python、C++、C 等通用编程语言,以及 CUDA 或 AscendC 等算子编程语言。 4. 具备 GPU 等加速卡的算子优化或算子自动编译优化经验。 5.…
We couldn't check your fit for this role — add a CV to your profile to see it next time.