Skip to content
Search jobs inside your AI agent. Claude, ChatGPT, Gemini, Cursor and Grok
Connect

芯元时代

AI训推框架/模型(高级)工程师

Posted Updated 3 views
Discussion

Description

1. 框架前端与图导入:选型并搭建框架前端及图导入的技术路线,定义算子语义层规范(op 定义/分解/规范化),与编译器的lowering技术路线对齐。
2. 量化与精度工程:制定量化策略初稿(INT8/INT4/FP8、PTQ/QAT)与精度评估/对齐方法论,建立模型级与算子级精度回归基线,为芯片投片前后的精度风险提供可量化依据。
3. 目标负载分析与框架对接:深度分析业务目标负载(VLA、扩散策略、多模态编码器、实时控制网络),输出算子覆盖、精度与实时性需求;选定"首个端到端验证模型"候选,并完成算子及自动编译的适配与对接。
4. 技术前瞻与竞争力:追踪 PyTorch 2.x/export、ONNX/StableHLO、主流推理框架(vLLM/SGLang)模型适配与量化压缩进展,评估框架生态演进对导入路径的影响,输出调研供架构评审。

1. 4 年以上深度学习框架 / 模型部署经验;熟练掌握Python/C++,编程基础扎实、工程习惯良好。
2. 精通 PyTorch/ONNX 图导入与模型部署:熟悉计算图捕获、算子分解、动态 shape 处理与跨框架转换;能独立主导导入路径设计与问题攻坚。
3. 具有规模化商用模型部署适配经验:主导或深度参与过量产产品、大规模客户POC或芯片Benchmark模型的导入、量化与精度收敛。
4. 能从模型负载反推对编译器、算子库与硬件的需求(算子集、shape 分布、延迟/带宽约束);了解 MLIR 前端生态(torch-mlir/onnx-mlir)者优先。

【加分项】
1. 具身智能 / 机器人模型(VLA、Diffusion Policy、多模态编码器)的端侧或边缘部署经验。
2. 熟悉并参与过业界常见推理框架的模型适配与优化,如 ONNX Runtime、TensorRT、vLLM、SGLang 等(图优化、量化推理、自定义 op 接入)。

Skills

Apply

See also