Point your AI agent at freehire and let it find you a job.

Get the CLI →

ByteDance

New

算法部署与数值精度专家(存算与AI) - 芯片研发

Posted Updated
Discussion

团队介绍:聚焦存算一体芯片设计,主要围绕AI大模型应用场景进行高能效计算技术创新,设计多款基于存算一体架构的高能效AI芯片,突破传统冯・诺依曼架构下的 "内存墙" 瓶颈,提升能效比、降低算力成本。团队具备独立流片与量产落地能力,累计申请专利近300项,核心专利覆盖“底层器件-核心架构-工程落地”全流程。同时与字节各团队算力需求整体协同,更好的发挥存算一体芯片的技术价值,共同为AI业务提供高能效算力底座。

1、对接算法团队,分析模型结构、算子组成、数据分布及精度指标,将算法需求分解为系统架构、算子库和编译工具链需求;
2、分析数据格式、量化位宽、累加精度、截断与舍入、溢出与饱和、ADC/DAC精度等因素对模型结果的影响,软硬联合设计计算单元数据格式和精度方案;
3、围绕存算一体架构实现精度补偿方案,包括偏差修正、噪声注入训练、分层补偿等;
4、负责模型量化方案落地,包括PTQ、QAT、混合精度、权重与激活量化、校准策略、量化参数搜索及敏感层分析,在精度、性能、功耗和存储开销之间取得平衡;
5、建立浮点参考模型、硬件行为模型和芯片结果之间的逐层精度比对能力,定位模型、编译器、算子或硬件引入的数值误差;
6、设计模型在存算一体芯片及GPU、NPU等异构平台上的部署方案,协同AI工具链团队,完成模型转换、算子适配、计算图调整、精度验证等工作,同时建设模型精度评测、自动回归和问题诊断体系,沉淀量化规则、精度补偿及典型模型部署方案。

1、计算机、算法、电子工程、自动化、数学或相关专业,硕士学位及以上,具有2年以上算法部署、模型量化、算法训练或AI芯片软件相关经验;
2、熟练掌握Python,熟悉C/C++,理解计算图、算子语义、模型导出、量化和推理部署流程;
3、熟悉卷积、矩阵乘、激活、Attention等常见深度学习算子,理解其数值计算过程及精度敏感性;
4、熟悉定点数、浮点数和低精度数据格式,理解量化、舍入、误差传播及数值稳定性;熟悉INT8、INT4、INT2、FP8、BF16或自定义数值格式;具有PTQ、QAT或混合精度量化经验,熟悉对称与非对称量化、Per-Tensor与Per-Channel量化、校准方法和敏感度分析;
5、能够通过逐层比对、误差统计和消融实验定位模型精度问题,并提出兼顾硬件约束和算法效果的解决方案;
6、理解AI加速器或存算一体架构的基本原理,熟悉片上存储、数据搬运、阵列计算等相关机制,能够将算法精度和运行效率等需求转化为系统架构、编译器、算子等团队可以实现和验证的技术指标。

Skills

Apply

See also

Tailor your CV for this role?

We couldn't check your fit for this role — add a CV to your profile to see it next time.

A new version of freehire is available