后训练算法研究员(数据)
Description
岗位职责:
1、建设大模型后训练数据体系,包括数据清洗、合成数据生成、偏好数据构造和数据质量评估。
2、根据实际任务选择并落地SFT、DPO,RLHF、GRPO、蒸馏等后训练与行为对齐方案,提升模型在目标场景中的效果、稳定性和泛化能力。
3、建设模型评测体系,包括离线评测集,自动评估器、LLM-as-Judge,回归测试和线上实验,定位模型在理解、推理、工具调用和结果生成等环节的问题。
4、参与模型选型、大小模型协同、模型路由和推理策略优化,在任务效果、响应延迟与资源成本之间取得合理平衡。
5、与产品和工程团队协作,推动模型能力稳定应用于线上产品。
任职要求:
1、计算机、人工智能、数学、统计学、电子信息等相关专业硕士及以上学历。
2、熟悉Transformer和大语言模型基本原理,对预训练、指令微调、偏好对齐、强化学习和模型推理有系统理解。
3、具备大模型后训练、训练数据建设、模型评测或复杂业务场景模型优化经验,完整参与过至少一个从数据构建、训练实验到效果验证的大模型项目。
4、熟练使用Python和PyTorch,具备良好的数据处理、模型训练、实验分析和问题定位能力。
5、能够将用户体验和业务效果问题转化为明确的模型问题、数据方案、评测指标和训练实验。
6、具备良好的工程意识,关注实验可复现性、数据版本管理、模型回归、线上稳定性和推理成本。
7、具备较强的自驱力、学习能力和结果意识,能够独立负责一个模型算法方向并推动落地。
加分项:
1、有SFT、DPO、RLHF、GRPO、Reward Model等后训练实践经验。
2、有Tool-use,Agentic Model,推理模型或长上下文模型训练经验。
3、有合成数据、Preference Data、Trajectory Data、难例挖掘或数据飞轮建设经验。
4、有大模型自动评测、LLM-as-Judge,Grader或线上模型效果归因经验。
5、熟悉Qwen、DeepSeek、GLM、Llama等开源模型,或熟悉DeepSpeed、FSDP、Megatron-LM、vLLM、SGLang等训练和推理框架。