Code大模型工程师(数据方向) - 抖音AI
团队介绍:抖音AI团队主要负责抖音项目以及团队内的AI落地相关基础建设工作。我们的职责是用前沿的AI技术去赋能抖音应用以及抖音团队。我们希望在AI技术的加持下,能够更好的给抖音用户带来更好的信息消费体验,也能够让抖音这个大型组织能够更加高效的运转,从而更加及时的满足用户的各项诉求。团队主要负责抖音AI基础建设,包括但不限于模型训练、Agent相关的工程链路开发、通用Agent工具抽象以及AI Native的各类产品开发工作。AGI信仰强,以发展成为AI Native组织为目标,努力拓展传统协作模式的职责边界,充分给同学们提供自身探索的空间。
1、聚焦集团研发提效场景,负责Code大模型训练数据的生产与管理;
2、深入研究大模型训练各阶段数据需求,设计和开发多类型数据的加工处理链路;
3、设计和建设Code数据合成方案,支持数据Scale等工作;
4、根据Code大模型训练数据特点,抽象并开发高效、可靠的数据加工框架和引擎,提升数据处理工程效率;
5、探索使用Agent、Self-Evolve的方式来构建下一代更高效的Pretrain数据Pipeline。
1、熟悉至少一种编程语言,如Go、Python、Java等;
2、对大数据技术有深入的理解加分,熟练掌握如Spark、Flink、Kafka、Hive、HDFS等工具加分;
3、有数据中台、机器学习相关的系统平台开发经验加分;
4、有大模型Pretrain、CT训练或者数据相关经验加分;
5、有面对技术挑战的热情,能独立思考,具有好奇心和快速学习能力。