安全工程师(大模型安全能力提升方向) - 火山方舟
Description
团队介绍:火山方舟是火山引擎推出的一站式大模型服务平台,是中国大模型市场产品和份额领跑者。平台提供模型推理、评测、精调等全流程服务。方舟搭载了豆包及业界主流大模型,提供丰富的插件生态和AI应用开发服务,并通过稳定可靠的安全互信方案、专业的算法技术服务,全方位保障企业级AI应用落地。
1、负责提升大模型在漏洞挖掘、代码审计、渗透测试、逆向分析等网络安全任务上的能力;
2、基于真实安全场景和专家经验,设计并持续完善网络安全能力及评测体系,构造相应训练任务、评测集和数据,将真实漏洞、CVE、CTF、外部反馈等案例转化为训练数据和评测任务;
3、分析模型在真实/模拟安全环境中的执行轨迹,定位失败原因、能力缺口及改进方向;
4、设计外部专家任务、验收标准,并负责环境、答案及标注结果的技术Review;
5、与模型训练、RL和评测团队合作,持续迭代模型网络安全能力。
1、在一个或多个网络安全方向(如Web/应用安全/二进制/系统底层)具备扎实的实战经验;
2、具备较强的漏洞挖掘、代码审计、渗透测试、逆向分析或漏洞利用能力;
3、能面对陌生系统独立完成攻击面分析、漏洞假设、验证和问题定位;
4、具备良好的编程能力,熟悉Python、Go、C/C++、Java等一种或多种语言;
5、具备较强的抽象和总结能力,能够将复杂安全问题拆解为可评测、可训练的能力,并沉淀为可复用的方法论。
加分项
1、有高质量CVE/CTF/真实攻防或其他网络安全相关成果;
2、有CTF题目、漏洞靶场、Fuzzing或安全评测环境建设经验;
3、有LLM Agent、Benchmark、Eval/Verifier等相关经验。