端侧模型研究员
Description
"1、跟踪 MiniCPM、Qwen、Gemma、Phi 等小模型路线,做模型结构选型与端侧部署成本评估。
2、研究端侧多模态:图像 / 视频 / 语音 / 传感器与文本融合、视觉 token、动态分辨率、OCR、设备状态理解。
3、做后训练与任务对齐:SFT、偏好优化、拒答与安全策略、工具调用能力训练 4、用大模型蒸馏与数据合成,把云端能力压进小模型。
5、做量化与推理优化:GGUF / AWQ / GPTQ、INT4 / INT8、KV cache,适配真实硬件约束。
6、在 Mac、手机、NPU、嵌入式 Linux 上部署验证,自建端侧评测集,参与端云协同设计。"
"1、研究生为主(本科特别优秀可放宽);有模型训练 / 微调 / 部署实证。 2、 扎实的机器学习与大模型基础,做过 SFT、LoRA / QLoRA、DPO / RLHF、蒸馏、数据清洗 / 合成。
3、 理解小模型取舍与多模态结构(ViT / SigLIP、projector、动态分辨率),知道计算瓶颈。
4、能上端侧:熟悉 PyTorch / Transformers,了解 llama.cpp、MLX、MNN、ONNX Runtime、TensorRT-LLM 等推理工具之一。
5、重视评测:能设计评测集、分析 bad case、区分模型 / 数据 / prompt / 部署问题。
6、Python 熟练;能读论文和源码,对新方法快速判断价值并做最小实验验证。
7、眼里有光、精神状态过关:对新技术兴奋,能把「为什么做 / 怎么做 / 解决了什么 / 效果怎么样」讲清楚。
加分项
- 端侧 LLM / VLM / ASR / TTS 部署经验,接触过 NPU、嵌入式 Linux、智能硬件或低功耗设备。
- 量化、剪枝、蒸馏、推测解码、KV cache、GQA、MoE 优化经验。
- 语音交互、智能硬件、机器人、IoT 或设备状态理解经验。"