千寻智能
Open positions
2 jobs
2 views 7 months ago
大模型云端推理架构与部署工程师
APAC
China
1、负责多模态大模型（VLM）在云端的高性能分布式推理系统设计、开发与全链路端到端部署。 2、负责将前沿的推理加速机制（如PD分离、全局KV池化、长文本上下文处理等）快速工程化，构建高可用、高吞吐的推理服务。 3、跟进解决大规模服务调用中遇到的性能瓶颈与长尾问题，持续优化集群吞吐量（Throughput）、首字延迟（TTFT）与推理显存占用。 1、计算机、软件工程、人工智能等相关专业；具备分布式系统架构、后端开发或AI基建（AI…
AI C++ CUDA GPU Kubernetes +6 skills
2 views 8 months ago
资深 Agent 算法工程师
APAC
China
1. Agent 架构开发： 设计并实现高并发、可扩展的机器人 Agent 框架，集成长短期记忆模块与 RAG 检索系统，使机器人能在复杂场景下，拆解长程任务到VLA可执行动作。 2. 工程化性能优化： 负责优化 LLM/VLM 调用全链路时延，包括但不限于流式输出处理、KV Cache 优化及异步推理调度。 3. 多模态对齐与 RAG： 建立针对机器人操作任务的向量数据库，实现基于视觉语义和环境上下文的精准知识检索。 4.…
AI C++ LangChain LLM Milvus +5 skills