千寻智能
Open positions
2 jobs
2 views 7 months ago
大模型云端推理架构与部署工程师
APAC
China
1、负责多模态大模型（VLM）在云端的高性能分布式推理系统设计、开发与全链路端到端部署。 2、负责将前沿的推理加速机制（如PD分离、全局KV池化、长文本上下文处理等）快速工程化，构建高可用、高吞吐的推理服务。 3、跟进解决大规模服务调用中遇到的性能瓶颈与长尾问题，持续优化集群吞吐量（Throughput）、首字延迟（TTFT）与推理显存占用。 1、计算机、软件工程、人工智能等相关专业；具备分布式系统架构、后端开发或AI基建（AI…
AI C++ CUDA GPU Kubernetes +6 skills
2 views last year
具身智能 - 机器学习平台 SRE
APAC
China
1、保障平台稳定运行：负责具身智能端到端 AI 平台的日常运维，搭建监控体系，实时监测并解决故障，确保平台稳定运行。 2、信息安全防护：制定并执行安全策略，通过漏洞扫描、入侵检测等手段，保障平台与数据的安全及完整性。 3、优化系统性能：分析运行数据，识别瓶颈并实施优化，提升系统在高并发、大规模数据处理场景下的性能与可靠性。 4、应急与灾备管理：制定应急预案，快速响应并处理重大故障；建立灾备体系，定期演练确保数据与服务可恢复。…
AI Cissp Docker ELK Go +7 skills