Point your AI agent at freehire and let it find you a job. A CLI and an MCP server over the whole job API — no browser.
推理服务部署与优化:负责大语言模型、多模态模型在生产环境中的推理部署与性能优化,基于 vLLM、SGLang、TensorRT-LLM 等主流推理框架,建设并优化推理服务能力; 推理链路性能调优:负责模型推理全链路优化,包括推理加速、批处理调度、KV Cache 优化等,持续提升吞吐、降低延迟、减少 GPU 资源成本;系统性降低硬件延迟瓶颈,保障高并发下线上服务稳定性;…
我们正在构建一个面向复杂任务的模型融合系统。它不是简单地接入单个大模型,而是通过多模型并行生成、候选答案分析、强模型合成、路由策略、流式输出和可观测评测体系,让不同模型在推理、代码、研究和工具调用等场景中形成互补。 这个方向的核心问题不是“哪个模型最强”,而是如何稳定、可解释、可复现地把多个模型的能力组织起来,并在质量、成本、延迟之间做工程化权衡。 我们希望找到一位能参与完整闭环的工程师:从 benchmark…
We couldn't check your fit for this role — add a CV to your profile to see it next time.