Point your AI agent at freehire and let it find you a job.

Get the CLI →

Kaon

AI工程师 - 平台

Posted Updated
Discussion

1. 负责公司核心AI平台的架构设计、研发与持续演进,支撑多业务线稳定高效运行。
2. 参与平台化、服务化、组件化建设,沉淀通用平台能力
3. 负责高并发、高可用系统的设计与实现,持续优化性能、稳定性与成本。
4. 参与 大模型平台 / 模型网关(LLM Gateway) 建设,包括但不限于:

  • 多模型接入与统一抽象
  • 请求路由、模型调度、版本与能力管理
  • 配额、限流、计费、审计等平台能力

5. 参与GPU / 推理资源调度与管理相关后端逻辑:

  • 资源分配与隔离
  • 并发控制、队列、优先级、回退策略
  • 成本、利用率与稳定性优化

6. 参与数据库与存储方案设计(关系型 / NoSQL / 缓存 / OLAP),解决数据一致性与扩展性问题。
7. 对线上问题进行定位和根因分析,建立系统化的稳定性治理机制。

1. 本科及以上学历,计算机相关专业,3 年及以上后端开发经验。
2. 扎实的计算机基础:

  • 数据结构与算法
  • 操作系统、计算机网络
  • 常见设计模式

3. 精通至少一门后端语言:

  • Go / Java / Rust / Python

4. 熟悉常见后端架构:

  • REST / RPC(gRPC、Thrift 等)
  • 微服务架构

5. 熟悉常用中间件:

  • 数据库:MySQL / PostgreSQL
  • 缓存:Redis
  • 消息队列:Kafka / Pulsar / RabbitMQ

6. 具备良好的系统设计能力,能够独立完成模块或子系统设计。

加分项
1. 有大模型平台 / 模型调度 / 推理服务相关经验者优先,包括但不限于:

  • 类似 OpenRouter / LLM Gateway / Model Proxy 的系统
  • 多模型路由、Fallback、灰度、限流

2. 有大数据基础设施建设经验者优先,包括但不限于:

  • 数据平台 / 数据湖 / 数据仓库
  • Flink / Spark / Kafka 等生态
  • 数据服务化、元数据、权限治理

4. 熟悉云原生技术:

  • Docker、Kubernetes
  • Helm / Operator

5. 熟悉可观测性体系:

  • Prometheus / Grafana
  • OpenTelemetry

6. 有高并发、大流量、复杂系统的设计与优化经验。

Skills

Apply

See also

Tailor your CV for this role?

We couldn't check your fit for this role — add a CV to your profile to see it next time.