AI推論インフラリードエンジニア
Description
まだ誰も見たことのないプロダクトの、システムを作る。
企業のAIエージェントは、試験導入から本番運用へと移りつつあります。それに伴い、エージェントをGPU上でどう動かすかが、コストと性能の両面で重要になってきました。datagustoは、この領域に向けた未発表のプロダクトを開発しています。
新規プロダクトの立ち上げ初期に、2人チームの一員として加わっていただきます。レポート先はCTOで、CTOがプロダクトを率い、設計の最終判断を行います。システムを作るのはあなたです。MVPから、顧客のGPU環境で動く本番システムまでを担います。
このポジションで採用するエンジニアは1名で、基準は高く設定しています。GPU上のLLM推論を本番で運用し、その挙動を自分で変えた経験が必要です。この経験は、書類、技術面接、客観指標で採点する有償課題で確認します。GPU基盤への関心だけでは選考を通過できませんので、応募の前に必須要件をお読みください。その経験があり、企業がAIエージェントを動かす方法を変えたい方からの応募をお待ちしています。
仕事内容
最初の3〜6ヶ月の目標は、MVPを顧客のGPUクラスタで動かし、そこで結果を数字で示すことです。
- プロダクトのコアロジックを実際のGPUクラスタで動かし、顧客の既存スタック(Kubernetes、オープンソースのLLMサービング)と統合する
- プロダクトの土台となる計測基盤を構築する
- GPUの種類・モデル・負荷ごとに、推論の性能とコストを実機で計測する
- Applied Scientistが設計したモデルを、安定して動く本番システムにする
- オンプレミスや閉域網を含む顧客環境にデプロイし、顧客のエンジニアと結果を検証する
- 週次でCTOに設計の選択肢と根拠を示す
必須要件
以下はすべて必須です。ここでいう経験とは、本番で動かし、自分で手を入れたシステムでの経験です。授業、個人開発、ツールを使ったことがあるだけの経験は含みません。
書類で確認する4点。4点すべてを読み取れない場合、次のステップには進みません。
- GPU上のLLM推論の本番ワークロードを、KubernetesやSlurmなどの上で運用し、自分で改修した経験
- クラスタ上のGPUジョブや推論リクエストの待ち行列・割り当て・優先順位の挙動を、自分で変更した経験
- 分散システムを本番で構築・運用し、自分でデバッグした経験(並行処理、ネットワーク、データベース、キュー、性能エンジニアリング)
- 修士・博士、または同等の実務経験(ソフトウェア開発の目安5年以上)
応募書類には、担当したシステム、その規模、自分で変更した内容を書いてください。
面接と有償課題で確認する5点。
- PythonまたはRust(Goも可)での高い実装力と設計力。デバッグ、性能分析、テスト設計を含む(有償課題)
- 最新のLLM APIの仕様の理解:structured outputs、tool calling、推論量の制御、トークン計測、コンテキスト管理(技術面接)
- コーディングエージェントを使い込みつつ、出力を鵜呑みにしないこと。上位の設計判断から根拠を詰め、レビューの時間を重要な部分の理解に使える(有償課題と発表)
- 優先順位が頻繁に変わる少人数のチームで動けること(面談)
- 英語での技術文書の読み書き(課題の資料と提出物は英語)
歓迎する経験
- エージェント型の推論ワークロード(長いコンテキスト、推論トークン、ツール呼び出しによるバースト的な負荷、マルチターンの状態の再利用)
- vLLM、SGLang、TensorRT-LLMへのコントリビューションや拡張開発
- 長いコンテキストやツール呼び出しの負荷に向けた、GPUメモリやKV・プレフィックスキャッシュの最適化
- 自前のLLM推論基盤と、エージェントのハーネス(Claude Code、Codex、OpenCodeなど)をつないだ経験
- 高頻度取引やメッセージングなど、大量のリクエストを処理するシステム
- 顧客先で技術検証を主導した経験
- ビジネスレベルの日本語、英語での会話
次に当てはまる方は、応募をお控えください
- GPUやLLMの経験が、モデルの学習・ファインチューニング・データ分析、またはホスト型APIの利用に限られる方。このポジションは、推論基盤を本番で運用した経験を前提にしています
- GPUカーネルや推論エンジン内部の最適化だけをしたい方
- 社内インフラだけを扱いたい方。顧客のGPU環境への導入と、顧客のエンジニアとの検証が仕事に含まれます
- CTO、アーキテクト専任、マネジメントのポジションを探している方。自分で手を動かして作る役割で、設計の最終判断はCTOが行います
選考プロセス
判定の中心は有償課題で、客観指標で採点します。
- 書類選考:上記の4点を確認します
- CEOまたはCTOとの面談:事業と技術をご説明し、これまで運用してきたGPU推論基盤について伺います
- 技術面接(CTO):分散システムの基礎とLLM APIの仕様の理解を確認し、運用してきたGPU推論基盤の設計判断を深掘りします
- 有償課題(半日〜1日、AIツール使用可):実環境に近いデータを使い、システムのコアロジックを実装・改善していただきます。その後、進め方を30分で発表していただきます
- CEO面接とリファレンスチェックを経て、オファー
条件
- 基本的にはパートタイムからのスタートで、フルタイムへの移行も可能です
- 報酬は給与とストックオプションです
- 勤務地は東京・本郷3丁目(リモート併用)で、国内とアジア・米国の顧客先への出張があります
- プロダクトの詳細は、選考の中でNDAを結んだうえでお伝えします
会社とチームについて: https://datagusto.github.io/datagusto_careers/product-engineer-en.html#team (Product Engineer職のページですが、会社とチームの紹介はこのポジションにも共通です)
Skills
Sign in to read and join the discussion.