AI Engineer(LLM)
Posted Updated 2
views
Description
貝殼生技以數位牙科科技整合能力,與矽谷工程團隊合作發展醫療 AI 核心技術,打造一個會被醫療行業長期信任的 AI 系統。
What you'll do
- 維護並優化 RAG 檢索系統——chunking 策略、embedding 模型選型、retrieval 排序
- 調校向量資料庫參數,讓精準度逐月提升
- 設計知識庫版本控制與一致性機制,避免更新後舊資料殘留造成答錯
- 建立幻覺監控管道——定期執行盲測、追蹤幻覺率、提出改善方向
- 維護 LLM API 整合層(Anthropic / Azure / GCP Healthcare 多家備援切換)
- 在 NVIDIA CUDA 環境部署並調校模型——training pipeline 的 GPU 設定、推論端的量化與最佳化
- 撰寫 pytest 測試案例,包含 async function 覆蓋率
- 從真實使用數據反推產品改善方向
What we need (Must-haves)
- 3+ 年 Python 扎實開發經驗,能讀懂並修改 FastAPI 後端,不靠AI也能debug
- 紮實的 async / await 觀念
- 實際 LLM API 整合經驗(不只是跑過 ChatGPT)
- NVIDIA CUDA 平台開發經驗——CUDA toolkit 安裝、PyTorch GPU backend、debug
- GPU OOM、能讀懂 nvidia-smi 與 CUDA error trace
- Git 流程熟練:commit / branch / PR / 看懂 CI 結果
- 對 AI 幻覺有實戰經驗——知道怎麼診斷、怎麼降低
Bonus (有則優先)
- 做過 RAG 系統(自架或 production 都算)
- 熟一種向量資料庫(ChromaDB / Qdrant / Pinecone 任一)
- 寫過 async 函數的 pytest
- 做過模型量化 / distillation / GGUF 轉換 / TensorRT 最佳化
- 多卡訓練經驗(DDP、FSDP、或類似 distributed training 框架)
- 有 Chatbot / messaging platform 整合經驗
- 對醫療、牙科或任何垂直領域 AI 應用有真興趣(不是「我看大家都在做就跟」)
Best to have
- 帶著任何你做過的 AI 相關專案——GitHub repo、作品描述、或工作成果說明都可以
我們看重 「你動手做過什麼、如何解決問題」 遠勝於 「你拿過什麼證照、學位」。