AI應用工程師
Posted Updated 6
views
Description
1.LLM 驅動工具調度 (LLM-Driven Tool Automation): 利用大語言模型 (LLM) 建立意圖辨識 (Intent Classification) 與語意解析機制,將使用者/系統的複雜指令精準轉化為自動化工具調度 (Function Calling / Tool Use)。
2.程式碼重構與 API 模組化: 優化開發驗證的自動化腳本與工具原型,進行專業重構 (Refactoring) 與模組化,封裝為標準化的 API 執行節點。
3.AI Server 架構搭建與 Web 介接: 負責 AI Server 與 Windows 工具端 API、Web 前端的低延遲嫁接,設計高併發且具備降級備援 (Fallback) 機制的系統架構(支援非同步處理、WebSockets/SSE 串流通訊)。
4.模型微調與 Prompt Chain 優化: 評估成本與延遲,針對工具調度與分類需求進行專用輕量模型 (LoRA / SFT) 的微調、RAG 檢索設計與 Prompt Chain 管理