【數位增長部】生成式 AI Engineer

1.整合 LLM 模型與應用系統

• 採用 RAG 架構整合內外部語意資料。
• 提供 LLM 推論服務與相關 API（如 Prompt API、Embedding API、Agent API）。

2.提示工程與驗測模型

• 設計並優化 Prompt。
• 解決 Domain-specific 與 Edge-case 回答問題。
• 評估與調整模型精準度與穩定性。

3. API 系統開發與維運（使用 FastAPI）

• 使用 FastAPI 架設模組化服務。
• 強化與內部系統串接效能。
• 開發與維運推論相關 API。

4. 資料清洗與轉換（RAG Pipeline 前處理）

• 處理半結構化資料（PDF、HTML、Word、Markdown）。
• 對後續 embedding 與 chunking 流程進行最佳化。

# 技能要求
1. LLM API & tool_calls：

• 能區分何時使用 Tool Calls、何時使用 RAG。
• 熟悉使用地端模型回應特定領域問題（如金融相關知識、理財、策略交易...等）。

2. Prompt Engineering：

• 能針對專業任務撰寫具語意控制的 prompt。
• 調整提示詞以提升準確性與一致性。例如：在開發一個專為金融數位服務提供的AI系統，工程師需要精心設計prompt，以確保生成的回覆既專業又準確。

3. Agent & Chaining：

• 能獨立開發處理複雜任務的 AI Agent。
• 整合多個 Agent 實現端對端流程（如數據分析、廣告優化）。

4. Embeddings：

• 了解如何透過向量理解文本與用戶需求（如推薦系統）。例如，在建立一個客製化新聞推薦系統時，工程師會使用嵌入向量來理解用戶的興趣和新聞文章的內容，從而提供客製化的推薦。

5. Vector Database：

• 熟悉向量資料庫的查詢與優化方法（如相似度檢索）。

6. RAG（Retrieval-Augmented Generation）：

• 了解檢索＋生成混合架構的判斷與應用場景。
• 能分辨何時用 RAG、何時直接查詢資料庫。