數據工程師-智慧交通領域(IAD20)
Description
【職務內容】
我們正在尋找一位具備 3-5 年經驗的資料工程師,加入我們的數據團隊。您將負責設計、構建並優化高效率的 Data Pipeline,確保資料從來源端到分析端的準確性與即時性。此職位不僅需要強大的Python與ETL開發能力,更需要您對資料來源標準(如 CDM, TDX)有深入理解,能夠以「分析師的視角」來設計資料架構,確保產出的數據能精準支持商業分析與決策。
【工作內容】
1. Data Pipeline開發與優化。
(1)使用 Python 與 SQL 開發高效、可擴展的 ETL/ELT 流程。
(2)運用 Apache Airflow 進行工作流排程、自動化管理與相依性設計。
(3)針對不同資料來源(API, DB, Flat Files)進行研究與串接,如 WorldBank等開放資料或統計資料格式。
2.資料品質與系統監控。
(1)建立資料品質檢測機制,確保數據的完整性、一致性與正確性。
(2)設計並維護系統監控機制,在 Pipeline 失敗或資料異常時能自動告警,並進行 Root Cause Analysis (RCA) 與修復。
3. 資料架構與模型設計。
(1)理解下游商業分析與報表需求,設計合適的 Data Model(資料模型),確保資料易於提取與分析。
(2)協助維護 Data Dictionary(資料字典)與文件,提升資料的可觀測性與團隊協作效率。
4. 跨部門協作與技術支援。
(1)與業務部門及 Data Analyst 溝通,轉化商業需求為技術規格,並支援 Presales 與 POC (Proof of Concept) 的技術驗證。
5. 其他主管交辦事項。
[加分條件]
1. 有使用Apache Airflow相關經驗。
2. 有參與或帶過敏捷專案管理(Scrum)及使用JIRA管理Ticket經驗。
3. 具有AWS、GCP、Azure等平臺之經驗。