AI資安治理工程師 (AI Cybersecurity Governance Engineer)
Description
[Job Description]
1. AI 威脅建模與防禦:識別企業 AI 應用(如 LLM, RAG, Agent)的潛在風險,防範提示詞注入、資料洩漏及模型越獄等新型攻擊。
2. AI 治理框架規劃:參考 ISO 42001 與 NIST AI RMF 等國際標準,建立企業內部的 AI 使用規範、風險評估制度與安全準則。
3. 自動化流程安全設計:審核內部 AI 工作流的權限控制與執行邊界,確保 Agent 在調用外部 API 時的安全性。
4. 安全評測與資安演練:利用資安測試工具對 AI 模型進行對抗性測試,模擬攻擊行為以找出系統漏洞並協助修復。
5. 核心資產保護:監督 AI 檢索流程中的資料遮蔽(Data Masking)與存取控制,確保公司的智慧財產權(IP)不因 AI 回應而外流。
6. 技術合規稽核:定期對內部的 AI 系統進行資安審查,確保所有開發計畫符合資訊安全政策與相關法律法規。
[Skills]
1. Python (Pydantic, FastAPI, Pandas)
2. 熟悉 LangChain, CrewAI
4. 模型部署 (Ollama, vLLM, Hugging Face Transformers)。
5. 向量資料庫 (Milvus, Pinecone, ChromaDB)。
AI 資安專屬工具:
1. 安全防護網 (NeMo Guardrails, Lakera Guard)。
2. 觀測與監控 (LangSmith, Arize Phoenix)。
基礎設施與標準:
1. 容器化技術 (Docker, Kubernetes)。
2. 資安準則 (OWASP Top 10 for LLM, ISO 42001 , NIST AI RMF)