工作內容 1. 生成式 AI & LLM 模型開發 - 設計、訓練、部屬和優化生成式 AI 模型（GenAI），應用於智能客服、內容生成、對話系統等場景。 - 探索並應用開源 LLM（如 Llama、Mistral、Gemma），進行模型微調（PEFT）及最佳化。 - 研究並實作 Advanced RAG (Retrieval-Augmented Generation) 技術，提升 AI 模型在特定領域的準確性與效能。 - 採用 LangChain、LangGraph 框架開發 AI Agent，設計 Multi-Agent 系統應用。 2. 資料處理與基礎架構 - 負責 AI 訓練數據的蒐集、標註、清洗及處理，確保數據品質與模型效能。 - 利用爬蟲技術或開源數據優化模型訓練數據集。 - 設計與維護 AI 相關的數據流與基礎架構，確保 AI 部署的高效運行及生產環境穩定性。 3. 系統開發與 AI 模型部屬 - 設計與開發 AI 相關的 API，確保 AI 模型與後端系統的無縫整合。 - 熟悉雲端與邊緣運算環境，能將 AI 模型部屬至雲端（如 AWS, GCP）或 Edge device（如 ExecuTorch）。 - 使用 Docker、Kubernete 進行模型部署與自動化管理，確保系統可擴展性與高效能。 4. 技術研究與創新應用 - 研究最新的 LLM / RAG 技術論文並應用於產品開發中。 - 參與 Prompt Engineering，優化模型輸出，提升 AI 應用的準確度與流暢性。 - 與跨部門團隊合作，參與 概念驗證(POC)，推動 AI 技術的產品化落地。 必要條件 1. 專業技能與開發經驗 - 熟練 Python，具備扎實的程式設計基礎與物件導向開發經驗。 - 熟悉 深度學習框架(PyTorch)，能進行 LLM 訓練與微調（Fine-tuning）。 - 具備 RAG（Retrieval-Augmented Generation）架構設計與實作經驗。 - 具備 LangChain、LangGraph 等 LLM 開發工具的使用經驗。 2. 後端與部署經驗 - 熟悉 後端 API 設計 (FastAPI, Falcon)、向量資料庫(如 Milvus, Qdrant, ChromaDB)，能建置高效能 AI 系統。 - 熟悉 Docker、Kubernetes 進行容器化開發與部屬。 - 具備雲端服務(如 AWS, GCP)部屬經驗。 3. 數據處理與系統架構 - 具備 LLM 訓練數據的清洗、篩選及增強技術，確保 AI 模型效能最佳化。 - 能設計並維護 AI 相關數據流與基礎架構，確保 AI 產品穩定運行。 加分條件 - 參與過大型 AI / NLP 項目，具備 AI 產品落地經驗。 - 具備 向量數據庫優化與檢索技術，熟悉 Hybrid Search、HyDE 檢索方法。 - 具備 LLM 微調或優化經驗，如 LoRA、QLoRA、Mixture of Experts（MoE）。 - 參與 技術社群、開源專案，或有 發表技術論文 經驗。 - 良好的英語讀寫能力，能閱讀最新 AI 相關論文與技術文件。