為 AI 訓練與評估尋找資料
頁面語言: 繁體中文(台灣)
說明模型的任務、所需素材及其允許的用途。sapien1 可以協助找出潛在來源,並規劃樣本範圍及判斷是否繼續進行的標準。 向 sapien1 說明您的專案
尋找符合 AI 任務的資料。sapien1 協助你釐清需求、找出可能的資料來源,並判斷資料集是否適合訓練、評估或資訊檢索。
先想清楚你要改善哪一種行為,例如理解文件、完成工作流程、使用工具或判讀場景。選定行為後,才能規劃需要哪些範例、脈絡和品質檢查。
定義資料的用途
同一批資料可以用在不同地方。訓練範例讓系統學會某種行為,評估範例用來檢查它是否做到。檢索內容則提供系統在回答問題時可查閱的資訊。
先說明預計怎麼使用資料,再比較來源。以客服代理為例,實用的訓練範例可以把使用者的請求、適用的政策和實際採取的行動放在一起。評估任務還要有明確的方法,判斷代理的決策是否正確。用於檢索的資料集需要收錄政策本身,並提供足夠的脈絡來辨識適用的版本。
資料尋源需求應包含哪些內容
| 需求 | 應說明的內容 |
|---|---|
| 任務 | 模型或代理要完成什麼,目前在哪些環節遇到困難 |
| 涵蓋範圍 | 相關領域、語言、地區、期間與棘手案例 |
| 資料形式 | 文件、程式碼、紀錄、音訊、圖片、影片、工具操作軌跡,或這些形式的組合 |
| 脈絡 | 解讀範例需要的標籤、時間戳記、關聯、指示或結果 |
| 預期用途 | 訓練、評估或資訊檢索,以及存取資料的方式 |
| 驗收 | 擴大專案之前,有用的樣本應該證明哪些事項 |
初版需求可以保留待釐清的問題。從一項具體任務和幾個具代表性的範例開始,通常比只訂檔案數量更有幫助。
先評估樣本,再擴大專案
檢查樣本有助於找出缺少脈絡、標籤不一致、資料重複,以及未涵蓋的情境。團隊也能在自己的工作流程中試用建議的格式。想看實際如何評估樣本,可以參考我們的AI 訓練資料採購指南。
記錄技術評估時,也寫下資料來源和允許的使用方式。資料集說明應清楚交代內容和相關限制。撰寫文件時,可參考Hugging Face 資料集卡片指南。
如果你是資料所有者,想知道如何說明資料及檢查權限,可以參考授權公司資料前應準備的事項。
如果你擁有一批想洽談的資料,可以描述你的資料。
與 sapien1 合作時,雙方可以一起釐清資料尋源的範圍、樣本檢查、交付項目和驗收標準。接下來可能會進行有明確目標的資料蒐集、評估你手上的資料,或準備一套任務來做代理評估。