如何购买 AI 训练数据
语言: 简体中文
请告诉我们你的模型需要学习什么,以及你将如何判断样本是否有用。我们可以讨论合适的来源,以及在你决定是否获得某个数据集的使用许可之前需要审核的证据。 向 sapien1 描述你的项目
你可以购买现有数据集的使用许可、直接与数据所有者合作,或委托他人为特定任务采集数据。做出决定前,先明确模型需要学会什么,根据这一要求测试样本,并检查拟议条款是否涵盖预期用途。
有用的问题不只是“有多少数据可用?”,还包括记录是否包含团队能够使用的示例和上下文,以及约定的许可是否涵盖相关人员、系统和用途。
选择从哪里获取数据
| 途径 | 适用情况 | 首先要问什么 |
|---|---|---|
| 现有数据集 | 你需要的数据集合可能已经存在。 | 包含哪个版本、哪些字段、什么时间范围和哪些使用条款? |
| 与数据所有者直接达成协议 | 某个组织持有相关记录或内容。 | 谁有权授权拟议用途,涵盖哪些材料? |
| 定制采集或处理 | 现有材料缺少重要场景、格式或标签。 | 将采集或处理什么,如何检查质量,之后可以如何使用? |
| 公开数据集 | 可获取的数据集合可能适合该任务,或可用于初步比较。 | 其文档如何说明来源、局限性和允许的用途? |
例如,Opendatabay 提供数据集列表构成的交易市场,Clickworker 则介绍定制采集和标注服务。这些都是可以进一步调查的起点;请针对你需要的具体数据,核查其产品服务和条款。
我们的数据获取指南介绍了在联系数据来源之前,如何描述任务、覆盖范围和格式。
确定每条示例需要包含什么
写下预期行为以及评估该行为所需的信息。对于客服智能体,一条记录可能需要包含客户请求、当时适用的政策、采取的行动和结果。对于文档模型,重要字段可能包括页面图像、提取的文本、版面布局和经过验证的标签。
如果文档样本包含标注框,请检查这些框是否与交付的图像对齐。有些格式将位置表示为页面尺寸的比例,另一些则使用像素。确认页面、图像版本、单位、坐标原点,以及是否经过缩放、裁剪或旋转,然后叠加样本标注框以检查对齐情况。还要审核标签是否描述了正确的区域。
要求提供对数据集确切版本的说明,包括来源、规模及其计量单位、时间覆盖范围、格式、标签、已知排除项和处理历史。Hugging Face 的数据集卡片指南介绍了如何用卡片记录内容、背景,以及许可、语言和规模等元数据。应结合底层文档一起审核这些字段。
根据要求测试样本
决定是否扩大采购范围之前,先就样本和检查项目达成一致。样本应包含模型会遇到的常规情况,以及对任务重要的困难案例。记录样本的选择方式,以及它代表拟议数据集合的哪些部分。
2026 年 11 月 18 日查阅的 Origin Lab 市场条款规定,其所定义的市场样本仅限内部评估,禁止使用这些样本测试或评估 AI 系统,除非 Origin Lab 签署的适用商业协议明确另有规定。该样本限制不包括另行定义的 Bench Materials,后者有自己的条款。查看、测试、训练或分享样本之前,请核查该样本的具体条款及任何相关协议。
对于带有词级时间戳的语音样本,询问时间戳使用的是哪份录音和什么时间单位。如果时间戳对应的是删除静音后的副本,请索取源录音标识符,以及保留片段与原始时间线之间的映射关系。检查内部剪切点之后的一个词。假设一个虚构样本将源录音第 2–4 秒和第 7–9 秒拼接起来,中间没有填充,那么样本中的 2.5 秒对应源录音中的 7.5 秒。如果加上第一个片段的两秒偏移量,得到的 4.5 秒则位于已删除的间隔内。NeMo Curator 时间戳映射
检查交付数据如何标记时间戳跨越拼接点的词。在同一个虚构样本中,经过测试的 faster-whisper 辅助函数对跨越拼接点的时间区间两端使用了同一个偏移量,导致其起点落在已删除的间隔内。如果你的用途要求原始录音中的连续时间区间,应在接受数据前商定如何标记和审核这些情况。faster-whisper 时间戳还原 · faster-whisper 偏移量计算
来看一个虚构示例。某团队希望微调一个客服智能体,让它为退货请求推荐下一步操作。一家供应商提出提供一批客服案例。团队要求提供 12 个用于诊断的示例:6 个常规退货案例和 6 个例外案例。在这次初步审核中,团队要求每个示例都包含客户请求、指向当时适用政策版本的链接以及记录的结果。
| 检查项 | 该样本的要求 | 示例结果 |
|---|---|---|
| 客户请求 | 12 个示例均包含 | 12 个中有 12 个包含 |
| 适用的政策版本 | 12 个示例均有链接 | 12 个中有 10 个包含;2 个例外案例缺少链接 |
| 记录的结果 | 12 个示例均包含 | 12 个中有 11 个包含;1 个常规案例缺少结果 |
该样本未通过团队规定的两项检查。下一步应询问能否补回缺失的政策链接和结果,并审核修正后的样本。如果无法补回,团队可以更改要求或寻找其他来源。记录的结果并不一定代表决策正确:领域审核人员还应将结果与适用政策进行比较。
这些数量仅描述选出的 12 个案例,并不能估计整个数据集合的错误率。要评估更广泛的覆盖情况,应询问数据集在相关场景中的分布,并商定按有记录的方法抽取更多样本。Google 关于数据质量和抽样的指南解释了为什么选取的样本可能使人对更大总体产生误判。
假设这 12 个案例全部来自 2024 年,而提供的数据集合涵盖 2022–2024 年。检查修正后的副本可以确认这些案例的问题是否得到修复,但不能说明数据集合的其余部分是否也已修正。应询问哪些数据集版本和记录接受了修正,然后商定如何从你打算购买的版本中重新抽取样本。如果只能审核 2024 年的数据,则应将 2022–2023 年的数据标记为未评估,并决定是缩小购买范围还是等待更全面的审核。
如果初步审核时无法分享真实记录,可以询问能否提供脱敏样本或受控访问权限。合成示例可以展示格式,但无法证明实际数据集合的质量或覆盖范围。
接收样本之前,先就访问限制的实施方式达成一致:只选择某些列的查询本身并不能限制对底层文件其余内容的访问。Parquet 页脚也可能包含列统计信息。如果发送方需要限制跨越访问边界的数据,可以考虑单独准备只含获准字段的样本,或使用强制实施字段级访问控制的服务。审核返回记录的同时,也要审核元数据和访问控制。
确认数据可以用来做什么
结合具体数据集和项目审核协议及证明文件。与供应商以及负责法律和采购审核的人员讨论的问题包括:
- 协议涵盖哪个数据集版本?供应商是否有权授予拟议用途的许可?
- 需要时,许可是否包含训练、微调、评估或检索?条款是否涉及商业部署以及对模型或输出的相关限制?
- 哪些人可以访问或处理数据,包括承包商或服务提供商?交付、存储、保留和删除条款是什么?
- 是否有需要审核的排除项、上游权利、第三方材料或其他限制?有哪些证据可以支持供应商对数据来源和使用权限的说明?
分别记录哪些事项已确认,哪些仍需审核。许可标签或数据集卡片有助于识别所声明的用途,但本身不能验证底层权利。一项对公开文本、语音和视频数据集的审计发现,数据集层面的许可说明与源内容相关的限制之间存在差异。其发现涉及受审查的公开数据集,并不适用于所有商业数据集合。
例如,公开研究数据集 SciFact 的一个固定版本卡片将该数据集描述为采用 CC BY-NC 2.0,并链接到代码仓库 master 分支上的许可文件,该文件可能发生变化。在该许可文件的固定快照中,仓库分别将主张和证据标注的许可描述为 CC BY 4.0,将语料库摘要的许可描述为 ODC-By 1.0,将代码的许可描述为 Apache 2.0。这些文件可能描述不同版本、组成部分或转换结果;它们本身不能确定某个具体文件的适用条款。应将交付文件及其上游组成部分与相关文档对应起来,并对尚未解决的权利问题进行审核。
规划评估和交付
确定数据的交付和验收方式,包括文件格式、清单或版本标识符、文档、样本检查以及问题修正方式。如果数据也将用于评估模型,应将独立测试集与训练数据隔离,并检查不同数据划分之间是否存在重复项。Google 的数据集划分指南解释了重复项如何让测试结果看起来比实际更好。
检查验收期何时开始、如何发出通知、未回应意味着什么,以及适用哪些补救措施。例如,ai.market 标准 AI 训练许可协议 1.0 版给买家 7 个日历日,从首次交付后开始计算。买家可在这段时间内向交易平台报告数据与列表内容的重大不符。micro1 于 2026 年 11 月 12 日更新的主条款规定,作为被许可方的 micro1 可在按照清单完成交付后的 30 个工作日内,以书面形式拒收数据。如果供应商以书面形式通知其无法交付剩余数据,则适用另一项起算条件。这些文件适用于不同交易,并包含其他条件和例外。请审核适用于你订单的条款及其版本。
清单可以列出约定数据集版本应包含的文件及其校验和。应商定如何验证清单来源、将清单中的文件列表与实际收到的文件进行比较,以及调查缺失、意外出现或不匹配的文件。例如,如果一份虚构清单列出两个文件,但只收到一个,即使该文件的校验和匹配,也不代表交付完整。BagIt 规范针对一种打包格式区分了完整性检查和校验和验证。校验和匹配说明文件计算出的摘要与清单一致,但本身不能证明发送方身份、标签正确、覆盖范围具有代表性或拥有数据使用权。这些事项需要单独审核。
供应商发送下一版本时,可参阅如何验收定期交付的 AI 数据。
如需查看检查测试集数据泄漏和上下文缺失的完整示例,请参阅我们的数据集评估指南。
sapien1 帮助团队明确数据需求、识别可能的数据来源并评估样本。从任务、所需示例以及样本必须支持的决策入手。准备开展沟通的数据所有者可以使用我们的数据许可准备指南。