Jak nakupovat trénovací data pro AI
Jazyk: Čeština
Řekněte nám, co se má váš model naučit a podle čeho posoudíte, zda je vzorek užitečný. Můžeme probrat vhodné zdroje a podklady k posouzení, než se rozhodnete, zda získat licenci ke kolekci. Popište svůj projekt společnosti sapien1
Můžete získat licenci ke stávající datové sadě, spolupracovat přímo s vlastníkem dat nebo zadat sběr dat pro konkrétní úlohu. Než se zavážete ke koupi, určete, co se má model naučit, otestujte vzorek podle tohoto požadavku a ověřte, zda navrhované podmínky pokrývají zamýšlené použití.
Užitečná otázka nezní jen „Kolik dat je k dispozici?“. Důležité je také to, zda záznamy obsahují příklady a kontext, které váš tým může využít, a zda sjednaná licence pokrývá zapojené osoby, systémy a účely.
Vyberte, odkud data získáte
| Způsob | Kdy o něm uvažovat | Na co se nejprve zeptat |
|---|---|---|
| Stávající datová sada | Potřebujete soubor dat, který už možná existuje. | Která verze, pole, časové období a podmínky použití jsou zahrnuty? |
| Přímá dohoda s vlastníkem dat | Jedna organizace má relevantní záznamy nebo obsah. | Kdo může navrhované použití schválit a na jaké materiály se vztahuje? |
| Sběr nebo příprava na zakázku | Ve stávajících materiálech chybějí důležité scénáře, formáty nebo štítky. | Co se bude shromažďovat nebo připravovat, jak se bude kontrolovat kvalita a co budete moci následně používat? |
| Veřejná datová sada | Dostupný soubor dat může úloze vyhovovat nebo posloužit k úvodnímu porovnání. | Co dokumentace uvádí o zdroji, omezeních a povoleném použití? |
Například Opendatabay představuje tržiště s nabídkami datových sad, zatímco Clickworker popisuje služby sběru a anotace dat na zakázku. Jde o výchozí body pro další prověření; ověřte si nabídku a podmínky pro konkrétní data, která potřebujete.
Náš průvodce získáváním dat vysvětluje, jak před oslovením zdroje popsat úlohu, požadované pokrytí a formát.
Rozhodněte, co má každý příklad obsahovat
Zapište si zamýšlené chování a informace potřebné k jeho posouzení. V případě agenta zákaznické podpory může záznam vyžadovat požadavek zákazníka, pravidla platná v dané době, provedený krok a výsledek. U modelu pro práci s dokumenty mohou být důležitými poli obrázky stránek, extrahovaný text, rozvržení a ověřené štítky.
Pokud vzorek dokumentů obsahuje označené rámečky, ověřte, zda odpovídají dodaným obrázkům. Některé formáty vyjadřují polohy jako zlomky rozměrů stránky, jiné používají pixely. Ověřte stránku, verzi obrázku, jednotky, počátek souřadnic a případnou změnu velikosti, oříznutí či otočení. Poté vzorové rámečky překryjte přes obrázky a zkontrolujte jejich umístění. Prověřte také, zda štítky popisují správné oblasti.
Požádejte o popis přesné verze datové sady: jejího zdroje, velikosti a jednotek, časového pokrytí, formátů, štítků, známých vyloučení a historie zpracování. Pokyny Hugging Face ke kartám datových sad popisují, jak může karta dokumentovat obsah, kontext a metadata, například licenci, jazyk a velikost. Tato pole považujte za informace k prověření společně s podkladovou dokumentací.
Otestujte vzorek podle svých požadavků
Než se rozhodnete pro rozšíření, dohodněte se na vzorku a kontrolách. Zahrňte běžné situace, se kterými se model setká, i obtížné případy důležité pro danou úlohu. Zaznamenejte, jak byl vzorek vybrán a které části navrhovaného souboru dat představuje.
Podmínky tržiště Origin Lab, zkontrolované 18. listopadu 2026, omezují v nich definované vzorky z tržiště na interní posouzení a zakazují jejich použití k testování nebo hodnocení systému AI, pokud příslušná obchodní smlouva uzavřená společností Origin Lab výslovně nestanoví jinak. Toto omezení vzorků se nevztahuje na samostatně definované materiály Bench Materials, které mají vlastní podmínky. Před prohlížením, testováním, trénováním nebo sdílením vzorku ověřte jeho konkrétní podmínky a případnou smlouvu.
U vzorku řeči s časovými značkami slov se zeptejte, ke které nahrávce se vztahují a jakou používají časovou jednotku. Pokud se značky vztahují ke kopii s odstraněným tichem, požádejte o identifikátor zdrojové nahrávky a mapování zachovaných úseků na původní časovou osu. Zkontrolujte slovo za střihem uvnitř nahrávky. Ve fiktivním vzorku, který bez vložené mezery spojuje úseky zdrojové nahrávky od 2. do 4. sekundy a od 7. do 9. sekundy, odpovídá 2,5 sekundy ve vzorku 7,5 sekundy ve zdroji. Přičtením dvousekundového posunu prvního úseku dostanete 4,5 sekundy, což leží uvnitř odstraněné mezery. Mapování časových značek v NeMo Curator
Ověřte, jak dodávka označuje slova, jejichž časové značky překračují místo spojení úseků. Ve stejném fiktivním vzorku zvolila testovaná pomocná funkce faster-whisper pro oba konce intervalu překračujícího spoj jediný posun a jeho začátek umístila do odstraněné mezery. Pokud vaše použití vyžaduje souvislý interval v původní nahrávce, dohodněte se před převzetím, jak tyto případy označit a prověřit. Obnovení časových značek ve faster-whisper · Výpočet posunu ve faster-whisper
Uvažujme tento fiktivní příklad. Tým chce dodatečně doladit agenta zákaznické podpory, který doporučuje další krok při žádosti o vrácení zboží. Dodavatel navrhne soubor případů ze zákaznické podpory. Tým požádá o 12 diagnostických příkladů: šest běžných vrácení a šest výjimek. Pro tuto první kontrolu požaduje, aby každý příklad obsahoval požadavek zákazníka, odkaz na platnou verzi pravidel a zaznamenaný výsledek.
| Kontrola | Požadavek pro tento vzorek | Ukázkový výsledek |
|---|---|---|
| Požadavek zákazníka | Přítomen ve všech 12 příkladech | Přítomen ve 12 z 12 příkladů |
| Platná verze pravidel | Odkaz ve všech 12 příkladech | Odkaz je v 10 z 12 příkladů; ve dvou výjimečných případech chybí |
| Zaznamenaný výsledek | Přítomen ve všech 12 příkladech | Přítomen v 11 z 12 příkladů; v jednom běžném případě chybí |
Vzorek nesplňuje dvě z kontrol stanovených týmem. Dalším krokem je zjistit, zda lze chybějící odkazy na pravidla a výsledek dohledat, a prověřit opravený vzorek. Pokud to možné není, tým může svůj požadavek změnit nebo hledat jiný zdroj. Zaznamenaný výsledek automaticky neznamená správné rozhodnutí: odborník na danou oblast by měl výsledky také porovnat s platnými pravidly.
Tyto počty popisují pouze 12 vybraných případů. Neodhadují míru chyb v celém souboru dat. Chcete-li posoudit širší pokrytí, zjistěte, jak je datová sada rozložena mezi relevantní scénáře, a dohodněte se na dalším vzorku vybraném zdokumentovanou metodou. Pokyny společnosti Google ke kvalitě dat a výběru vzorků vysvětlují, proč může vybraný vzorek poskytovat zavádějící obraz o větší populaci.
Předpokládejme, že všech 12 případů pocházelo z roku 2024, ale nabízený soubor dat pokrývá roky 2022–2024. Kontrola opravené kopie může potvrdit opravy těchto případů; neukazuje však, zda byl opraven zbytek souboru. Zjistěte, které verze datové sady a kterých záznamů se oprava týkala, a poté se dohodněte, jak vybrat nový vzorek z verze, kterou chcete koupit. Pokud lze prověřit pouze rok 2024, ponechte roky 2022–2023 neposouzené a rozhodněte, zda nákup zúžit, nebo počkat na širší prověření.
Pokud pro úvodní kontrolu nelze sdílet skutečné záznamy, zjistěte, zda je možný vzorek zbavený citlivých údajů nebo řízený přístup. Syntetický příklad může ukázat formát, ale nemůže prokázat kvalitu ani pokrytí skutečného souboru dat.
Před obdržením vzorku se dohodněte, jak bude přístup vynucován: dotaz, který vybírá určité sloupce, sám o sobě neomezuje přístup ke zbytku podkladového souboru. Zápatí souboru Parquet může také obsahovat statistiky sloupců. Pokud odesílatel potřebuje omezit, jaké údaje překročí hranici sdílení, zvažte samostatně připravený vzorek se schválenými poli nebo službu, která vynucuje přístup na úrovni jednotlivých polí. Spolu s vrácenými záznamy prověřte metadata a nastavení přístupu.
Ověřte, jak smíte data používat
Posuďte smlouvu a podklady ve vztahu ke konkrétní datové sadě a projektu. S dodavatelem a osobami odpovědnými za právní a nákupní posouzení proberte mimo jiné tyto otázky:
- Na kterou verzi datové sady se smlouva vztahuje a je dodavatel oprávněn navrhované použití povolit?
- Jsou tam, kde je to potřeba, zahrnuty trénování, dodatečné dolaďování, hodnocení nebo vyhledávání? Řeší podmínky komerční nasazení a případná relevantní omezení modelů nebo výstupů?
- Kdo smí k datům přistupovat nebo je zpracovávat, včetně externích spolupracovníků a poskytovatelů služeb? Jaké jsou podmínky dodání, ukládání, uchovávání a smazání?
- Existují výluky, práva předchozích držitelů, materiály třetích stran nebo jiná omezení, která je třeba prověřit? Jaké doklady podporují tvrzení dodavatele o původu dat a oprávněních k jejich použití?
Samostatně si poznamenejte, co je potvrzeno a co je ještě třeba prověřit. Označení licence nebo karta datové sady pomáhá určit deklarované použití; samo o sobě však neověřuje související práva. Audit veřejných datových sad textu, řeči a videa zjistil rozdíly mezi popisy licencí na úrovni datových sad a omezeními souvisejícími se zdrojovým obsahem. Jeho zjištění se týkají zkoumaných veřejných datových sad, nikoli všech komerčních souborů dat.
Například karta veřejné výzkumné datové sady SciFact v pevně určené verzi popisuje datovou sadu jako CC BY-NC 2.0 a odkazuje na licenční soubor ve větvi master repozitáře, která se může měnit. V pevně určeném snímku této licence repozitář samostatně uvádí CC BY 4.0 pro tvrzení a anotace důkazů, ODC-By 1.0 pro abstrakty korpusu a Apache 2.0 pro svůj kód. Dokumenty mohou popisovat různé verze, součásti nebo úpravy; samy o sobě neurčují podmínky pro konkrétní soubor. Přiřaďte dodané soubory a jejich výchozí součásti k příslušné dokumentaci a nechte prověřit nevyřešené otázky týkající se práv.
Naplánujte hodnocení a dodání
Rozhodněte, jak budou data dodána a převzata: určete formáty souborů, manifest nebo identifikátor verze, dokumentaci, kontroly vzorků a způsob nápravy problémů. Pokud budou data sloužit také k hodnocení modelu, chraňte samostatnou testovací sadu před použitím při trénování a zkontrolujte duplicity mezi částmi rozdělených dat. Pokyny společnosti Google k rozdělování datových sad vysvětlují, jak mohou duplicity způsobit, že test působí přesvědčivěji, než odpovídá skutečnosti.
Ověřte, kdy začíná lhůta pro kontrolu, jak podat oznámení, co znamená mlčení a jaké možnosti nápravy platí. Například verze 1.0 standardní licence ai.market pro trénování AI dává kupujícímu sedm kalendářních dnů od prvního dodání na oznámení podstatného nesouladu s nabídkou provozovateli tržiště. Rámcové podmínky micro1, aktualizované 12. listopadu 2026, dávají společnosti micro1 jako nabyvateli licence 30 pracovních dnů od dokončení dodání podle manifestu na písemné odmítnutí dat. Samostatný počátek lhůty platí, pokud jí dodavatel písemně oznámí, že zbývající data nelze dodat. Dokumenty se vztahují na různé transakce a obsahují další podmínky a výjimky. Prověřte podmínky a jejich verzi, kterými se řídí vaše objednávka.
Manifest může obsahovat seznam očekávaných souborů a kontrolních součtů pro sjednanou verzi datové sady. Dohodněte se, jak ověříte zdroj manifestu, porovnáte jeho seznam souborů s tím, co dorazilo, a prověříte chybějící či neočekávané soubory a soubory s nesouladem. Pokud například fiktivní manifest uvádí dva soubory, ale dorazí jen jeden, shodný kontrolní součet tohoto souboru neznamená, že je dodávka úplná. Specifikace BagIt u jednoho formátu balíčků rozlišuje úplnost a ověření kontrolních součtů. Shoda kontrolního součtu znamená, že vypočtený otisk souboru odpovídá manifestu; sama o sobě neprokazuje totožnost odesílatele, správnost štítků, reprezentativní pokrytí ani práva k použití dat. Tyto skutečnosti prověřte samostatně.
Až dodavatel zašle další verzi, přečtěte si, jak přebírat opakované dodávky dat pro AI.
Projděte si také náš průvodce hodnocením datových sad, který na příkladu ukazuje kontrolu úniku dat z testovací sady a chybějícího kontextu.
sapien1 pomáhá týmům vymezit požadavky na data, určit možné zdroje a posoudit vzorky. Začněte úlohou, příklady, které potřebujete, a rozhodnutím, pro které má vzorek poskytnout podklady. Vlastníci dat, kteří se připravují na jednání, mohou využít našeho průvodce přípravou licencování dat.