Pozyskiwanie danych do trenowania i oceny systemów AI
Język strony: Polski
Opisz zadanie modelu, potrzebny materiał i jego dozwolone zastosowanie. sapien1 może pomóc wskazać potencjalne źródła i określić zakres próbki wraz z kryteriami podjęcia decyzji o dalszych działaniach. Opisz swój projekt zespołowi sapien1
Szukaj danych dopasowanych do zadania, które ma wykonać Twój system AI. sapien1 pomaga określić wymagania, znaleźć możliwe źródła i ocenić, czy dany zbiór nadaje się do trenowania, oceny lub wyszukiwania informacji.
Zacznij od zachowania, które chcesz poprawić. Może to być rozumienie dokumentu, ukończenie procesu, użycie narzędzia lub interpretacja sceny. Od tego zależą potrzebne przykłady, kontekst i kontrole jakości.
Określ, do czego mają służyć dane
Ten sam zbiór można wykorzystać na różne sposoby. Przykłady treningowe uczą określonego zachowania. Przykłady oceny je sprawdzają. Zasoby do wyszukiwania informacji dają systemowi materiały, z których może skorzystać podczas odpowiadania na pytanie.
Opisz planowane zastosowanie przed porównywaniem źródeł. Przykład do trenowania agenta obsługi klienta może łączyć zgłoszenie, odpowiednią zasadę i wykonaną czynność. Zadanie oceny wymaga również jasnego sposobu sprawdzenia, czy decyzja była prawidłowa. Zbiór do wyszukiwania powinien zawierać same zasady i kontekst pozwalający rozpoznać, która ich wersja ma zastosowanie.
Co uwzględnić w opisie potrzeb dotyczących danych
| Wymaganie | Co opisać |
|---|---|
| Zadanie | Co ma robić model lub agent i z czym ma obecnie trudności |
| Zakres | Istotne dziedziny, języki, regiony, okresy i trudne przypadki |
| Postać danych | Dokumenty, kod, rekordy, nagrania audio, obrazy, wideo, ślady użycia narzędzi lub ich połączenie |
| Kontekst | Etykiety, znaczniki czasu, powiązania, instrukcje lub wyniki potrzebne do zrozumienia przykładu |
| Planowane zastosowanie | Trenowanie, ocena lub wyszukiwanie informacji wraz ze sposobem dostępu do danych |
| Odbiór | Co ma wykazać użyteczna próbka przed rozszerzeniem projektu |
Pierwszy opis może pozostawiać otwarte pytania. Konkretne zadanie i kilka reprezentatywnych przykładów zwykle dają lepszy punkt wyjścia niż sama docelowa liczba plików.
Oceń próbkę przed rozszerzeniem projektu
Przegląd próbki może ujawnić brak kontekstu, niespójne etykiety, duplikaty i luki w pokryciu potrzebnych sytuacji. Zespół może też wypróbować proponowany format we własnym procesie pracy. Praktyczny przykład znajdziesz w naszym przewodniku po zakupie danych treningowych do AI.
Zapisz źródło i dozwolone zastosowania wraz z oceną techniczną. Opis zbioru powinien jasno przedstawiać jego zawartość i istotne ograniczenia. W dokumentowaniu pomagają wskazówki Hugging Face dotyczące kart zbiorów danych.
Aby dowiedzieć się, jak właściciel może opisać zbiór i jakie uprawnienia warto sprawdzić, przeczytaj co przygotować przed udzieleniem licencji na dane firmowe.
Jeśli jesteś właścicielem zbioru danych, o którym chcesz porozmawiać, opisz swoje dane.
W projekcie z sapien1 wspólnie ustalamy zakres pozyskiwania, sposób oceny próbki, oczekiwane materiały i kryteria odbioru. Kolejnym krokiem może być ukierunkowany zbiór, ocena danych, które już masz, lub zestaw zadań do oceny agentów.