Wiederkehrende KI-Datenlieferungen abnehmen
Sprache: Deutsch
Teile uns das erwartete Schema, die Lieferhäufigkeit und die Kriterien mit, die eine Lieferung unbrauchbar machen würden. Wir können dabei helfen, Abnahmeprüfungen und eine Dokumentation der bestandenen Prüfungen und des Korrekturbedarfs festzulegen. Beschreibe sapien1 dein Projekt
Vergleichen Sie eine wiederkehrende Datenlieferung vor der Übernahme mit der letzten von Ihrem Team abgenommenen Version. Prüfen Sie, ob die neuen Dateien den vereinbarten Datenbestand ersetzen oder Änderungen ausgehend von einer bestimmten Version enthalten. Die Dateiprüfungen können erfolgreich sein, obwohl die Aktualisierung auf der falschen Version aufsetzt.
Umfang der neuen Lieferung prüfen
Bitten Sie um die Lieferkennung, den Umfang und das Manifest. Klären Sie bei einer vollständigen Ersatzlieferung den Umfang des gesamten Bestands. Prüfen Sie bei einer Änderungslieferung, welche Ausgangsversion vorausgesetzt wird und wie der Anbieter neue, geänderte und entfernte Datensätze kennzeichnet. Ein Datensatz kann in einer Änderungsdatei fehlen, weil er unverändert geblieben ist. AWS Data Exchange beschreibt sowohl vollständige aktualisierte Datenbestände als auch Revisionen mit neuen Daten seit der vorherigen Revision. Dokumentation zu Revisionen bei AWS Data Exchange
Gleichen Sie die Dateinamen und Prüfsummen mit dem vereinbarten Manifest ab. Prüfen Sie separat, ob die Ausgangsversion und die Änderungen an den Datensätzen der Liefervereinbarung entsprechen. BagIt beschreibt Dateimanifeste und die Prüfung von Prüfsummen. BagIt-Spezifikation
Die Aktualisierung in einer Testumgebung einspielen und die Datensätze prüfen
In diesem fiktiven Beispiel wählt ein Käufer über einen Katalogfeed Datensätze für einen Trainingsdatensatz aus. Er verlangt die genaue Ausgangsversion und ein aktives Ziel für jeden zusammengeführten Datensatz, auf den der Trainingsdatensatz verweist. Die zuletzt abgenommene Version ist R12 mit den aktiven IDs A14, A27, A38 und A52. Das erste Paket für R13 besteht die Dateiprüfungen. Es setzt R11 als Ausgangsversion voraus. Der Käufer nutzt R12 weiter und bittet um eine Änderungslieferung auf Basis von R12 oder einen vollständigen Ersatz im vereinbarten Umfang.
Der Anbieter sendet R13b, eine Korrekturlieferung mit R12 als Ausgangsversion. Der Käufer prüft die neuen Dateien und übernimmt die Änderungen in eine Kopie in einer für die Daten freigegebenen Testumgebung.
| Datensatz | Änderung oder erwarteter Zustand in R13b | Prüfung vor der Abnahme von R13b |
|---|---|---|
A14 | Thema von returns in exchanges ändern | Prüfen Sie den alten Wert in R12 und den neuen Wert im Testergebnis. |
A27 | Mit A38 zusammenführen | Prüfen Sie, ob A27 aus dem aktiven Bestand entfernt wurde und aktuelle Verweise auf A38 führen. |
A38 | Bleibt nach der Zusammenführung aktiv | Prüfen Sie, ob das Ziel der Zusammenführung vorhanden ist. |
A52 | Fehlt in der Änderungslieferung | Prüfen Sie, ob der unveränderte Datensatz aktiv bleibt. |
A65 | Datensatz hinzufügen | Prüfen Sie, ob die neue ID genau einmal vorkommt. |
Die aktiven IDs sollten danach A14, A38, A52 und A65 sein. Wer nur die Zeilen zählt, erkennt den Wechsel der IDs nicht, denn beide Versionen enthalten vier aktive Datensätze. Wenn A38 fehlte, würde der Käufer R13b zurückstellen und den Anbieter bitten, den ungültigen Verweis zu korrigieren. Nachdem die Prüfungen erfolgreich waren, dokumentiert der Käufer R13b abgenommen und R13 wegen falscher Ausgangsversion zurückgestellt sowie den Prüfwert des Manifests zu jedem Paket.
Aktuelle und historische Verweise nutzbar halten
Fragen Sie, ob es für einen entfernten Datensatz eine weiterhin gültige ID gibt. In seiner Löschdatei führt OpenAlex die IDs von Publikationen auf, die bei einer Zusammenführung entfernt wurden. Eine separate Zuordnungstabelle wird nach bestem Bemühen gepflegt und nennt für die darin erfassten IDs jeweils die aktuell gültige ID. Wenn Ihre Vereinbarung die Aufbewahrung von IDs erlaubt, dokumentieren Sie die gelieferte ID, ihr aktuelles Verweisziel und die Lieferversion, anhand derer Sie die Zuordnung ermittelt haben. Prüfen Sie, ob das Ziel in dieser Version aktiv ist. Dokumentation zur Synchronisierung mit OpenAlex
Wenn nach einer Tabellenmigration ein früherer Trainingsdatensatz wiederhergestellt werden muss, dokumentieren Sie den ursprünglichen Selektor, die vorgesehene Zielreferenz sowie Zeitzone und Zeitbasis für einen etwaigen Stichtag. Testen Sie beide Selektoren auf den jeweiligen Systemen, bevor Sie sich darauf verlassen. In einem lokalen Test von sapien1 mit leeren Delta-Tabellen und Iceberg 1.12.0 war ein früherer Snapshot über sein Versions-Tag weiterhin abrufbar. Eine Abfrage zum Zeitpunkt der zweiten Delta-Protokolldatei ergab keinen passenden Eintrag in der veröffentlichten Historie von Iceberg. Studie zur Migration nach Iceberg
Die Entscheidung für die nächste Lieferung dokumentieren
Dokumentieren Sie die Ausgangsversion, die erhaltene Lieferversion, die Kennung oder den Prüfwert des Manifests, die Prüfung der aktiven IDs, ungelöste Verweise und die Entscheidung über Abnahme oder Korrektur. Fragen Sie den Anbieter, welche Bedeutung ein Löschhinweis gemäß Ihrer Vereinbarung hat, und befolgen Sie die geltenden Regeln für aufbewahrte Kopien und IDs.
Wenn Sie Hilfe bei der Festlegung der Abnahmeprüfungen brauchen, schreiben Sie an sapien1 und nennen Sie die zuletzt abgenommene Version, das Aktualisierungsformat und die anstehende Entscheidung.
Wenn Sie noch auf der Suche nach einem Anbieter sind, beginnen Sie mit unserem Leitfaden zum Kauf von KI-Trainingsdaten. Hilfe bei der Definition der Aufgabe und der benötigten Daten finden Sie im Leitfaden zur Datenbeschaffung.