Naar de hoofdinhoud

Menu

Onderzoek

Een Parquet-levering voor een evaluatie aanvaarden

Taal: Nederlands

Controleer voordat je een score publiceert welke levering is ontvangen, welke gevallen de leessoftware selecteerde en welke labels daarbij zijn gebruikt. Laat de controles aansluiten op de leveringsafspraak. Een vaste versie kan specifieke bestanden op specifieke paden vereisen. Bij een toegestane herschrijving mogen de bestanden en de rijvolgorde veranderen als de geval-ID’s en labels behouden blijven.

Controleer de vaste levering en de gevallen die meetellen

Koppel elk relatief Parquet-pad aan de SHA-256-controlesom. Gebruik het pad precies zoals geleverd, inclusief procentgecodeerde tekens. Controleer alle koppelingen en zoek naar ontbrekende en extra paden. Voer het scoringsfilter uit met de beoogde leessoftware, versie en partitieopties. Vergelijk de gevonden ID’s met de goedgekeurde lijst en controleer of ze uniek zijn als de afspraak één rij per geval vereist.

In een fictieve levering van drie delen bevat de beoogde lijst case-a en case-b, met twee juiste uitkomsten. Beide indelingen hebben dezelfde verzameling bestandscontrolesommen en iedere geteste lezer selecteert twee gevallen.

Waargenomen resultaatWat aandacht vraagt
Oorspronkelijke levering met URI-decodering in PyArrow kiest case-a en case-bDe padkoppelingen en de lijst met gevallen kloppen beide.
Oorspronkelijke levering met letterlijke segmenten in PyArrow kiest case-c en case-dDe padkoppelingen kloppen. Wacht met scoren vanwege de afwijkende gevallen.
Verwisselde delen met URI-decodering in PyArrow kiest case-c en case-dWacht met scoren vanwege de gewijzigde padkoppelingen en de afwijkende gevallen.
Verwisselde delen met letterlijke segmenten in PyArrow kiest case-a en case-bDe gevallen kloppen. Wacht met scoren vanwege de gewijzigde padkoppelingen.

In de oorspronkelijke indeling leest PyArrow 26.0.1 met URI-decodering split=test%252Fgold als de partitiewaarde test%2Fgold. Met letterlijke segmenten kiest dezelfde zoekopdracht de map die split=test%2Fgold heet. Bij die letterlijke lezing is één van de twee resultaten in de oorspronkelijke levering juist. In dit voorbeeld komt DuckDB 1.4.4 met Hive-partitionering in beide indelingen overeen met de URI-decodering.

Als de partitie zowel in het pad als in een opgeslagen kolom staat, controleer beide. Het verwisselen van twee intacte delen levert in een ander voorbeeld met vier gevallen vier conflicten op. Met expliciete Hive-partitionering kiezen beide geteste lezers de gevallen die in de paden staan. Bij lezen van uitsluitend de fysieke kolom geldt de opgeslagen partitie. Los conflicten volgens de afspraak op voordat je scoort.

Controleer labels per geval-ID als herschrijven mag

Vergelijk de herschreven versie met de goedgekeurde koppeling van gevallen aan labels, op basis van de waarden die de scoringssoftware decodeert. In een ander fictief voorbeeld met acht rijen veranderen zowel het herschikken van hele rijen als het verwisselen van twee labels de bytes van het bestand. De geserialiseerde metadata aan het bestandseinde blijft gelijk. Een vergelijking per ID vindt nul gewijzigde labels bij het herschikken en twee bij de ruil. Het herschikken slaagt voor de labelcontrole als de volgorde mag veranderen. De ruil slaagt niet, ook al komen de metadata en aantallen per label overeen.

Leg de leveringsreferentie, de leessoftware en het filter, ontbrekende of onverwachte ID’s en gewijzigde koppelingen vast. Zo kan een volgende beoordelaar elke beslissing opnieuw controleren.