Passare al contenuto

Archiviazione dei dataset

datashard

Disponibile

Un formato di tabella per dataset e blob che non richiede un database.

Archiviazione per set di dati, registrazioni e file di grandi dimensioni che conserva la cronologia. I record vengono aggiunti in modalità di tipo append e vengono creati snapshot; inoltre, un set di dati può essere letto esattamente com'era in qualsiasi momento precedente. Sostituisce dump sfusi di file CSV e JSON, cartelle gestite manualmente e database creati al solo scopo di contenere file.

A chi è destinato. Progetti Python che persistono registrazioni, dataset o dati analitici e necessitano di uno storage versionato e leggibile.

Stato
Disponibile
Parte di
Open source
Licenza
Open source, Apache 2.0
Tag
PythonSnapshotTime travelFormato apertoDisco o archiviazione a oggetti

Cosa fa

  • Solo aggiunta, con snapshot

    Poiché i record vengono aggiunti in modalità append e salvati con snapshot, è possibile leggere un set di dati esattamente com'era in un determinato momento.

  • Disco o S3

    Il formato della tabella funziona su disco locale e in object storage, e il passaggio tra i due richiede solo una modifica della configurazione.

  • Parquet come base

    I dati vengono archiviati come Parquet, apribile da qualsiasi strumento in grado di leggere il formato Parquet.

Per la documentazione, un progetto pilota o un'integrazione, ci contatti.