Archiviazione dei dataset
datashard
DisponibileUn formato di tabella per dataset e blob che non richiede un database.
Archiviazione per set di dati, registrazioni e file di grandi dimensioni che conserva la cronologia. I record vengono aggiunti in modalità di tipo append e vengono creati snapshot; inoltre, un set di dati può essere letto esattamente com'era in qualsiasi momento precedente. Sostituisce dump sfusi di file CSV e JSON, cartelle gestite manualmente e database creati al solo scopo di contenere file.
A chi è destinato. Progetti Python che persistono registrazioni, dataset o dati analitici e necessitano di uno storage versionato e leggibile.
- Stato
- Disponibile
- Parte di
- Open source
- Licenza
- Open source, Apache 2.0
- Tag
- PythonSnapshotTime travelFormato apertoDisco o archiviazione a oggetti
Cosa fa
-
Solo aggiunta, con snapshot
Poiché i record vengono aggiunti in modalità append e salvati con snapshot, è possibile leggere un set di dati esattamente com'era in un determinato momento.
-
Disco o S3
Il formato della tabella funziona su disco locale e in object storage, e il passaggio tra i due richiede solo una modifica della configurazione.
-
Parquet come base
I dati vengono archiviati come Parquet, apribile da qualsiasi strumento in grado di leggere il formato Parquet.
Per la documentazione, un progetto pilota o un'integrazione, ci contatti.