feat(restore): restore ndjson dumps
This commit is contained in:
parent
86867a097b
commit
5cdcc1d3d3
1 changed files with 128 additions and 0 deletions
128
cmd/restore.go
Normal file
128
cmd/restore.go
Normal file
|
|
@ -0,0 +1,128 @@
|
|||
package cmd
|
||||
|
||||
import (
|
||||
"bufio"
|
||||
"encoding/base64"
|
||||
"encoding/json"
|
||||
"fmt"
|
||||
"io"
|
||||
"os"
|
||||
"strings"
|
||||
|
||||
"github.com/spf13/cobra"
|
||||
)
|
||||
|
||||
var restoreCmd = &cobra.Command{
|
||||
Use: "restore [DB]",
|
||||
Short: "Restore key/value pairs from an NDJSON dump",
|
||||
Args: cobra.MaximumNArgs(1),
|
||||
RunE: restore,
|
||||
}
|
||||
|
||||
func restore(cmd *cobra.Command, args []string) error {
|
||||
store := &Store{}
|
||||
dbName := "default"
|
||||
if len(args) == 1 {
|
||||
parsed, err := store.parseDB(args[0], false)
|
||||
if err != nil {
|
||||
return err
|
||||
}
|
||||
dbName = parsed
|
||||
}
|
||||
|
||||
reader, closer, err := restoreInput(cmd)
|
||||
if err != nil {
|
||||
return err
|
||||
}
|
||||
if closer != nil {
|
||||
defer closer.Close()
|
||||
}
|
||||
|
||||
db, err := store.open(dbName)
|
||||
if err != nil {
|
||||
return err
|
||||
}
|
||||
defer db.Close()
|
||||
|
||||
scanner := bufio.NewScanner(reader)
|
||||
buf := make([]byte, 1024*1024)
|
||||
scanner.Buffer(buf, 8*1024*1024)
|
||||
|
||||
wb := db.NewWriteBatch()
|
||||
defer wb.Cancel()
|
||||
|
||||
lineNo := 0
|
||||
var restored int
|
||||
|
||||
for scanner.Scan() {
|
||||
lineNo++
|
||||
line := strings.TrimSpace(scanner.Text())
|
||||
if line == "" {
|
||||
continue
|
||||
}
|
||||
|
||||
var entry dumpEntry
|
||||
if err := json.Unmarshal([]byte(line), &entry); err != nil {
|
||||
return fmt.Errorf("line %d: %w", lineNo, err)
|
||||
}
|
||||
if entry.Key == "" {
|
||||
return fmt.Errorf("line %d: missing key", lineNo)
|
||||
}
|
||||
|
||||
value, err := decodeEntryValue(entry)
|
||||
if err != nil {
|
||||
return fmt.Errorf("line %d: %w", lineNo, err)
|
||||
}
|
||||
|
||||
if err := wb.Set([]byte(entry.Key), value); err != nil {
|
||||
return fmt.Errorf("line %d: %w", lineNo, err)
|
||||
}
|
||||
restored++
|
||||
}
|
||||
|
||||
if err := scanner.Err(); err != nil {
|
||||
return err
|
||||
}
|
||||
|
||||
if err := wb.Flush(); err != nil {
|
||||
return err
|
||||
}
|
||||
|
||||
fmt.Fprintf(cmd.ErrOrStderr(), "Restored %d entries into @%s\n", restored, dbName)
|
||||
return nil
|
||||
}
|
||||
|
||||
func restoreInput(cmd *cobra.Command) (io.Reader, io.Closer, error) {
|
||||
filePath, err := cmd.Flags().GetString("file")
|
||||
if err != nil {
|
||||
return nil, nil, err
|
||||
}
|
||||
if strings.TrimSpace(filePath) == "" {
|
||||
return cmd.InOrStdin(), nil, nil
|
||||
}
|
||||
f, err := os.Open(filePath)
|
||||
if err != nil {
|
||||
return nil, nil, err
|
||||
}
|
||||
return f, f, nil
|
||||
}
|
||||
|
||||
func decodeEntryValue(entry dumpEntry) ([]byte, error) {
|
||||
switch entry.Encoding {
|
||||
case "", "text":
|
||||
return []byte(entry.Value), nil
|
||||
case "base64":
|
||||
b, err := base64.StdEncoding.DecodeString(entry.Value)
|
||||
if err != nil {
|
||||
return nil, err
|
||||
}
|
||||
return b, nil
|
||||
default:
|
||||
return nil, fmt.Errorf("unsupported encoding %q", entry.Encoding)
|
||||
}
|
||||
}
|
||||
|
||||
func init() {
|
||||
restoreCmd.Flags().StringP("file", "f", "", "Path to an NDJSON dump (defaults to stdin)")
|
||||
rootCmd.AddCommand(restoreCmd)
|
||||
}
|
||||
Loading…
Add table
Add a link
Reference in a new issue