Files
0pt/docs/runbook/backup-restore.md
Simon AxelssonandClaude Sonnet 5 dc6aaa0e10
CI (SIAX Cloud) / quality (push) Successful in 51s
Security Scan (SIAX Cloud) / security (push) Successful in 26s
CI (SIAX Cloud) / security (push) Successful in 28s
CI (SIAX Cloud) / integration (push) Successful in 1m1s
CI (SIAX Cloud) / integration (pull_request) Successful in 30s
CI (SIAX Cloud) / security (pull_request) Successful in 24s
CI (SIAX Cloud) / quality (pull_request) Successful in 48s
Security Scan (SIAX Cloud) / security (pull_request) Successful in 22s
fix(data-os): P014 — close tenant-isolation + idempotency gaps, execute real restore drill
Tenant isolation (security-critical): every app/api/0pt/** route reading
tenant_id from client-controlled query/body never cross-checked it against
the token middleware.ts already verified (x-0pt-verified-tenant). Adds a
shared assertTenantMatchesVerified guard and wires it into all 20+ affected
routes. Also closes two full-leak-by-omission bugs found in this pass
(documents/capture and lakehouse/mappings GETs returned every tenant's rows
when tenant_id was simply omitted) and two "no tenant check at all" reads
(rate-policies/[id], lakehouse/mappings/[id]) reachable by ID alone.

Duplicate-delivery idempotency (correctness-critical): POST /api/orders now
honors Idempotency-Key (sql/006, replay-or-409-on-conflict, Postgres +
in-memory); the Python orchestrator's POST /orders/{id}/run — the actual
delivery trigger — is now idempotent under an asyncio lock, closing a real
concurrent-request race, not just the sequential-retry case.

Engine-duplication resolution: adaptive_router.py's docstring wrongly
invited a bypass ("see b0ts for scraping") contradicting the product's own
compliance stance; corrected, and given real (additive, not escalating)
block-signal tracking so a rate-limited/blocked source is excluded from the
plan instead of hammered. Also fixes a previously-undiscovered production
bug: the Python engine's only call into the TS quality bridge
(X-Internal-Token) was unconditionally 401'd by middleware.ts, which never
checked that credential — the advisory quality bridge was unreachable in any
environment enforcing auth.

Restore drill: executed for real against throwaway Docker Postgres
containers (not simulated). Found and fixed two real blockers along the way:
sql/004 referenced opt_datasets, which no migration ever created (chain was
never actually runnable end to end); lib/db.ts hardcoded ssl:"require",
making any non-TLS Postgres (incl. compose.dev.yaml's own local-dev
container) unreachable. After both fixes: full migration chain applies
cleanly, pg_dump/pg_restore round-trip is byte-identical (row counts +
content checksums), and real application code (lib/orders-store.ts,
SourceRegistryService's Postgres repository) reads the restored data back
correctly, including cross-tenant isolation still holding.

82 new tests (55 TS + 27 Python), all passing; full existing suite (291 TS +
55 Python) still green; typecheck clean on every changed/added file.

Co-Authored-By: Claude Sonnet 5 <noreply@anthropic.com>
2026-09-03 12:00:43 +02:00

5.9 KiB

Runbook: Backup & Restore — 0pt

Status 2026-08-10 (still true as of this P014 pass, not independently re-verified against a live deployment): ingen databas i produktion (/api/health → db: not_configured); allt state är in-memory (försvinner vid kallstart). Denna runbook beskriver läget idag + målbilden när Postgres provisioneras. Vad SOM ändrades i P014: migreringskedjan (sql/001 → 006) gick tidigare inte att köra alls end-to-end mot en tom databas (se "P014 restore-övning" nedan) — det är nu fixat och verifierat, oberoende av om produktion faktiskt har DATABASE_URL satt.

Nuläge

  • Ingen backup behövs/sker idag — det finns inget att backa upp (in-memory).
  • sql/001_init.sql är schemat (13 tabeller + pgvector/pgcrypto).
  • sql/002_source_registry.sql — Source Registry-tabellerna.
  • sql/003_datasets.sql (P014) — opt_datasets, tidigare saknad helt (se nedan).
  • sql/004/005 är iceberg-bärande tabeller.
  • sql/006_orders_idempotency.sql (P014) — orders.idempotency_key + unikt index.
  • Kända blockerare: estate-som-helhet saknar offsite-backup (Hetzner Robot-creds). Denna repo kan inte lösa det enskilt.

P014 restore-övning: EXEKVERAD 2026-09-03 (verklig, mätt, inte prosa)

Körd mot verklig, engångs, isolerad infrastruktur (Docker, pgvector/pgvector:pg16 — samma image som compose.dev.yaml/infra/docker-compose.yml) — inte simulerad. Ingen produktionsdata, inga persistenta artefakter kvarlämnade.

Steg 1 — upptäckt: migreringskedjan gick inte att köra. Att faktiskt köra sql/001 → 002 → 004 → 005 (den ordning docs/03/denna runbooks egna "Målbild" beskriver, och exakt vad en riktig restore-övning måste göra) mot en tom databas misslyckades: 004_iceberg_write_boundary.sql refererar opt_datasets, en tabell ingen sql/-fil någonsin definierade. Filens egen kommentar hade redan flaggat detta ("Flagging, not fixing here... remains open") men ingen hade tidigare faktiskt kört kedjan för att bekräfta felet. Fixat: sql/003_datasets.sql tillagd (matchar src/services/dataset-service.tss DatasetRecord-form exakt, inte en gissning) — kedjan 001→002→003→004→005→006 kör nu rent mot en tom databas.

Steg 2 — upptäckt: lib/db.ts kunde aldrig ansluta till en icke-TLS Postgres. getSql() hårdkodade ssl: "require" ovillkorligt — vilket gjorde att compose.dev.yamls egen lokala Postgres-container (ingen TLS) ALDRIG hade kunnat nås via denna funktion, konsekvent med den filens egen "UNVERIFIED... not smoke-tested"-flagga. Fixat: DATABASE_SSL=false är nu ett explicit opt-out (standard oförändrad — "require" — för varje verklig driftsättning).

Steg 3 — själva övningen, mätt:

Steg Resultat
Käll-container (p014-restore-source, pgvector/pgvector:pg16, engångs) frisk efter 1s
Migreringar 001→006 applicerade rent, 0 fel (efter fix ovan)
Data seedad (verkliga tabellrader, inte platshållare) 1 org, 2 orders (varav en med idempotency_key), 1 opt_sources-post + rights/provenance/health, 1 opt_datasets, 1 opt_dataset_iceberg_mappings, 1 opt_source_rate_policies
pg_dump -Fc 0,123 s, 48 835 bytes, sha256 loggad
Frisk, TOM mål-container (p014-restore-target, separat engångsinstans) frisk efter ~3s
pg_restore --no-owner --no-privileges 0,284 s, 0 fel
Radantal källa vs. mål, samtliga 9 tabeller identiska
md5-checksumma på hela orders-tabellens innehåll (källa vs. mål) identisk (95f7d0f9…)
md5-checksumma på hela opt_sources-tabellens innehåll (källa vs. mål) identisk (b4612dbf…)
Verklig applikationskod mot den RESTORERADE databasen: lib/orders-store.ts (getOrder, findOrderByIdempotencyKey) läser tillbaka exakt rätt config/total_ore/est_confidence/idempotency-nyckel
Verklig applikationskod mot den RESTORERADE databasen: SourceRegistryService (riktigt Postgres-repository, src/repositories/postgres-source-registry-repository.ts) describeSource returnerar korrekt name/rights.license_id/provenance.method/health.status; tvärtenant-isolering (NOT_FOUND, ingen existence-oracle) håller fortfarande mot den restorerade databasen

Slutsats: en klon av denna schema+data-modell kan verkligen provisioneras, backas upp och återställas end-to-end idag — det kunde den INTE innan denna övning (migreringskedjan var trasig). Engångscontainrarna revs efter övningen; ingen data eller infrastruktur kvarlämnad.

Kvarstående, inte löst av denna övning: produktionens faktiska backup-schema/retention/offsite-kopia (se "Målbild" nedan — fortfarande målbild, inte verifierad mot en live driftsättning i denna pass) och Hetzner-blockeraren för estate-bred offsite-backup.

Målbild (när DATABASE_URL satts)

Daglig backup (P2-1 i BACKLOG)

# på Postgres-värden (eller via N0D-jobb):
pg_dump -Fc -d opt > /backup/opt-$(date +%F).dump
# + offsite-kopia (MinIO/ST0RE via s3_sync-mönstret i services/scrapers)
  • Retention: 14 dagliga + 12 månatliga (föreslås; justeras vid provisionering).
  • Schemat får aldrig backupas från en klient med gamla migreringar — kör sql/*.sql via versionskontrollerad migrationsrunner (BACKLOG P4-3).

Restore (testas kvartalsvis)

psql -d opt < backup   # eller: pg_restore -d opt opt-YYYY-MM-DD.dump
# verifiera: SELECT count(*) FROM dim_company; + /api/health → db: configured

ST0RE/lakehouse-artefakter

  • Iceberg-tabeller/snapshots pekar på manifest-URI:er — själva bytena ägs av N0D/ST0RE (0pt skriver bara metadata). 0pt-backup omfattar opt_dataset_iceberg_mappings + opt_source_rate_policies (finns i pg_dump).

Restore-övning

  1. Provisionera tillfällig Postgres (pgvector:pg16).
  2. pg_restore senaste dump. 3. Sätt DATABASE_URL i dev-instans.
  3. Verifiera orderflöde + en källfråga. 5. Logga resultatet i docs/compliance/EVIDENCE/.