Tenant isolation (security-critical): every app/api/0pt/** route reading
tenant_id from client-controlled query/body never cross-checked it against
the token middleware.ts already verified (x-0pt-verified-tenant). Adds a
shared assertTenantMatchesVerified guard and wires it into all 20+ affected
routes. Also closes two full-leak-by-omission bugs found in this pass
(documents/capture and lakehouse/mappings GETs returned every tenant's rows
when tenant_id was simply omitted) and two "no tenant check at all" reads
(rate-policies/[id], lakehouse/mappings/[id]) reachable by ID alone.
Duplicate-delivery idempotency (correctness-critical): POST /api/orders now
honors Idempotency-Key (sql/006, replay-or-409-on-conflict, Postgres +
in-memory); the Python orchestrator's POST /orders/{id}/run — the actual
delivery trigger — is now idempotent under an asyncio lock, closing a real
concurrent-request race, not just the sequential-retry case.
Engine-duplication resolution: adaptive_router.py's docstring wrongly
invited a bypass ("see b0ts for scraping") contradicting the product's own
compliance stance; corrected, and given real (additive, not escalating)
block-signal tracking so a rate-limited/blocked source is excluded from the
plan instead of hammered. Also fixes a previously-undiscovered production
bug: the Python engine's only call into the TS quality bridge
(X-Internal-Token) was unconditionally 401'd by middleware.ts, which never
checked that credential — the advisory quality bridge was unreachable in any
environment enforcing auth.
Restore drill: executed for real against throwaway Docker Postgres
containers (not simulated). Found and fixed two real blockers along the way:
sql/004 referenced opt_datasets, which no migration ever created (chain was
never actually runnable end to end); lib/db.ts hardcoded ssl:"require",
making any non-TLS Postgres (incl. compose.dev.yaml's own local-dev
container) unreachable. After both fixes: full migration chain applies
cleanly, pg_dump/pg_restore round-trip is byte-identical (row counts +
content checksums), and real application code (lib/orders-store.ts,
SourceRegistryService's Postgres repository) reads the restored data back
correctly, including cross-tenant isolation still holding.
82 new tests (55 TS + 27 Python), all passing; full existing suite (291 TS +
55 Python) still green; typecheck clean on every changed/added file.
Co-Authored-By: Claude Sonnet 5 <noreply@anthropic.com>
5.9 KiB
Runbook: Backup & Restore — 0pt
Status 2026-08-10 (still true as of this P014 pass, not independently re-verified against a live deployment): ingen databas i produktion (
/api/health→db: not_configured); allt state är in-memory (försvinner vid kallstart). Denna runbook beskriver läget idag + målbilden när Postgres provisioneras. Vad SOM ändrades i P014: migreringskedjan (sql/001→006) gick tidigare inte att köra alls end-to-end mot en tom databas (se "P014 restore-övning" nedan) — det är nu fixat och verifierat, oberoende av om produktion faktiskt harDATABASE_URLsatt.
Nuläge
- Ingen backup behövs/sker idag — det finns inget att backa upp (in-memory).
sql/001_init.sqlär schemat (13 tabeller + pgvector/pgcrypto).sql/002_source_registry.sql— Source Registry-tabellerna.sql/003_datasets.sql(P014) —opt_datasets, tidigare saknad helt (se nedan).sql/004/005är iceberg-bärande tabeller.sql/006_orders_idempotency.sql(P014) —orders.idempotency_key+ unikt index.- Kända blockerare: estate-som-helhet saknar offsite-backup (Hetzner Robot-creds). Denna repo kan inte lösa det enskilt.
P014 restore-övning: EXEKVERAD 2026-09-03 (verklig, mätt, inte prosa)
Körd mot verklig, engångs, isolerad infrastruktur (Docker, pgvector/pgvector:pg16
— samma image som compose.dev.yaml/infra/docker-compose.yml) — inte simulerad.
Ingen produktionsdata, inga persistenta artefakter kvarlämnade.
Steg 1 — upptäckt: migreringskedjan gick inte att köra. Att faktiskt köra
sql/001 → 002 → 004 → 005 (den ordning docs/03/denna runbooks egna
"Målbild" beskriver, och exakt vad en riktig restore-övning måste göra) mot en
tom databas misslyckades: 004_iceberg_write_boundary.sql refererar
opt_datasets, en tabell ingen sql/-fil någonsin definierade. Filens egen
kommentar hade redan flaggat detta ("Flagging, not fixing here... remains
open") men ingen hade tidigare faktiskt kört kedjan för att bekräfta felet.
Fixat: sql/003_datasets.sql tillagd (matchar
src/services/dataset-service.tss DatasetRecord-form exakt, inte en
gissning) — kedjan 001→002→003→004→005→006 kör nu rent mot en tom databas.
Steg 2 — upptäckt: lib/db.ts kunde aldrig ansluta till en icke-TLS
Postgres. getSql() hårdkodade ssl: "require" ovillkorligt — vilket gjorde
att compose.dev.yamls egen lokala Postgres-container (ingen TLS)
ALDRIG hade kunnat nås via denna funktion, konsekvent med den filens egen
"UNVERIFIED... not smoke-tested"-flagga. Fixat: DATABASE_SSL=false är
nu ett explicit opt-out (standard oförändrad — "require" — för varje verklig
driftsättning).
Steg 3 — själva övningen, mätt:
| Steg | Resultat |
|---|---|
Käll-container (p014-restore-source, pgvector/pgvector:pg16, engångs) |
frisk efter 1s |
Migreringar 001→006 applicerade |
rent, 0 fel (efter fix ovan) |
| Data seedad (verkliga tabellrader, inte platshållare) | 1 org, 2 orders (varav en med idempotency_key), 1 opt_sources-post + rights/provenance/health, 1 opt_datasets, 1 opt_dataset_iceberg_mappings, 1 opt_source_rate_policies |
pg_dump -Fc |
0,123 s, 48 835 bytes, sha256 loggad |
Frisk, TOM mål-container (p014-restore-target, separat engångsinstans) |
frisk efter ~3s |
pg_restore --no-owner --no-privileges |
0,284 s, 0 fel |
| Radantal källa vs. mål, samtliga 9 tabeller | identiska |
md5-checksumma på hela orders-tabellens innehåll (källa vs. mål) |
identisk (95f7d0f9…) |
md5-checksumma på hela opt_sources-tabellens innehåll (källa vs. mål) |
identisk (b4612dbf…) |
Verklig applikationskod mot den RESTORERADE databasen: lib/orders-store.ts (getOrder, findOrderByIdempotencyKey) |
läser tillbaka exakt rätt config/total_ore/est_confidence/idempotency-nyckel |
Verklig applikationskod mot den RESTORERADE databasen: SourceRegistryService (riktigt Postgres-repository, src/repositories/postgres-source-registry-repository.ts) |
describeSource returnerar korrekt name/rights.license_id/provenance.method/health.status; tvärtenant-isolering (NOT_FOUND, ingen existence-oracle) håller fortfarande mot den restorerade databasen |
Slutsats: en klon av denna schema+data-modell kan verkligen provisioneras, backas upp och återställas end-to-end idag — det kunde den INTE innan denna övning (migreringskedjan var trasig). Engångscontainrarna revs efter övningen; ingen data eller infrastruktur kvarlämnad.
Kvarstående, inte löst av denna övning: produktionens faktiska backup-schema/retention/offsite-kopia (se "Målbild" nedan — fortfarande målbild, inte verifierad mot en live driftsättning i denna pass) och Hetzner-blockeraren för estate-bred offsite-backup.
Målbild (när DATABASE_URL satts)
Daglig backup (P2-1 i BACKLOG)
# på Postgres-värden (eller via N0D-jobb):
pg_dump -Fc -d opt > /backup/opt-$(date +%F).dump
# + offsite-kopia (MinIO/ST0RE via s3_sync-mönstret i services/scrapers)
- Retention: 14 dagliga + 12 månatliga (föreslås; justeras vid provisionering).
- Schemat får aldrig backupas från en klient med gamla migreringar — kör
sql/*.sqlvia versionskontrollerad migrationsrunner (BACKLOG P4-3).
Restore (testas kvartalsvis)
psql -d opt < backup # eller: pg_restore -d opt opt-YYYY-MM-DD.dump
# verifiera: SELECT count(*) FROM dim_company; + /api/health → db: configured
ST0RE/lakehouse-artefakter
- Iceberg-tabeller/snapshots pekar på manifest-URI:er — själva bytena ägs av
N0D/ST0RE (0pt skriver bara metadata). 0pt-backup omfattar
opt_dataset_iceberg_mappings+opt_source_rate_policies(finns i pg_dump).
Restore-övning
- Provisionera tillfällig Postgres (pgvector:pg16).
pg_restoresenaste dump. 3. SättDATABASE_URLi dev-instans.- Verifiera orderflöde + en källfråga. 5. Logga resultatet i
docs/compliance/EVIDENCE/.