Skip to content

fix(worker): conecta el pipeline completo de ingesta (RF-03) - #21

Merged
ErgoCodes merged 1 commit into
mainfrom
fix/worker-ingestion-pipeline-wiring
Sep 30, 2026
Merged

ErgoCodes merged 1 commit into
mainfrom
fix/worker-ingestion-pipeline-wiring

Conversation

@ErgoCodes

Copy link
Copy Markdown
Owner

Resumen

  • El processor de BullMQ solo ejecutaba la extracción de texto y nunca encadenaba fragmentación, embeddings ni el marcado del documento como ready: los documentos se quedaban en processing para siempre aunque cada pieza de RF-03 ya tenía su PR mergeada. Ahora queue.ts recibe y ejecuta el pipeline completo (extracción → fragmentación → embeddings e indexación → estado).
  • Se invoca ensureChunksVectorIndex al arrancar el worker: existía y tenía tests, pero nadie lo llamaba, pese a que el README ya documentaba ese comportamiento.

Es un bloqueador del criterio de aceptación "un PDF de 20 páginas pasa a estado listo en menos de 60 s".

Test plan

  • pnpm --filter @docqa/worker test (18 archivos)
  • pnpm --filter @docqa/worker test:integration (115 passed, Mongo real)
  • Subir un PDF en local y comprobar que pasa a ready y que sus chunks aparecen en chunks

🤖 Generated with Claude Code

El processor de BullMQ solo ejecutaba la extracción de texto del PDF y
nunca encadenaba fragmentación, embeddings ni el marcado del documento
como "listo": queue.ts recibía únicamente el servicio de extracción, sin
chunking ni embed-and-index. Los documentos quedaban en estado
"processing" para siempre pese a que cada pieza del pipeline (RF-03) ya
tenía su propia PR mergeada.

También se conecta ensureChunksVectorIndex en el arranque del worker,
que existía y tenía tests pero nunca se invocaba, pese a que el README
ya documentaba ese comportamiento.

Co-Authored-By: Claude Sonnet 5 <noreply@anthropic.com>
@ErgoCodes
ErgoCodes merged commit bae1547 into main Sep 30, 2026
2 checks passed
@ErgoCodes
ErgoCodes deleted the fix/worker-ingestion-pipeline-wiring branch September 30, 2026 16:25
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

1 participant