refactor: troca PDF+OCR por corpus USFX em domínio público
- corpus/: Almeida (João Ferreira de Almeida) em USFX, domínio público, 66 livros / 1189 capítulos / 31098 versículos, versionado com SHA-256 - app/corpus.py: parser USFX (texto no tail de <v/>), nomes canônicos dos livros, aliases (abreviaturas e numerais romanos), VerseChunk sem página - indexer: descobre *.xml em CORPUS_DIR, progresso em versículos, lote configurável, manifesto incremental por SHA-256 - remove extraction.py, parallel.py, bible_parser.py, Tesseract e PyMuPDF - campo page removido de Source/SearchResult/StatusResponse e do frontend - embedder: propriedade name; status reporta o embedder em uso, não o do .env - create_app constrói o embedder ANTES do store (o default HashEmbedder do VectorStore impedia o modelo configurado de ser carregado em produção) - fallback do modelo agora aparece em /api/status.errors - torch 2.6.0 + transformers 5.22.1 pinados (transformers 5.x exige torch>=2.6)
This commit is contained in:
1 parent
621679cee5
commit
2043d5ddcf
34 files changed
+34561
-1842
No files matched your search
@@ -25,21 +25,20 @@ class Source(BaseModel):
|
||||
book: str
|
||||
chapter: int
|
||||
verse: int
|
||||
page: int
|
||||
file: str
|
||||
score: float = 0.0
|
||||
|
||||
|
||||
class StatusResponse(BaseModel):
|
||||
state: Literal["ready", "indexing", "error"]
|
||||
pdfs_total: int = 0
|
||||
pdfs_indexed: int = 0
|
||||
sources_total: int = 0
|
||||
sources_indexed: int = 0
|
||||
chunks: int = 0
|
||||
model: str = ""
|
||||
last_indexed_at: str | None = None
|
||||
errors: list[str] = Field(default_factory=list)
|
||||
pages_processed: int = 0
|
||||
pages_total: int = 0
|
||||
verses_indexed: int = 0
|
||||
verses_total: int = 0
|
||||
current_file: str | None = None
|
||||
|
||||
|
||||
|
||||
Reference in new issue
Block a user