feat: cota lexical na fusão, recusa off-topic no prompt, docs medidas
Fusão:
- fuse_rankings() extrai a fusão RRF e aplica MAX_KEYWORD_ONLY (padrão 2):
quantas posições podem ser ocupadas por trechos que só o BM25 achou. O que os
dois lados confirmam nunca conta contra a cota.
- O controle é por cota de posições, não por piso de nota. Medido: a razão da
nota BM25 não separa acerto de ruído — para 'como posso perdoar quem me
feriu?', Deuteronômio 28:27 pontua 1,000 do topo e o correto Lucas 7:47 fica
em 0,716 (rank 12). Um piso cortaria o certo e manteria o errado.
- Ponderar o RRF também não resolve: com peso 0,5 no BM25 os achados só-lexicais
caem abaixo do 6º vetorial (0,5/61 < 1/66) e somem, levando junto Jó 3:13 e
Joel 3:14, os melhores resultados medidos.
Portão off-topic:
- MIN_SIMILARITY não consegue implementar 'sem evidência'. Medido no índice
completo: 0/6 perguntas off-topic bloqueadas em qualquer limiar de 0,30 a
0,50 ('bolo de chocolate' bate 0,544 em Lv 7:14; 'cotação do dólar' 0,494).
A recusa passa a ser instruída no SYSTEM_PROMPT e o limiar fica documentado
como filtro de ruído.
This commit is contained in:
1 parent
8f5e098d8f
commit
816e6be159
9 files changed
+212
-26
No files matched your search
@@ -224,3 +224,19 @@ def test_provider_error_does_not_leak_the_api_key():
|
||||
assert "sk-super-secreta" not in str(exc.value.__cause__ or "")
|
||||
finally:
|
||||
provider._client = monkeypatched
|
||||
|
||||
|
||||
def test_system_prompt_declares_the_off_topic_scope():
|
||||
"""O portão por similaridade não funciona: precisa estar no prompt.
|
||||
|
||||
Medido no corpus real, nenhum valor de MIN_SIMILARITY entre 0,30 e 0,50
|
||||
bloqueou uma única pergunta fora do tema — "como fazer um bolo de chocolate"
|
||||
bate 0,544 em Levítico 7:14 e "cotação do dólar" bate 0,494. Num corpus de
|
||||
31 mil versículos sempre existe algum acima de qualquer limiar utilizável,
|
||||
então a recusa tem de ser instruída ao modelo, não filtrada por nota.
|
||||
"""
|
||||
lowered = SYSTEM_PROMPT.lower()
|
||||
|
||||
assert "receita" in lowered
|
||||
assert "apenas do texto bíblico" in lowered
|
||||
assert "não use os trechos recuperados" in lowered
|
||||
Reference in new issue
Block a user