fix: make docker compose build and start the API
The image context was backend/, so COPY frontend/ failed. Build from the repo root, place Python modules on the import path, and pin packages that exist on PyPI. The web process no longer loads the LLM at startup.
This commit is contained in:
lgcosta committed
1 parent
67739dcf7e
commit
7af7ba530d
19 files changed
+342
-250
No files matched your search
@@ -0,0 +1,214 @@
|
||||
import json
|
||||
import os
|
||||
import random
|
||||
from typing import Dict, List
|
||||
|
||||
import telebot
|
||||
|
||||
class BotService:
|
||||
def __init__(self, token: str, chat_id: str):
|
||||
self.chat_id = chat_id
|
||||
self.bot = telebot.TeleBot(token) if token else None
|
||||
if self.bot is not None:
|
||||
self._register_handlers()
|
||||
|
||||
# Store pending schedules
|
||||
self.pending_schedules: List[Dict] = []
|
||||
|
||||
def _register_handlers(self):
|
||||
"""Register message handlers."""
|
||||
|
||||
@self.bot.message_handler(commands=['start', 'help'])
|
||||
def send_welcome(message):
|
||||
self.bot.reply_to(
|
||||
message,
|
||||
"📚 Sistema RAG Espiritismo\n\n"
|
||||
"Comandos disponíveis:\n"
|
||||
"/start - Iniciar\n"
|
||||
"/help - Ajuda\n"
|
||||
"/status - Ver status\n"
|
||||
"/books - Listar livros\n"
|
||||
)
|
||||
|
||||
@self.bot.message_handler(commands=['status'])
|
||||
def send_status(message):
|
||||
status_text = f"""
|
||||
📚 Status do Sistema RAG Espiritismo
|
||||
|
||||
Bot: Ativo
|
||||
Chat ID: {self.chat_id}
|
||||
|
||||
Direcione uma pergunta sobre espiritismo para eu responder!
|
||||
"""
|
||||
self.bot.reply_to(message, status_text)
|
||||
|
||||
@self.bot.message_handler(commands=['books'])
|
||||
def list_books(message):
|
||||
books = [
|
||||
"📖 Livros disponíveis:\n\n",
|
||||
"• A Gênese (Allan Kardec)\n",
|
||||
"• Livro dos Espíritos (Allan Kardec)\n",
|
||||
"• Livro dos Médiums (Allan Kardec)\n",
|
||||
"• O Céu e o Inferno (Manuel Quintão)\n",
|
||||
"• O Evangelho Segundo o Espiritismo (Allan Kardec)\n",
|
||||
"• O Que é o Espiritismo (Allan Kardec)\n"
|
||||
]
|
||||
self.bot.reply_to(message, "".join(books))
|
||||
|
||||
@self.bot.message_handler(func=lambda msg: True)
|
||||
def handle_question(message):
|
||||
"""Handle user questions."""
|
||||
question = message.text
|
||||
|
||||
# Send loading indicator
|
||||
self.bot.reply_to(
|
||||
message,
|
||||
"🔍 Processando sua pergunta..."
|
||||
)
|
||||
|
||||
# Send to RAG service asynchronously
|
||||
self._query_rag_service(question, message.chat.id)
|
||||
|
||||
def _query_rag_service(self, question: str, chat_id: int):
|
||||
"""Query RAG service and send response."""
|
||||
try:
|
||||
from app.services.rag_service import QdrantService, RAGService
|
||||
|
||||
qdrant = QdrantService(os.getenv("QDRANT_URL", "http://qdrant:6333"))
|
||||
rag = RAGService(
|
||||
qdrant,
|
||||
model_name=os.getenv("GPT4ALL_MODEL", "/app/models/llama-3.2-3b-instruct-q4_0.gguf"),
|
||||
)
|
||||
|
||||
result = rag.query(question, top_k=3)
|
||||
|
||||
# Format response
|
||||
response_text = f"""
|
||||
✅ Resposta:\n\n{result['response']}
|
||||
|
||||
📚 Fontes:
|
||||
{self._format_sources(result['sources'])}
|
||||
"""
|
||||
|
||||
self.bot.send_message(chat_id, response_text)
|
||||
|
||||
except Exception as e:
|
||||
self.bot.send_message(
|
||||
chat_id,
|
||||
f"❌ Erro ao processar sua pergunta: {str(e)}"
|
||||
)
|
||||
|
||||
def _format_sources(self, sources: List[Dict]) -> str:
|
||||
"""Format source metadata."""
|
||||
formatted = []
|
||||
for source in sources:
|
||||
meta = source.get('metadata', {})
|
||||
title = meta.get('title', 'Desconhecido')
|
||||
chunk = meta.get('chunk_id', '?')
|
||||
formatted.append(f"• {title} (chunk {chunk})")
|
||||
return "\n".join(formatted)
|
||||
|
||||
def add_schedule(self, schedule: Dict):
|
||||
"""Add schedule to pending list and database."""
|
||||
self.pending_schedules.append(schedule)
|
||||
self._save_schedules()
|
||||
|
||||
def update_schedule(self, schedule: Dict):
|
||||
"""Update schedule in pending list and database."""
|
||||
for i, s in enumerate(self.pending_schedules):
|
||||
if s['id'] == schedule['id']:
|
||||
self.pending_schedules[i] = schedule
|
||||
break
|
||||
self._save_schedules()
|
||||
|
||||
def remove_schedule(self, schedule: Dict):
|
||||
"""Remove schedule from pending list and database."""
|
||||
self.pending_schedules = [s for s in self.pending_schedules if s['id'] != schedule['id']]
|
||||
self._save_schedules()
|
||||
|
||||
def _save_schedules(self):
|
||||
"""Save schedules to JSON file."""
|
||||
schedules_path = "/app/schedules.json"
|
||||
|
||||
# Load existing schedules
|
||||
schedules = []
|
||||
if os.path.exists(schedules_path):
|
||||
with open(schedules_path, "r") as f:
|
||||
schedules = json.load(f)
|
||||
|
||||
# Update pending schedules
|
||||
for pending in self.pending_schedules:
|
||||
found = False
|
||||
for i, s in enumerate(schedules):
|
||||
if s['id'] == pending['id']:
|
||||
schedules[i] = pending
|
||||
found = True
|
||||
break
|
||||
if not found:
|
||||
schedules.append(pending)
|
||||
|
||||
# Write back
|
||||
with open(schedules_path, "w") as f:
|
||||
json.dump(schedules, f, indent=2)
|
||||
|
||||
def start_polling(self):
|
||||
"""Start the bot polling."""
|
||||
if self.bot is None:
|
||||
print("TELEGRAM_BOT_TOKEN ausente; polling não iniciado")
|
||||
return
|
||||
print("Starting Telegram bot polling...")
|
||||
self.bot.infinity_polling(timeout=10, long_polling_timeout=5)
|
||||
|
||||
def send_scheduled_message(self, schedule: Dict):
|
||||
"""Send scheduled message to Telegram."""
|
||||
try:
|
||||
from app.services.rag_service import QdrantService, RAGService
|
||||
|
||||
qdrant = QdrantService(os.getenv("QDRANT_URL", "http://qdrant:6333"))
|
||||
rag = RAGService(
|
||||
qdrant,
|
||||
model_name=os.getenv("GPT4ALL_MODEL", "/app/models/llama-3.2-3b-instruct-q4_0.gguf"),
|
||||
)
|
||||
response = rag.query(schedule.get('book') or 'espiritismo', top_k=3)
|
||||
message = f"""
|
||||
⏰ Mensagem Agendada - {schedule.get('book', 'Todos os livros')}
|
||||
|
||||
{response['response']}
|
||||
|
||||
📚 Fontes:
|
||||
{self._format_sources(response['sources'])}
|
||||
"""
|
||||
if self.bot is None:
|
||||
print("TELEGRAM_BOT_TOKEN ausente; mensagem agendada não enviada")
|
||||
return
|
||||
self.bot.send_message(self.chat_id, message)
|
||||
except Exception as e:
|
||||
print(f"Error sending scheduled message: {e}")
|
||||
|
||||
def generate_daily_content(self):
|
||||
"""Generate daily content for all books."""
|
||||
books = [
|
||||
"A Gênese",
|
||||
"Livro dos Espíritos",
|
||||
"Livro dos Médiums",
|
||||
"O Céu e o Inferno",
|
||||
"O Evangelho Segundo o Espiritismo",
|
||||
"O Que é o Espiritismo"
|
||||
]
|
||||
|
||||
selected_books = random.sample(books, 2)
|
||||
book_names = "\n".join(f"• {book}" for book in selected_books)
|
||||
|
||||
message = f"""
|
||||
🌟 Conteúdo Diário de Espiritismo
|
||||
|
||||
📚 Livros selecionados:
|
||||
{book_names}
|
||||
|
||||
Este conteúdo foi gerado automaticamente pelo Sistema RAG Espiritismo.
|
||||
"""
|
||||
|
||||
if self.bot is None:
|
||||
print("TELEGRAM_BOT_TOKEN ausente; conteúdo diário não enviado")
|
||||
return
|
||||
self.bot.send_message(self.chat_id, message)
|
||||
@@ -0,0 +1,45 @@
|
||||
from langchain_community.document_loaders import PyPDFLoader
|
||||
from langchain_text_splitters import RecursiveCharacterTextSplitter
|
||||
import os
|
||||
from typing import List, Dict
|
||||
from app.utils.embeddings import EmbeddingService
|
||||
|
||||
class PDFProcessor:
|
||||
def __init__(self, embedding_service: EmbeddingService):
|
||||
self.embedding_service = embedding_service
|
||||
self.text_splitter = RecursiveCharacterTextSplitter(
|
||||
chunk_size=500,
|
||||
chunk_overlap=50,
|
||||
length_function=len,
|
||||
)
|
||||
|
||||
def load_and_split(self, file_path: str, metadata: Dict) -> List[Dict]:
|
||||
"""Load and split a PDF file."""
|
||||
loader = PyPDFLoader(file_path)
|
||||
documents = loader.load()
|
||||
|
||||
chunks = self.text_splitter.split_documents(documents)
|
||||
|
||||
# Convert to dictionaries with metadata
|
||||
chunk_data = []
|
||||
for i, doc in enumerate(chunks):
|
||||
chunk_data.append({
|
||||
"content": doc.page_content,
|
||||
"metadata": {
|
||||
**metadata,
|
||||
"chunk_id": i,
|
||||
"source": file_path,
|
||||
}
|
||||
})
|
||||
|
||||
return chunk_data
|
||||
|
||||
def embed_chunks(self, chunks: List[Dict]) -> List[Dict]:
|
||||
"""Add embeddings to chunks."""
|
||||
texts = [chunk["content"] for chunk in chunks]
|
||||
embeddings = self.embedding_service.embed(texts)
|
||||
|
||||
for chunk, embedding in zip(chunks, embeddings):
|
||||
chunk["embedding"] = embedding.tolist()
|
||||
|
||||
return chunks
|
||||
@@ -0,0 +1,181 @@
|
||||
from qdrant_client import QdrantClient
|
||||
from qdrant_client.models import Distance, VectorParams, PointStruct, Filter, FieldCondition, MatchValue
|
||||
import numpy as np
|
||||
from typing import List, Dict, Optional
|
||||
import os
|
||||
import json
|
||||
import time
|
||||
|
||||
class QdrantService:
|
||||
def __init__(self, url: str, collection_name: str = "espiritismo_books"):
|
||||
self.client = QdrantClient(url=url, prefer_grpc=False)
|
||||
self.collection_name = collection_name
|
||||
self.embedding_dim = 384
|
||||
|
||||
self._ensure_collection()
|
||||
|
||||
def _ensure_collection(self):
|
||||
"""Create collection if it doesn't exist."""
|
||||
last_error = None
|
||||
for attempt in range(15):
|
||||
try:
|
||||
collections = self.client.get_collections().collections
|
||||
break
|
||||
except Exception as exc:
|
||||
last_error = exc
|
||||
print(f"Qdrant indisponível ({attempt + 1}/15): {exc}")
|
||||
time.sleep(2)
|
||||
else:
|
||||
raise RuntimeError(f"Não foi possível conectar ao Qdrant: {last_error}")
|
||||
|
||||
collection_exists = any(
|
||||
c.name == self.collection_name for c in collections
|
||||
)
|
||||
|
||||
if not collection_exists:
|
||||
self.client.create_collection(
|
||||
collection_name=self.collection_name,
|
||||
vectors_config=VectorParams(
|
||||
size=self.embedding_dim,
|
||||
distance=Distance.COSINE,
|
||||
),
|
||||
)
|
||||
print(f"Created collection: {self.collection_name}")
|
||||
else:
|
||||
print(f"Collection {self.collection_name} already exists")
|
||||
|
||||
def add_chunks(self, chunks: List[Dict]):
|
||||
"""Add chunks to the collection."""
|
||||
points = []
|
||||
|
||||
for i, chunk in enumerate(chunks):
|
||||
point = PointStruct(
|
||||
id=chunk.get("id") or i,
|
||||
vector=chunk["embedding"],
|
||||
payload={
|
||||
"content": chunk["content"],
|
||||
"metadata": chunk["metadata"],
|
||||
}
|
||||
)
|
||||
points.append(point)
|
||||
|
||||
if points:
|
||||
self.client.upsert(
|
||||
collection_name=self.collection_name,
|
||||
points=points,
|
||||
)
|
||||
print(f"Added {len(points)} chunks to Qdrant")
|
||||
|
||||
def search(self, query_embedding, top_k: int = 3) -> List[Dict]:
|
||||
"""Search for similar chunks."""
|
||||
if hasattr(query_embedding, "tolist"):
|
||||
query_embedding = query_embedding.tolist()
|
||||
results = self.client.search(
|
||||
collection_name=self.collection_name,
|
||||
query_vector=query_embedding,
|
||||
limit=top_k,
|
||||
)
|
||||
|
||||
return [
|
||||
{
|
||||
"content": hit.payload["content"],
|
||||
"metadata": hit.payload["metadata"],
|
||||
"score": hit.score,
|
||||
}
|
||||
for hit in results
|
||||
]
|
||||
|
||||
def get_books(self) -> List[str]:
|
||||
"""Get list of books in the collection."""
|
||||
points = self.client.scroll(
|
||||
collection_name=self.collection_name,
|
||||
limit=10000,
|
||||
)[0]
|
||||
|
||||
books = set()
|
||||
for point in points:
|
||||
metadata = point.payload["metadata"]
|
||||
books.add(metadata.get("title", "Unknown"))
|
||||
|
||||
return sorted(list(books))
|
||||
|
||||
def get_collection_info(self) -> Dict:
|
||||
"""Get information about the collection."""
|
||||
info = self.client.get_collection(self.collection_name)
|
||||
return {
|
||||
"status": info.status,
|
||||
"vectors_count": info.vectors_count,
|
||||
"points_count": info.points_count,
|
||||
}
|
||||
|
||||
|
||||
class RAGService:
|
||||
def __init__(self, qdrant_service: QdrantService, model_name: str = "llama-3.2-3b-instruct-q4_0.gguf"):
|
||||
self.qdrant = qdrant_service
|
||||
self.model_name = model_name
|
||||
self.llm = None
|
||||
|
||||
def _get_llm(self):
|
||||
if self.llm is None:
|
||||
if not os.path.isfile(self.model_name):
|
||||
raise FileNotFoundError(
|
||||
f"Modelo não encontrado em {self.model_name}. "
|
||||
"Baixe llama-3.2-3b-instruct-q4_0.gguf para backend/models/."
|
||||
)
|
||||
from gpt4all import GPT4All
|
||||
|
||||
model_dir = os.path.dirname(self.model_name) or "."
|
||||
model_file = os.path.basename(self.model_name)
|
||||
self.llm = GPT4All(
|
||||
model_name=model_file,
|
||||
model_path=model_dir,
|
||||
device="cpu",
|
||||
allow_download=False,
|
||||
)
|
||||
return self.llm
|
||||
|
||||
def generate_response(self, query: str, context: List[str], top_k: int = 3) -> str:
|
||||
"""Generate a response based on the query and context."""
|
||||
context_text = "\n\n".join(context)
|
||||
|
||||
system_prompt = f"""Você é um assistente especializado em espiritismo. Use as informações abaixo para responder à pergunta do usuário.
|
||||
|
||||
Informações:
|
||||
{context_text}
|
||||
|
||||
Instruções:
|
||||
- Responda de forma clara e concisa
|
||||
- Use o contexto fornecido
|
||||
- Quando citar passagens, mencione o livro e capítulo (se disponível)
|
||||
- Se não souber a resposta, diga que não encontrou na base de dados"""
|
||||
|
||||
prompt = f"{system_prompt}\n\nPergunta: {query}\nResposta:"
|
||||
response = self._get_llm().generate(prompt, max_tokens=500)
|
||||
|
||||
return response
|
||||
|
||||
def query(self, query: str, top_k: int = 3) -> Dict:
|
||||
"""Query the RAG system."""
|
||||
# Get embeddings
|
||||
from app.utils.embeddings import EmbeddingService
|
||||
embedding_service = EmbeddingService()
|
||||
|
||||
query_embedding = embedding_service.embed_query(query)
|
||||
|
||||
# Search
|
||||
chunks = self.qdrant.search(query_embedding, top_k)
|
||||
|
||||
# Generate response
|
||||
context = [chunk["content"] for chunk in chunks]
|
||||
|
||||
response = self.generate_response(query, context, top_k)
|
||||
|
||||
return {
|
||||
"query": query,
|
||||
"response": response,
|
||||
"context": context,
|
||||
"sources": [
|
||||
{"metadata": chunk["metadata"], "score": chunk["score"]}
|
||||
for chunk in chunks
|
||||
],
|
||||
}
|
||||
Reference in new issue
Block a user