Spaces:
Sleeping
Sleeping
Commit
·
9301d0e
1
Parent(s):
0e0a17d
Correção do Processamento Paralelo
Browse files
app.py
CHANGED
@@ -49,11 +49,14 @@ def process():
|
|
49 |
solicitacao_usuario = form_data.get('solicitacao', '')
|
50 |
|
51 |
if current_mode == 'test':
|
52 |
-
# Lógica de simulação (simplificada para focar na lógica real)
|
53 |
mock_text = form_data.get('mock_text', 'Este é um texto de simulação.')
|
54 |
mock_html = markdown2.markdown(mock_text, extras=["fenced-code-blocks", "tables"])
|
55 |
yield f"data: {json.dumps({'progress': 100, 'message': 'Simulação concluída!', 'partial_result': {'id': 'grok-output', 'content': mock_html}, 'done': True, 'mode': 'atomic' if processing_mode == 'atomic' else 'hierarchical'})}\n\n"
|
56 |
-
|
|
|
|
|
|
|
|
|
57 |
else:
|
58 |
if not solicitacao_usuario:
|
59 |
yield f"data: {json.dumps({'error': 'Solicitação não fornecida.'})}\n\n"
|
@@ -64,7 +67,7 @@ def process():
|
|
64 |
rag_context = get_relevant_context(file_paths, solicitacao_usuario)
|
65 |
|
66 |
if processing_mode == 'atomic':
|
67 |
-
# --- LÓGICA ATÔMICA (PARALELA) ---
|
68 |
results = {}
|
69 |
threads = []
|
70 |
|
@@ -74,37 +77,38 @@ def process():
|
|
74 |
except Exception as e:
|
75 |
results[key] = f"Erro ao processar {key}: {e}"
|
76 |
|
77 |
-
# Configurar e iniciar threads
|
78 |
models = {'grok': grok_llm, 'sonnet': claude_llm, 'gemini': gemini_llm}
|
79 |
prompt = PromptTemplate(template=PROMPT_ATOMICO_INICIAL, input_variables=["solicitacao_usuario", "rag_context"])
|
80 |
|
|
|
|
|
|
|
81 |
for name, llm in models.items():
|
82 |
chain = LLMChain(llm=llm, prompt=prompt)
|
83 |
thread = threading.Thread(target=run_chain, args=(chain, {"solicitacao_usuario": solicitacao_usuario, "rag_context": rag_context}, name))
|
84 |
threads.append(thread)
|
85 |
thread.start()
|
86 |
|
87 |
-
#
|
88 |
-
|
89 |
-
|
90 |
-
|
91 |
-
|
92 |
-
|
93 |
-
|
94 |
-
|
95 |
-
|
96 |
-
|
97 |
-
|
98 |
-
|
99 |
-
|
100 |
-
|
101 |
-
|
102 |
|
103 |
yield f"data: {json.dumps({'progress': 100, 'message': 'Processamento Atômico concluído!', 'done': True, 'mode': 'atomic'})}\n\n"
|
104 |
|
105 |
else:
|
106 |
# --- LÓGICA HIERÁRQUICA (SEQUENCIAL) ---
|
107 |
-
# (Mesma lógica de antes, com nomes de prompts atualizados)
|
108 |
yield f"data: {json.dumps({'progress': 15, 'message': 'O GROK está processando sua solicitação com os arquivos...'})}\n\n"
|
109 |
prompt_grok = PromptTemplate(template=PROMPT_HIERARQUICO_GROK, input_variables=["solicitacao_usuario", "rag_context"])
|
110 |
chain_grok = LLMChain(llm=grok_llm, prompt=prompt_grok)
|
@@ -134,19 +138,16 @@ def process():
|
|
134 |
|
135 |
return Response(generate_stream(mode, form_data, temp_file_paths), mimetype='text/event-stream')
|
136 |
|
137 |
-
# ---
|
138 |
@app.route('/merge', methods=['POST'])
|
139 |
def merge():
|
140 |
data = request.get_json()
|
141 |
try:
|
142 |
-
# Cria o prompt e a chain para o merge
|
143 |
prompt_merge = PromptTemplate(template=PROMPT_ATOMICO_MERGE, input_variables=["solicitacao_usuario", "texto_para_analise_grok", "texto_para_analise_sonnet", "texto_para_analise_gemini"])
|
144 |
|
145 |
-
|
146 |
-
claude_with_max_tokens = claude_llm.bind(max_tokens=8000)
|
147 |
chain_merge = LLMChain(llm=claude_with_max_tokens, prompt=prompt_merge)
|
148 |
|
149 |
-
# Invoca a chain com os dados recebidos
|
150 |
resposta_merge = chain_merge.invoke({
|
151 |
"solicitacao_usuario": data.get('solicitacao_usuario'),
|
152 |
"texto_para_analise_grok": data.get('grok_text'),
|
@@ -157,7 +158,6 @@ def merge():
|
|
157 |
if not resposta_merge or not resposta_merge.strip():
|
158 |
raise ValueError("Falha no serviço de Merge (Claude Sonnet): Sem resposta.")
|
159 |
|
160 |
-
# Retorna o resultado como HTML
|
161 |
merge_html = markdown2.markdown(resposta_merge, extras=["fenced-code-blocks", "tables"])
|
162 |
return jsonify({"success": True, "content": merge_html})
|
163 |
|
|
|
49 |
solicitacao_usuario = form_data.get('solicitacao', '')
|
50 |
|
51 |
if current_mode == 'test':
|
|
|
52 |
mock_text = form_data.get('mock_text', 'Este é um texto de simulação.')
|
53 |
mock_html = markdown2.markdown(mock_text, extras=["fenced-code-blocks", "tables"])
|
54 |
yield f"data: {json.dumps({'progress': 100, 'message': 'Simulação concluída!', 'partial_result': {'id': 'grok-output', 'content': mock_html}, 'done': True, 'mode': 'atomic' if processing_mode == 'atomic' else 'hierarchical'})}\n\n"
|
55 |
+
# Simula o preenchimento de todas as caixas no modo teste
|
56 |
+
if processing_mode == 'atomic':
|
57 |
+
yield f"data: {json.dumps({'partial_result': {'id': 'sonnet-output', 'content': mock_html}})}\n\n"
|
58 |
+
yield f"data: {json.dumps({'partial_result': {'id': 'gemini-output', 'content': mock_html}})}\n\n"
|
59 |
+
|
60 |
else:
|
61 |
if not solicitacao_usuario:
|
62 |
yield f"data: {json.dumps({'error': 'Solicitação não fornecida.'})}\n\n"
|
|
|
67 |
rag_context = get_relevant_context(file_paths, solicitacao_usuario)
|
68 |
|
69 |
if processing_mode == 'atomic':
|
70 |
+
# --- LÓGICA ATÔMICA (PARALELA) CORRIGIDA ---
|
71 |
results = {}
|
72 |
threads = []
|
73 |
|
|
|
77 |
except Exception as e:
|
78 |
results[key] = f"Erro ao processar {key}: {e}"
|
79 |
|
|
|
80 |
models = {'grok': grok_llm, 'sonnet': claude_llm, 'gemini': gemini_llm}
|
81 |
prompt = PromptTemplate(template=PROMPT_ATOMICO_INICIAL, input_variables=["solicitacao_usuario", "rag_context"])
|
82 |
|
83 |
+
yield f"data: {json.dumps({'progress': 15, 'message': 'Iniciando processamento paralelo...'})}\n\n"
|
84 |
+
|
85 |
+
# 1. Inicia todas as threads
|
86 |
for name, llm in models.items():
|
87 |
chain = LLMChain(llm=llm, prompt=prompt)
|
88 |
thread = threading.Thread(target=run_chain, args=(chain, {"solicitacao_usuario": solicitacao_usuario, "rag_context": rag_context}, name))
|
89 |
threads.append(thread)
|
90 |
thread.start()
|
91 |
|
92 |
+
# 2. Aguarda a conclusão de todas as threads
|
93 |
+
for thread in threads:
|
94 |
+
thread.join()
|
95 |
+
|
96 |
+
yield f"data: {json.dumps({'progress': 80, 'message': 'Todos os modelos responderam. Formatando saída...'})}\n\n"
|
97 |
+
|
98 |
+
# 3. Envia todos os resultados de uma vez, agora que estão prontos
|
99 |
+
grok_html = markdown2.markdown(results.get('grok', 'Falha ao obter resposta.'), extras=["fenced-code-blocks", "tables"])
|
100 |
+
yield f"data: {json.dumps({'partial_result': {'id': 'grok-output', 'content': grok_html}})}\n\n"
|
101 |
+
|
102 |
+
sonnet_html = markdown2.markdown(results.get('sonnet', 'Falha ao obter resposta.'), extras=["fenced-code-blocks", "tables"])
|
103 |
+
yield f"data: {json.dumps({'partial_result': {'id': 'sonnet-output', 'content': sonnet_html}})}\n\n"
|
104 |
+
|
105 |
+
gemini_html = markdown2.markdown(results.get('gemini', 'Falha ao obter resposta.'), extras=["fenced-code-blocks", "tables"])
|
106 |
+
yield f"data: {json.dumps({'partial_result': {'id': 'gemini-output', 'content': gemini_html}})}\n\n"
|
107 |
|
108 |
yield f"data: {json.dumps({'progress': 100, 'message': 'Processamento Atômico concluído!', 'done': True, 'mode': 'atomic'})}\n\n"
|
109 |
|
110 |
else:
|
111 |
# --- LÓGICA HIERÁRQUICA (SEQUENCIAL) ---
|
|
|
112 |
yield f"data: {json.dumps({'progress': 15, 'message': 'O GROK está processando sua solicitação com os arquivos...'})}\n\n"
|
113 |
prompt_grok = PromptTemplate(template=PROMPT_HIERARQUICO_GROK, input_variables=["solicitacao_usuario", "rag_context"])
|
114 |
chain_grok = LLMChain(llm=grok_llm, prompt=prompt_grok)
|
|
|
138 |
|
139 |
return Response(generate_stream(mode, form_data, temp_file_paths), mimetype='text/event-stream')
|
140 |
|
141 |
+
# --- ROTA PARA O MERGE ---
|
142 |
@app.route('/merge', methods=['POST'])
|
143 |
def merge():
|
144 |
data = request.get_json()
|
145 |
try:
|
|
|
146 |
prompt_merge = PromptTemplate(template=PROMPT_ATOMICO_MERGE, input_variables=["solicitacao_usuario", "texto_para_analise_grok", "texto_para_analise_sonnet", "texto_para_analise_gemini"])
|
147 |
|
148 |
+
claude_with_max_tokens = claude_llm.bind(max_tokens=12000)
|
|
|
149 |
chain_merge = LLMChain(llm=claude_with_max_tokens, prompt=prompt_merge)
|
150 |
|
|
|
151 |
resposta_merge = chain_merge.invoke({
|
152 |
"solicitacao_usuario": data.get('solicitacao_usuario'),
|
153 |
"texto_para_analise_grok": data.get('grok_text'),
|
|
|
158 |
if not resposta_merge or not resposta_merge.strip():
|
159 |
raise ValueError("Falha no serviço de Merge (Claude Sonnet): Sem resposta.")
|
160 |
|
|
|
161 |
merge_html = markdown2.markdown(resposta_merge, extras=["fenced-code-blocks", "tables"])
|
162 |
return jsonify({"success": True, "content": merge_html})
|
163 |
|