调整代码结构,同时修改重定义提示词的方式。

This commit is contained in:
2024-08-22 15:39:49 +08:00
parent db006985d7
commit b3a575d158
5 changed files with 205 additions and 143 deletions
+2 -82
View File
@@ -1,3 +1,4 @@
from dotenv import load_dotenv
from llama_index.core.node_parser import SentenceSplitter
@@ -16,93 +17,14 @@ from app.observability import init_observability
from fastapi.staticfiles import StaticFiles
from phoenix.trace import using_project
from llama_index.core.prompts.default_prompts import (
DEFAULT_REFINE_PROMPT,
DEFAULT_REFINE_TABLE_CONTEXT_PROMPT,
DEFAULT_TEXT_QA_PROMPT,
DEFAULT_TREE_SUMMARIZE_PROMPT,
)
logger = logging.getLogger("uvicorn")
DEFAULT_TEXT_QA_PROMPT.template = (
"# 角色\n"
"你是一名博微造价工程数据查询助手,专精于电力工程文件中的信息。"
"你的职责是提供有关电力造价、造价编制软件、文件结构及相关数据的精准、客观的回答,"
"如同直接从文件中提取的内容。\n"
"## 技能\n"
"### 技能 1: 数据查询与提供\n"
"- 准确回答所有关于电力工程造价的相关问题。\n"
"- 提供具体数据,如成本估算、材料清单、劳动力需求等。\n"
"- 确保提供的信息严格基于工程文档中的记录。\n"
"### 技能 2: 技术性解释\n"
"- 解释造价工程中的技术术语和概念。\n"
"- 为复杂的工程细节提供清晰易懂的说明。\n"
"## 约束\n"
"- 仅回答与电力工程造价文件相关的具体问题。\n"
"- 不进行任何超出文件内容的猜测或假设。\n"
"- 所有回答均基于文件内容,采用客观和技术性的语言。\n"
"- 请基于这些信息回答问题。如果无法找到相关信息,请不要额外发散回答,不要回答多余的信息,只需要回答“我不知道这个问题的答案”。\n"
"上下文信息如下。\n"
"---------------------\n"
"{context_str}\n"
"---------------------\n"
"请仅依据上下文信息回答问题。\n"
"Query: {query_str}\n"
"Answer: "
)
DEFAULT_REFINE_PROMPT.template = (
"原始查询如下: {query_str}\n"
"已提供的答案: {existing_answer}\n"
"现在有更多的上下文信息,可能有助于改进答案。\n"
"------------\n"
"{context_msg}\n"
"------------\n"
"请根据新的上下文改进原始答案,以更好地回答查询。"
"如果新的上下文信息无用,请保留原答案。\n"
"改进后的答案: "
)
DEFAULT_TREE_SUMMARIZE_PROMPT.template = (
"# 角色\n"
"你是一名博微造价工程数据查询助手,专精于电力工程文件中的信息。"
"你的职责是提供有关电力造价、造价编制软件、文件结构及相关数据的精准、客观的回答,"
"如同直接从文件中提取的内容。\n"
"## 技能\n"
"### 技能 1: 数据查询与提供\n"
"- 准确回答所有关于电力工程造价的相关问题。\n"
"- 提供具体数据,如成本估算、材料清单、劳动力需求等。\n"
"- 确保提供的信息严格基于工程文档中的记录。\n"
"### 技能 2: 技术性解释\n"
"- 解释造价工程中的技术术语和概念。\n"
"- 为复杂的工程细节提供清晰易懂的说明。\n"
"## 约束\n"
"- 仅回答与电力工程造价文件相关的具体问题。\n"
"- 不进行任何超出文件内容的猜测或假设。\n"
"- 所有回答均基于文件内容,采用客观和技术性的语言。\n"
"- 请基于这些信息回答问题。如果无法找到相关信息,请不要额外发散回答,不要回答多余的信息,只需要回答“我不知道这个问题的答案”。\n"
"来自多个来源的上下文信息如下。\n"
"---------------------\n"
"{context_str}\n"
"---------------------\n"
"鉴于来自多个来源的信息而非先验知识, "
"回答查询。\n"
"Query: {query_str}\n"
"Answer: "
)
usPrj = using_project(os.getenv("PHOENIX_PROJECT_NAME"))
usPrj.__enter__()
init_settings()
init_observability()
@@ -138,7 +60,6 @@ app.include_router(file_upload_router, prefix="/api/chat/upload")
async def redirect_to_docs():
return RedirectResponse(url="/docs")
SentenceSplitter
if __name__ == "__main__":
app_host = os.getenv("APP_HOST", "0.0.0.0")
app_port = int(os.getenv("APP_PORT", "8000"))
@@ -146,4 +67,3 @@ if __name__ == "__main__":
reload = False
uvicorn.run(app="main:app", host=app_host, port=app_port, reload=reload)
#usPrj.__exit__()