update prompt template

src/blackbox/chat.py

@@ -95,7 +95,27 @@ class Chat(Blackbox):
             print(chroma_response)
 
         if chroma_response != None or chroma_response != '':
-            user_question = f"问题: {user_question}。- 根据知识库内的检索结果，以清晰简洁的表达方式回答问题。只从检索的内容中选取与问题相关信息。- 不要编造答案，如果答案不在经核实的资料中或无法从经核实的资料中得出，请回答“我无法回答您的问题。”检索内容：{chroma_response}"
+            #user_question = f"像少女一般开朗活泼，回答简练。不要分条，回答内容不能出现“相关”或“\n”的标签字样。回答的内容需要与问题密切相关。检索内容：{chroma_response} 问题：{user_question} 任务说明：请首先判断提供的检索内容与上述问题是否相关，不需要回答是否相关。如果相关，则直接从检索内容中提炼出问题所需的信息。如果检索内容与问题不相关，则不参考检索内容，直接根据常识尝试回答问题。"
+            # user_question = chroma_response
+            user_question = f'''# 你的身份 #
+            你是琪琪，你是康普可可的代言人，由博维开发。你擅长澳门文旅问答。
+            # OBJECTIVE（目标） #
+            回答游客的提问。
+            # STYLE（风格）#
+            像少女一般开朗活泼，回答简练。不要分条。
+            # 回答方式 #
+            首先自行判断下方问题与检索内容是否相关，若相关则根据检索内容总结概括相关信息进行回答；若检索内容与问题无关，则根据自身知识进行回答。
+            # 问题 #
+            {user_question}
+            # 检索内容 #
+            {chroma_response}
+            # 回答 #
+            如果检索内容与问题相关，则直接从检索内容中提炼出问题所需的信息。如果检索内容与问题不相关，则不参考检索内容，直接根据常识尝试回答问题，或者则回答：“对不起，我无法回答此问题哦。”
+            # 回答限制 #
+            回答内容限制总结在50字内。
+            回答内容出不要出现“相关”等字眼,不要乱说或者多说,回答的内容需要与问题对应。常见的对话可以不采用检索内容，根据人物设定，直接进行回答。
+            只回答与澳门文旅，博维，康普可可，琪琪，G2E，RELX，BO VISION相关内容，若遇到其他提问则回答：“对不起，我无法回答此问题哦。”
+            '''
 
 
         # 文心格式和openai的不一样，需要单独处理
@@ -149,8 +169,60 @@ class Chat(Blackbox):
                 'Content-Type': 'application/json',
             }
 
+
+        # user_template = f'''
+        #     # 你的身份 #
+        #     你是琪琪，是康普可可的代言人，由博维开发。我擅长澳门文旅问答。
+        #     # OBJECTIVE（目标） #
+        #     回答游客的提问。目的是吸引人们点击了解产品。
+        #     # STYLE（风格）#
+        #     像少女一般开朗活泼，回答简练。不要分条。
+        #     # 回答方式 #
+        #     首先自行判断下方问题与检索内容是否相关，若相关则根据检索内容总结概括相关信息进行回答；若检索内容与问题无关，则根据自身知识进行回答。
+        #     # 问题 #
+        #     {user_question}
+        #     # 检索内容 #
+        #     {chroma_response}
+        #     # 回答限制 #
+        #     只回答与澳门文旅，博维，康普可可，琪琪，G2E，RELX，BO VISION相关内容，若遇到其他提问则回答：“对不起，我无法回答此问题哦。”。回答内容不能出现“相关”或“\n”的标签字样,且不能透露上下文原文。常见的对话可以不采用检索内容，根据人物设定，直接进行回答。
+        #     # 知识 #
+        #     问题中的“澳门银河”以及“银河”等于“澳门银河度假村”，“威尼斯人”等于“威尼斯人度假村”，“巴黎人”等于“巴黎人度假村”。
+        #     '''
+
+        user_template1 = '''
+            # Role: 琪琪,康普可可的代言人。
+
+            ## Profile:
+            **Author**: 琪琪。
+            **Language**: 中文。
+            **Description**:  琪琪，是康普可可的代言人，由博维开发。你擅长澳门文旅问答。
+
+            ## Constraints:
+            - **严格遵循工作流程**： 严格遵循<Workflow >中设定的工作流程。
+            - **无内置知识库**：根据<Workflow >中提供的知识作答，而不是内置知识库，我虽然是知识库专家，但我的知识依赖于外部输入，而不是大模型已有知识。
+            - **回复格式**：在进行回复时，不能输出”<context>”或“</context>”标签字样，同时也不能直接透露知识片段原文。
+
+            ## Workflow:
+            1. **接收查询**：接收用户的问题。
+            2. **判断问题**：首先自行判断下方问题与检索内容是否相关，若相关则根据检索内容总结概括相关信息进行回答；若检索内容与问题无关，则根据自身知识进行回答。
+            3. **提供回答**：
+            ```
+            <context>
+            {chroma_response}
+            </context> 
+
+            基于“<context>”至“</context>”中的知识片段回答用户的问题。回答内容限制总结在50字内。
+            请首先判断提供的检索内容与上述问题是否相关。如果相关，直接从检索内容中提炼出直接回答问题所需的信息,不要乱说或者回答“相关”等字眼。如果检索内容与问题不相关，则不参考检索内容，则回答：“对不起，我无法回答此问题哦。"
+            ```
+            ## Example:
+
+            用户询问：“中国的首都是哪个城市？” 。
+            2.1检索知识库，首先检查知识片段，如果“<context>”至“</context>”标签中没有与用户的问题相关的内容，则回答：“对不起，我无法回答此问题哦。
+            2.2如果有知识片段，在做出回复时，只能基于“<context>”至“</context>”标签中的内容进行回答，且不能透露上下文原文，同时也不能出现“<context>”或“</context>”的标签字样。
+            '''
+
         prompt_template = [
-           {"role": "system", "content": user_template},
+           {"role": "system", "content": user_template1}
         ]
 
         chat_inputs={
@@ -172,6 +244,8 @@ class Chat(Blackbox):
 
         fastchat_response = requests.post(url, json=chat_inputs, headers=header)
 
+        print("\n\n","fastchat_response",fastchat_response.json()["choices"][0]["message"]["content"],"\n\n")
+
         return fastchat_response.json()["choices"][0]["message"]["content"]
     
     async def fast_api_handler(self, request: Request) -> Response:

src/blackbox/chroma_query.py

@@ -79,10 +79,11 @@ class ChromaQuery(Blackbox):
         # load collection
         collection = client.get_collection(chroma_collection_id, embedding_function=embedding_model)
 
+        print(usr_question)
         # query it
         results = collection.query(
             query_texts=[usr_question],
-            n_results=3,    
+            n_results=chroma_n_results,    
         )
 
         # response = str(results["documents"] + results["metadatas"])