系列文章地址
【可能是全网最丝滑的LangChain教程】一、LangChain介绍 - 简书 (jianshu.com)
【可能是全网最丝滑的LangChain教程】二、LangChain安装 - 简书 (jianshu.com)
【可能是全网最丝滑的LangChain教程】三、快速入门LLMChain - 简书 (jianshu.com)
【可能是全网最丝滑的LangChain教程】四、快速入门Retrieval Chain - 简书 (jianshu.com)
使用LangChain构建应用
LangChain支持构建应用程序，将外部数据源和计算源连接到LLM。我们将从一个简单的 LLM 链开始，它只依赖于提示模板中的信息来响应。 接下来，我们将构建一个检索链，该链从单独的数据库获取数据并将其传递到提示模板中。 然后，我们将添加聊天记录，以创建对话检索链。这允许您以聊天方式与此 LLM 进行交互，因此它会记住以前的问题。 最后，我们将构建一个代理，利用 LLM 来确定它是否需要获取数据来回答问题。
Conversation Retrieval Chain
到目前为止，我们创建的链只能回答单个问题。人们正在构建的LLM应用程序的主要类型之一是聊天机器人。那么，我们如何将这条链转化为一条可以回答后续问题的链呢？
我们仍然可以使用create_retrieval_chain函数，但我们需要更改两件事：
- 检索方法现在不应该只针对最近的输入，而是应该考虑整个历史。
- 最后的LLM链同样应考虑整个历史。
背景
基于百度百科的《让子弹飞》介绍，设计一个带历史对话的聊天机器人。
准备工作
主要是网页数据的加载、嵌入模型的初始化、向量数据库的初始化等，具体代码如下。
from langchain_community.document_loaders import WebBaseLoader
from langchain.embeddings.huggingface import HuggingFaceEmbeddings
import torch
from langchain_community.vectorstores import FAISS
from langchain_text_splitters import RecursiveCharacterTextSplitter
# 词嵌入模型
EMBEDDING_DEVICE = "cuda" if torch.cuda.is_available() else "mps" if torch.backends.mps.is_available() else "cpu"
embeddings = HuggingFaceEmbeddings(model_name='D:\models\m3e-base', model_kwargs={'device': EMBEDDING_DEVICE})
# 加载外部文档
loader = WebBaseLoader("https://baike.baidu.com/item/%E8%AE%A9%E5%AD%90%E5%BC%B9%E9%A3%9E/5358?fr=ge_ala")
docs = loader.load()
# 文档向量化到FAISS
text_splitter = RecursiveCharacterTextSplitter()
documents = text_splitter.split_documents(docs)
vector = FAISS.from_documents(documents, embeddings)
# 得到一个检索器
retriever = vector.as_retriever()
Updating Retrieval
为了更新检索，我们将创建一个新的链。该链将接收最近的输入（input）和会话历史（chat_history），并使用LLM生成搜索查询。
from langchain.chains import create_history_aware_retriever
from langchain_core.prompts import MessagesPlaceholder
prompt = ChatPromptTemplate.from_messages([
MessagesPlaceholder(variable_name="chat_history"),
("user", "{input}"),
("user", "Given the above conversation, generate a search query to look up in order to get information relevant to the conversation")
])
retriever_chain = create_history_aware_retriever(llm, retriever, prompt)
现在我们有了这个新的检索器，我们可以创建一个新的链来继续对话，并牢记这些检索到的文档。
prompt = ChatPromptTemplate.from_messages([
("system", "Answer the user's questions based on the below context:\n\n{context}"),
MessagesPlaceholder(variable_name="chat_history"),
("user", "{input}"),
])
document_chain = create_stuff_documents_chain(llm, prompt)
retrieval_chain = create_retrieval_chain(retriever_chain, document_chain)
测试一下效果
chat_history = [
HumanMessage(content="《让子弹飞》什么时候在大陆上映的？"),
AIMessage(content="《让子弹飞》的大陆上映时间是2010年12月16日。")
]
retrieval_chain.invoke({
"chat_history": chat_history,
"input": "那韩国上映时间呢？"
})
最终输出
《让子弹飞》在2011年10月8日在韩国上映。
以上就是一个简单的，带历史记录的聊天机器人。整个的流程大概是：检索文档找到关联的文档（一条或者多条），基于文档和历史对话进行问答，得到问题的答案。如果如果还要继续进行问答，往chat_history中添加新的问答对即可。
Peace Guys~
