【可能是全网最丝滑的LangChain教程】六、快速入门Agent

系列文章地址

【可能是全网最丝滑的LangChain教程】一、LangChain介绍 - 简书 (jianshu.com)
【可能是全网最丝滑的LangChain教程】二、LangChain安装 - 简书 (jianshu.com)
【可能是全网最丝滑的LangChain教程】三、快速入门LLMChain - 简书 (jianshu.com)
【可能是全网最丝滑的LangChain教程】四、快速入门Retrieval Chain - 简书 (jianshu.com)
【可能是全网最丝滑的LangChain教程】五、快速入门Conversation Retrieval Chain - 简书 (jianshu.com)

使用LangChain构建应用

LangChain支持构建应用程序,将外部数据源和计算源连接到LLM。我们将从一个简单的 LLM 链开始,它只依赖于提示模板中的信息来响应。 接下来,我们将构建一个检索链,该链从单独的数据库获取数据并将其传递到提示模板中。 然后,我们将添加聊天记录,以创建对话检索链。这允许您以聊天方式与此 LLM 进行交互,因此它会记住以前的问题。 最后,我们将构建一个代理,利用 LLM 来确定它是否需要获取数据来回答问题。

Agent

到目前为止,我们已经创建了链的例子 - 每一步都是提前知道的。我们将创建的最后一件事是一个代理 - LLM在其中决定要采取的步骤。

一句话:Agent(代理)就是目前比较火热的智能体的基础。

构建代理时要做的第一件事是确定它应该有权访问哪些工具。 在此示例中,我们将授予代理对两个工具的访问权限:

  1. 基于百度文库的《让子弹飞》电影信息。
  2. LangChain内置的Agent——“llm-math”。用于复杂的数学计算。

简单来说就是,我问《让子弹飞》的相关问题,LangChain使用第一个Agent回答问题,我问数学计算,LangChain使用第二个Agent回答问题!

准备工作

主要是网页数据的加载、嵌入模型的初始化、向量数据库的初始化等,具体代码如下。

from langchain_community.document_loaders import WebBaseLoader
from langchain.embeddings.huggingface import HuggingFaceEmbeddings
import torch
from langchain_community.vectorstores import FAISS
from langchain_text_splitters import RecursiveCharacterTextSplitter 

# 词嵌入模型
EMBEDDING_DEVICE = "cuda" if torch.cuda.is_available() else "mps" if torch.backends.mps.is_available() else "cpu"
embeddings = HuggingFaceEmbeddings(model_name='D:\models\m3e-base', model_kwargs={'device': EMBEDDING_DEVICE})
# 加载外部文档
loader = WebBaseLoader("https://baike.baidu.com/item/%E8%AE%A9%E5%AD%90%E5%BC%B9%E9%A3%9E/5358?fr=ge_ala")
docs = loader.load()
# 文档向量化到FAISS
text_splitter = RecursiveCharacterTextSplitter()
documents = text_splitter.split_documents(docs)
vector = FAISS.from_documents(documents, embeddings)
# 得到一个检索器
retriever = vector.as_retriever()

Agent创建

首先,让我们为刚刚创建的检索器设置一个工具:

from langchain.tools.retriever import create_retriever_tool 

retriever_tool = create_retriever_tool(    
  retriever,    
  "rzdf_search",    
  "搜索有关电影《让子弹飞》的信息。对于任何关于《让子弹飞》的问题,你必须使用此工具!",
)

加载内置的llm-math:

from langchain.agents import load_tools 

tools = load_tools(['llm-math'],llm=llm)

现在,我们可以创建要使用的工具列表:

tools.append(retriever_tool)

现在我们有了这些工具,我们可以创建一个代理来使用它们。

from langchain import hub
from langchain.agents import create_react_agent
from langchain.agents import AgentExecutor 

# 这里获取一个内置prompt,为了方便
prompt = hub.pull("hwchase17/react")
agent = create_react_agent(llm, tools, prompt)
agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True)

使用Agent

现在,我们可以调用代理,看看它是如何响应的!

agent_executor.invoke({"input": "让子弹飞的导演是谁"})

如果你的LangChain将verbose设置称True,会完整输出执行的中间过程。会有一个明显的COT过程:

{'input': '让子弹飞的导演是谁', 'output': '《让子弹飞》的导演是姜文。'}

我们再继续问一个数学计算问题

agent_executor.invoke({"input": "8 的立方根是多少?乘以 13.27,然后减去 5。"})

结果是:

{'input': '8 的立方根是多少?乘以 13.27,然后减去 5。', 
'output': '8的立方根大约是2,然后乘以13.27得到26.54,减去5后得到21.54。'}

我们也可以跟Agent进行对话:

from langchain_core.messages import HumanMessage, AIMessage 

chat_history = [HumanMessage(content="让子弹飞是谁导演的"), AIMessage(content="让子弹飞是姜文导演的。")]
agent_executor.invoke({    
  "chat_history": chat_history,    
  "input": "这部电影什么时候上映的?"
})

输出的结果如下(省略中间过程) :

{'chat_history': [HumanMessage(content='让子弹飞是谁导演的'),  AIMessage(content='让子弹飞是姜文导演的。')], 
'input': '这部电影什么时候上映的?', 
'output': '电影《让子弹飞》上映于2010年12月16日。'}

我们现在已经成功设置了一个基本的Agent。我们只触及了Agent基础知识,高级用法后面系列文章会介绍,比如说自定义代理等等。

大家要是随便关注下公众号,那就太好了。

Peace Guys~

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 215,723评论 6 498
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,003评论 3 391
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 161,512评论 0 351
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,825评论 1 290
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,874评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,841评论 1 295
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,812评论 3 416
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,582评论 0 271
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,033评论 1 308
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,309评论 2 331
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,450评论 1 345
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,158评论 5 341
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,789评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,409评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,609评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,440评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,357评论 2 352

推荐阅读更多精彩内容