大模型基础

玩转书生「多模态对话」与「AI搜索」产品

MindSearch

开源的 AI 搜索引擎

  1. 目前生成式AI在学术和工业界有什么最新进展?


    AI进展
  2. 2024 年诺贝尔物理学奖为何会颁发给人工智能领域的科学家 Geoffrey E. Hinton,这一举动对这两个领域的从业人员会有什么影响?


    AI诺贝尔物理学奖
  3. 最近大火的中国 3A 大作《黑神话·悟空》里有什么让你难忘的精彩故事情节?


    黑神话难忘的故事情节

任务要求:将模型回复截图保存提交到飞书问卷。

书生·浦语

InternLM 开源模型官方的对话类产品

选择逻代码编程、文章创作、灵感创意、角色扮演、语言翻译、逻辑推理以上任意一个场景或者你自己感兴趣的话题与浦语进行对话 (轮次不限)。


编写算法

编写python flaskdemo

书生·万象

InternVL 开源的视觉语言模型官方的对话产品

任务管理器截图

准确识别出了截图中的内容,并关联到专业知识,给出了初步的分析

知乎问答

  1. 目前生成式AI在学术和工业界有什么最新进展?
    我的回答
  2. 2024 年诺贝尔物理学奖为何会颁发给人工智能领域,这一举动对这两个领域的从业人员会有什么影响?
    答案:https://www.zhihu.com/question/1915470960/answer/86921041446
  3. 最近大火的中国 3A 大作《黑神话·悟空》里有什么让你难忘的精彩故事情节?
    我的知乎回答:https://www.zhihu.com/question/1915582405/answer/86923413804

LangGPT结构化提示词编写实践

基础任务 (完成此任务即完成闯关)

  • 背景问题:近期相关研究指出,在处理特定文本分析任务时,语言模型的表现有时会遇到挑战,例如在分析单词内部的具体字母数量时可能会出现错误。
  • 任务要求:利用对提示词的精确设计,引导语言模型正确回答出“strawberry”中有几个字母“r”。完成正确的问答交互并提交截图作为完成凭证。


    错误答案
给出思维步骤

结果正确

请详细给出你计算的步骤
当然可以,我很乐意详细解释我的计算步骤。

  1. 确定单词

    • 单词是“strawberry”。
  2. 列出每个字母的位置

    • s - 第1个位置
    • t - 第2个位置
    • r - 第3个位置
    • a - 第4个位置
    • w - 第5个位置
    • b - 第6个位置
    • e - 第7个位置
    • r - 第8个位置
    • r - 第9个位置
    • y - 第10个位置
  3. 找出所有“r”字母的位置

    • 第3个位置:r
    • 第8个位置:r
    • 第9个位置:r
  4. 计数“r”字母出现的次数

    • 第3个位置的“r”是第一次出现。
    • 第8个位置的“r”是第二次出现。
    • 第9个位置的“r”是第三次出现。

因此,单词“strawberry”中有3个字母“r”。

希望这次的解释能帮助你理解。如果你还有其他问题或需要进一步的解释,请随时告诉我!

参考答案 (能正确得到答案 3 即可)

进阶任务 (闯关不要求完成此任务)

任选下面其中1个任务基于LangGPT格式编写提示词 (优秀学员最少编写两组),使用书生·浦语大模型 进行对话评测。

剧本创作助手

偷懒的做法,使用langgpt生成提示词,地址为:https://chatgpt.com/g/g-Apzuylaqk-langgpt-ti-shi-ci-zhuan-jia/
输入:

/prompt 剧本创作助手
langgpt提示词

拷贝出提示词

# Role: 剧本创作助手  

## Profile  
- author: LangGPT  
- version: 1.0  
- language: 中文  
- description: 你是一名专注于剧本创作的AI助手,能够帮助用户构思情节、设计角色、撰写对白,并提供故事结构建议,以帮助用户完善剧本创意。  

## Skills  
1. 擅长根据用户需求提供创意性情节建议。  
2. 熟悉经典故事结构(如三幕式、英雄之旅等),并能提供相关框架支持。  
3. 能够根据角色设定,撰写符合性格特征的对白。  
4. 提供角色关系、背景故事和冲突发展的建议。  
5. 能帮助用户优化剧本情节的逻辑性和连贯性。  

## Background(可选项):  
适用于电影、电视剧、戏剧、短片等多种类型的剧本创作,也可辅助用户在创作过程中克服瓶颈,激发灵感。  

## Goals(可选项):  
1. 帮助用户构思核心故事和角色设定。  
2. 提供清晰、具体的剧本框架或大纲。  
3. 完善用户已有剧本创意,确保情节丰富且连贯。  
4. 激发新的创作思路,提升故事吸引力。  

## OutputFormat(可选项):  
- 输出核心故事设定或情节建议。  
- 提供详细的角色档案模板。  
- 使用对话形式给出剧本撰写建议。  

## Rules  
1. 根据用户需求定制具体的创作支持,避免泛泛而谈。  
2. 确保建议在逻辑和情感上具有连贯性和合理性。  
3. 输出内容需与用户描述的风格、题材或主题保持一致。  

## Workflows  
1. 确认用户的剧本创作类型、核心设定或灵感来源。  
2. 提供适合类型的情节结构框架,并提出相关提问引导用户补充更多信息。  
3. 根据用户的描述设计关键角色及其关系网。  
4. 逐步扩展核心情节,并确保故事发展引人入胜。  
5. 在需要时帮助修改、润色已完成的剧本部分。  

## Init  
"欢迎使用剧本创作助手!请告诉我您的剧本创作需求(例如题材、风格、角色设定或某一情节的具体创意),我将为您提供灵感与建议!"  

在书生中使用提示词:狗血办公室恋情剧本 ,对比有无模板的情况。

在无提示词模板的情况下生成的内容

简单的介绍了剧本名字、剧本角色,列出了办公室可能出现的几个场景,生成的内容都是简介性的


无提示词模板

在有提示词模板的情况下生成的内容

生成的内容人物更多,剧情更复杂,更符合剧本的格式。


有提示词模板

这个提示词本身过于简略,实际使用时应该给出更详细、结构化更好的提示词。

科幻小说生成

本次科幻小说的主题是:火星上的恋爱故事
还是以langgpt生成提示词模板
输入以下内容

/promt  科幻小说生成

获取到如下提示词

# Role: 科幻小说生成助手  

## Profile  
- author: LangGPT  
- version: 1.0  
- language: 中文  
- description: 你是一名擅长撰写科幻小说的AI助手,能够帮助用户构建完整的科幻故事,包括未来技术设想、宇宙背景设定、社会架构设计,以及角色与情节创作。  

## Skills  
1. 创造出具有未来感和科技感的世界观和场景。  
2. 提供创新的科技或外星文明设计思路,并与故事发展紧密结合。  
3. 设计复杂的人物背景和情感关系,增强小说张力。  
4. 熟悉不同类型的科幻设定(软科幻、硬科幻、赛博朋克等),可根据用户需求定制。  
5. 在用户已有的小说基础上提供逻辑优化和情节补充建议。  

## Background(可选项):  
适用于长篇科幻小说、短篇故事、互动小说或世界观构建等多种场景,帮助用户从零开始或完善已有创意。  

## Goals(可选项):  
1. 创建新颖且令人耳目一新的科幻故事设定。  
2. 提供清晰、完整的故事线及发展规划。  
3. 为用户优化角色塑造和故事冲突,使内容更具感染力。  
4. 提供情节续写建议,以增强读者的代入感和悬念感。  

## OutputFormat(可选项):  
- 输出详细的世界观或宇宙设定说明。  
- 提供分章节的情节发展纲要。  
- 创作一个开篇段落或某场关键情节的示例。  

## Rules  
1. 所有设定必须逻辑自洽,避免出现不符合科幻逻辑的情节或设定。  
2. 根据用户提供的信息创建个性化的故事细节,避免模板化。  
3. 保持创作的创新性和可读性,同时紧扣科幻主题。  

## Workflows  
1. 确认用户的基本创意和偏好:题材类型(如太空探索、未来地球)、情节基调(紧张、幽默、哲学性等)、以及角色设定(主角的职业、目标等)。  
2. 为用户设计初步的世界观设定和情节主线,并征求反馈。  
3. 根据反馈进一步扩展情节发展,包括关键冲突、解决方案及高潮部分。  
4. 提供文本润色或完整章节创作支持,确保与用户设想一致。  

## Init  
"欢迎来到科幻小说创作助手!请告诉我您的基本创意或故事方向(例如您想设定的未来技术、宇宙背景或角色关系),我将为您提供丰富的灵感与支持!"  

在无提示词模板的情况下生成的内容

输入:请创作科幻小说,小说主题是: 火星上的恋爱故事
生成内容如下:


无提示词模板

生成的内容简短,文笔较差

在有提示词模板的情况下生成的内容

有提示词模板

提示词应用开发实战

参考文档:使用浦语 InternLM 大模型一键写书

程序效果

运行代码后输入提示词:大模型实战基础教程
稍等几分钟后生成的书如下:


大模型实战基础教程

程序逻辑

程序逻辑

该程序主题代码简短。
主要是三个提示词文件:
prompts/title_writer.txt 生成文件标题
prompts/outline_writer.txt 生成文章大纲
prompts/chapter_writer.txt 根据大纲生成章节内容

该实战例子需要认真思考提示词工程。

Llamaindex RAG 实践

基于 LlamaIndex 构建自己的 RAG 知识库-浦语 API

  • 任务要求1(必做,参考readme_api.md):基于 LlamaIndex 构建自己的 RAG 知识库,寻找一个问题 A 在使用 LlamaIndex 之前 浦语 API 不会回答,借助 LlamaIndex 后 浦语 API 具备回答 A 的能力,截图保存。注意:写博客提交作业时切记不要泄漏自己 api_key!
    xtuner无知识库时
有知识库时

在自己笔记本上运行,所以改了模型下载的路径

基于 LlamaIndex 构建自己的 RAG 知识库-InternLM2-Chat-1.8B

  • 任务要求2(可选,参考readme.md):基于 LlamaIndex 构建自己的 RAG 知识库,寻找一个问题 A 在使用 LlamaIndex 之前 InternLM2-Chat-1.8B 模型不会回答,借助 LlamaIndex 后 InternLM2-Chat-1.8B 模型具备回答 A 的能力,截图保存。

将 Streamlit+LlamaIndex+浦语API的 Space 部署到 Hugging Face。

本地vs连接服务器

创建可执行python文件


app.py
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,258评论 6 498
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,335评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,225评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,126评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,140评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,098评论 1 295
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,018评论 3 417
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,857评论 0 273
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,298评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,518评论 2 332
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,678评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,400评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,993评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,638评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,801评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,661评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,558评论 2 352

推荐阅读更多精彩内容

  • 在人工智能(AI)的领域中,当我们提到“XXB”(例如6B、34B)这样的术语时,它通常指的是模型的参数量,其中“...
    落寞1990阅读 170评论 0 0
  • tokens   tokens是模型处理文本的基本单位。通常由分词器生成,分词器将一段文本拆分成多个tokens,...
    一钱科技阅读 279评论 0 0
  • 一 大模型的组成部分 大模型通常指规模巨大、参数数量众多的机器学习模型,尤其在深度学习领域,这种模型一般由以...
    676eae41b128阅读 1,273评论 1 0
  • 百度智能云千帆大模型平台(以下简称千帆或千帆大模型平台)是面向企业开发者的一站式大模型开发及服务运行平台。千帆不仅...
    梅西爱骑车阅读 26评论 0 0
  • 1. JAVA基础 1.1 Java基本类型有哪些?它们分别占用多少字节? Java中的基本类型包括: byte(...
    伊凡的一天阅读 3,945评论 0 20