谷歌提出一种称为“Step-Back Prompting”的Prompt技术

来源于谷歌Deepmind在10月9日提交的一篇论文。 论文下载地址:https://arxiv.org/pdf/2310.06117.pdf 谷歌提出一种称为“Step-Back Prompting”的Prompt技术,让LLMs自己抽象问题,得到更高纬度概念和原理,再用这些知识推理并解决问题。 他们用PaLM-2L模型做了实验,发现这种Prompt技巧能显著提升密集推理任务(STEM、知识问答、多跳问题)的性能质量表现。 MMLU 物理和化学方面表现提高了7%,TimeQA 提高27%,MuSiQue 提高了7%。 MMLU:大规模多任务语言理解测试数据集 TimeOA:时间敏感问题测试数...

提升ChatGPT性能的实用指南:Prompt Engineering的艺术

一起探索 Prompt Engineering 的奥秘,并学习如何用它来让 ChatGPT 发挥出最大的潜力。 什么是提示工程? 提示工程是一门新兴学科,就像是为大语言模型(LLM)设计的"语言游戏"。通过这个"游戏",我们可以更有效地引导 LLM 来处理问题。只有熟悉了这个游戏的规则,我们才能更清楚地认识到 LLM 的能力和局限。 这个"游戏"不仅帮助我们理解 LLM,它也是提升 LLM 能力的途径。有效的提示工程可以提高大语言模型处理复杂问题的能力(比如一些数学推理问题),也可以提高大语言模型的扩展性(比如可以结合专业领域的知识...

Prompt框架

ICIO框架 Instruction:指令 即你希望 AI 执行的具体任务 Context:背景信息 给AI更多的背景信息引导模型做出更贴合需求的回复 Input Data:输入数据 告知模型需要处理的数据 Output Indicator:输出引导 告知模型我们要输出的类型或风格 CRISPE 框架 Capacity and Role:能力和角色 ChatGPT 应扮演什么角色 Insight:见解 提供你请求的背后见解、背景和上下文 Statement:声明 你要求 ChatGPT 做什么 Personality:个性 你希望 Ch...

LLMs 中 CoT、ToT 解决复杂逻辑问题

目前大语言模型在日常交流对话中,展现出强大的能力,但是如果遇到一些复杂提问,如解决24点游戏问题等需要具备逻辑思维较为密集的场景,往往LLMs 表现能力不佳,那么今天就介绍一下LLMs 中解决这类思维较为密集问题的技术CoT,ToT 技术。作者翻看全网对ToT 技术的讲解,发现没有一篇将所有涉及到的重点讲清楚,现在我将深入对ToT 思想论文《Tree of Thoughts: Deliberate Problem Solving with Large Language Models》进行深入讲解。希望大家喜欢。 注意:前面文章较多的介绍了模型架构,Transformer, MoE 等技术,这些...

为什么我们坚信Prompt是未来?

Prompt 到底是什么? 1. 指令 如果把ChatGPT具象成一个执行力&知识广度拉满的 员工 ,那Prompt则是你给的 指令 ,指令越详细,上下文越丰富,输出定义越明确,得到的结果也就越好。 2. 内容 正因为Prompt和输出结果的 强相关性 ,市场对Prompt的价值非常认可。有投机客会发广告直接卖Prompt的bundle,也有Promptbase这样的marketplace交易Prompts。最受欢迎的模式还是把高质量的prompt套一层UI,封装成SaaS产品 (Jasper, CopyAI)。除了那些有自己的独特数据或大模型的公司,这些公司本质上都是在出租 Prom...

CoT实践案例解析

CoT案例 ChatGPT 回答的 有时候逻辑性不好 。 正确答案是:7个偶数,3个奇数。ChatGPT甚至连数字都抄错了 然而,我们人类很多时候也是这样,当我们依赖于直觉判断,或是思维跳得太快,没有按部就班一步一步推理时,就很容易犯错,得出错误的答案。不过,当我们遇到一些问题时(如257*37=?),我们懂得不要着急给出答案(就算想也做不到啊),而是会在脑海里先计算推理一番,用「工作记忆」记住计算过程中的临时结果,对于更难的问题,我们会先做一下草稿或利用工具,由此来得到正确的答案。 注:人脑的「工作记忆」是一种记忆容量有限的认知系统,被用以暂时保存信息。工作记忆对于推理以及指导决策和行为有...

从思维链(CoT),到思维树(ToT),再到思维图(GoT):用LLMs解决复杂问题!

从思维链(CoT),到思维树(ToT),再到思维图(GoT):用LLMs解决复杂问题! 首发: **AINLPer 微信公众号( 每日论文干货分享!!** ) 编辑: ShuYini 校稿: ShuYi-ni 时间: 2023-09-04 引言 为了提高大型语言模型(LLM)上下文学习能力,今天给大家分享的这篇文章提出了思维图(GoT),其性能超过了思维链(CoT)、思维树(ToT)等。思维图(GoT)的关键是能够将 LLM 生成的信息建模为任意图,其中信息单位是顶点,边代表顶点之间的依赖关系。这种方法优点能够将任意LLM的思维组合在一起,提炼出整个思维图内容。实验结果显示:相比目前的思维...

prompt方法论

prompt方法论 零样本提示 如今,经过大量数据训练并调整指令的LLM能够执行零样本任务。我们在前一节中尝试了一些零样本示例。以下是我们使用的一个示例: 提示: 将文本分类为中性、负面或正面。文本:我认为这次假期还可以。情感: 输出: 中性 请注意,在上面的提示中,我们没有向模型提供任何示例——这就是零样本能力的作用。 指令调整已被证明可以改善零样本学习Wei等人(2022)(opens in a new tab)。指令调整本质上是在通过指令描述的数据集上微调模型的概念。此外,RLHF(opens in a new tab)(来自人类反馈的强化学习)已被采用以扩展指令调整,其中模型被调整以更...

小七姐:批量生成美食创意短语

作者:万能的小七姐(B站同名) 收到一个朋友转过来的prompt需求,这个需求比较小众,但这个prompt的生产过程算是比较经典的少样本提示和思维链提示的用法,在这先对prompt思路做一个分享: 首先来看需求 客户需要生成1000条俏皮灵动,趣味盎然,比喻精妙的和美食有关的短句子,要求文风优美,句子让人充满食欲。 客户使用这些句子的场景比较奇妙,而且不易于解释,所以我们可以换为一个更简单易于理解的场景来让GPT理解。 从思维链(CoT),到思维树(ToT),再到思维图(GoT):用LLMs解决复杂问题![/caption] 第一步:描述清楚这个prompt的需求背景: 对于独居者或者一起...

刘海:美妆海报文案

来源:https://waytoagi.feishu.cn/wiki/Dor2wc2FviY3q3kgSuScJrkhngg 海报文案生成案例(优化前) 来,家人们,直接上例子 ~(我前同事写的Prompt哈哈)~ : 你是一名美妆品牌的文案策划。你需要为新产品宣传海报生成一个吸引人的美妆产品文案。 首先,你要明确这条文案要达到的营销目的: 然后,你要考虑你要面向的目标客户群: 再然后,你要确定产品的卖点和特征: 最后,你要控制这条文案在25-30字之间。 注意:1.请运用简洁流畅的语句; 2.请适当添加生动的修辞手法; 3.让我们一步一步来。 — 产品:彩妆定制服务 目标客户:25-40...

chatgpt调教:笑话案例

ChatGPT 说它自己没有感情不懂笑话 我偏要给它讲个笑话试试。果然,它没听懂。 如果我扮演一个耐心的老师,它倒确实也会是一个认真的好学生,回答问题毫不含糊。 (最后这句回答,它竟然不是简单地说“扫描对方的二维码”,还补充说明“加对方为好友”,说明记性不错啊。) 再问它一遍,它能从“加好友”和“纪念逝者”的“反差”里找笑点。 很有“哇塞”的感觉。 但对于“扫”的双关含义它还没懂,还需要再多一点点帮助 现在它知道笑点在于产生的误解上了。 但是等等,它真的知道为啥“我扫你”不恰当吗?继续追问两句,似乎并没理解…… 我没耐心了,直接给它讲答案: 最后再问一遍……还好我猜它不会不耐烦...

小学思维逻辑题目

天府路小学三年级5班有35名学生参加周末的社团课,其中美术社团有21人报名,书法社团有27人报名,请问: 同时报名参加两个社团的学生有多少? 每包干脆面里面有一张卡片,商家规定,集齐三张卡片可以换1包干脆面,小九的妈妈一次性给他买了 9 包干脆面,那么小九一共可以吃到多少包干脆面? 欢欢今年8岁,爸爸今年34岁,多少年以后爸爸的年龄是欢欢的2倍? 木匠切断一根木头需要3 分钟,现在要将一根 15米长的木头切成 3米长的木头材料,木匠一共需要切多长时间?

提升大模型可靠性的 prompt方法汇总

从 prompting 的角度有哪些方法可以提高大模型在复杂任务上的性能表现呢? 汇总现有的一些方法: 细节法:给出更清晰的指令,包含更多具体的细节 分解法:将复杂的任务分解为更简单的子任务 (Let's think step by step, CoT,LangChain等思想) 记忆法:构建指令使模型时刻记住任务,确保不偏离任务解决路径(system 级 prompt) 解释法:让模型在回答之前进行解释,说明理由 (CoT 等方法) 投票法:让模型给出多个结果,然后使用模型选择最佳结果 (ToT 等方法) 示例法:提供一个或多个具体例子,提供输入输出示例 (one-shot, few-sho...