4.2 从GPT的原理说起

1. chatgpt科普 https://www.modevol.com/episode/clf9d5kni0zo301mm6tkl9t87 2. GPT的原理[一句话:大力出奇迹 ] https://www.zengqueling.com/8gptdeyuanli/ 3. chatgpt的三步训练 https://www.zengqueling.com/9chatgptdesanbuxunli/ 4. 总结 4.1 chatgpt天性就是胡说八道,无中生有。 4.2 化身王语嫣 可以将语言模型类比为《天龙八部》中的王语嫣,精通武学却不会武功,需要与会武功的人配合才能发挥其才能。 懂得太多太...

1.3 ChatGPT的技术核心——AIGC应用实践(由Claude-2-100k生成)

ChatGPT的技术核心——AIGC应用实践 PPT(MindShow生成的) 第一章 ChatGPT概述 什么是ChatGPT ChatGPT是Anthropic公司开发的一个基于 Transformer 的大规模语言模型,可以进行人机自然语言对话。全称为“Conversational AI Generative Pre-trained Transformer”。 2022年11月30日首次对外开放使用 应用自监督学习方法进行预训练 可进行问答、对话、文本生成等 拥有亿级参数规模,持续迭代优化中 ChatGPT的产生背景 ChatGPT是在深度学习和大模型基础上的产物: 基于Tra...

人类面对AI大军的最后堡垒 – 百度弱智吧

人类面对AI大军的最后堡垒 - 百度弱智吧 在人工智能领域一直有一个测试大语言模型能力的东西。 我们称为NLP任务集。 AI领域最强的GPT-4在面世之日,就将传统的NLP任务集按在地上摩擦。 要知道,像HellaSwag这种偏常识性的题目,人类的准确率也就95%。 作为人类这个物种的前列防线,被彻底踏破。 但是,人类文化中有一道最后的防线,不仅将什么通义千问、文心一言、Claude、bing之流按在地上爆杀,就连AI大军最强王者GPT-4,都久攻不下。 它就是人类最后的堡垒 - 弱智吧。 01.AI大战弱智吧 无敌如大模型,也有被干成智障的一天。 当人们对人工智能的快速发展感到恐慌和无助...

ChatGPT最强竞品重磅升级,免费可用!第一手实测在此

ChatGPT最强竞品重磅升级,免费可用!第一手实测在此 量子位 衡宇 克雷西 发自 凹非寺 量子位 | 公众号 QbitAI 在OpenAI祭出GPT-4的API和“最强插件”代码解释器后,竞争对手显然坐不住了。 就在刚刚,Anthropic旗下Claude发布第二代——没错,就是被外界评价为GPT-4最强竞品的那一个。 浅划一下这次更新动作的重点: 免费,不用排队,自己用邮箱注册即可登陆。 科技大佬们打起来真是妙啊,妈妈再也不用担心ChatGPT/GPT-4将我拒之门外后,打工或写作业时没有AI用了! 英伟达AI高级科学家Jim Fan火速尝鲜,并在推特上分享了自己的Claude2用...

Markdown 高阶语法

AIGC可视化图表 传统图形绘制的缺点 流程图、思维导图、饼状图、柱状图等图形具有可视化的特性,能够帮助用户 激发思考、深化思维 。 以流程图为例,流程图是一种图形化展示流程、程序、系统或组织结构的工具,它能够帮助用户更好地理解和掌握复杂的流程和结构。对于项目管理人员、系统分析师、软件开发人员、产品经理、教育工作者等群体,他们都能通过流程图更好地组织和展示信息,以便更好地实现他们的工作目标。 然而, 传统图形绘制, 尤其是流程图存在包括绘制过程繁琐、不易维护、不直观、不易协作和不能自动化等问题。人们需要更加高效、直观、易于维护和协作的图形绘制工具。 如今,进入 AI 时代,基于 AI 的赋能,...

5.1 【AIGC应用】个性化人工智能导师

个性化人工智能导师:Ranedeer先生 1.个性化教育专家 https://github.com/JushBJJ/Mr.-Ranedeer-AI-Tutor 2.【动态】美国教育局:AI与教学未来 美国教育局最近发布的一份报告《AI与教学未来(Artificial Intelligence and the Future of Teaching and Learning)》,这份报告的核心是美国教育部将会使用AI技术改善教学和支持教育系统创新,但同时也必须应对预期的风险和可能的以外后果。 一些具体的建议: 并非让AI取代教师,还是要以学生和老师为中心 要让AI模型和教育的愿景对齐 要基于已经...

5.1 【AIGC应用】论文阅读

论文阅读 TXYZ https://txyz.ai 直接搜索文献编号,标题就能开始提问,快速阅读。 Humata https://app.humata.ai 风声雨声 https://fsys.app 让 AI 帮你阅读和解惑,翻译,帮你写。 【案例】:“Ranedeer先生”灵感思想之树论文 https://arxiv.org/pdf/2305.10601.pdf prompt示例: 论文主要做了什么? 为什么会选择这个课题进行研究? 本论文的意义和目的是什么?(理论意义+实践意义) 论文的框架和逻辑是如何安排的? 论文存在哪些不完备或未解决的? 论文有什么创新点? 论文的主要研究...

4.6 prompt相关资源

1. OpenAI Cookbook https://github.com/openai/openai-cookbook#related-resources-from-around-the-web 1.1 提示库和工具 指导:微软的一个看起来很方便的Python库,它使用Handlebars模板来交错生成、提示和逻辑控制。 LangChain:一个流行的Python/JavaScript库,用于链接语言模型提示的序列。 FLAML(自动机器学习和调优的快速库):用于自动选择模型、超参数和其他可调选项的Python库。 Chainlit:用于制作聊天机器人接口的Python库。 Guardra...

4.7.1 【markdown】为什么要学?

为什么要学markdown? 用一个游戏来示例 prompt: 你将要与我进行五子棋对弈。我们将轮流进行运动,并在每次运动后交换写下我们的棋子位置。我将使用黑色棋子(x),你将使用白色棋子(o)。请记住,我们是竞争对手,所以以请不要解释你的举动。在你取举行动之前,请先确保你在脑海中更新了棋盘状态。以markdown形式恢复最新的棋盘。我将首创开始,我的第一步是 5,5。 本身就是排版 chatgpt默认就支持markdown 显示图片的prompt: 请按以下规则给我发送图片: 1.使用markdown格式; 2.使用unsplash API; 3.使用" ![image](h...

prompt框架和实践案例

从实践来看,GPT-4 是最佳选择, Claude 模型能力次之, GPT-3.5 勉强可用。 若有条件,推荐使用 GPT-4 。出于节约成本和服务可访问性的考虑,可能许多朋友需要使用 GPT-3.5 模型。 在模型能力允许的情况下,可以先用GPT-4来生成结构化的prompt( prompt例子1:prompt工程师 ),然后在GPT-3.5里面使用结构化prompt。同时,依据 prompt 表现,不断修改调优你的提示词。 这样的确能提高 Prompt 性能,但是在不符合你的实际需要时,仍然需要使用各种方法调试修改 Prompt。 通用prompt框架 CRISPE 框架: 来源:http...

4.3 【prompt教程6】系统地测试更改

系统地测试更改 如果你能测量它,提高性能就更容易了。在某些情况下,对提示的修改将在一些孤立的例子中实现更好的性能,但在一组更具代表性的例子上会导致整体表现更差。因此,为了确保变化对性能是净正的,可能需要定义一个全面的测试套件(也称为“评估”)。 有时很难判断变化——例如,新指令或新设计——是否使您的系统变得更好或更糟。看几个例子可能会暗示哪个更好,但样本量小,很难区分真正的改进或随机运气。也许这种变化有助于一些输入的性能,但损害了其他输入的性能。 参考黄金标准答案评估模型输出 假设知道一个问题的正确答案应该参考一组特定的已知事实。然后,我们可以使用模型查询来计算答案中包含多少必要的事实。 较...

4.3 【prompt教程5】使用外部工具

使用外部工具 通过向GPT提供其他工具的输出来补偿GPT的弱点。例如,文本检索系统可以告诉GPT相关文档。代码执行引擎可以帮助GPT进行数学和运行代码。如果一项任务可以通过工具而不是GPT更可靠或高效地完成,请卸载它以充分利用两者。 使用基于嵌入的搜索来实现高效的知识检索 如果作为其输入的一部分提供,模型可以利用外部信息来源。这可以帮助模型产生更明智和最新的响应。例如,如果用户询问有关特定电影的问题,则在模型的输入中添加有关电影的高质量信息(例如演员、导演等)可能是有用的。嵌入可用于实现高效的知识检索,以便在运行时动态地将相关信息添加到模型输入中。 文本嵌入是一种可以测量文本字符串之间相关性的...

4.3 【prompt教程4】给GPT时间“思考”

给GPT时间“思考” 如果要求将17乘以28,你可能不会立即知道,但仍然可以随着时间的推移而解决。同样,GPT在试图立即回答时会犯更多的推理错误,而不是花时间来找出答案。在答案之前询问一连串的推理可以帮助GPT更可靠地找到正确答案。 1 在匆忙得出结论之前,指示模型制定自己的解决方案 有时,当我们在得出结论之前明确指示模型从第一原则进行推理时,我们会得到更好的结果。例如,假设我们想要一个模型来评估学生对数学问题的解决方案。最明显的方法是简单地询问模型学生的解决方案是否正确。 较糟糕的例子:“一个人从10米高的楼顶掉下来,他会受伤吗?” 较好的例子:“请制定一个模型与解决方案,来确定一个人从...

4.3 【prompt教程3】将复杂的任务拆分为更简单的子任务

将复杂的任务拆分为更简单的子任务 正如软件工程中将复杂系统分解为一组模块化组件的良好做法一样,提交给GPT的任务也是如此。复杂的任务往往比简单的任务具有更高的错误率。此外,复杂的任务通常可以重新定义为更简单任务的工作流程,其中使用早期任务的输出来构建后续任务的输入。 1. 使用意图分类来识别与用户查询最相关的说明 对于需要大量独立指令集来处理不同情况的任务,首先对查询类型进行分类并使用该分类来确定需要哪些指令是有益的。这可以通过定义与处理给定类别中的任务相关的固定类别和硬编码指令来实现。这个过程也可以递归地应用于将任务分解成一系列阶段。这种方法的优点是,与使用单个查询执行整个任务相比,每个查询...

4.3 【prompt教程2】提供参考文本

提供参考文本 GPT可以自信地发明假答案,特别是当被问及深奥的话题或引用和URL时。就像一张笔记可以帮助学生在测试中做得更好一样,为GPT提供参考文本可以帮助以更少的捏造来回答。 1 指导模型使用参考文本回答 如果我们能提供一个具有与当前查询相关的可信信息的模型,那么我们可以指示模型使用提供的信息来编写其答案。 较糟糕的例子:“告诉我关于光纤的事情” 较好的例子:“根据这篇文章[光纤链接],请说明光纤的基本原理和优点。” 2 指导模型用参考文本中的引文来回答 如果输入已经用相关知识补充,那么直接要求模型通过引用所提供文件中的段落在其答案中添加引文。请注意,输出中的引文可以通过在提供的文...