标签：本地部署

RAG基础：Markdown指南 – 专业文档结构化的破局之道 当非结构化文档成为RAG的阿喀琉斯之踵 在金融、法律、医疗等专业领域，每天产生的PDF技术白皮书、Word版行业报告、PPT培训文档堆积如山。这些看似规范的专业文档，在RAG系统中却如同布满荆棘的迷宫——当我们尝试用LlamaIndex构建证券行业知识库时，发现PDF中的三线表格…

Awesome Domain LLM https://github.com/luban-agi/Awesome-Domain-LLM 自以ChatGPT为代表的大语言模型出现以后，掀起了新一轮研究和应用浪潮，出现了许多包括LLaMA、ChatGLM、Baichuan、Qwen等在内的通用模型。 随后，来自不同领域的从业人员在通用模型的基础上通过持续预训练/指令微调将其应用于垂直领域。 本项目旨在…

我是如何用Coze搭建乔尔事务所Bot的 [乔尔事务所]() Albert是乔尔事务所的第一个bot，这篇文章梳理了搭建bot的思路，内容大多来自于对Albert的采访，重新排版整理后穿插了一些设计过程中的想法。 为什么要制作Bot 知道Coze是在灵感买家俱乐部的买房群里看到饭团的推荐。上手还算比较简单，可以免费使用8k版本的GPT-4，入…

企业内部如何更好落地大模型 在微软推出 Copilot 后，工作场景中如何落地 LLM 很快成为业内关注的重点。钉钉、飞书等办公软件也快速在最新版本中集成 AI 功能。 对于软件企业而言，在已有的软件上增加 AI 功能，并带来新产值，已经被 Notion、多邻国等产品所验证。除此之外，在企业生产场景中，集成 LLM 的能力，并为企…

https://github.com/xlang-ai/OpenAgents/blob/main/README_ZH.md 当前的语言代理框架旨在促进构建概念证明语言智能体（Language Agent）的搭建，但是同时忽视了非专家用户的使用，对应用级设计也关注较少。 我们创建了OpenAgents，一个用于在日常生活中使用和托管语言智能体的开放平台。 我们现在在OpenAgents中实现了…

训练大模型，几千块就能实现了！ 现在， 15小时、几千块钱、85亿 token数据 ，即可训出中文LLaMA2。 综合性能达到开源社区同规模从头预训练SOTA模型水平。 方案 完全开源 ，包括全套训练流程、代码及权重。 而且 无商业限制 ，还可迁移应用到任意垂类领域和从头预训练大模型的低成本构建。 要知道，从头预训练大模型此前…

#AI开源项目推荐：examor 复习考试、准备面试的好帮手。 另类文档对话工具：借助AI把你的学习资料、学习笔记生成考试问题，然后你可以基于这些问题进行回复对话，AI对你的回复进行打分和点评。 https://github.com/codeacme17/examor

它能够根据自然语言提示和代码提示生成代码。 Code Llama还可以解释代码的功能或结构。例如，如果你给它一个复杂的代码片段，它可以用普通语言解释这段代码是做什么的。 Code Llama是基于Llama 2构建的，并提供了三个模型版本： Code Llama – 基础代码模型 Code Llama – Python – 专门针对Python进行优化 Code Llama – I…

从Auto-GPT说起 Auto-GPT可以调用本地电脑工具处理复杂信息; Auto-GPT可以围绕目标查阅资 料、“独立思考”、及时反馈、并 及时调整下一步操作… Auto-GPT的诞生，创造了大家 对“将LLM作为智慧大脑来高效 处理综合复杂任务”的想象; 首次尝试串联大语言模型的思维链，“chains together LLM “thoughts”，逐步 拆解任务并执行…

来源 ElfeXu [南瓜博士 ]() 2023-08-30 著名的 AI 全能导师 Mr. Ranedeer 的提示词中，有三条值得借鉴的技巧和两个要避开的坑。 *经验 1：用对格式 AI 记忆力和稳定性就能大幅提升 避坑 1：严谨的 json 表达会让 GPT 丢失一些创造力* 经验 2：对 AI 编程只需伪到极致的伪代码 经验 3：用 code interpreter 的内存大幅增…

机器之心报道 编辑：杜伟、陈萍 GPT-4：在代码生成这块，你们依然是「弟弟」。 今日，Meta 的开源 Llama 模型家族迎来了一位新成员 —— 专攻代码生成的基础模型 Code Llama。 作为 Llama 2 的代码专用版本，Code Llama 基于特定的代码数据集在其上进一步微调训练而成。 Meta 表示，Code Llama 的开源协议与 Llama 2 一样…

DoctorGPT是一个大型语言模型，可以通过美国医生执照考试。这是一个开源项目，其使命是为每个人提供自己的私人医生。DoctorGPT 是 Meta 的Llama2 70 亿参数大型语言模型的一个版本，它在医疗对话数据集上进行了微调，然后使用强化学习和宪法人工智能进一步改进。 由于该模型的大小只有 3 GB，因此它适合任何本地设备，因…