diff --git "a/rag.html" "b/rag.html" new file mode 100644--- /dev/null +++ "b/rag.html" @@ -0,0 +1,2208 @@ + + + + + + + + + + + + + + + + + + 大模型入门到进阶：什么是 RAG？为什么需要 RAG？RAG 的流程_大模型rag-CSDN博客 + + + + + + + + + + + + + + + + + + + + + +
+ + + + + + + + + +
+
+ +
+ +
+
+
+
+

大模型入门到进阶：什么是 RAG？为什么需要 RAG？RAG 的流程

+
+
+
+ +
+ + + 已于 2024-09-12 12:54:37 修改 +
+ + 阅读量5k + + + + 收藏 + + 25 + + +
+ + + 点赞数 + 22 + +
+
+
+
+
+
+ 文章标签： + 人工智能 + 大模型 + AI大模型 + ai + 大模型入门 + RAG + 学习 +
+
+
于 2024-08-14 09:49:08 首次发布
+
+
+
+ 版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。 +
+
+ 本文链接：https://blog.csdn.net/star_nwe/article/details/141174167 +
+
+
+ +
+ 版权 +
+
+
+ +
+
+
+
+ + + +
+ + + +

一、什么是 RAG？

+

RAG 全称 Retrieval-Augmented Generation，翻译成中文是检索增强生成。检索指的是检索外部知识库，增强生成指的是将检索到的知识送给大语言模型以此来优化大模型的生成结果，使得大模型在生成更精确、更贴合上下文答案的同时，也能有效减少产生误导性信息的可能。

+

二、为什么需要 RAG？

+

之所以需要 RAG，是因为大语言模型本身存在一些局限性。

+

1.时效性

+

模型的训练是基于截至某一时间点之前的数据集完成的。这意味着在该时间点之后发生的任何事件、新发现、新趋势或数据更新都不会反映在模型的知识库中。例如，我的训练数据在 2023 年底截止，之后发生的事情我都无法了解。另外，大型模型的训练涉及巨大的计算资源和时间。这导致频繁更新模型以包括最新信息是不现实的，尤其是在资源有限的情况下。

+

2.覆盖性

+

虽然大模型的训练数据集非常庞大，但仍可能无法涵盖所有领域的知识或特定领域的深度信息。例如，某些专业的医学、法律或技术问题可能只在特定的文献中被详细讨论，而这些文献可能未被包括在模型的训练数据中。另外，对于一些私有数据集，也是没有被包含在训练数据中的。当我们问的问题的答案没有包含在大模型的训练数据集中时，这时候大模型在回答问题时便会出现幻觉，答案也就缺乏可信度。

+

由于以上的一些局限性，大模型可能会生成虚假信息。为了解决这个问题，需要给大模型外挂一个知识库，这样大模型在回答问题时便可以参考外挂知识库中的知识，也就是 RAG 要做的事情。

+

三、RAG 的流程

+

RAG 的中文名称是检索增强生成，从字面意思来理解，包含三个检索、增强和生成三个过程。

+
  • 检索：根据用户的查询内容，从外挂知识库获取相关信息。具体来说，就是将用户的查询通过嵌入模型转换成向量，以便与向量数据库中存储的知识相关的向量进行比对。通过相似性搜索，从向量数据库中找出最匹配的前 K 个数据。
  • 增强：将用户的查询内容和检索到的相关知识一起嵌入到一个预设的提示词模板中。
  • 生成：将经过检索增强的提示词内容输入到大语言模型（LLM）中，以此生成所需的输出。 流程图如下所示：
    在这里插入图片描述
+

简单示例

+

在下面这个简单示例中，我们使用 Elasticsearch 作为存储向量的数据库。使用讯飞的星火大模型来进行问题的回答。具体代码如下：连接本地的 Elasticsearch 数据库

+
import os
+from elasticsearch import Elasticsearch
+from dotenv import load_dotenv
+
+
+load_dotenv()
+
+client = Elasticsearch(
+    "https://localhost:9200",
+    ssl_assert_fingerprint=os.environ["CERT_FINGERPRINT"],
+    basic_auth=("elastic", os.environ["ELASTIC_PASSWORD"])
+)
+
+

加载向量模型

+
from sentence_transformers import SentenceTransformer
+
+model = SentenceTransformer("./stella-base-zh-v3-1792d")
+
+

创建索引

+
client.indices.create(index = "rag_tutorial_vector_index",
+                      mappings = {
+                          'properties': {
+                              'embedding': {
+                                  'type': 'dense_vector'
+                              }
+                          }
+                      })
+
+

读取本地的文本文件并进行切分，然后向索引中添加数据

+
from langchain.text_splitter import RecursiveCharacterTextSplitter
+
+with open("patent.txt", "r") as fp:
+    text = fp.read()
+    
+    text_splitter = RecursiveCharacterTextSplitter(chunk_size = 200, chunk_overlap=50)
+    chunks = text_splitter.create_documents([text])
+    doc = {}
+    
+    for doc_id, chunk in enumerate(chunks):
+        chunk_embedding = model.encode(chunk.page_content, normalize_embeddings=True)
+        doc['text'] = chunk.page_content
+        client.index(
+            index = "rag_tutorial_vector_index",
+            id = doc_id,
+            document = {
+                **doc,
+                "embedding": chunk_embedding
+            }
+        )
+
+

使用查询从向量数据库中检索数据

+
query = "本次专利法修改对于更好地鼓励医药产业创新，有哪些新规定？"
+query_embedding = model.encode(query, normalize_embeddings=True)
+
+resp_vector = client.search(
+    knn = {
+        'field': 'embedding',
+        'query_vector': query_embedding,
+        'num_candidates': 10,
+        'k': 3
+    },
+    min_score = 0.8,
+    size = 3,
+    index = 'rag_tutorial_vector_index'
+)
+
+

将检索的结果进行汇总

+
retrieval_content = ""
+for hit in resp_vector['hits']['hits']:
+    retrieval_content += hit['_source']['text']
+
+

将检索到的结果送到星火大模型，并输出结果

+
import os
+from sparkai.llm.llm import ChatSparkLLM, ChunkPrintHandler
+from sparkai.core.messages import ChatMessage
+from dotenv import load_dotenv
+
+
+load_dotenv()
+
+if __name__ == '__main__':
+    spark = ChatSparkLLM(
+        spark_api_url=os.environ["SPARKAI_URL"],
+        spark_app_id=os.environ["SPARKAI_APP_ID"],
+        spark_api_key=os.environ["SPARKAI_API_KEY"],
+        spark_api_secret=os.environ["SPARKAI_API_SECRET"],
+        spark_llm_domain=os.environ["SPARKAI_DOMAIN"],
+        streaming=False,
+    )
+    
+    prompt = f"""
+              你是一个善于回答问题的助手。请使用以下提供的检索内容和自身知识来回答问题。如果你不知道答案，请直接说不知道，不要杜撰答案。请用三句话以内回答，保持简洁。
+
+              问题：{query}
+
+              检索内容：{retrieval_content}
+              """
+    
+    messages = [ChatMessage(
+        role = "user",
+        content = prompt
+    )]
+    handler = ChunkPrintHandler()
+    a = spark.generate([messages], callbacks=[handler])
+    print(a.generations[0][0].text)
+
+
+

本文从大模型的局限性切入，探讨了检索增强生成架构的核心机制及其带来的好处。RAG 通过结合检索和生成能力，能从外部知识库搜索相关信息，生成更准确的回应，有效克服了大模型在知识更新上的短板。

+
+
+

最后

+

学习AI大模型是一个系统的过程，需要从基础开始，逐步深入到更高级的技术。

+

这里给大家精心整理了一份全面的AI大模型学习资源，包括：AI大模型全套学习路线图（从入门到实战）、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频，免费分享！

+

+

一、大模型全套的学习路线

+
+

L1级别：AI大模型时代的华丽登场
L2级别：AI大模型API应用开发工程
L3级别：大模型应用架构进阶实践
L4级别：大模型微调与私有化部署

+
+

在这里插入图片描述

+

达到L4级别也就意味着你具备了在大多数技术岗位上胜任的能力，想要达到顶尖水平，可能还需要更多的专业技能和实战经验。

+

二、640套AI大模型报告合集

+

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

+

在这里插入图片描述

+

三、大模型经典PDF书籍

+

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

+

在这里插入图片描述

+

四、AI大模型商业化落地方案

+

在这里插入图片描述

+

作为普通人在大模型时代，需要不断提升自己的技术和认知水平，同时还需要具备责任感和伦理意识，为人工智能的健康发展贡献力量。

+

有需要全套的AI大模型学习资源的小伙伴，可以微信扫描下方CSDN官方认证二维码，免费领取【保证100%免费】

+


如有侵权，请联系删除。

+
+ + +
+
+ +
+
+
+
+
+ + + AI老猴子 + + +
+
+ 关注 + +
+
+
+ +
+
+
+
+
+ + +
+
+
+ +
+
+
+
+
+ +
基于 RAG 和大模型的工程实战:环境配置
+ +
+
+
+ tyler_download的专栏 +
+
+ 11-05 + + 200 + +
+
+
+
+ +
文本给出了实现 基于 RAG 和大模型的工程环境配置
+ +
+
+
+
+ + +
+ +
+
+
+
+ +
大模型微调和RAG的应用场景
+
热门推荐
+ +
+
+
+ herosunly的博客 +
+
+ 06-19 + + 14万+ + +
+
+
+
+ +
本文主要介绍了大模型微调和RAG的应用场景，希望对学习大语言模型的同学们有所帮助。 + +文章目录 + +1. 前言 + +2. 大模型微调 vs. RAG
+ +
+
+
+
+
+
+
+ +
一文彻底搞懂大模型 - RAG（检索、增强、生成）
+
最新发布
+ +
+
+
+ lvaolan168的博客 +
+
+ 12-11 + + 1754 + +
+
+
+
+ +
RAG（Retrieval-Augmented Generation，检索增强生成） 是一种结合了信息检索技术与语言生成模型的人工智能技术。该技术通过从外部知识库中检索相关信息，并将其作为提示（Prompt）输入给大型语言模型（LLMs），以增强模型处理知识密集型任务的能力，如问答、文本摘要、内容生成等。RAG模型由Facebook AI Research（FAIR）团队于2020年首次提出，并迅速成为大模型应用中的热门方案。前排提示，文末有大模型AGI-CSDN独家资料包哦！一、检索增强生成（RAG）什么
+ +
+
+
+
+ +
+
+
+
+
+ +
大模型学习笔记五：RAG
+ +
+
+
+ 谢白羽 +
+
+ 03-04 + + 1796 + +
+
+
+
+ +
1、LLM 的知识不是实时的2、LLM 可能不知道你私有的领域/业务知识搭建过程：1、文档加载，并按一定条件切割成片段2、将切割的文本片段灌入检索引擎3、封装检索接口4、构建调用流程：Query -> 检索 -> Prompt -> LLM -> 回复1、文档加载2、文档切分3、向量化4、灌入向量数据库。
+ +
+
+
+
+
+
+
+ +
大模型系列——解读RAG
+ +
+
+
+ 我相信...... +
+
+ 02-04 + + 2646 + +
+
+
+
+ +
RAG 是2023年最流行的基于 LLM 的应用系统架构。有许多产品几乎完全建立在 RAG 之上，覆盖了结合网络搜索引擎和 LLM 的问答服务，到成千上万个数据聊天的应用程序。很多人将RAG和Agent 作为大模型应用的两种主流架构，但什么是RAG呢？RAG又涉及了哪些具体的技术呢？1. 什么是RAGRAG即检索增强生成，为 LLM 提供了从某些数据源检索到的信息，并基于此修正生成的答案。RAG ...
+ +
+
+
+
+
+
+
+ +
大模型技术知识点：RAG
+ +
+
+
+ h1453586413的博客 +
+
+ 06-18 + + 1997 + +
+
+
+
+ +
RAG的核心思想是让语言模型在生成回答或文本时能够动态地从外部知识库中检索相关信息。这种方法能够提高模型生成内容的准确性、可靠性和透明度，同时减少“幻觉”（即模型生成看似合理但实际上错误的信息）。
+ +
+
+
+
+
+
+
+ +
一文读懂：大模型RAG（检索增强生成）
+ +
+
+
+ m0_59164304的博客 +
+
+ 04-11 + + 1万+ + +
+
+
+
+ +
本文概述 RAG 的核心算法，并举例说明其中的一些方法。RAG融合是一个强大的功能，能够提高RAG应用的语义搜索效率。通过使用语言模型生成多个查询并对搜索结果进行重新排序，RAG融合可以呈现更丰富多样的内容，并提供了一个额外的层次，用于调整应用。此外，RAG融合还可以实现自动纠正、节省成本以及增加内容多样性。但是，需要注意一些权衡，比如潜在的延迟问题、自动纠正的挑战以及成本影响。对于依赖常见概念但可能出现内部行话或重叠词汇的应用来说，RAG融合尤其有用。
+ +
+
+
+
+
+
+
+ +
一文带你了解大模型的RAG(检索增强生成) | 概念理论介绍+ 代码实操（含源码）
+ +
+
+
+ 机器学习社区 +
+
+ 12-30 + + 2万+ + +
+
+
+
+ +
RAG的全称是Retrieval-Augmented Generation，中文翻译为检索增强生成。它是一个为大模型提供外部知识源的概念，这使它们能够生成准确且符合上下文的答案，同时能够减少模型幻觉。本文介绍了 RAG 的概念及其背后的一些理论，本文通过Python、LangChain将其实现，在此过程中使用了 OpenAI的ChatGPT接口（可以自己搭建chatGLM3）、Weaviate矢量数据库（可以自己搭建Milvus ）、OpenAI 嵌入模型实现了 RAG 管道。
+ +
+
+
+
+
+
+
+ +
大模型应用开发：RAG入门与实战-札记PDF
+ +
+
+
+ 12-10 +
+
+
+
+ +
本书《大模型应用开发:RAG入门与实战》针对近年来蓬勃发展的检索增强生成技术，旨在帮助读者快速入门并掌握RAG应用开发的核心技能。 内容涵盖了RAG的基础概念、核心技术以及实际应用场景。初学者将通过本书学习RAG与...
+ +
+
+
+
+
+
+
+ +
AIGC 知识：什么是 RAG? 如何使用 RAG 技术帮助我们制作自己的智能客户服务
+ +
+
+
+ surfirst的博客 +
+
+ 02-17 + + 2162 + +
+
+
+
+ +
本文介绍了什么是 RAG 以及以查找商场停车位为例看如何通过 RAG 使用用户提供的资料来增强 AIGC 的结果。了解 RAG 可以帮助我们使用自己的资料结合 AIGC 实现我们自己的智能客服。
+ +
+
+
+
+
+
+
+ +
智能问答进阶之路：RAG(大模型检索增强生成)框架详解与实战，融合检索与生成助力智能系统更上层楼
+ +
+
+
+ 丨汀、的博客 +
+
+ 11-01 + + 3479 + +
+
+
+
+ +
智能问答进阶之路：RAG(大模型检索增强生成)框架详解与实战，融合检索与生成助力智能系统更上层楼
+ +
+
+
+
+
+
+
+ +
【大模型】大模型RAG检索增强生成技术使用详解
+ +
+
+
+ congge +
+
+ 11-17 + + 3909 + +
+
+
+
+ +
大模型RAG检索增强生成技术使用详解
+ +
+
+
+
+
+
+
+ +
用通俗易懂的方式讲解：一文详解大模型 RAG 模块
+ +
+
+
+ 2301_78285120的博客 +
+
+ 02-02 + + 8525 + +
+
+
+
+ +
RAG 技术是一种检索增强生成的方法，结合了大型语言模型和检索系统的优势，以提高生成内容的准确性、相关性和时效性。相比于仅依赖大型语言模型的生成，RAG技术可以从外部知识库中检索信息，避免了模型的幻觉问题，并提升了对实时性要求较高问题的处理能力。与传统的知识库问答系统相比，RAG技术更加灵活，可以处理非结构化的自然语言文本。RAG并非旨在取代已有的知识库问答系统，而是作为一种补充，强调实时性和准确性，并且通过结合生成和检索机制来提升自然语言处理任务的效果。增强数据获取。
+ +
+
+
+
+
+
+
+ +
大模型中的RAG指的是什么？
+ +
+
+
+ 金木AI +
+
+ 03-25 + + 3636 + +
+
+
+
+ +
2、生成阶段（Generation）： 在这一阶段，RAG模型使用生成模型来基于检索到的信息和给定的上下文生成文本。生成模型根据检索到的信息和上下文生成连贯、相关的文本。它的工作原理是结合了检索模型和生成模型的优点，以解决文本生成中的一些挑战和问题。通过将检索和生成两种技术结合在一起，RAG模型能够利用大规模语料库中的信息来指导文本生成过程，从而提高生成文本的质量、相关���和多样性。1、检索阶段（Retrieval）： 在这一阶段，RAG模型使用检索技术从大型文本语料库中检索与给定上下文相关的信息或段落。
+ +
+
+
+
+
+
+
+ +
5分搞懂大模型 - RAG（检索、增强、生成）
+ +
+
+
+ 2401_85327249的博客 +
+
+ 09-01 + + 3284 + +
+
+
+
+ +
RAG（Retrieval-Augmented Generation，检索增强生成） 是一种结合了信息检索技术与语言生成模型的人工智能技术。该技术通过从外部知识库中检索相关信息，并将其作为提示（Prompt）输入给大型语言模型（LLMs），以增强模型处理知识密集型任务的能力，如问答、文本摘要、内容生成等。RAG模型由Facebook AI Research（FAIR）团队于2020年首次提出，并迅速成为大模型应用中的热门方案。
+ +
+
+
+
+
+
+
+ +
大模型RAG从入门到精通（非常详细）看这篇就够了，草履虫都能轻松看懂！！！
+ +
+
+
+ EnjoyEDU的博客 +
+
+ 08-08 + + 1402 + +
+
+
+
+ +
在RAG系统的实际应用中，需要工程和算法等的多方参与和努力，理论上有很多方法，在实践的过程中我觉得还需要大量的实验对比，不断验证和优化，也可能会遇到许多细节问题，比如可想到的异构数据源的加载和处理啊，知识的展示形态(文本、图片、表格)等是否能一起回答，提升下用户体验，以及建立一套自动化的评估机制，当然还有模型的持续迭代和大小模型的训练支持。作为一名热心肠的互联网老兵，我决定把宝贵的AI知识分享给大家。具体来说，设计了一个轻量级的检索评估器来评估检索到的文档的整体质量，并基于评估结果触发不同的知识检索操作。
+ +
+
+
+
+
+
+
+ +
为什么需要 RAG？
+ +
+
+
+ 明明如月的技术博客 +
+
+ 05-14 + + 758 + +
+
+
+
+ +
在大模型的应用中，尤其是行业大模型的实现方式中，RAG扮演着重要的角色。：RAG通过检索机制，能够灵活适应各种行业和场景的需求，尤其是对于那些需要大量专业知识和实时信息的应用场景，如金融分析、法律咨询等。：RAG能够根据不同的查询检索到不同的信息，为生成的内容提供个性化的背景和依据，促进内容创新和个性化。：RAG在生成响应前会先检索相关信息，这一过程为模型的决策提供了可追溯的依据，增强了模型的可解释性。：通过检索到的相关信息直接辅助生成，RAG可以减少模型需要生成的内容量，提高处理效率和响应速度。
+ +
+
+
+
+
+
+
+ +
大模型的RAG(检索增强生成) ----大模型外挂
+ +
+
+
+ cumtchw +
+
+ 04-19 + + 2311 + +
+
+
+
+ +
检索增强生成（RAG）是一个概念，也可以称为一种范式，它旨在为大语言模型（Large Language Model，LLM）提供额外的、来自外部知识源的信息。
+ +
+
+
+
+
+ +
+ + + +
+
+ +
+ +
+ +
+ +
+
+
+
+
+
+
+ 评论 +
+
+
+
+ + + +
+
+ +
+ +
+
+ 成就一亿技术人! +
+
+ 拼手气红包6.0元 +
+
+
+
+
+ 还能输入1000个字符 +
+
+   +
+
+
+ 红包 + 添加红包 +
+
+ 表情包 + 插入表情 +
+
+
+
+
+ 表情包 + 代码片 +
+ +
+
+
+ + + + + + + +
+
+
+
+
+
+
+
+
+  条评论被折叠 查看 +
+
+ +
+
+
+
+
被折叠的  条评论 + 为什么被折叠? + + 到【灌水乐园】发言 +
+
+ +
+
+
+
+
+ 添加红包 + +
+
+
+ +
+ + +
+

请填写红包祝福语或标题

+
+
+ +
+ + 个 +
+

红包个数最小为10个

+
+
+ +
+ + 元 +
+

红包金额最低5元

+
+
+ +
+ 当前余额3.43元 + 前往充值 > +
+
+
+
+ 需支付：10.00元 +
+ + +
+
+
+
+
+
+ + +
+
+ + +
+
+
+ +
+
+
+
+
+
+ +
成就一亿技术人!
+
+
+
+
+
+
+ 领取后你会自动成为博主和红包主的粉丝 + 规则 +
+
+
+
+
+
+ + + +
+
hope_wisdom
发出的红包 +
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
实付元
+
使用余额支付
+
+
+
+ + 点击重新获取 +
+
+
扫码支付
+
+
+ + + + + + +
+
+ + 钱包余额 + 0 +
+ +
+
+

抵扣说明：

+

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

+
+
+
+
+ 余额充值 +
+
+ +
+
+ + + + + + + + + + + + + + + + + + + + > + + + + + + \ No newline at end of file