要点总结 #
生成式AI大模型结合知识库与AI Agent为知识挖掘带来了新的范式变革。随着大模型技术的快速发展，其在信息检索、知识抽取、知识发现等领域展现出巨大潜力。大模型不仅能够理解复杂的语义，还能通过结合外部知识库和AI Agent，自主细分知识挖掘任务，实现全流程的自主化和智能化。本文系统调研了大模型结合知识库与AI Agent的相关技术与工具，并通过实验验证了其在科技文献知识挖掘中的应用效果。
大模型作为逻辑中枢，结合知识库与AI Agent，能够链接领域知识与特定工具，自主完成知识挖掘任务。本文提出了基于检索增强生成（RAG）和思维链（Chain-of-Thought）的方法，结合LangChain等工具，构建了知识挖掘的技术框架。实验表明，大模型结合知识库与AI Agent在创新情报发现、技术先进性情报挖掘等任务中表现出色，能够显著提升知识挖掘的效率和精度。未来，随着AI Agent技术的进一步发展，知识挖掘将更加智能化和自动化。
关键要点 #
论文重要性 #
本文的研究为生成式AI大模型在情报领域的应用提供了新的思路和方法。随着大模型技术的快速发展，知识挖掘的效率和精度得到了显著提升，特别是在创新情报发现和技术先进性情报挖掘中展现出巨大潜力。本文提出的技术框架和方法不仅能够帮助情报工作者更高效地处理复杂任务，还为未来AI Agent在情报领域的广泛应用奠定了基础。未来研究可以进一步探索大模型与知识库的深度结合，以及AI Agent在更多场景下的应用潜力。
图表分析 #
RAG 方法与模型调整 #
🔼 该图展示了在利用大型语言模型进行知识挖掘时，几种主要方法的比较。图中主要对比了微调（Fine-Tuning）、提示工程（Prompt Engineering）和检索增强生成（Retrieval-Augmented Generation, RAG）三种方法在模型调整和外部知识需求方面的差异。微调方法需要对模型本身进行大量的参数调整，且不依赖外部知识。相反，提示工程方法依赖丰富的上下文信息，通过优化提示词来引导模型输出，而不需要更改模型参数。RAG方法则结合了前两者的优点，它既不改变模型参数，又通过检索外部知识库来增强模型的理解和生成能力。通过外部知识库的实时更新和维护，RAG能够更灵活地适应不断变化的外部信息。图中还显示，微调方法在资源开销上通常较大，需要大量的算力和人力成本，而提示工程和RAG方法则更为轻量、灵活和经济。RAG方法本质上是基于提示工程的，它结合了检索和生成两个子任务，形成一个系统工程方案。这些方法在模型调整上的差异对于如何有效地利用大型语言模型进行知识挖掘具有重要的指导意义，也说明了在不同的应用场景下，选择合适的方法是非常关键的。在实际应用中，三种方法的融合可以最大化地发挥大模型的性能。
更多图表分析
大模型赋能知识挖掘流程图 #
🔼 图1展示了大模型在知识挖掘中的不同应用方法，以及对外部知识的需求差异。微调（Fine-Tuning）方法通过修改模型本身的参数权重，使其适应特定领域的信息，但计算成本高昂，需要大量的算力支持和技术专业知识。相比之下，提示工程（Prompt Engineering）和检索增强生成（Retrieval-Augmented Generation，RAG）方法则更加轻量、灵活和经济。提示工程通过优化输入提示词来引导大模型生成所需结果，而RAG方法则结合了外部知识源，通过动态检索相关信息来辅助大模型作答，从而减少“幻觉”问题，即大模型生成不真实或不准确的信息。RAG方法本质上是基于提示工程，并结合了检索和生成两个子任务的一种系统工程方案。图中明确指出了微调对模型本身有调整，而提示工程和RAG方法更多的是利用外部知识。总的来说，图中传递了选择合适方法的重要性，在资源有限的情况下，提示工程和RAG是更佳的选择，而在资源充足的情况下，三者融合则能最大化地发挥大模型的性能。这个图为理解大模型在知识挖掘中的应用提供了清晰的视觉框架，有助于读者根据实际情况选择合适的方法。
RAG方法与知识库的关系 #
🔼 这张图（图1）直观地对比了微调（Fine-Tuning）、提示工程（Prompt Engineering）和检索增强生成（RAG）这三种方法在调整大模型以及对外部知识依赖上的差异。微调方法通过修改模型自身的参数权重来实现知识的更新或适配，这是一种资源密集型的方法，需要大量的计算资源和专业知识。相比之下，提示工程和RAG方法更加轻量、灵活，并且对外部知识的依赖程度较高。提示工程通过优化输入给模型的指令来引导生成，而RAG则是在此基础上增加了从外部知识源检索信息的过程。从图中可以看出，微调方法直接修改模型内部参数，使其包含特定领域的知识，这种方法需要对模型进行重新训练，成本较高。提示工程方法则侧重于通过精心设计的提示词引导模型产生期望的输出，无需修改模型参数，因此较为灵活。RAG方法则结合了检索和生成两个步骤，通过从外部知识库中检索相关信息，增强模型生成结果的准确性和相关性。图中强调了RAG方法在利用外部知识方面的优势，同时指出它在资源开销、灵活性和可控性方面优于微调。这三种方法在实际应用中可以根据具体情况选择，在资源充足的情况下，三者融合可以最大化发挥大模型的性能。总而言之，此图的核心在于阐述RAG方法相对于微调的优势，并强调了它在结合提示工程的情况下，能够有效利用外部知识，从而提升模型性能，更适用于知识密集型任务，以及资源受限的场景。
大模型优化策略对比 #
🔼 该图是一个二维坐标图，展示了大模型优化策略的对比。横轴代表对模型的调整程度，从左到右表示调整程度逐渐增大；纵轴代表对知识的需求程度，从下到上表示需求逐渐增高。图中包含四个象限，每个象限代表一种不同的优化策略。第一象限是“提示工程（Prompt Engineering）”，它对模型的调整程度较低，对知识的需求也较低。第二象限是“微调（fine-tuning）”，它对模型的调整程度较高，但对知识的需求较低。第三象限是“检索增强生成（RAG）”，它对模型的调整程度较低，但对知识的需求较高。第四象限是“应用全部”，表示同时需要较高的模型调整和较高的知识需求。该图旨在说明，不同的优化策略在对模型和知识的需求上存在差异，应根据实际情况选择合适的策略。例如，在知识密集型任务中，RAG 策略可能更合适；而在需要模型具备特定领域知识时，则可能需要微调。图中的箭头表明，在需要对模型调整程度较低，而对知识需求程度较高的情况下，可以采用检索增强生成的方式，通过引入外部知识来弥补大模型自身知识的不足。此外，该图也强调了大模型的优化是一个多维度的过程，需要在模型调整和知识需求之间进行权衡，以达到最优效果。
检索增强生成（RAG）流程图 #
🔼 该图展示了检索增强生成（RAG）的基本流程，这是一种结合了检索和生成模型的技术，用于增强大型语言模型在知识密集型任务中的性能。流程开始于（1）加载文档，将原始文档进行预处理，然后（2）生成文档块，将文档分割成更小的文本片段，便于后续处理。接着，（3）向量化文档块，使用嵌入模型将文本块转化为向量表示，这些向量可以捕捉文本的语义信息。（4）将带有文档块ID的向量嵌入存储到向量数据库中，以便快速检索。 当用户提出问题时，（5）系统首先向量化问题，将其转化为向量表示，然后在（6）使用问题嵌入向量从向量数据库中检索相关的文档块ID。接着，（7）系统根据检索到的文档块ID，从存储中获取相应的文档文本块。最后，（8）系统将原始问题和检索到的相关文档块输入到大型语言模型中，生成最终的答案，（9）输出答案。
这个流程的核心思想是通过外部知识库来增强大型语言模型的生成能力，减少幻觉问题，提高答案的准确性和相关性。相比于微调模型，RAG方法更加灵活，可以动态更新外部知识库，并适用于各种知识密集型任务。图中的各个步骤清晰地展示了数据处理的流程，包括文档的加载和处理、向量化、存储、检索以及最后答案的生成。这个流程图可以帮助读者理解RAG技术的核心原理及其在实际应用中的运作方式。
大模型与知识库结合方法差异 #
🔼 该图对比了微调、提示工程和RAG（检索增强生成）三种方法在利用大型语言模型（LLM）进行知识挖掘时的差异。微调需要大量的计算资源和专业知识，它通过修改模型本身的参数权重来适应特定领域的信息，从而使模型能够直接产生训练数据中蕴含的知识。而提示工程和RAG方法则更加轻量、灵活且经济，它们不改变模型参数，而是通过丰富输入的上下文信息来实现。提示工程侧重于设计有效的输入提示，以引导模型生成期望的结果；RAG则进一步结合了检索器和生成器模块，允许模型从外部知识源动态检索相关信息，从而提高回应的准确性和相关性。RAG本质上是基于提示工程，结合了检索和生成两个子任务的系统工程方案。该图直观地展示了这三种方法在模型调整和外部知识需求上的区别，强调了在资源有限的情况下，提示工程和RAG方法的优势，以及在条件允许时，三者融合以最大化发挥大模型性能的潜力。该图有助于读者理解不同知识增强方法的原理和适用场景，为后续选择合适的方法进行知识挖掘提供了参考。
RAG结果示例 #
🔼 该图展示了一个基于检索增强生成（RAG）的知识库匹配结果示例，展示了如何利用外部知识来增强大语言模型（LLM）的问答能力。图中内容主要围绕深度学习加速芯片的优化策略，强调了预加载工作流在协同处理系统和可编程逻辑中的作用，以及通过降低延迟和功耗来优化系统性能。具体而言，图中提到了两个主要的优化策略：一是利用Roofline模型对深度可分离卷积进行分析，并提出包括可准费共享PE、可调节循环次数和通道增强预加载工作流等措施的DNN加速芯片优化；二是针对深度学习任务，提出可堆叠共享PE、可调节循环次数和通道增强预加载工作流等优化，并在FPGA验证中取得了显著效果，从而降低功耗，应对电力短缺问题。这些信息是通过RAG技术从外部知识库中检索出来的，并作为上下文提供给大模型，使得模型能够生成更具体、更准确的回答。相比于直接使用大模型进行问答，RAG方法通过引入外部知识，有效地提升了回答的质量和信息量，减少了模型产生“幻觉”的可能。这种方式将模型本身的知识与外部的专业知识相结合，使得大模型在特定领域知识挖掘方面更有优势。从图中的结果可以看出，RAG能够检索出与问题高度相关的知识片段，从而支持大模型生成更为专业的解答。这对于需要精确领域知识的应用场景，例如科技情报分析，具有很高的价值。此外，RAG方法的模块化设计也使其更易于维护和更新，通过调整检索器和外部知识库，可以灵活地适应不断变化的信息需求。
RAG方法与微调方法对比 #
🔼 图1展示了微调（Fine-Tuning）、提示工程（Prompt Engineering）和检索增强生成（RAG）这三种方法在模型调整和外部知识需求方面的差异。微调通过修改模型本身的参数权重来实现知识的更新和适应，这是一种计算密集型且资源消耗较大的方法，需要大量的算力和专业知识。相比之下，提示工程和RAG方法则更为轻量级、灵活、可控和经济，它们不改变模型本身的参数，而是通过丰富输入上下文信息来实现知识的利用和整合。提示工程侧重于优化输入指令以引导模型生成期望的输出，而RAG则结合了检索和生成两个子任务，从外部知识源动态检索相关信息，以辅助大模型作答。RAG方法能够显著提高回应的准确性和相关性，并减少幻觉问题。图中还指出，在有条件的情况下，三种方法的融合可以最大化地发挥大模型性能。微调需要大量的算力资源和专业知识，因此成本较高，而提示工程和RAG方法相对简单且资源消耗较少。因此，在实际应用中，选择哪种方法取决于具体的任务需求、资源限制和技术能力。总而言之，图1清晰地对比了三种方法的特点和适用场景，为大模型应用开发提供了有价值的参考。
深度解读 #
大模型赋能 #
大模型在知识挖掘中的应用展现了其强大的语义理解和泛化能力。论文指出，大模型不仅能够处理传统的知识挖掘任务，如文本分类、语义检索等，还能通过其通用性和泛化性，优化甚至重构知识挖掘的工作流程。大模型的核心优势在于其能够结合外部知识库和特定工具，自主细分任务并实现全流程的自动化和智能化。然而，大模型并非完全替代传统方法，而是通过其强大的辅助能力，减少人工干预，提升工作效率。大模型的知识理解能力，尤其是其上下文学习、指令遵循和逐步推理能力，使其能够处理复杂的逻辑推理任务。此外，大模型与传统知识挖掘方法的结合，不仅体现在其可以直接应用于特定任务，还体现在其能够通过代码生成和微调等方式，优化传统算法的执行效果。未来，大模型在情报领域的应用将进一步深化，尤其是在跨学科、跨领域的知识发现中，大模型的潜力将得到更充分的发挥。
知识库结合 #
大模型与知识库的结合是知识挖掘领域的重要创新。论文提出了三种结合方式：一是通过大模型理解和加工知识库的知识，构建知识问答与推理应用；二是借助知识库资源对大模型进行二次训练与微调，使其更适用于特定业务场景；三是利用大模型提升知识库的质量和广度。检索增强生成（RAG） 是一种灵活的方法，通过结合大模型与外部知识源，动态检索相关信息，减少大模型在生成过程中的“幻觉”问题。RAG的优势在于其轻量、灵活且经济，能够显著提高知识密集型任务的准确性和相关性。此外，论文还探讨了文本向量化模型与向量存储、大模型与文档知识库、关系型/非关系型数据库以及知识图谱的结合方式。大模型与知识库的结合不仅提升了知识挖掘的效率，还为跨领域、跨学科的知识发现提供了新的可能性。
AI Agent应用 #
AI Agent 的引入为知识挖掘带来了全新的智能化解决方案。AI Agent 的核心思想是通过大模型驱动，具备自主感知、规划、记忆和使用工具的能力，能够自动化执行复杂任务。论文详细介绍了 AI Agent 的四个主要模块：记忆、规划、工具使用和行动。记忆模块 依赖于外部知识库，构建长期记忆；规划模块 则通过任务细分和策略制定，优化任务执行流程；工具使用模块 通过调用外部 API 或其他工具，弥补大模型的不足；行动模块 则负责执行决策，完成最终任务。AI Agent 的应用场景广泛，尤其是在创新情报发现和技术先进性情报挖掘中，AI Agent 能够实现从文献检索到技术指标抽取的全流程自动化。未来，AI Agent 的进一步发展将依赖于大模型与知识库的深度融合，以及多智能体协同工作的能力。
创新情报挖掘 #
创新情报挖掘是大模型结合知识库与 AI Agent 的重要应用场景。论文通过实验展示了如何利用大模型结合知识库和 AI Agent 进行科技文献的创新情报挖掘。实验设计了一个基础任务：挖掘智能芯片领域研究中与芯片功耗相关的创新贡献内容。通过 RAG 方法，大模型结合文档知识库，显著提升了知识挖掘的效果。实验结果表明，大模型结合知识库的方法在执行创新情报发现任务时，效果明显优于仅使用大模型的方法。此外，AI Agent 的应用进一步提升了任务的自动化水平，能够实现从文献检索到技术指标抽取的全流程自动化。未来，随着大模型与知识库的深度融合，创新情报挖掘的效率和精度将进一步提升，为科技情报工作提供更强大的智能化支持。
未来研究方向 #
论文指出了大模型结合知识库与 AI Agent 在知识挖掘领域的未来研究方向。首先，大模型与知识库的结合需要进一步优化，尤其是在复杂场景下的任务执行效果仍有提升空间。其次，AI Agent 的设计与实现需要更多的研究，尤其是在多智能体协同工作和工具调用方面。提示工程 作为大模型应用的核心策略，未来将成为情报学研究的重要方向，尤其是在任务情境、用户需求和情报分析流程的组织与优化方面。此外，算力问题仍然是当前研究的限制因素，但随着算力成本的下降，未来的研究将更加注重与 AI 的深度融合。知识挖掘任务的智能化自主执行将成为未来的主流趋势，效率问题、协同配合、自查与自我完善机制等将成为新的研究内容。未来的情报学研究将更加注重如何管理 AI 的运作，甚至是如何更智能地管理 AI。
完整论文 #
