)
本文提出TCR-QFTriple Context Restoration and Query-Driven Feedback框架旨在解决知识图谱KG增强型大语言模型LLM中因 KG 构建不完整而导致的信息丢失问题。研究背景与动机当前知识图谱KG增强的大型语言模型LLMs在复杂推理任务中面临的信息丢失和知识不完整问题。现有方法普遍假设知识图谱是完整的但这在实践中并不现实因为知识图谱构建过程固有限制导致上下文信息丢失将文本转为三元组时语义细节被舍弃和信息稀疏性未能提取所有重要三元组。这些问题严重损害了大型语言模型的推理能力使其难以生成准确且上下文丰富的响应。因此这项研究的核心目标是开发一种能够缓解知识图谱信息丢失并能动态增强其完整性和语义丰富性的框架从而显著提升大型语言模型在复杂问答任务中的推理准确性和上下文感知能力。图 1 通过爱因斯坦的例子展示了 KG 构建中的两种信息丢失原始文本左侧包含爱因斯坦创立相对论和他因光电效应获诺奖两条关键信息但转换为三元组中间时best known for关系橙色未被提取信息稀疏性且诺奖与光电效应间的因果依赖红色丢失上下文丢失导致 LLM 无法正确回答相关问题右侧。核心方法如图2所示TCR-QF 框架包含四个关键组件知识图谱构建从文本源构建统一知识图谱、子图检索提取任务相关子图、三元组上下文恢复追溯原始文本上下文以恢复语义细微差别以及带有查询驱动反馈的迭代推理通过迭代生成答案和识别缺失知识来动态完善知识图谱。图 2 描绘了 TCR-QF 的闭环流程初始 KG 构建完成后用户问题驱动子图检索筛选相关三元组接着 TCR 模块回溯每个三元组的原始文本上下文生成富集子图LLM 基于富集子图推理生成初步答案如 Round 0 → “Photoelectric effect”然后 QF 模块分析当前答案与 KG识别缺失知识并生成子问题通过检索原文抽取新三元组图中橙黄虚线回补到 KG更新后的 KG 进入下一轮迭代Round 1…Round N直至收敛。上述步骤建立了一个协同循环用于双向知识增强整个流程形成了一个双向知识增强的协同循环正向流知识图谱 经过三元组上下文恢复增强为 随后大型语言模型基于此生成答案 。反馈流大型语言模型生成的答案 经过分析识别出缺失的知识 形式化为一系列子问题并通过查询驱动反馈机制将这些知识增量集成回知识图谱形成更全面的知识图谱 。知识图谱构建初始 KG 使用 LLMs 从原始文本中提取三元组 每个节点保留名称、类型 、描述 及源文档信息以供溯源。构建分为文档分割和三元组提取两步。文档分割每个长度为 的文档 被分割成重叠的块 最大长度 重叠 该公式描述了文档分块策略。 表示第 个文本块是从文档 的起始位置 到结束位置 的子字符串 计算第 个文本块的起始位置其中 为最大块长度 为块间重叠 token 数确保相邻块之间有重叠以捕获跨块实体关系 计算结束位置确保文本块不会超出文档的总长度 。重叠部分保证了跨块的实体和关系能够被捕获。三元组提取从每个 中LLM 提取三元组其中 是来自 的三元组集合一个专门的提示词指导 LLM 输出结构化信息。子图检索给定自然语言查询 检索阶段从 KG 中提取最相关的元素实体、三元组、路径、子图检索目标可表述为其中 是最优检索到的子图 表示找到一个子图 使得它与查询 的相似度 最大化 是缩小子图搜索范围的函数 是衡量查询与图数据语义相似度的函数。检索方法利用 LLM 在 KG 上执行束搜索和迭代剪枝。三元组上下文恢复将非结构化文本结构化为三元组时可能丢失语义上下文TCR 通过追溯三元组的原始文本上下文来恢复语义完整性。上下文检索对子图中每个三元组 检索头尾实体相关的源文档集合其中 是与该三元组相关的源文档集合 和 分别为头实体和尾实体的源文档。上下文追踪使用模板 如e_h r e_t表达三元组核心信息通过预训练嵌入模型 将模板和候选句子编码为向量用余弦相似度评估上下文相关性其中 是三元组模板的嵌入向量 是候选句子 的嵌入向量 为两者余弦相似度 为向量点积 为向量欧几里得范数。选择相似度最高的句子 作为上下文。三元组增强每个三元组用关联的上下文句子增强原始三元组扩展为包含最相关上下文句子的四元组恢复了结构化过程中丢失的语义信息。带有查询驱动反馈的迭代推理该组件通过迭代推理和反馈机制动态丰富 KG。每一轮中LLM 先基于当前 KG 生成答案再通过查询驱动反馈识别缺失知识并回补到 KG形成闭环优化。初始答案生成使用三元组上下文恢复得到的增强子图 生成初始答案。 将查询和子图格式化为 LLM 输入缺失知识识别分析初始答案和上下文识别查询所需的缺失信息代表缺失知识的集合形式化为一系列子问题利用 LLM 对查询和上下文的理解来发现知识空白。知识图谱增强对于每个缺失组件 密集检索器从原始文本源 检索相关文本并提取缺失知识三元组然后更新 KG表示并集将缺失知识 添加到当前 KG 中条件 确保不重复添加。密集检索器使用 OpenAItext-embedding-small。迭代推理与更新更新后的 KG 用于生成新答案重复缺失知识识别 → KG 增强 → 答案生成的循环直到 无新缺失知识或达到最大迭代次数 这三行公式分别对应每轮迭代的三个步骤第一行根据查询 、上轮答案 和上轮 KG 识别新的缺失知识 第二行将 并入 KG 形成更新的 第三行 LLM 基于 和更新后的 生成新答案 。实验与结果实验设置数据集五个基准问答数据集——2WikiMultiHopQA多跳推理、HotpotQA多跳推理、ConcurrentQA并发推理、MuSiQue-Ans可回答、MuSiQue-Full含不可回答更困难。基线方法仅 LLMGPT-4o-mini, GPT-4o, CoT基于文本的 RAGNaive RAG基于图的 RAGToG混合 RAGGraphRAG评估指标Exact MatchEM和 F1 Score。所有方法使用gpt-4o-mini-2024-07-18。对较大数据集随机抽取 1,200 样本ConcurrentQA 抽取 1,600 样本。主要结果TCR-QF 在所有数据集上均取得最高的 EM 和 F1 分数。在 HotpotQA 上TCR-QF 的 EM0.558比 GPT-4o0.351高出 0.207相对提升约 59%说明集成外部知识显著提升复杂问答准确性。在 2WikiMultiHopQA 上TCR-QF 的 EM0.598比 Naive RAG0.339提升 76.4%比 ToG0.400提升 49.5%表明更全面的知识增强优于仅文本或仅静态 KG 的方法。在 MuSiQue-Full 上TCR-QF 的 EM0.303比 GraphRAG0.189提升 60.3%证明动态恢复丢失语义信息和在推理中丰富 KG 的有效性。消融研究与基线 ToG 相比引入 TCR 后 2WikiMultiHopQA 的 EM 从 0.400 提升至 0.48120.25%F1 从 0.476 提升至 0.561证实 TCR 通过将三元组与原始文本上下文重新连接有效缓解上下文丢失。QF 单独带来更大提升2WikiMultiHopQA 的 EM 升至 0.56842.00%HotpotQA 升至 0.51524.29%说明 QF 通过动态丰富 KG 显著解决信息提取不完整问题。完整 TCR-QF 在 2WikiMultiHopQA 上达到 0.598 EM49.50%HotpotQA 上达到 0.55832.86%表明两者结合产生协同效果。TCR-AF答案驱动在 2WikiMultiHopQA 上 EM 为 0.538低于 TCR-QF 的 0.59811.12%说明基于查询主动丰富 KG 比基于答案被动更新更有效。从图 3 可以看出TCR-QF 从初始轮次起始终优于其他变体性能增益是累加的在几轮后收益递减表明最显著的知识丰富发生在推理过程早期。统计与收敛分析经过 10 轮迭代KG 节点增加 4,090 个从 74,571 到 78,661边增加 10,606 条从 69,866 到 80,472直接解决了信息稀疏性。EM 从 0.481 提升至 0.59824.3%F1 从 0.562 提升至 0.68021.0%说明丰富的 KG 为 LLM 提供了更全面、上下文更丰富的信息。KG 指标和性能分数并行上升证实丰富的 KG 与模型改进的推理能力之间存在强相关性。KG 增长和性能改进在几轮后趋于平稳第 8–10 轮 EM 和 F1 分别稳定在 0.598 和 0.680表明 TCR-QF 能有效将 KG 丰富到最佳水平。讨论与分析主要贡献TCR 组件通过追溯原始文本上下文弥补三元组构建中的语义丢失QF 组件通过迭代识别和整合缺失知识动态丰富 KG解决信息稀疏性两者协同形成 KG 与 LLM 相互增强的闭环学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
本文提出TCR-QFTriple Context Restoration and Query-Driven Feedback框架旨在解决知识图谱KG增强型大语言模型LLM中因 KG 构建不完整而导致的信息丢失问题。研究背景与动机当前知识图谱KG增强的大型语言模型LLMs在复杂推理任务中面临的信息丢失和知识不完整问题。现有方法普遍假设知识图谱是完整的但这在实践中并不现实因为知识图谱构建过程固有限制导致上下文信息丢失将文本转为三元组时语义细节被舍弃和信息稀疏性未能提取所有重要三元组。这些问题严重损害了大型语言模型的推理能力使其难以生成准确且上下文丰富的响应。因此这项研究的核心目标是开发一种能够缓解知识图谱信息丢失并能动态增强其完整性和语义丰富性的框架从而显著提升大型语言模型在复杂问答任务中的推理准确性和上下文感知能力。图 1 通过爱因斯坦的例子展示了 KG 构建中的两种信息丢失原始文本左侧包含爱因斯坦创立相对论和他因光电效应获诺奖两条关键信息但转换为三元组中间时best known for关系橙色未被提取信息稀疏性且诺奖与光电效应间的因果依赖红色丢失上下文丢失导致 LLM 无法正确回答相关问题右侧。核心方法如图2所示TCR-QF 框架包含四个关键组件知识图谱构建从文本源构建统一知识图谱、子图检索提取任务相关子图、三元组上下文恢复追溯原始文本上下文以恢复语义细微差别以及带有查询驱动反馈的迭代推理通过迭代生成答案和识别缺失知识来动态完善知识图谱。图 2 描绘了 TCR-QF 的闭环流程初始 KG 构建完成后用户问题驱动子图检索筛选相关三元组接着 TCR 模块回溯每个三元组的原始文本上下文生成富集子图LLM 基于富集子图推理生成初步答案如 Round 0 → “Photoelectric effect”然后 QF 模块分析当前答案与 KG识别缺失知识并生成子问题通过检索原文抽取新三元组图中橙黄虚线回补到 KG更新后的 KG 进入下一轮迭代Round 1…Round N直至收敛。上述步骤建立了一个协同循环用于双向知识增强整个流程形成了一个双向知识增强的协同循环正向流知识图谱 经过三元组上下文恢复增强为 随后大型语言模型基于此生成答案 。反馈流大型语言模型生成的答案 经过分析识别出缺失的知识 形式化为一系列子问题并通过查询驱动反馈机制将这些知识增量集成回知识图谱形成更全面的知识图谱 。知识图谱构建初始 KG 使用 LLMs 从原始文本中提取三元组 每个节点保留名称、类型 、描述 及源文档信息以供溯源。构建分为文档分割和三元组提取两步。文档分割每个长度为 的文档 被分割成重叠的块 最大长度 重叠 该公式描述了文档分块策略。 表示第 个文本块是从文档 的起始位置 到结束位置 的子字符串 计算第 个文本块的起始位置其中 为最大块长度 为块间重叠 token 数确保相邻块之间有重叠以捕获跨块实体关系 计算结束位置确保文本块不会超出文档的总长度 。重叠部分保证了跨块的实体和关系能够被捕获。三元组提取从每个 中LLM 提取三元组其中 是来自 的三元组集合一个专门的提示词指导 LLM 输出结构化信息。子图检索给定自然语言查询 检索阶段从 KG 中提取最相关的元素实体、三元组、路径、子图检索目标可表述为其中 是最优检索到的子图 表示找到一个子图 使得它与查询 的相似度 最大化 是缩小子图搜索范围的函数 是衡量查询与图数据语义相似度的函数。检索方法利用 LLM 在 KG 上执行束搜索和迭代剪枝。三元组上下文恢复将非结构化文本结构化为三元组时可能丢失语义上下文TCR 通过追溯三元组的原始文本上下文来恢复语义完整性。上下文检索对子图中每个三元组 检索头尾实体相关的源文档集合其中 是与该三元组相关的源文档集合 和 分别为头实体和尾实体的源文档。上下文追踪使用模板 如e_h r e_t表达三元组核心信息通过预训练嵌入模型 将模板和候选句子编码为向量用余弦相似度评估上下文相关性其中 是三元组模板的嵌入向量 是候选句子 的嵌入向量 为两者余弦相似度 为向量点积 为向量欧几里得范数。选择相似度最高的句子 作为上下文。三元组增强每个三元组用关联的上下文句子增强原始三元组扩展为包含最相关上下文句子的四元组恢复了结构化过程中丢失的语义信息。带有查询驱动反馈的迭代推理该组件通过迭代推理和反馈机制动态丰富 KG。每一轮中LLM 先基于当前 KG 生成答案再通过查询驱动反馈识别缺失知识并回补到 KG形成闭环优化。初始答案生成使用三元组上下文恢复得到的增强子图 生成初始答案。 将查询和子图格式化为 LLM 输入缺失知识识别分析初始答案和上下文识别查询所需的缺失信息代表缺失知识的集合形式化为一系列子问题利用 LLM 对查询和上下文的理解来发现知识空白。知识图谱增强对于每个缺失组件 密集检索器从原始文本源 检索相关文本并提取缺失知识三元组然后更新 KG表示并集将缺失知识 添加到当前 KG 中条件 确保不重复添加。密集检索器使用 OpenAItext-embedding-small。迭代推理与更新更新后的 KG 用于生成新答案重复缺失知识识别 → KG 增强 → 答案生成的循环直到 无新缺失知识或达到最大迭代次数 这三行公式分别对应每轮迭代的三个步骤第一行根据查询 、上轮答案 和上轮 KG 识别新的缺失知识 第二行将 并入 KG 形成更新的 第三行 LLM 基于 和更新后的 生成新答案 。实验与结果实验设置数据集五个基准问答数据集——2WikiMultiHopQA多跳推理、HotpotQA多跳推理、ConcurrentQA并发推理、MuSiQue-Ans可回答、MuSiQue-Full含不可回答更困难。基线方法仅 LLMGPT-4o-mini, GPT-4o, CoT基于文本的 RAGNaive RAG基于图的 RAGToG混合 RAGGraphRAG评估指标Exact MatchEM和 F1 Score。所有方法使用gpt-4o-mini-2024-07-18。对较大数据集随机抽取 1,200 样本ConcurrentQA 抽取 1,600 样本。主要结果TCR-QF 在所有数据集上均取得最高的 EM 和 F1 分数。在 HotpotQA 上TCR-QF 的 EM0.558比 GPT-4o0.351高出 0.207相对提升约 59%说明集成外部知识显著提升复杂问答准确性。在 2WikiMultiHopQA 上TCR-QF 的 EM0.598比 Naive RAG0.339提升 76.4%比 ToG0.400提升 49.5%表明更全面的知识增强优于仅文本或仅静态 KG 的方法。在 MuSiQue-Full 上TCR-QF 的 EM0.303比 GraphRAG0.189提升 60.3%证明动态恢复丢失语义信息和在推理中丰富 KG 的有效性。消融研究与基线 ToG 相比引入 TCR 后 2WikiMultiHopQA 的 EM 从 0.400 提升至 0.48120.25%F1 从 0.476 提升至 0.561证实 TCR 通过将三元组与原始文本上下文重新连接有效缓解上下文丢失。QF 单独带来更大提升2WikiMultiHopQA 的 EM 升至 0.56842.00%HotpotQA 升至 0.51524.29%说明 QF 通过动态丰富 KG 显著解决信息提取不完整问题。完整 TCR-QF 在 2WikiMultiHopQA 上达到 0.598 EM49.50%HotpotQA 上达到 0.55832.86%表明两者结合产生协同效果。TCR-AF答案驱动在 2WikiMultiHopQA 上 EM 为 0.538低于 TCR-QF 的 0.59811.12%说明基于查询主动丰富 KG 比基于答案被动更新更有效。从图 3 可以看出TCR-QF 从初始轮次起始终优于其他变体性能增益是累加的在几轮后收益递减表明最显著的知识丰富发生在推理过程早期。统计与收敛分析经过 10 轮迭代KG 节点增加 4,090 个从 74,571 到 78,661边增加 10,606 条从 69,866 到 80,472直接解决了信息稀疏性。EM 从 0.481 提升至 0.59824.3%F1 从 0.562 提升至 0.68021.0%说明丰富的 KG 为 LLM 提供了更全面、上下文更丰富的信息。KG 指标和性能分数并行上升证实丰富的 KG 与模型改进的推理能力之间存在强相关性。KG 增长和性能改进在几轮后趋于平稳第 8–10 轮 EM 和 F1 分别稳定在 0.598 和 0.680表明 TCR-QF 能有效将 KG 丰富到最佳水平。讨论与分析主要贡献TCR 组件通过追溯原始文本上下文弥补三元组构建中的语义丢失QF 组件通过迭代识别和整合缺失知识动态丰富 KG解决信息稀疏性两者协同形成 KG 与 LLM 相互增强的闭环学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
