使用基于注意力的双向长短期记忆网络和可解释模型建模引用价值

句子长度分布图

#

🔼 该图表展示了在PubMed Central Open Access Subset（PMOA-CITE）数据集中句子长度的分布情况，分别以字符数和单词数作为度量单位。图 (a) 呈现了句子字符数的分布，横轴表示字符数量，纵轴表示频率。从图中可以看出，字符数在100左右的句子最为常见，呈现一个明显的峰值。随着字符数的增加，频率逐渐下降，形成一个右偏分布，表明较长的句子虽然存在，但数量较少。值得注意的是，在接近0字符数的地方存在一个小峰值，可能对应的是一些非常短的句子。图 (b) 展示了句子单词数的分布情况，横轴代表单词数量，纵轴为频率。此图与字符数分布图类似，也呈现一个以20个单词左右为中心的峰值，并随着单词数的增加而频率快速下降，同样呈现一个右偏分布，反映了大多数句子由较少的单词组成。在单词数较少的位置也出现了一个小峰值。这两个子图共同表明，PMOA-CITE数据集中的句子长度主要集中在较短的范围内，较长的句子相对较少。这种分布特征对于自然语言处理任务中的句子建模具有重要意义，因为模型可能需要对短句和长句进行不同方式的处理。此外，该图为后续的数据预处理提供了依据，例如确定句子长度的合理阈值，以移除过长或过短的异常句子。例如，文中提到基于此分布，对字符长度小于19或大于275，或者单词长度小于3或大于42的句子进行了过滤。

Att-BiLSTM 模型结构图

#

🔼 该图展示了一个基于注意力机制的双向长短期记忆网络 (Att-BiLSTM) 模型，用于检测句子是否需要引用的结构。模型的整体流程可以分为几个关键步骤：首先，输入文本通过字符嵌入层（Character Embedding），将每个字符转化为向量表示。接着，通过词嵌入层（Word Embedding），将单词转化为预训练的词向量。然后，这些词向量与字符嵌入的输出拼接，一同输入到编码层（Encoder Layer），使用双向LSTM网络捕获序列信息。随后，注意力层（Attention Layer）根据编码层的输出，动态地计算每个时间步的权重，生成一个加权表示。上下文特征层（Contextual Features）将注意力层的输出与额外特征（如句子长度、前后句是否存在引用等）拼接，作为最终的特征表示。最后，分类器层（Classifier）使用多层感知器对最终特征进行分类，输出句子是否需要引用的概率。\n\n图中清晰地展示了数据在模型中的流动路径，从字符级别的处理到句子级别的表示，再到上下文信息的融合，最后进行分类决策。这表明该模型不仅考虑了句子本身的语义信息，还考虑了上下文信息。模型还使用了注意力机制来捕获句子中不同部分的贡献，这使得模型能够更准确地识别出需要引用的句子。图中不同的颜色和符号清晰地标识了模型各层的功能，方便读者理解模型的结构和工作原理。总的来说，该图清晰地解释了Att-BiLSTM模型的核心结构，以及如何通过不同的层来处理输入数据，实现引用必要性的预测。

训练过程中的F1分数变化

#

🔼 该图表展示了模型在训练过程中，训练集和验证集上的F1分数随训练轮数的变化情况。横轴表示训练的轮数（epoch），从1到6；纵轴表示F1分数，是评估模型性能的指标，值越高表示模型性能越好。图中分别用蓝色和橙色曲线表示验证集和训练集上的F1分数变化。从整体趋势来看，两条曲线都呈现上升趋势，表明随着训练的进行，模型的性能在不断提升。在第一轮训练时，训练集和验证集的F1分数都较低，分别约为0.3和0.38。随着训练的进行，两者的F1分数都迅速提高。在第2到第3轮训练期间，验证集和训练集的分数都得到了显著提高。到第3轮训练时，验证集的分数约为0.5，训练集的分数约为0.55。之后，验证集的F1分数增长开始放缓，并在第4轮左右出现一个峰值，约为0.51。而训练集的F1分数继续稳定增长，在第6轮时达到接近0.6的水平。值得注意的是，验证集的F1分数在第4轮之后略有下降，这可能表明模型在训练集上出现了一定程度的过拟合，导致在验证集上的表现略有下降。然而，整体而言，该模型在训练过程中的表现是积极的，能够有效地提高F1分数，且模型在训练初期就能获得较好的效果。此图表明，该模型在训练过程中的学习效率较高，且经过几次epoch迭代后验证集表现趋于稳定，具有较好的性能。

模型训练过程中的F1值

#

🔼 该图展示了一个深度学习模型在训练过程中，训练集和验证集上的F1值随训练轮数（epochs）的变化情况。横轴表示训练轮数，从1到6；纵轴表示F1值，范围从0.78到0.94。图中两条曲线分别代表训练集（train）和验证集（validation）上的F1值。训练集的F1值曲线呈现明显的上升趋势，从第一轮的约0.80迅速攀升，到第六轮接近0.92。验证集的F1值曲线则在开始时上升较快，并在第二轮达到约0.86的峰值，随后在0.85左右小幅波动，呈现收敛趋势。两条曲线的差异表明，模型在训练集上表现良好，但也存在一定的过拟合风险，因为训练集的性能持续提升而验证集的性能趋于稳定。验证集上的性能是评估模型泛化能力的重要指标，它说明模型在未见过的数据上的表现，因此验证集F1值最终稳定在0.85左右，表明该模型具有较好的泛化能力。整体而言，该图清晰地反映了模型在训练过程中的学习动态和性能变化，为后续的模型优化和评估提供了重要的参考依据。从图中可以看出，该模型在训练初期就取得了较好的性能，并能较快地收敛，这表明模型的设计和参数设置较为合理。

不同数据比例下的模型表现

#

🔼 该图展示了在不同非引用句（Snc）与引用句（Sc）比例下，模型的精确率（Precision）、召回率（Recall）和F1值。横轴表示Snc与Sc的比例，从1到4.13。纵轴表示模型的得分，取值范围为0到1。图中三条曲线分别代表了精确率（蓝色），召回率（橙色）和F1值（灰色）在不同比例下的变化趋势。

初始状态，当Snc与Sc的比例为1时，精确率较低，约为0.72，而召回率较高，接近0.87，F1值约为0.79。随着比例增加，精确率显著上升，当比例为2时，达到约0.86，然后略有下降，最终在比例为4时略低于0.91。召回率则呈现相反的趋势，随着比例增加而下降，在比例为2时约为0.82，然后持续下降，在比例为4时约为0.81。F1值也随之变化，先在比例为2时达到约0.84，随后略有降低，维持在0.85左右。

总体来说，该图表明，在不同的Snc与Sc比例下，模型的性能表现存在差异。当比例接近实际数据分布时，即约为4时，模型能够达到较好的平衡，精确率和召回率都较高，F1值也达到相对高的水平，这也说明了模型在自然比例下表现最佳。从数据上我们可以看出，模型在比例为2时，F1值达到最高水平，说明了在该比例下，模型达到了一个较好的平衡状态，但精度并没有在4的时候高。该图表明了模型对数据比例的敏感性，以及在实际应用中需要根据数据特点调整比例的重要性。

引用必要性预测工具界面

#

🔼 该图展示了一个名为“Is there a citation needed?”的在线工具的用户界面，旨在预测给定句子是否需要引用。界面分为两个主要部分：左侧是“Input”区域，用户可以在其中输入文本；右侧是“Prediction”区域，显示模型对输入文本的预测结果。图中，“Input”区域显示了一段文字，描述了一项对开始使用无创通气（NIV）的患者进行的“事后分析”。该分析基于先前发表的随机对照试验。接下来，提到了一些因神经肌肉疾病或胸廓问题而被诊断为慢性呼吸衰竭的患者被纳入研究。在“Prediction”区域，相同的文本再次出现，但是模型预测需要引用的句子（“A post hoc analysis was performed in all patients who started with NIV, from a previously published randomized controlled trial.”）被高亮显示，并在句末添加了一个“[…]”标记。在右侧栏中，“needs citation”的判定结果为“YES”，并给出了相应的概率值（probability_0: 0.01537, probability_1: 0.98463），表明模型高度确信该句子需要引用。页面底部有说明，解释了该工具的作用和如何解读结果。此工具使用了基于深度学习的注意力机制和双向长短期记忆网络（BiLSTM）模型进行预测。这个工具的目的是帮助研究人员和写作者识别论文中可能需要引用的地方，从而提高学术写作的准确性和严谨性。该工具的出现，展示了人工智能在辅助学术写作方面的潜力，并提供了一种用户友好的方式来使用复杂的机器学习模型。

各主题的权重和组成词

#

🔼 该表格展示了四个主题（Topic 1、2、0、3）的重要性、影响方向以及每个主题内权重较高的词语。每个主题都有一个重要性得分，代表该主题在模型中的影响程度，并且具有正向影响（用“+”表示）。主题内的词语权重展示了哪些词语在该主题中占有重要地位，权重越高表示该词语在该主题中越具代表性。具体来说，

• Topic 1：重要性为0.0588，包含 “methods”（方法，权重0.2155）、“materials”（材料，权重0.1724）、 “case” (案例，权重0.0199)和 “report”（报告，权重0.0175）等词语，这些词语通常出现在描述研究方法和实验材料的上下文中。
• Topic 2：重要性为0.0477，包括 “introduction”（介绍，权重0.1239）、“background”（背景，权重0.0552）、“authors”(作者,权重0.0114) 和 “contributions” (贡献,权重0.0091) 等词语，这些词语通常在论文的引言部分出现，用于铺垫研究背景和贡献。
• Topic 0：重要性为0.0330，包含 “conclusions”（结论，权重0.0633）、 “material”（材料，权重0.0148）、“study”（研究，权重0.0114）和 “method” （方法，权重0.0110） 等词语，反映了研究的总结和方法。
• Topic 3：重要性为0.0238，包括 “results”（结果，权重0.1998）、“discussion”（讨论，权重0.1911）、 “intro” (介绍，权重0.0714) 和 “experimental” (实验性,权重0.0302) 等词语，这些词语通常出现在论文的结果和讨论部分，用于描述研究的发现和分析。

总的来看，这些主题代表了学术论文中常见的结构组成部分，比如方法、背景、结论、结果和讨论。权重较高的词语也对应着这些部分的常见内容。通过分析这些主题和词语，可以更好地理解论文的结构和内容，有助于学术研究和信息检索。

此外，这个表格展示了LDA主题模型提取出的主题的典型特征，有助于理解模型如何将文本分解为有意义的主题，并为后续的分析提供依据。这些信息对于理解文本中不同部分的重要性以及它们如何相互关联非常有用，并可以用于检测文本中需要引用的部分。

主题模型表征的重要性

#

🔼 该表格展示了使用主题模型（Topic Modeling, TM）表示方法时，不同主题在句子分类中的重要性。表格分为几个部分，包括“Topic Number”（主题编号）、“Importance”（重要性）、“Sign”（影响的符号）和“Terms”（主题词）。重要性数值代表了该主题在预测句子是否需要引用时所起的作用大小，数值越大，影响越大。符号“+”表示该主题的存在会增加句子需要引用的可能性，而“-”则表示减少这种可能性。每个主题下方都列出了几个具有代表性的词项，这些词项的权重展示了它们在主题中的相对重要性。例如，主题80的代表性词项是“described”，其权重为0.0998，表明该主题与描述性的内容相关，并且对引用的需求有积极的影响。主题150的代表性词项是“test”，其权重为0.0853，表明该主题与实验测试相关，并且负向影响引用的需求。表格数据表明，某些主题如80，108，和82对于预测是否需要引用具有正向作用，而另一些主题如150，122和179则具有负向作用。通过这些主题及其代表词项的分析，我们可以更好地理解哪些主题与引用的需求更相关，哪些主题则可能不那么需要引用。这个表格可以帮助我们深入了解模型如何利用主题信息来做出最终的预测，并解释了模型预测结果背后的逻辑。

从表格整体来看，这些主题和他们的词语清晰的代表了文章的不同部分以及写作风格。例如，描述方法，例如80号主题，包括了“described”, “previously”, “method”等词汇，这通常出现在文章介绍以及文献综述部分，所以更容易需要引用。而150号主题，例如“fig”, “test”等词汇，则更多出现在文章结果部分。主题分析为我们理解引用发生的潜在模式提供了一定的支持。这个表格呈现的信息是模型学习过程中，内部信息的可视化，便于我们更好的理解模型的工作方式。