跳转至

通过大语言模型增强科学命名实体识别：一种类型驱动的多任务学习方法

文章背景与核心概要

科学命名实体识别（SciNER）是科学文献知识挖掘与信息抽取的关键任务。尽管大语言模型（LLMs）在极少人工干预的情况下已展现出极具竞争力的表现，但面对科学领域复杂的实体类型时，提示词中过多的候选类型往往会干扰模型的判断，导致性能下降。

为了解决这一局限，本文提出了 TdSciNER 框架。该框架通过三大核心创新提升了 SciNER 的表现：首先，利用实体类型过滤模型精准识别给定句子的相关类型；其次，引入辅助多分类实体类型任务，通过多任务学习获得更丰富的上下文表示；最后，开发了一种结合句子相似度与实体类型多样性的演示选择策略，有效激活了 LLMs 的上下文学习能力。实验证明，该方法在三个基准数据集上达到了全监督模型的性能水平，为科学文本挖掘提供了重要参考。

摘要 (Abstract)

科学命名实体识别（SciNER）在从科学文本中进行信息抽取和知识发现方面发挥着至关重要的作用。近期，大语言模型（LLMs）已证明其能够以极少的人工投入实现具有竞争力的 SciNER 性能。现有研究强调了在提示词中纳入候选实体类型信息对于 LLMs 进行准确实体识别和分类的重要性。然而，当提示词中提供过多的候选实体类型时，LLMs 在识别和标注科学文本中的实体时会遇到困难，因为科学领域的实体类型比通用领域更为复杂。

Scientific named entity recognition (SciNER) plays a crucial role in information extraction and knowledge discovery from scientific texts. Recently, large language models (LLMs) have demonstrated the capacity to achieve competitive SciNER performance with minimal human effort. Existing research highlights the importance of incorporating candidate entity type information for accurate entity recognition and classification by LLMs. However, when too many candidate entity types are provided in the prompt, LLMs struggle to accurately recognize and label entities in scientific texts, where entity types are more complex than in general domains.

为了应对这一挑战，我们提出了 TdSciNER，这是一种类型驱动的方法，能够有效利用实体类型信息来增强 SciNER 的性能。在 TdSciNER 中，我们首先设计了一个实体类型过滤模型，用于识别给定句子中可能存在的最相关实体类型。随后，我们在多任务学习框架中引入了一个辅助的多分类实体类型任务，与 SciNER 并行，以获得更丰富的上下文表示。接着，我们开发了一种基于句子相似度和实体类型多样性的新型演示选择策略，以激活 LLMs 的上下文学习能力，从而提高在不同科学领域中的实体识别准确率。

To address this challenge, we propose TdSciNER, a type-driven approach that effectively leverages entity type information to enhance SciNER performance. In TdSciNER, we first design an entity type filter model to identify the most likely entity types present in a given sentence. Subsequently, we introduce an auxiliary multi-class entity typing task within a multi-task learning framework alongside SciNER to obtain richer contextual representations. Then, we develop a novel demonstration selection strategy based on sentence similarity and entity type diversity to activate the in-context learning capabilities of LLMs, thereby improving entity recognition accuracy across diverse scientific domains.

在三个数据集上的实验表明，我们的方法达到了与全监督模型相当的性能。进一步的分析验证了 TdSciNER 中每个类型驱动的组件都对 SciNER 性能的提升做出了贡献。这项工作为未来 SciNER 的进步以及科学文本挖掘中更广泛的信息抽取任务提供了宝贵的见解。

Experiments on three datasets demonstrate that our method achieves performance comparable to fully supervised models. Further analysis validates that each entity type-driven component in TdSciNER contributes to the improvement of SciNER performance. This work provides valuable insights for future advancements in SciNER and broader information extraction tasks in scientific text mining.

访问与资源 (Access & Resources)

外部工具与引用 (External Tools & Citations)