基于动态图注意力聚合多跳邻域的实体对齐
2022年电子技术应用第11期
汪浣沙1，2，黄瑞阳1，2，宋旭晖3，余诗媛3，胡 楠3
1.国家数字交换系统工程技术研究中心，河南 郑州450002； 2.中国人民解放军战略支援部队信息工程大学，河南 郑州450002；3.郑州大学 软件学院，河南 郑州450001
摘要： 实体对齐是实现对不同来源知识库进行融合的重要技术方法，在知识图谱、知识补全领域具有广泛应用。现有基于图注意力的实体对齐模型多使用静态图注意力网络且忽略了实体属性中的语义信息，导致模型存在有限注意、难以拟合、表达能力不足等问题。针对这些问题，开展基于动态图注意力结构建模实体对齐方法研究，首先使用图卷积层建模目标实体的单跳节点表示，其次应用动态图注意力网络获得多跳节点注意力系数并建模，再次利用逐层门控网络聚合图卷积层与动态图注意力层输出的单跳、多跳节点信息，最后拼接通过外部知识预训练自然语言模型提取的实体名称属性嵌入并进行相似度计算。该方法在DBP15K的三类跨语言数据集中都获得了一定的提高，证明了应用动态图注意力网络与融入实体属性语义在提高实体表示能力上的有效性。
中图分类号： TP393
文献标识码： A
DOI：10.16157/j.issn.0258-7998.222717
中文引用格式： 汪浣沙，黄瑞阳，宋旭晖，等. 基于动态图注意力聚合多跳邻域的实体对齐[J].电子技术应用，2022，48(11)：51-56.
英文引用格式： Wang Huansha，Huang Ruiyang，Song Xuhui，et al. Entity alignment based on dynamic graph attention aggregation in multi-hop neighborhood[J]. Application of Electronic Technique，2022，48(11)：51-56.
文献标识码： A
DOI：10.16157/j.issn.0258-7998.222717
中文引用格式： 汪浣沙，黄瑞阳，宋旭晖，等. 基于动态图注意力聚合多跳邻域的实体对齐[J].电子技术应用，2022，48(11)：51-56.
英文引用格式： Wang Huansha，Huang Ruiyang，Song Xuhui，et al. Entity alignment based on dynamic graph attention aggregation in multi-hop neighborhood[J]. Application of Electronic Technique，2022，48(11)：51-56.
Entity alignment based on dynamic graph attention aggregation in multi-hop neighborhood
Wang Huansha1，2，Huang Ruiyang1，2，Song Xuhui3，Yu Shiyuan3，Hu Nan3
1.National Digital Switching System Engineering & Technological R&D Center，Zhengzhou 450002，China； 2.Information Engineering University，Zhengzhou 450002，China；3.Software College，Zhengzhou University，Zhengzhou 450001，China
Abstract： Entity alignment is an important technical method to realize the fusion of knowledge bases from different sources. It is widely used in the fields of knowledge graph and knowledge completion. The existing entity alignment models based on graph attention mostly use static graph attention network and ignore the semantic information in entity attributes, resulting in the problems of limited attention, difficult fitting and insufficient expression ability of the model. To solve these problems, this paper studies the entity alignment method based on the structure modeling of dynamic graph attention. Firstly, the single hop node representation of the target entity is modeled by GCN. Secondly, the multi hop node attention coefficient is obtained and entity modeled by using the dynamic graph attention network, and then the single hop and multi hop node information output by GCN and dynamic graph attention layer is aggregated by layer-wise gating network. Finally, the entity attribute semantic extracted by external knowledge pre training natural language model is embedded and concatenated to calculate similarity. This method has been improved in three types of cross language datasets of DBP15K, which proves the effectiveness of applying dynamic graph attention network and integrating entity attribute semantics in improving entity representation ability.
Key words : dynamic GAT；graph convolution network；entity alignment；knowledge graph；representation learning
0 引言
实体对齐任务指利用模型或算法判断多个不同表示的实体是否指代现实世界中的同一对象，随着知识图谱因其结构性表示知识等优势而在各大自然语言处理与计算机视觉领域任务中广泛应用，实体对齐作为知识图谱补全任务的重要组成部分受到越来越多研究者的关注。
现有实体对齐方法主要分为基于转移距离模型与基于图卷积网络模型，即利用转移距离模型或图卷积网络将多源实体表示为低维向量并计算相似性以找到对齐实体对。目前主流的基于图卷积网络的实体对齐模型常使用传统的静态图注意力网络对实体进行特征提取与语义建模，但静态图注意力网络注意力函数存在单调性，即对于任意查询节点i，图注意力网络都倾向给予同一节点j更高的注意力权重，这将会严重影响网络的特征提取能力。而文献[1]所提出的动态图注意力网络中每个查询(Query)对键(Key)的注意系数都有不同的排序，因此具有更强的表示能力。图1展示了静态与动态图注意力网络注意力倾向示意。
本文详细内容请下载：https://www.chinaaet.com/resource/share/2000005004。
作者信息：
汪浣沙1，2，黄瑞阳1，2，宋旭晖3，余诗媛3，胡 楠3
(1.国家数字交换系统工程技术研究中心，河南 郑州450002；
2.中国人民解放军战略支援部队信息工程大学，河南 郑州450002；3.郑州大学 软件学院，河南 郑州450001)
此内容为AET网站原创，未经授权禁止转载。