基于卷积神经网络的KBC

基于卷积神经网络的KBC

原版的:

A Novel Embedding Model for Knowledge Base Completion Based on Convolutional Neural Network

概括

本篇文章是将图片卷积的概念扩展并应用于知识图谱点的嵌入表示,简单来说,是对知识图谱中的每一个三元组组合而成的嵌入矩阵%28v_h%2Cv_r%2Cv_t%29%5Cin%20R%5E%7Bk%20%5Ctimes%203%7D%2Ck表示的是嵌入向量的维度,与不同的1%5Ctimes3的filters进行卷积运算,来提取嵌入三元组相同维度的关系。得到多个feature maps,然后将这些feature maps拼接在一起,得到三元组的一个嵌入向量表示,该嵌入表示在于一个权重向量做内积,得到的数值来对三元组进行打分,表示三元组的有效与否。

建议的方法

基于卷积神经网络的KBC
将知识图谱的三元组%28v_h%2Cv_r%2Cv_t%29表示为矩阵的形式,A%3D%5Bv_h%2Cv_r%2Cv_t%5D%20%5Cin%20R%5E%7Bk%5Ctimes3%7D,卷积核%5Comega%20%5Cin%20R%5E%7B1%5Ctimes3%7D%5Comega与A的每一行进行卷积运算,会得到一个k维的feature map,记为v%3D%5Bv_1%2Cv_2%2C...%2Cv_k%5D%5Cin%20R_k
v_i%3Dg%28%5Comega%20%5Ccdot%20A_%7Bi%2C%3A%7D%2Bb%29
其中b是偏置项,g是激活函数。

%5COmega%5Ctau%3D%7C%5COmega%7C分别表示卷积核集合和卷积核的个数。分别去和A进行卷积运算,运算结果直接拼接起来,得到一个向量%5Cin%20R%5E%7B%5Ctau%20k%20%5Ctimes%201%7D,再和一个权重向量w%5Cin%20R%5E%7B%5Ctau%20k%20%5Ctimes%201%7D做内积运算,得到的值是对该三元组的打分:
f%28h%2Cr%2Ct%29%3Dconcat%28g%28%5Bv_h%2Cv_r%2Cv_t%5D%5Ctimes%20%5COmega%29%29%5ET%5Ccdot%20w
所有三元组的共享%5COmega和力参数

最后,目标函数如下:
L%3D%5Csum_%7B%28h%2Cr%2Ct%29%20%5Cin%20%7BG%20%5Ccup%20G%27%7D%7Dlog%281%2Bexp%28-l_%28h%2Cr%2Ct%29%20%5Ccdot%20f%28h%2Cr%2Ct%29%29%29%2B%5Cfrac%7B%5Clambda%7D%20%7B2%7D%20%7C%7Cw%7C%7C_2%5E2

[1]: A Novel Embedding Model for Knowledge Base Completion Based on Convolutional Neural Network

文章出处登录后可见!

已经登录?立即刷新

共计人评分,平均

到目前为止还没有投票!成为第一位评论此文章。

(0)
青葱年少的头像青葱年少普通用户
上一篇 2022年3月16日 下午2:46
下一篇 2022年3月16日 下午3:00

相关推荐