博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
论文笔记丨Multi-Level Matching and Aggregation Network for Few-Shot Relation Classification
阅读量:4290 次
发布时间:2019-05-27

本文共 687 字,大约阅读时间需要 2 分钟。


作者:魏启凯 单位:燕山大学


在这里插入图片描述

论文:

code:
来源:ACL2019


创新

  1. 提出一种多级匹配和聚合网络,以交互的方式来encode查询集实例和类原型。
  2. 设计了一种辅助loss function。

问题定义

小样本任务是最近两年流行起来的任务,训练集和测试集均分支持集和查询集。
5-way 1-shot
支持集5个类,每个类1个样本,用来训练模型,利用查询集的一个句子来计算其属于支持集中5个类别之一。

MLMAN模型

在这里插入图片描述

其中,encoder是利用CNN来做,

Local Matching and aggregation是一个局部匹配网络,输入K个支持集实例和一个query,利用注意力机制收集他们之间的局部信息,接着利用embedding代表进行聚合的信息。
instance maching and aggregation 是利用MLP来计算每个query和K个support 之间的匹配信息。接着将权重加起来得到最终的类原型。
class matching 利用一个MLP来计算query和类原型之间的距离。

计算过程

首先聚合K个支持集的实例为一个矩阵C
在这里插入图片描述
在这里插入图片描述

Q是查询句子的矩阵

在这里插入图片描述

接着通过拼接的方式得到新的Q和C

在这里插入图片描述

再将最大池化和平均池化引入进来,有利于后面做消融实验。

在这里插入图片描述

在这里插入图片描述

最终得到类原型向量s。

实验结果

在这里插入图片描述

FewRel的baseline,平台提供5way1shot,5way5shot,10way1shot,10way5shot的结果。

测试结果是在FewRel测试集的结果,现在清华官方提供了测试集。

下面是消融实验

在这里插入图片描述

验证集的结果是在FewRel 验证集上的结果。

转载地址:http://cqmgi.baihongyu.com/

你可能感兴趣的文章
查看个线程的CPU 内存占用
查看>>
Fiddler 教程
查看>>
apache 设置用户注意事项
查看>>
svn中设置文件夹链接
查看>>
find ./ -name "*.cgi" |xargs -i cp "{}" ./cgi-bin/
查看>>
svn st | awk '{if ( $1 == "?") { print $2}}' | xargs svn add
查看>>
mysql事务处理用法与实例详解
查看>>
利用iptables来配置linux禁止所有端口登陆和开放指定端口
查看>>
Python模块——struct
查看>>
mysql中select * for update
查看>>
linux vmstat 1 ,watch , pmap -p,
查看>>
MYSQL 相关
查看>>
python 构建client 程序
查看>>
c++ 加载so动态库中的资源
查看>>
加解密 签名
查看>>
linux top 命令分析
查看>>
Linux vmstat命令详解
查看>>
linux pmap命令
查看>>
MySQL数据同步【双主热备】
查看>>
Mysql主从复制实践手册
查看>>