《Multi-hop Reading Comprehension through Question Decomposition and Rescoring》论文阅读

Multi-hop Reading Comprehension through Question Decomposition and Rescoring

作者：Sewon Min、Victor Zhong
机构：University of Washington、AI2
期刊：ACL2019

简介

多跳阅读理解需要根据问题聚合多个段落的信息回答问题，因此作者提出了将复杂多跳问题分解为多个简单问题，利用400条语料训练可直接使用单跳阅读理解模型进行答案抽取。同时引入global rescoring approach方法考虑每个子问题的答案从中选择最优答案。该方法在HotpotQA数据集上达到SOTA结果。

例子简介：

将Which team does the player named 2015 Diamond Head Classic’s MVP play for?问题分解成两个子问题：

1. Which player named 2015 Diamond Head Classic’s MVP?
2. Which team does ANS play for?

其中第二个问题中ANS代替第一个子问题的答案。

方案流程

1. DECOMPRC通过基于type的span抽取，将多跳问题分解为多个子问题。目前类型分为：comparison、intersection、Bridging三种类型
2. 每个子问题使用单跳阅读理解模型抽取答案，问题类型不同，答案也不一致。
3. decomposition scorer进行判断那个问题的答案是最合适的答案。
   

1）Decomposition

类型的来源根据HotPotQA相关论文中进行分类的，作者也从HotPotQA dev数据集中抽样200条数据进行验证，发现82%的问题类型都属于这三种情况。

分解问题关键思想：每个子问题都可以从原始问题中抽取key span复制并进行轻微修改。并根据不同类型问题进行不同的span抽取。
如上图中所示，对于Bridging问题，可直接将问题分解，抽取关键部分分为两个问题。

span extract

模型框架采用BERT+Softmax进行span抽取
获取到不同类型的start、end位置坐标，根据类型进行子问题生成
这里有一个疑问：对于Bridging类型的问题，只需要两个ind即可拆分问题，疑问词放在ind的start之前就好。但是表格算法中确使用了三个ind，好像把疑问词放在句子中。和上文描述不是很相符。

2）Single-hop Reading Comprehension

获取到每个问题，利用squad的Bert抽取式模型，对每个问题进行答案抽取。采用多任务学习，将答案分类span、yes、no、不存在四种类型。

其中，Ui为子问题与第i个段落拼接通过BERT得到的隐层信息，max为max pooling操作。

3）Decomposition Scorer

选择答案最高分作为最终答案。
将问题、问题类型、答案、证据拼接通过BERT获取隐层U_t。

计算出得分矩阵并进行分数比较，获得最终答案。

Experiments

看到作者提出的模型效果达到SOTA

Limitations

但是这个方法还有一定的局限性，1. 有的问题需要具备一定常识知识才能回答，2.有的问题较为implicit多跳，无法进行问题拆分。3.有的问题超出了类型，如加法、计算

思考：
通过问题转化将多跳转为多个一跳问题，相比于目前以建图推理为主，显得简单，但目前榜单前排仍然是以建图的方法为主。
整个流程方法都较为简单，如果能增加更多操作（如：段落选择、答案抽取等模块），是否效果会更好。