论文阅读《Knowing False Negatives》
论文全名是: Knowing False Negatives: An Adversarial Training Method for Distantly Supervised Relation Extraction
一种针对远监督关系抽取的对抗训练方式
前言
- 文章来源:CSDN@LawsonAbs
- 推荐指数:★★★☆☆
1. 四大问题
1.1 出于什么动机?
Due to the incompleteness of current KBs, sentences implying certain realtions may be annotated as N/A instances, which causes the socalled false negative(FN) problem.
1.2 提出了什么方法?
propose a two-stage approach
- mining: it finds out possible FN samples by heuristically leveraiging the memory mechanism of deep nural networks
- it aligns those unlabeled data with the training data into a unified feature space by adversarial training to assign pseudo labels and further utilize the information contained in them.
1.3 使用什么数据集?
~
1.4 效果怎么样?
~
2. 内容
远监督的假设: if two entities participate in a relation in a KB, then any sentence containing this entity pair express this relation.
这个假设过强,同时会带来一些噪声,这种问题在 KB 不是一个专有语料库上时就非常严重。
于是有人将假设修改为:
if two entities participate in a relation, at-least-one sentence that mentions these two entities expresses this relation.
3. 问题
3.1 Gradient Reversal Layer 是什么?
~ 待深入
3.2 text 中怎么做CNN?
盲猜是通过ngram的形式,明天证实一下~
3.3 piecewise max pooling 是个什么操作?
3.4 Arpit et al., 2017
中的 clean sample
指的是什么?
为什么这篇论文说是 深度神经网络中总先学习到的是 clean samples
?接着再是noisy samples
? 这是一篇ICML 的工作,感觉十分不错。明天读一下~
4. 总结
这篇文章说的还可以,主要思想就是GAN+对比学习来解决DS中的FN问题。因为之前没有系统的研究过这个方向,所以实验结果不太清楚是好是坏,应该还可以的吧~
这篇论文给我带来了很多的新的问题,比如目录3中的几个疑问。
相关文章
- 2018年4月24日论文阅读
- 2018年5月9日论文阅读
- 2018年3月17日论文阅读
- 2018年3月11日论文阅读
- Paper之ICASSP&IEEEAUDIOSPE:2018~2019年ICASSP国际声学、语音和信号处理会议&IEEE-ACM T AUDIO SPE音频、语音和语言处理期刊最佳论文简介及其解读
- 带你读顶会论文丨基于溯源图的APT攻击检测
- 带你读论文丨基于视觉匹配的自适应文本识别
- 论文解读(CosFace)《CosFace: Large Margin Cosine Loss for Deep Face Recognition》
- 论文解读《Embracing Domain Differences in Fake News: Cross-domain Fake News Detection using Multimodal Data》
- 论文解读(AGC)《Attributed Graph Clustering via Adaptive Graph Convolution》
- 论文解读(GMI)《Graph Representation Learning via Graphical Mutual Information Maximization》
- 论文解读一代GCN《Spectral Networks and Locally Connected Networks on Graphs》
- 知识图谱:知识表示学习(KRL)/知识嵌入(KE)必读论文
- 论文投稿指南——计算机视觉 (Computer Vision) 顶会归纳
- 《论文阅读》统一自然语言理解任务方法(span抽取+生成)
- 【PGGAN】1、Progressive Growing of GANs for Improved Quality, Stability, and Variation 论文阅读
- 1.1、基于增量式生成遮挡与对抗抑制的行人再识别(论文阅读与理解)
- 论文阅读【ACM_2020】SimSwap: An Efficient Framework For High Fidelity Face Swapping
- 论文阅读:HarDNet: A Low Memory Traffic Network
- 论文阅读:SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS
- 论文阅读:Faster AutoAugment: Learning Augmentation Strategies using Backpropagation
- 论文阅读:SegFix: Model-Agnostic Boundary Refinement for Segmentation
- 论文解读:STANet | A Spatial-Temporal Attention-Based Method and a New Dataset for Remote Sensing Image
- 【目标检测论文解读复现NO.25】基于改进Yolov5的地铁隧道附属设施与衬砌表观病害检测方法