论文阅读:Memory Networks
论文 阅读 memory Networks
2023-09-11 14:20:44 时间
一、论文所解决的问题
实现长期记忆(大量的记忆),而且实现怎样从长期记忆中读取和写入,此外还增加了推理功能
为什么长期记忆非常重要:由于传统的RNN连复制任务都不行,LSTM预计也够玄乎。
在QA问题中,长期记忆是非常重要的,充当知识库的作用。从当中获取长期记忆来回答问题
上面这个问题就是,当遇到有若干个句子而且句子之间有联系的时候,RNN和LSTM就不能非常好地解决,以为是长期依赖。须要从记忆中提取信息
二、论文的解决方式
(0)总体架构一览
实际上所谓的Memory Network是一个通用的框架而已,内部的输入映射、更新记忆映射、输出映射、响应映射都是能够更换的
(1)特定于自然语言的实现
the I module takes an input text.
The text is stored in the next available memory slot in its original form
The G module is thus only used to store this new memory, so old memories are not updated.
三、论文中的方案解决该问题。解决到了什么程度?
事实上论文中主要就是提了一个大的框架,而框架中的每个模块都是能够变更的,这样能够适应不同的应用,可是实质上并没有较大的创新。本质上还算是一种RNN类型的网络。
四、实验
(1)实验结果
相关文章
- 【华为云技术分享】【论文阅读】增量学习近期进展及未来趋势预测
- 2018年4月24日论文阅读
- 【本/硕毕业生】开题报告及论文指导思路和撰写事项的整理
- 2018年3月11日论文阅读
- 谷歌Borg论文阅读笔记(一)——分布式架构
- DL之CNN:关于CNN(卷积神经网络)经典论文原文(1950~2018)简介总结框架结构图(非常有价值)之持续更新(吐血整理)
- DL之SqueezeNet:SqueezeNet算法的简介(论文介绍)、架构详解、案例应用等配图集合之详细攻略
- CartoonGAN论文复现:如何将图像动漫化
- Tachyon在Spark中的作用(Tachyon: Reliable, Memory Speed Storage for Cluster Computing Frameworks 论文阅读翻译)
- 计算机毕设 SSM Vue的网上租车管理系统(含源码+论文)
- 计算机毕设 SSM Vue 大学生兼职发布管理系统(含源码+论文)
- 论文解读(Moco v3)《An Empirical Study of Training Self-Supervised Vision Transformers》
- 论文解读《On the Prediction Instability of Graph Neural Networks》
- 论文投稿指南——中文核心期刊推荐(机械、仪表工业2)
- 论文投稿指南——中文核心期刊推荐(建筑科学 2)
- 风格迁移2-04:MUNIT(多模态无监督)-白话给你讲论文-翻译无死角(2)
- 《论文阅读》开放域对话生成——融合个性和知识并基于检索增强的回复生成
- 《论文阅读》软化标签(将one-hot编码转变为grayscale标签)
- 《论文阅读》SAPBERT: Speaker-Aware Pretrained BERT for Emotion Recognition in Conversation
- 《论文阅读》DialogXL: All-in-One XLNet for Multi-Party Conversation Emotion Recognition
- 《论文阅读》Unified Named Entity Recognition as Word-Word Relation Classification
- 1.1、基于增量式生成遮挡与对抗抑制的行人再识别(论文阅读与理解)
- 论文阅读:SegFormer: Simple and Efficient Design for Semantic Segmentation with Transformers
- 论文阅读-LEARNED STEP SIZE QUANTIZATION
- 写论文的笔记