【医学图像分割】开源 | 浙江大学提出一种新型混合注意力模块MTM,实现医学图像的精确分割,性能SOTA!
2023-04-18 16:08:42 时间
备注:研究方向+地点+学校/公司+昵称,更快通过申请,长按加细分领域技术交流群,目前有细分领域:图像分割、图像目标检测、论文写作、车道检测、模型优化、目标跟踪、SLAM、点云处理(分割检测)、深度学习。
论文地址: http://arxiv.org/pdf/2111.04734v2.pdf
来源: 浙江大学
论文名称:MIXED TRANSFORMER U-NET FOR MEDICAL IMAGE SEGMENTATION
原文作者:Hongyi Wang
内容提要
虽然U-Net在医学图像分割任务中取得了巨大的成功,但它缺乏明确的长期依赖模型的能力。因此,由于视觉注意力具有通过自我注意(Self-Attention, SA)捕捉长期相关性的先天能力,近年来视觉注意力已经成为一种可选的分割结构。但是注意力通常需要大规模的预训练,计算复杂度很高。此外,SA只能在单个样本中建模自亲和关系,忽略了整个数据集的潜在相关性。为了解决这些问题,我们提出了一种名为混合注意力模块(MTM)的新型注意力模块,用于同时进行内部和内部的亲和学习。MTM首先通过精心设计的局部全局高斯加权自我注意(LGG-SA)有效地计算自亲和。然后,通过外部注意(External Attention, EA)挖掘数据样本之间的相互联系。为了实现医学图像的精确分割,利用MTM构建了一个U型混合注意力U-Net (MT-UNet)模型。我们在两个不同的公共数据集上测试了我们的方法,实验结果表明,该方法比其他先进的方法具有更好的性能。
主要框架及实验结果
相关文章
- 比较Hadoop、Spark和Kafka大数据框架
- 天翼云4.0升级 八大技术创新推动分布式云落地
- 迈进分布式云时代,天翼云4.0如何护卫边缘安全?
- 为余势负天工背,云原生内存数据库Tair助力用户体验优化
- 中小企业在云计算发展现状及未来趋势
- 2022年六大值得关注的边缘计算趋势
- 腾讯云TDSQL全自研新敏态引擎,助推数据库国产化
- 云原生时代,金融科技生产力何以腾飞
- 双十一期间Kafka以这种方式丢消息让我猝不及防
- 2022年的五个新兴云计算趋势
- 5G与物联网:数字化新时代
- 无线宝宝们的冲浪方式,这么奔放的吗?
- 图解 Kafka 架构与工作原理
- 前十个边缘计算用例和示例
- 携号转网实施快三年,三大运营商谁是赢家?
- 达摩院AliceMind上新!首个中文表格预训练模型来了,已向业界开源
- 区块链、雾计算、边缘计算和机器学习在物联网安全方面的应用
- 技术干货|阿里云基于Hudi构建Lakehouse实践探索
- 表格存储 SQL 查询多元索引
- 亚马逊云计算部门推出两款新定制芯片 与英特尔、英伟达展开竞争