神经网络之父 Geoffrey Hinton:深度学习的下一个飞跃是什么?
Geoffrey Hinton,图源网络
雷锋网按:
Geoffrey Hinton
被尊称为“神经网络之父”,他将神经网络带入到研究与应用的热潮,将“深度学习”从边缘课题变成了谷歌等互联网巨头仰赖的核心技术,并将
HintonBack Propagation(反向传播)算法应用到神经网络与深度学习,还提出了“Dark Knowledge”概念。
Geoffrey Hinton 曾获得爱丁堡大学人工智能的博士学位,并且为多伦多大学的特聘教授。在 2012 年,Hinton 还获得了加拿大基廉奖(Killam Prizes,有“加拿大诺贝尔奖”之称的国家最高科学奖)。2013 年,Hinton 加入谷歌并带领一个 AI 团队,目前正进行着谷歌大脑的项目。
近日,外媒 gigaom 采访了这位大牛,问题主要和人工智能相关,大家可以和雷锋网一起看看他是怎么回答的:
Q:您被称作“神经网络之父”,那您认为在有生之年“真正的”人工智能会出现吗?
A:这取决于你对“真正的”人工智能定义是什么。如果你是说在自然语言、感知、推理、运动等方面都能和人类水平相当的人工智能体,我觉得我大概是看不到了。不过,五年后会发生什么我们很难预测,所以我不去排除这样的可能性。在十年前,很多 工作者认为用神经网络完成机器翻译是不可能的,因为这需要让神经网络从原始训练数据中获取所有语言知识。但在今天,这就是机器翻译使用的方法,而且是最好的。神经网络翻译显著地缩小了机器和人工之间翻译水平的差距。
Q :如果真正的人工智能出现,您有什么担心的吗?
A:说实话,我不太担心现在大家经常讨论的那些问题,就是说变坏的机器人会代替人类接管世界。我更担心的是诸如希特勒、墨索里尼这样的人在科技的帮助下可能会做的事儿。如果这些人拥有智能机器人,后果不堪设想。我认为现在最迫切的一件事就是对 AI 的军事化制定相关的国际政策或者协议。
Q:您认为未来人工智能对经济和劳动力会有什么影响呢?利大于弊还是弊大于利?
A:我们可以看到,如今 ATM 机等机器已经帮助人们减少了大量繁重的工作,提高了生产效率。我想应该很少有人会觉得这些机器不应该被引入。在一个相对公平公正的政治制度下,能够提高生产力的技术肯定会受到公众的欢迎,因为这会帮助每个人的生活变得更好。技术本身不是问题,问题是社会制度能不能保障每个人都受益。
Q:您认为深度学习下一个大的飞跃会是什么?
A:目前,我们已经在一些近半个世纪里都没有解决的难题上获得了前所未有的进展。语音识别、图像识别技术都已经获得了巨大的进步,并且会变得更好。我相信,不久的未来计算机就能理解视频里讲了些什么。
此外,最近神经网络也开始接管机器翻译。我们几乎每周都能看到深度神经网络在一些有商业化价值的新领域获得成功。二十几年前,深度学习技术才出现在人们视野中,现在已经取得了非常惊人的成果。更出色的神经元类型和架构使得更深层次的网络上可以进行更多,更好的学习任务。深度学习已经吸引了大量的人才和资金,我想这些还会一直持续下去。
值得关注的一点是,我们应该付出更多的努力让神经网络可以真正理解文档的内容,其中包括开发新类型的临时存储器。这个话题现在很热门。
不过,现在我们还有一个问题没有解决。那就是如何从少量的数据中生成良好的神经网络,我觉得这可能需要彻底改变现在使用的神经元类型。
在进行深度学习的应用过程中,我们会得到一些宝贵的经验教训,这给进一步研究提供了新的视角,比如帮我们更好地理解真正的神经元是如何学习任务的。我认为这对深度学习的未来应用会产生巨大的影响。
本文作者:刘子榆
本文转自雷锋网禁止二次转载,原文链接
构建基于深度学习神经网络协同过滤模型(NCF)的视频推荐系统(Python3.10/Tensorflow2.11) 毋庸讳言,和传统架构(BS开发/CS开发)相比,人工智能技术确实有一定的基础门槛,它注定不是大众化,普适化的东西。但也不能否认,人工智能技术也具备像传统架构一样“套路化”的流程,也就是说,我们大可不必自己手动构建基于神经网络的机器学习系统,直接使用深度学习框架反而更加简单,深度学习可以帮助我们自动地从原始数据中提取特征,不需要手动选择和提取特征。
PyTorch 深度学习实战 |用 TensorFlow 训练神经网络 为了更好地理解神经网络如何解决现实世界中的问题,同时也为了熟悉 TensorFlow 的 API,本篇我们将会做一个有关如何训练神经网络的练习,并以此为例,训练一个类似的神经网络。
PyTorch深度学习实战 | 神经网络的优化难题 即使我们可以利用反向传播来进行优化,但是训练过程中仍然会出现一系列的问题,比如鞍点、病态条件、梯度消失和梯度爆炸,对此我们首先提出了小批量随机梯度下降,并且基于批量随机梯度下降的不稳定的特点,继续对其做出方向和学习率上的优化。
# 【深度学习】:《PyTorch入门到项目实战》第三天:简洁代码实现线性神经网络(附代码) 在上一节我们学习了如何使用pytorch从零实现一个线性回归模型。包括生成数据集,构建损失函数,== corlor 梯度下降==优化求解参数等。和很多其他机器学习框架一样,pytorch中也包含了许多可以自动实现机器学习的包。本章介绍一些如何使用`nn`简便的实现一个线性回归模型
云栖大讲堂 擅长前端领域,欢迎各位热爱前端的朋友加入我们( 钉钉群号:23351485)关注【前端那些事儿】云栖号,更多好文持续更新中!
相关文章
- 扩散模型 Diffusion Models 入门到实践 | 论文、学习资源、课程整理
- [神经网络与深度学习][计算机视觉]SSD编译时遇到了json_parser_read.hpp:257:264: error: ‘type name’ declared as function ret
- 【计算机视觉】【神经网络与深度学习】YOLO v2 detection训练自己的数据2
- 【神经网络与深度学习】【Python开发】Caffe配置 windows下怎么安装protobuf for python
- 【神经网络与深度学习】Caffe源码中各种依赖库的作用及简单使用
- 【神经网络与深度学习】学习笔记:AlexNet&Imagenet学习笔记
- 【神经网络与深度学习】在Windows8.1上用VS2013编译Caffe并训练和分类自己的图片
- 【神经网络与深度学习】Caffe部署中的几个train-test-solver-prototxt-deploy等说明
- 学习向量量化神经网络
- 深度学习-神经网络:卷积的实现方法【直接法(精度没损失)、GEMM(矩阵乘法,精度没损失)、FFT(傅里叶变换,精度有损失)、Winograd(精度有损失)】
- 深度学习-Pytorch:构建DNN神经网络模型【构建方式:自定义函数及参数、nn.Module()、nn.Module()&nn.Sequential()】、Visdom可视化
- IBM识别癌变细胞技术取得重大突破,用深度学习与神经网络重塑病理学
- 强化学习环境:ubuntu18.04 MUJOCO安装记录(2021年4月8日)
- 学习《Hardware-Efficient Bilateral Filtering for Stereo Matching》一文笔记。
- 图学习图神经网络算法专栏简介:含图算法(图游走模型、图神经网络算法等)原理+项目+代码实现+比赛
- B.图算法:图神经网络图学习之基于UniMP算法的论文引用网络节点分类任务[系列九]
- ELK学习笔记之Grok patterns正则匹配
- Pytorch学习记录-torchtext和Pytorch的实例( 使用神经网络训练Seq2Seq代码)
- 学习OpenCV:滤镜系列(15)——羽化(模糊边缘)
- Guava:好用的java类库 学习小记
- 强化学习相关资料(书籍,课程,网址,笔记等)
- 防止sql注入和跨站脚本攻击,跨站请求伪造以及一句话木马的学习记录
- LLVM每日谈之十一 编译器相关学习资料推荐
- 图神经网络-图注意力网络 学习笔记
- 图神经网络系列-GCN学习笔记-1
- opencv学习(四十)之寻找图像轮廓findContours()
- 重新开始学习编程系列Day11——Redis缓存界的神话
- vue1.0学习总结
- 深度学习:卷积神经网络之移动网络(MobileNet)
- 机器学习之路: tensorflow 一个最简单的神经网络
- 机器学习之路: python 实践 word2vec 词向量技术
- 请问将来做网络安全工作还是先学习web安全还是二进制安全?(零基础~)?