AI=核武器?谷歌前CEO语惊四座
新智元报道
编辑:拉燕
【新智元导读】谷歌前首席执行官Schmidt认为,AI就像核武器一样。你同意这个说法吗?
把AI比作核武器,你觉得合理吗?
谷歌前首席执行官Eric Schmidt将人工智能比作核武器,并呼吁建立一个相互保证的威慑制度。
类似于核武器的那种。
人工智能和核武器一样危险吗?
7月22日,Schmidt在阿斯彭安全论坛「关于国家安全和人工智能」的小组讨论中,谈到了人工智能的危险性。
在回答有关科技界道德价值的问题时,Schmidt表示,早期他自己在谷歌公司时,也曾低估了大数据的力量。
时至今日,他呼吁,科技应该要更好地符合其服务对象的伦理和道德。然后他就在人工智能和核武器之间做了一个有些出格的类比。
Schmidt预计,在不久的将来,中国和美国需要围绕人工智能做点什么。
AI和机器学习一样,都是令人印象深刻且经常被误解的技术。
在很大程度上,它并不像人们认为的那样聪明。它可以制作出杰作级的艺术品,甚至在「星际争霸II」中击败人类。
然而,试图让它完成更复杂的任务,如驾驶汽车穿越大城市,短期内还实现不了。
Schmidt想象,在不久的将来,中国和美国都会有关于AI的安全方面的担忧,迫使两国围绕人工智能达成一种威慑条约。
他类比了20世纪50年代和60年代,当时外交部门围绕地球上最致命的武器精心制定了一系列控制措施。
但是,在全世界通过《禁止核试验条约》、《第二阶段谈判协议》和其他具有里程碑意义的立法的地步之前,广岛和长崎的已经被毁灭了。
美国在二战结束时用原子弹摧毁了两个城市,杀死了数以万计的人,并向世界证明了核武器的恐怖力量。
我们可以说,没有美国这一出,人们通过上述这些条约和协议的动力可能就不会那么强了。
随后,俄罗斯和中国的政府便急于获得这种武器。
目前,人类与这些武器共处的方式是通过一种叫做「相互确保摧毁」(MAD)的机制。这是一种威慑理论,内容是如果一个国家发射核弹,其他国家也将进行反制发射。
虽说人工智能还没有证明自己有接近核武器的破坏力。但身居要职的人害怕这项新技术,而且,通常是出于一些不那么正确的原因。
甚至,还有人建议将核武器的控制权交给人工智能,他们认为,理论上AI能比人类更好地决定武器的使用。
这不让身居高位的人更害怕了嘛。
人工智能的问题不在于它具有核武器的潜在破坏力,而在于人工智能的好坏只取决于设计它的人,他们反映了创造者的价值观。
这也就是典型的「垃圾进,垃圾出」的问题。种族主义的算法造就了种族主义的机器人,所有的人工智能都带有其创造者的偏见。
AI是其创造者的反映
无独有偶,Demis Hassabis,DeepMind的首席执行官,就这个话题可能比Schmidt还更了解一点。
Hassabis训练的人工智能正在击败「星际争霸II」的玩家。7月和Lex Fridman播客的采访中,Fridman问Hassabis,像人工智能这样强大的技术应该如何被控制,以及Hassabis本人如何避免被这种强大的力量所腐蚀。
Hassabis表示,「人工智能是一个很庞杂的想法。谁来建造,这些人信仰哪种文化,他们有什么价值观等等,这些都很重要。人工智能系统会自己学习......但系统中会有该系统创造者的文化和价值观的残留物。」
人工智能是其创造者的反映,它不可能在120万吨的爆炸中夷平一座城市。
除非人类教它这么做。
参考资料:
https://www.vice.com/en/article/3adbwy/eric-schmidt-thinks-ai-is-as-powerful-as-nukes
相关文章
- Unity 接入百度AI - Logo商标识别
- ON1 NoNoise AI 2023 for mac(ai摄影降噪软件)中文版
- AI智能检测视频平台EasyCVR级联时,上级平台无法获取到通道是什么原因?
- 独家 | Gen-1——可以改变视频风格的AI模型
- AI中文版下载,Illustrator(Ai)各版本软件下载及安装教程ai干货
- 小米责令泄密合作方赔偿一百万;Facebook母公司元宇宙部门亏损900亿;谷歌测试新AI聊天产品丨每日大事件
- AI解数学题,答案是对的过程却是错的?DeepMind新研究改进谷歌思维链方法
- 人类科技边界挑战者谷歌又立Flag;当一位天才黑客决定离开自动驾驶 |一周AI快讯
- AI绘画 | 异次元的我
- 谷歌AI发布“会动的”3D物体数据集,附带标记边界框、相机位姿、稀疏点云,网友:快给我的AR模型用上
- 谷歌他急了:下周揭秘最新的AI与搜索技术
- 对话美摄科技李磊:走出一条AI与传统视音频技术相结合的美摄特色道路
- 谷歌AI这一年:不跟风ChatGPT,还能干啥?
- 谷歌在以色列的路口装上了 AI 红绿灯
- 如何用AI绘图画出超真实的小姐姐?(Lora篇)
- 谷歌 DeepMind 的可微分神经计算机 DNC 怎么样?看 Facebook AI 研究员田渊栋、贾扬清怎么说
- 只训练一次数据就能识别出物体,谷歌全新 AI 算法“单次学习”
- 亚马逊扩展网页AI技术提供,降低AI应用开发门槛
- 2016:AI改变的不仅仅是谷歌翻译,还有程序员的饭碗
- 物联网与AI的结合:让不同的智能手机相互学习
- 美国RSIP公司发布视觉AI模块,解决膝关节置换问题
- 谷歌发布全新轻型机器学习架构:可直接载于设备端的AI系统
- AI深度挖掘MySQL助力数据分析(ai在mysql的应用)
- 智能科技推动数据库时代的到来AI与MySQL的协同发展(ai mysql)
- 【洞见】谷歌公布TPU细节之后,AI业界怎么看?
- 什么是区块链应用最大瓶颈?区块链与AI的火花在哪?丨CCF GAIR 2018
- 交通银行AI全布局