未来的超级智能网络攻击需要AI竞技俱乐部来拯救
![](http://upload-images.jianshu.io/upload_images/2397007-f1f4b0275a09d550.jpg?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)
数据科学竞赛平台Kaggle将举办一场为期五个月的AI竞赛,这场竞赛将模拟未来的网络安全和网络战争,战争的攻守双方都是AI算法,它们将互相迷惑互相欺骗,以研究如何加强机器学习系统来抵御未来可能出现的攻击。
专门研究机器学习局限性的怀俄明大学助理教授Jeff Clune说:“研究如何欺骗深度神经网络和设计不可欺骗的深度神经网络是一个不错的想法。”
这场竞赛将由三部分组成。第一个挑战是让机器学习系统混乱,使其无法正常工作。第二个是强制让系统产生分类错误。第三个涉及到开发一个坚固的防御系统。详细信息将在今年晚些时候一个重要的AI大会上公布。
机器学习,特别是深度学习,正在迅速成为许多行业不可或缺的工具。这项技术是将数据提供给一种特殊的计算机程序,并指定特定的结果,以使计算机能开发出自己的算法来实现这个结果。深度学习就是通过不断调整一个庞大而又相互连接的数学模拟神经元的参数来实现这个的。
众所周知,机器学习系统可以被欺骗的。例如,垃圾邮件发送者可以通过找出邮件过滤器算法的训练模式来避开现代垃圾邮件过滤器。
然而,近年来,研究人员表明,即使是最聪明的算法有时也会以不可思议的方式被误导。例如,具有近乎人类技能的深度学习算法在识别图像对象的时候,可能会被看似抽象或随机的图像所欺骗。
谷歌大脑的研究人员Ian Goodfellow表示:“对抗性机器学习比传统的机器学习更难研究,很难判断出攻击是否强悍,或者防御是否薄弱。” 谷歌大脑是一个专门研究和应用机器学习的部门,这次竞赛就是他们组织的。
随着机器学习的普及,人们担心这种攻击会被用于营利或纯粹的恶作剧。例如,黑客可能会避开安全措施来安装恶意软件。
Goodfellow表示:“计算机安全正向着机器学习的方向发展。犯罪分子将使用机器学习进行自动化攻击,而我们将使用机器学习来防御”。
从理论上来说,犯罪分子可以让声音和面部识别系统瘫痪,甚至会侵入交通信号系统以欺骗自动驾驶汽车的视觉系统,导致系统崩溃。
Kaggle已经成为算法开发的宝地,也是优秀数据科学家的摇篮。该公司于3月份被Google收购,现在已成为Google Cloud平台的一部分。Goodfellow和另一位谷歌大脑的研究人员Alexey Kurakin在收购之前就提出了有关本次竞赛的想法。
Kaggle的联合创始人兼首席技术官Benjamin Hamner表示,他希望竞赛能引起人们的关注。他说:“随着机器学习的使用越来越广泛,从对抗学习中理解问题和风险变得越来越重要。”
举办公开竞赛的好处超过了宣传新型攻击相关的任何风险,他补充说道:“我们应该公开分享这项研究的成果,而不是闭门造车。”
同时,Clune表示,他希望这次竞赛能够找到抵御攻击的算法。
文章原标题《AI Fight Club Could Help Save Us from a Future of Super-Smart Cyberattacks》,作者:Will Knight,译者:夏天,审校:主题曲。
文章为简译,更为详细的内容,请查看原文
千寻驰观测评:真正达到实用级别的北斗+AI道路智能巡检 大规模道路养护时代,智能化应用需求呈现快速的增长趋势。作为道路智慧化的重要场景,道路智能巡检正在成为各地积极探索的新工具。根据赛文交通网的调研,当前道路智能巡检技术的应用以AI为主,整体处于早期阶段,在已经落地的AI道路巡检项目中,不少巡检检测成本可降低40%,且智能巡检效率是人工巡检的十倍以上;但另一方面,部分业主也传出了“识别精度不高、采集数据不准等问题,与实际应用尚存在距离”等声音。
实用级北斗+AI道路智能巡检系统,千寻驰观如何助力精细化公路养护决策 目前我国公路总里程达528万公里,路网建设趋于饱和,路政工作由建设转向养护。 公路养护工作贯穿公路从建成通车后的全生命周期,侧重于对被破坏的部分进行修复,是为保持公路经常处于完好状态,防止其使用质量下降,最终的目的是降低车辆在公路通行时的安全风险,并提高整体的运行效率。
相关文章
- AI应用说-智能硬件专场(智能无人药柜)
- 如何把 AI 格式的文件转换成 BMP或者JPEG?
- 智能视觉组参赛总结及体会- 西安邮电大学 - AI小布丁
- 第十六届全国大学生智能汽车竞赛总决赛 AI视觉组线上赛细则
- 智能车大赛AI视觉组参考答案
- 智能车竞赛,AI视觉组赛题浅析
- AI机器学习实战の电磁智能车篇
- 基于RT106x电磁智能车AI算法
- 在AI Studio初步建立项目 —— 第一次尝试
- JAVA--AI编程助手【代码智能补全工具】盘点,让AI提高你的编程效率
- CSDN日报190830:麻将AI系统终获突破,人工智能商学院来啦!
- 《Lua游戏AI开发指南》一第2章 创建并移动智能体
- 再探 游戏 《 2048 》 —— AI方法—— 缘起、缘灭(7) —— Python版本实现的《2048》游戏的TDL算法
- 【转载】 如何看待 2019 年 CS PhD 现扎堆申请且大部分为 AI 方向?未来几年 AI 泡沫会破裂吗?
- D1net阅闻:Google Analytics增AI自动化分析功能
- 达摩院年终预测出炉:AI for Science 高居榜首
- deeplearning.ai学习LSTM
- mysql导入报错 [Err] 1273 - Unknown collation: 'utf8mb4_0900_ai_ci'
- 7月24日云栖精选夜读:未来的超级智能网络攻击需要AI竞技俱乐部来拯救
- [项目说明]-基于人工智能博弈树,极大极小(Minimax)搜索算法并使用Alpha-Beta剪枝算法优化实现的可人机博弈的AI智能五子棋游戏。
- 安防行业是AI应用最具应用空间的蓝海?