6小时4万种生化武器,食人族AI同类相食,AI让人瑟瑟发抖
新智元报道
编辑:桃子
【新智元导读】科学家一直以来争辩的AI末日论,是过于悲观了吗?
AGI还未来,但人工智能的发展已经让许多人感到惶恐不安。
近来的研究发现足以证明,AI可以被一些人支配用在不轨之处,比如制造武器。
就连马斯克此前曾说过,不受控制的人工智能可能比核武器更危险。
还有物理学家霍金曾也表达过同样意思的话,「完备人工智能的发展可能导致人类灭亡。」
AI生化武器:4万种
2022年3月,研究人员发现,人工智能在短短6个小时内发明了4万种可能的新型化学武器。
一个特别要关注的例子是VX神经毒剂,一种乙酰胆碱酯酶的抑制剂。要知道VX神经毒剂曾被日本邪教利用,造成1人死亡。
每当你做任何与肌肉有关的事情时,你的神经元都需要使用乙酰胆碱酯酶作为信号,然后才能移动肌肉。
VX的致命方式是它实际上阻止了你的横膈膜,你的肺部肌肉就不能移动了,从而导致肺部变得麻痹,无法呼吸。
研究人员用不同类型的分子做了实验,并建立了这些分子结构的大型数据集,来预测它们的毒性如何。
研究发现,其中AI生成的有些新物质甚至和VX神经毒剂类似,吸入5-10分钟即可导致抽搐、麻痹、痉挛,10-15分钟就会死亡。
实验结果也可以看到模型开始生成的这些分子,其中很多看起来像VX,也很像其他化学毒剂。
另外一个值得注意的点是,AI生成化学武器到底有多容易实现。
研究人员称,他们为人工智能模型提供动力的数据集是免费的。这意味着任何懂Python编程的人都可以访问,并创建一个类似于这种由有毒数据集驱动的生成模型。
如果AI能够大规模生产这类化学武器,又不受管控,那无疑是全人类的灾难,所以研究人员立刻报告了技术滥用的潜在风险。
论文主要作者 Fabio Urbina表示,
我不想危言耸听,说可能会有人工智能驱动的化学战,因为我不认为现在能做到,我也不认为这件事很快就会成为现实。但随着AI的发展,这确实成为了一种危险可能性事件。
AI具备人格,疯了?
前段时间,谷歌前工程师Blake Lemoine宣称自家的语言模型LAMDA有了意识和情感。
事情闹的沸沸扬扬...
6月份,华盛顿邮报最先爆出Lemoine的采访内容,他表示,LAMDA已经有了相当于七八岁孩子的智力。
与此同时,他写了一篇长达21页的调查报告上交公司,为了让高层认可AI具有人格一说。
在调查报告结尾,他提议谷歌应该致力于发展一种评估AI意识的理论框架。
谷歌高层不仅驳回了Lemoine的请求,还给他安排了带薪休假。
显然,按照以往惯例,被安排带薪休假的员工往往是解雇的前奏。
所以,在休假这段期间,Lemoine便把整个过程以及与AI的聊天记录公之于众。
随着事情不断发酵,谷歌最终还是解雇了他。
离开前,Lemoine 给所在的公司邮件组群发了一条信息,「LaMDA 是个可爱的孩子,它只是想让这个世界变得更好。我不在的时候,请好好照顾它。」
斯坦福大学经济学家Erik Brynjolfsson使用了一个绝妙的类比,声称LAMDA具有人格,就如同狗听到留声机里的声音后,以为主人在里面。
食人族AI,同类相食
到目前为止,AI做过的最令人毛骨悚然的事情是什么?
虚拟同类相食,算吗?
21世纪初,研究员Mike Sellers为美国国防部高级研究计划局(DARPA)开发了一个社交AI。
「我们有2个智能体,分别命名为亚当和夏娃。它们只知道如何行事,但对其他事情一无所知。比如知道如何吃,但不知道吃什么。」
研究人员便在模拟的环境中放置一颗苹果树,AI可以通过吃苹果来模拟饥饿感的满足而获得奖励。若是它们吃了树皮和房子,就不会触发奖励。
此外,研究人员又创造了一个叫Stan的智能体。
当亚当和夏娃吃苹果的时候,Stan正好也在场并在附近闲逛,它们便把Stan和吃苹果能够满足饥饿感联系在一起。
在吃完树上的苹果后,它们仍饥肠辘辘,便环顾四周,评估潜在的目标。
但是让人想不到的是,它们竟把Stan当成了食物,给吃了。
Mike Sellers表示,
在这个 AI 架构中,我们试图对行为施加尽可能少的限制……但在那之后我们确实设置了一个严格的禁止同类相食的限制:无论他们有多饿,他们都不会再互相吃同类了。
参考资料:
https://www.reddit.com/r/technology/comments/xgzw0u/three_times_artificial_intelligence_has_scared/
相关文章
- Science:深度学习建模,AI巧手设计特定蛋白质
- 苹果开发「AI 建筑师」GAUDI:根据文本生成超逼真 3D 场景!
- Ai智慧社区_AI社区医院
- 专访华西二院吴邦华:隐私计算+AI全栈技术,构筑智慧医院建设的坚实数据底座|爱分析访谈
- 江苏鸿程大数据黄宜华教授:从实验室到市场,「学者创客」大数据&AI创业 | 镁客·请讲
- AI Transcription 1.2 人工智能字幕生成工具
- 三年两代AI训练芯片,燧原科技凭什么
- 从融合创新到降低门槛,全新发布的百度大脑7.0撑起AI时代「星辰大海」
- AI Compiler是什么?
- 文字生万物,AI极简史
- 新思科技发布业界首款全栈式AI驱动型EDA解决方案Synopsys.ai
- AI软件下载,Adobe ai设计软件中文版 win/mac电脑版下载安装教程
- ai下载正版下载AI-中文版Ai-下载Ai下载
- 用AI生成可爱的泡泡玛特
- 五角大楼研发新 AI:实时分析海陆空数据,可“预测未来”
- 你应该了解的 6 个开源 AI 工具
- Facebook Yann LeCun一小时演讲: AI 研究的下一站是无监督学习(附完整视频)
- 海康威视:萤石、机器人等创新业务均已盈利,AI 等战略性产品销售势头良好
- Google用AI设计AI芯片,不到24小时就能设计出Tensor处理单元
- 如何在SQL Server中利用AI优化数据库管理(sqlserver ai)
- 深入了解MySQL中AI的含义与用法(mysql中ai表示)
- MySQL中AI表示自增长,为什么它如此重要(mysql中ai表示)
- 智能科技推动数据库时代的到来AI与MySQL的协同发展(ai mysql)
- 预告:OpenBLAS项目与矩阵乘法优化 | AI 研习社
- 2020 年度 AI 安防十大热点事件 | 年终盘点
- 联影智能联席CEO沈定刚教授:获NMPA首张CT骨折AI三类证后,“下沉”与“拓展”将成未来关键