谷歌的“邪恶”实验:当 AI 面临囚徒困境,是互相攻诘还是相互合作?
近些年来,人工智能正在一步步走入我们的生活,因此我们必须了解这些聪明的“大脑”在面对两难境地时会如何选择。为此,谷歌的 DeepMind 团队专门进行了针对性的实验,而实验中的两款游戏都是在博弈论的囚徒困境理论的基础上开发的。
所谓的囚徒困境是两个被捕的囚徒之间的一种特殊博弈,两个共谋犯罪的人被关入监狱,不能互相沟通情况。如果两个人都不揭发对方,则由于证据不确定,每个人都坐牢一年;若一人揭发,而另一人沉默,则揭发者因为立功而立即获释,沉默者因不合作而入狱五年;若互相揭发,则因证据确实,二者都判刑两年。由于囚徒无法信任对方,因此倾向于互相揭发,而不是同守沉默。这一经典理论说明了为什么在合作对双方都有利时,保持合作也是困难的。
游戏 1:红蓝色两个 AI 收集绿色苹果
“在现实生活中,无论是合作还是相互攻讦都需要复杂的行为特性,因此 AI 需要掌握执行一系列动作的先后顺序。”DeepMind 团队在博客中写道。“我们将这一全新设定看作连续的社会困境,并利用深层强化学习训练过的AI对其进行研究。”
在实验中,研究人员发现AI会逐渐展示自己理性的一面,在必要时它们会选择合作。
在第一个名为“Gathering”的游戏中,参与实验的 AI 们会在同一区域执行收集苹果的任务,它们可以尾随在对手身后用炮弹攻击它们,被击中的玩家会短暂出局。不过,这里有个前提条件,即收集苹果可以得分,但攻击它人则不会。
AI被扔在这个游戏中数千次,直到它们通过深度强化学习学会理性。研究结果表明,这些家伙有时也会被利益冲昏头脑。
举例来说,当某区域有很多苹果时,AI 们会齐心协力收集苹果来得高分。一旦苹果数量下降,它们就会做出抉择,开始互相攻击以保护自己的胜利果实。
游戏 2:需要两个 AI 紧密配合
第二款游戏名为 Wolfpack,该游戏更需要 AI 们的亲密合作。AI 们需要在混乱的瓦砾堆中寻找猎物。如果你能抓到自己的猎物就能得分,此外猎物被抓到时如果你离猎物很近,也能得分。
在这款游戏中,研究人员发现,随着应对复杂战略能力的提升,AI 们更倾向于相互合作。
通过以上实验也让我们得出一个结论,那就是 AI 会根据自己所处的环境进行抉择,虽然有时它们会为了自己的利益相互攻讦,但大多数时候它们还是倾向于相互合作。
DeepMind 的研究团队表示:“这样的模型让我们能在模拟系统中测试策略和干预措施。”如果一切顺利,未来人类对复杂的多因素系统如经济、交通系统或生态健康都能有一个深刻的把握,因为它们都需要持续的合作。
Via. Dailymail
雷锋网版权文章,未经授权禁止转载。详情见。
原创文章,作者:ItWorker,如若转载,请注明出处:https://blog.ytso.com/69288.html
aliyungoogleiPhonePhone人工智能游戏苹果谷歌相关文章
- 你有多久没poster过论文了?来AI顶级大会展示隐私计算学术力量
- Cloud AI, Edge AI, Endpoint AI. What’s the Difference?
- AI如何协助牙科医生解决难以发现的牙齿问题
- Google AI年终总结第六弹:没有波士顿动力的谷歌机器人,发展得怎么样了?
- 微软旗下GitHub宣布裁员10%;谷歌高管警告:AI聊天机器人会产生错觉;华为称在ChatGPT领域早有布局丨每日大事件
- 谷歌Imagen首次开放测试,安卓苹果都能玩,还有AI写作助手、超长连贯性视频生成模型
- 让AI自己调整超参数,谷歌大脑新优化器火了,自适应不同任务,83个任务训练加速比经典Adam更快
- 谷歌、OpenAI学者谈AI:语言模型正在努力「攻克」数学
- 用魔法打败魔法!一个叫板顶级人类棋手的围棋AI输给了它的同类
- 中国AI创业的“魔咒”:顶不了天,落不了地
- AI智能潜在威胁,黑客利用 ChatGPT轻松入侵网络
- 谷歌2022年度回顾:让AI更负责任,主要做了4点微小的工作
- ChatGPT竟有9岁小孩心智?斯坦福教授逆天发现,AI统治人类还远吗
- 谷歌最高优先级项目曝光:下一代AI搜索,誓要打败ChatGPT
- 百度研究院发布2023年十大科技趋势,锚定「AI向实」:行业大模型生态初现,自动驾驶、AIGC、量子科技等智能化创新更加务实
- 快去申请!谷歌bard智能AI聊天机器人正式公测!
- ai软件下载Illustrator 2021 for mac (Ai 2021中文版)直装版
- 半监督组稀疏表示:模型、算法与应用(ECAI 2016论文精选)| AI科技评论
- 长江养老保险与大地保险的「AI方法论」
- 谷歌新研究成果:练习1万5千次,AI无师自通信息加密
- 低成本助力传统便利店改造升级,这家AI公司在零售市场另辟蹊径
- 2017,AI科技评论在路上
- 始于2015年的AI芯片热潮,落地战已经打响 | CCF-GAIR 2019
- 北大黄铁军:神经形态芯片大规模应用材料是关键,未来几年将影响AI | CNCC 2019
- 探访兴化市人民医院:县域医院才是医疗AI最好的「炼金石」
- 清北、中科院,能否成为AI制药的「黄埔军校」
- 谷歌TPU项目核心成员离职了,他们想建“下一代AI芯片”
- 亚马逊悄然收购AI安全公司harvest.ai,增强云服务安全
- 谷歌收购初创公司AIMatter,其AI图像处理应用Fabby究竟有多强?
- K12教育机械臂Magician Lite发布,越疆完成了全龄段的AI教育布局
- 苹果云基础设施团队主管跳槽谷歌,健康 AI 研发主管将到大学任职