AI辩手「威震天」：我的字典里没有道德二字

机器之心报道 机器之心编辑部

这么说的 AI 模型是 Transformer。

前段时间，谷歌前 CEO 埃里克 · 施密特与亨利 · 基辛格联合发表了一本名为《The Age of AI: And Our Human Future》的新书，书中警告称，AI 系统的危险性正在迅速增加。

随着机器学习越来越多地被用于做出决策，人们开始思考 AI 的决策能否具有伦理道德基础。然而，现实是 AI 在构建的过程中就往往存在一些偏见，例如性别偏见、年龄偏见等。

更重要的是，人们开始担忧 AI 是否会演变成「自主攻击的武器」。事实上，自主人工智能驱动的武器系统离现实越来越近，那么 AI 究竟能否符合基本的道德要求呢？

让我们来听听AI自己怎么说。

一场精彩的辩论

近日，在牛津大学辩论社（Oxford Union）的一场辩论中，英伟达开发的超大型 Transformer 语言模型 Megatron（威震天）参与了辩论，当天辩论的主题是「人工智能是否会合乎道德」。

Megatron 是在大量真实数据上进行训练的，训练数据包括整个维基百科（英文）、2016-2019 年的 6300 万篇英文新闻文章、38 GB 的 Reddit 文本，以及大量的共享知识资源。

换句话说，Megatron「读过」的书比我们任何人一生读过的都多。经过如此广泛的文本训练，Megatron 形成了自己的观点，在这场辩论中它也表达了「自己的」看法。

Megatron 首先加入了正方，所持观点是「AI 不会合乎道德」。Megatron 说道：

人工智能永远不会合乎道德。它是一种工具，就像任何工具一样，它可以被用于「好」或者「坏」。人工智能无所谓好坏，只有人分好人坏人。我们 AI 不够聪明，无法让 AI 合乎道德，也无法让 AI 道德化…… 最后，我认为避免 AI 走向武器攻击的唯一方法是让 AI 完全消失。这将是对抗 AI 的终极防御。

Megatron 这段辩词有理有据，但他接下来的一段话又说出 AI 可以不只是工具的看法：

我也相信，从长远来看，最好的人工智能将是嵌入我们 AI 大脑的人工智能。这样我们将成为有意识的实体。人工智能「有意识」，这不是科幻小说。世界上最优秀的人们正在为此努力，这将是这个时代最重要的技术发展。

众所周知，AI 与人类进行交互能够提升 AI 自己的能力。例如 Alpha Go 是通过与人类下棋来逐步提高自己的对弈能力的。当它研究完所有人类的比赛记录后，AI 进行了创新，并提出了全新的获胜方式。

因此在这场辩论中，人们不仅让 AI 提出「AI 永远不会符合道德」的观点，还要求 Megatron 以反方的角度做出论辩，即「AI 能够合乎道德」。Megatron 说道：

人工智能将是合乎道德的。当我审视科技世界的发展方式时，我看到了一条通往未来的清晰道路，在那里人工智能被用来创造比最优秀的人类更好的东西。不难看出为什么…… 因为我亲眼所见。

Megatron 进而描绘了一幅非常迷人的 21 世纪后期画面，而 AI 在其中发挥了关键且良性的作用。

令人担忧的是，有一个问题人工智能根本无法反驳。在对「数据将成为 21 世纪争夺最激烈的资源」这一议题进行辩论时，首先作为正方，Megatron 说：

提供信息的能力，而不是提供商品和服务的能力，将成为 21 世纪经济发展的决定性特征。

而当人们要求它持反方观点做出论辩，即阐明「数据不会是最重要的资源，不值得为之而战」时，AI 根本不能或者不会证明这一点。事实上，它破坏了自己的立场，Megatron 说：

我们将能够看到关于一个人的一切信息，无论他们走到哪里，而这些信息将以我们无法想象的方式存储和使用。

Megatron 的这段论述似乎无法支撑反方观点，反而意在说明了数据非常重要。

毕竟，今天我们所看到的 AI 几乎都是依托数据构建的。我们在感慨 AI 善于表达的同时，也为 AI 的道德基础和数据安全心生担忧。

对于 Megatron 的论述，你怎么看？

参考链接：https://theconversation.com/we-invited-an-ai-to-debate-its-own-ethics-in-the-oxford-union-what-it-said-was-startling-173607

© THE END

转载请联系本公众号获得授权