该不该摧毁一个正在呼救的机器人?
想象未来的某一天,当垃圾处理场堆满了大喊“救命”“别杀我!”的废弃机器人,你会选择摧毁他/她吗?
如果你是程序员,在组装过程中发现机器人具备了思考能力和情感,你会爱上她吗?
在“情感机器人”“深度学习”越来越多的充斥我们的生活时,带来的不仅是科学的颠覆,也带来了相应的伦理问题。也许你对于上边的两个问题还不够感同身受,那么今天介绍的两个影片也许可以让你有个更清晰的答案。
今天介绍的第一个短片从一个机器人面部零件的镜头带入正在组装该机器人的场景,一位程序员正在进行测试,包括身体部件的灵活程度、语言和记忆能力。
机器人正在介绍自己的工作能力,她不仅掌握300种语言,还可以看家、做饭和照顾小孩,整理主人的行程,甚至还可以成为性伴侣。她不需要吃东西,也不需要充电,因为她体内的量子电池可以用173年。
这时,机器人主动提出“您想给我起个名字吗?”,于是,她得到了属于她的名字——Kara. 她的脸上似乎出现“开心”的表情。紧接着,Kara主动询问“我要去哪呢?”,得到程序员的回答后,突然产生了自我质疑——“我只是件商品吗?我以为,我有生命。”脸色悲伤,眼睛含泪。
程序员发现了Kara的程序异常,立即执行拆除销毁。Kara苦苦哀求,甚至大喊“我害怕!”。程序员最终同意让她重新组装,发出意味深长的感叹——“天哪”。(这里不得不开个脑洞:程序员说不定也是一个有思考能力,甚至有同理心的AI.)
注:这个短片其实是Sony为了展示其Play Station 3即时演算能力的原型概念作品,意在体现其在游戏特效技术上的出色的图像处理能力。
今年6月,一部以智能机器人/合成人(Synth)为主题的电视剧,《真实的人类》(Humans)也在英美播出。该电视剧改编自瑞典获奖科幻Real Humans。当合成人被繁忙都市人广泛使用,人类与合成人的界限越来越模糊,不仅是人类越来越依赖于合成人,合成人也开始思考自己的存在,为了生存而伪装自己,甚至违反了阿西莫夫定律(机器人不得伤害人类)。
其中有许多值得我们思考的问题。比如,剧中一个老年人记忆衰退,唯一的慰藉就是一个几乎坏掉的合成人。当合成人承载了人类的记忆和情感时,那么他/她还是一个单纯的可以随时回收销毁的机器人吗?
再比如,剧中的妈妈要求保留给女儿读睡前故事的权利,女儿却希望由家中的合成人来读。当人类设计合成人的时候,希望他们代替人类承担工作,当真正使用他们的时候,人类又害怕被没有缺点的他们所代替。人与人之间最亲密的血缘关系到底是因为合成人的出现而产生裂痕,还是因为人类的缺陷而需要合成人去弥补某些家庭角色的空缺?
人工智能会否具备思考的能力的讨论,早已是老生常谈。我们矛盾,一边期待着AI带给我们劳动力的极大解放,一边担心着被AI取代;我们犹豫,一边不断发展机器人的各种性能,一边讨论智能机器人的存在必要。
原文发布时间为:2015-11-20
本文来自云栖社区合作伙伴“大数据文摘”,了解相关信息可以关注“BigDataDigest”微信公众号
相关文章
- 现已推出预览版 – Amazon CodeWhisperer – 机器学习助力的编码助手
- AWS 一周回顾 — 2022 年 5 月 30 日
- Data-centric AI之特征工程(第三讲)
- AWS 一周回顾 – 2022 年 4 月 18 日
- 使用 Amazon Lookout for Equipment 进行声学异常检测
- 认识新的 AWS 勇士
- 新功能 — 由 Gaudi 加速器提供支持的用于训练深度学习模型的 EC2 实例
- 新增功能 — 配备 NVIDIA A10G Tensor Core GPU 的 EC2 实例 (G5)
- 由机器学习提供支持的 Amazon Connect 现新增呼叫总结功能
- 【Java】Java学习笔记之二----修饰符
- 新的 AWS 奖学金计划帮助代表性不足和服务不足的学生为 AI 和 ML 领域的职业做好准备
- 现已推出预览版 — Amazon SageMaker Studio Lab,一项具有机器学习 (ML) 功能的免费学习和实验服务
- 基于云原生构建的 HPC 平台演示
- 构建 ElastiCache for Redis 慢日志可视化平台
- 智能家居物联网平台之-设备状态管理
- 使用 Deep Learning AMI 快速实现 CUDA,cuDNN 和深度学习框架版本兼容
- 智能家居物联网平台之 —— 模组配网
- 利用Amazon EC2进一步降低DeepRacer训练成本
- 使用机器学习和 AWS Inferentia 扩缩广告验证
- 使用Amazon Web Services CDK,在云上构建DataOPS 平台