商汤科技发布AI治理白皮书:践行 “负责任且可评估” 的人工智能
机器之心发布
机器之心编辑部
在 2022 WAIC 世界人工智能大会 “亚洲科技伦理治理与可持续发展论坛” 上,商汤科技正式发布《“平衡发展”的人工智能治理白皮书——商汤人工智能伦理与治理年度报告(2022 年)》(以下简称“报告”,点击此处下载报告全文),深入探讨并分享了商汤在推动 AI 治理落地进程中的洞察、思考、目标与实践。商汤科技智能产业研究院院长田丰受邀出席并就白皮书的重点内容作了解读。
报告指出,当前,人工智能治理已经进入了以技术验证为主的落地实践阶段。今年以来,新加坡、欧盟、美国、中国等国家的监管机构和第三方机构纷纷发布 AI 治理测试工具箱、技术监管沙箱,推进 AI 治理的落地实施。
作为全球领先的人工智能软件公司,商汤始终高度重视人工智能治理,去年正式提出了 “平衡发展” 的人工智能伦理观,同时明确了 “以人为本、技术可控、可持续发展” 的伦理原则。随着人工智能治理进入落地实践阶段,商汤此次进一步提出了发展 “负责任且可评估” 的人工智能,并将其作为商汤开展人工智能治理的愿景目标,打造伦理治理闭环。
人工智能治理进入落地实践阶段
负责任且需可评估
从发展历程看,人工智能治理至今已经经历了以原则讨论为主的 1.0 阶段,以政策讨论为主的 2.0 阶段。进入 2022 年,随着全球人工智能治理进程的持续推进,以及可信、负责任人工智能等相关理念的持续渗透,有关验证人工智能治理如何落地实施的倡议日益增多。人工智能治理开始进入以技术验证为主的 3.0 阶段,即落地实践阶段。
而目前,人工智能治理的落地实践仍面临许多挑战,各行各业需要重点处理 “理念与行动”、“政策与实践”、“技术与用户” 三组关系,即将人工智能伦理的共同原则付诸实施;将政策要求转化为技术和业务团队可执行的实践标准;处理好技术与用户间的关系,推动用户对 AI 治理的认知,最终才能深入推进人工智能治理。
为有效地推进人工智能治理,商汤科技基于对全球人工智能治理诉求的分析,结合自身对技术和市场的理解,在白皮书中提出,“人工智能治理应当是一个价值牵引、技术先行、多方参与、分层推进的动态进程”,为人工智能治理的落地实践建立了有效路径。
从治理效果看,人工智能治理的实现由低至高,可分为可用、可靠、可控、可信四个层次。其中,“可用”是指人工智能系统在功能、性能层面应当能够满足应用场景需求;“可靠”是指人工智能系统在安全性、鲁棒性层面应当能够满足部署环境和可持续运营要求;“可控”是指人工智能系统在功能层面应当能够充分保护人类的自主意志和权利、保障人类对系统的控制权;“可信”是指人工智能系统的设计和应用应当符合人类的价值理念和伦理道德。
人工智能治理的“分层目标”
因此,人工智能治理体系建构的目标,就是发展负责任的人工智能,需要做到有迹可循、有据可查。基于 “平衡发展” 的伦理观,“以人为本、技术可控、可持续发展”的伦理原则,商汤此次于行业首次提出发展 “负责任且可评估” 的人工智能,并将其作为开展人工智能治理的愿景目标。
“负责任且可评估的人工智能”的核心要求
构建覆盖全生命周期的治理体系
打造 AI 治理闭环
作为业界最先组建人工智能伦理与治理委员会,并将伦理治理工作当作公司战略级方向的科技创新企业之一,商汤自 2020 年 1 月统筹推进人工智能伦理治理工作体系建设以来,已在内部开展大量治理创新实践,并形成了一整套可评估的人工智能治理落地方案,将伦理原则嵌入到产品设计、开发、部署的全生命周期,初步形成了人工智能治理闭环。
在数据风险方面,商汤将个人信息保护融入产品研发全生命周期,设立“数据安全与个人信息保护委员会”,实施个人信息保护评估审查,确保产品遵循默认符合个人信息保护的设计要求。
在算法风险方面,商汤作为领先的人工智能企业,主动承担算法开发者的主体责任,针对商业化算法场景,开展基于真实场景下的算法验证与评测,实现 AI 技术的真正可信与可控。
在应用风险方面,商汤持续完善人工智能伦理治理体系,建立覆盖设计、开发、部署全生命周期的产品伦理风险审查流程;紧随全球人工智能行业发展变化,建立“全球 AI 伦理风险库”;定期组织员工进行人工智能伦理培训,持续完善内部伦理传播体系,不断提升员工伦理素养。
商汤 AI 治理闭环,推进构建负责任且可评估的 AI
为保障人工智能治理体系的有效落实、推动形成伦理治理 “人人有责” 的企业文化,商汤还建立了伦理风险目标管理机制、伦理风险事件处置机制和伦理治理质量控制机制。此外,为推动发展 “负责任且可评估” 的人工智能,商汤还在内部开发了一系列覆盖数据治理、算法测评、模型体检、伦理审查的流程工具和技术平台。
随着人工智能逐渐深入产业应用,AI 的发展与治理之间的关系正如汽车的 “发动机” 和“方向盘”一样,相辅相成、缺一不可。在本次论坛上,商汤科技智能产业研究院科技政策与伦理研究主任宫超还受邀出席《拥抱科技伦理治理体系,赋能可持续发展之路》圆桌讨论,结合商汤在 AI 治理方面的实践成果,与行业嘉宾深入探讨了商汤的 AI 治理主张,他强调,商汤将持续推动发展负责任且可评估的人工智能,为 AI 治理实践不断贡献完善、可行的落地方案。
© THE END
转载请联系本公众号获得授权
投稿或寻求报道:content@jiqizhixin.com
相关文章
- OpenDILab幕后的「孤勇者」:AI研究员、电竞冠军和他们的开源梦
- 首支全人工智能创造MV发布,荣耀的AI理想正在发光
- 2022世界人工智能大会,腾讯云+AI驱动技术创新与场景创新双向融合
- Meta:不用插管!AI看看脑电图就知道你在想啥
- 清华大学周伯文教授:从原则到实践解读多模态人工智能进展与可信赖AI
- 我用个人微信接入了 ChatGPT人工智能AI对话
- Topaz Photo AI mac&win(人工智能降噪软件)
- Topaz Photo AI for Mac(人工智能降噪软件) 1.2.7激活版
- Luminar Neo 1.7.1(AI技术图像编辑软件)
- 网络爬虫技术和代理 IP 在ChatGPT等 AI 应用程序时代的重要性
- AI机器人和人工智能无法替代什么?
- 最新版本 Stable Diffusion 开源AI绘画工具之部署篇
- 令人心动的AI offer(七):科大讯飞、旷视、达摩院、上海人工智能实验室等春招补录、社招与实习生
- 谷歌内部发“红色代码”警告,CEO 亲自部署重组 AI 业务以应对ChatGPT威胁
- 英特尔AI百佳x机器之心「数字化转型」专场:当企业步入数字化转型深水区
- 随着以 ChatGPT 为代表的人工智能与产业结合,AI 服务会是未来新型消费的增长点吗?
- 爱数智慧 CEO 张晴晴:对话式 AI 是人工智能的终极形态 | AICon
- 《花雕学AI》12:从ChatGPT的出现看人类与人工智能的互补关系与未来发展
- 新思科技发布业界首款全栈式AI驱动型EDA解决方案Synopsys.ai
- ChatMind-人工智能AI生成思维导图
- 区块链2016总结、百度金融背后的人工智能 | AI金融评论周刊
- 李开复与《奇葩大会》四导师谈 AI:人工智能好比 GPS,人类不按 GPS 走才能发现新世界
- 辩论:智能投顾是否真AI ?这么厉害怎么不自己用而要开放出来?| CCF-GAIR 2017
- 深入了解MySQL中AI的含义与用法(mysql中ai表示)
- 2021年8月18日,“AI这时代 星辰大海——百度世界2021”大会将在线上召开。将全面展示百度人工智能在出行、生活、产业、自主创新科技等领域的最新成果和应用,对人工智能技术进行一次创新式全民科普,并与各界共同探讨人工智能商业价值和社会价值等热点话题。 [14-15] 直播渠道包括央视新闻客户端、百度APP、央视新闻视频号以及央视新闻在微博、抖音、快手、B站的官方账号等。 百度世界2021 百度世界2021