人工智能来到你身边！安全和隐私如何保护？

【编者按】在国外，当Facebook开始将手伸向旗下WhatsApp的用户数据时，当Google推出了智能聊天应用Allo时，都受到了侵犯用户隐私的谴责。相反，当人工智能在国内被捧上风口时，却没多少人预先关心类似技术和产品对个人隐私的侵害。

世界上一些最知名的企业已经在信息安全方面投入了数百万美元。当然，他们的对手也是如此。但一些有恶意的人却希望你的防御系统主要是由人类操控的，而且所有的防御系统的操控方式都是一样的。

当你搬家时，你会换锁还是和你所有的邻居使用共享锁?试想一下，如果小偷仅仅知道了一个共享锁的密码，将会发生什么呢?出于某种原因，信息安全的世界有一种相同的锁定心态。一些“顾客”是有恶意的人，他们费尽力气想去侵犯他人的财产安全。考虑到这种情况，即便各个企业投入了大量资金，安全防护仍会失败，对于这样的结果我们也就不应感到惊讶。

要想网络防御者有机会赢得胜利，我们就必须开始公平竞争。供应商将他们的安全产品的相关副本分发给客户，只是因为这个方式对他们来说很容易，而不是因为这个行为对他们的客户更好。

一个反病毒公司应该为每个恶意软件样本生成多少个变种?所有基于主机的人工智能(AI)防御都能在病毒环境中学习吗?在过去，为每个企业定制这些方案是不可行的。幸运的是，网络安全研究逐渐出现了一些新的技术，它们可以为每一个客户提供独特的病毒检测软件，这些技术可以帮助维护公平竞争环境，甚至有助于企业在商业竞争中取胜。

这些新兴技术广泛地出现在人工智能和机器学习领域。任何人工智能系统的核心都是学习能力。一些人工智能解决方案从本地环境中学习，而另一些则从全局环境中学习。那些能够胜出的是那些利用只存在于客户的网络环境中的数据，并产生一种针对该环境的移动防御类型的数据，根据这些数据建立起某种或全部的威胁探测能力的企业。其中包括：

一种是实质上不同于当前企业之间的防御方式;

一种是随着时间的推移，它会随着环境的变化而不断演变的防御方式;

最重要的一种是，防御系统不会让攻击者事先知道，并且他们断定攻击者一定会失败。

类似于在密码中再次套入密码有助于保护信息不受损害，部署网络安全解决方案，利用网络环境将其与其他所有副本区别开来，有助于保护企业。

使用人工智能系统建立一个移动防御系统

人工智能可以使用数千个特征来判断网络中的内容是否有恶意，或者用户或系统行为是否异常。每一个特征都只提供了一个小的证据来判断是否有病毒。

但是这只有在复杂的组合中才有用。机器学习算法通过专门一段时间的训练，试图找出如何结合特征来产生准确的洞察和预测。

根据每个人工智能系统的方法，培训数据可以来自当地环境、全球环境或两者的混合。然而，与传统方法不同的是，所得到的模型从来都不是基于简单的规则或易于理解的模式。这些模型的自然不透明以及它们的动态构造为有效的移动防御提供了基础。

你可以通过调整训练集或时间来改变人工智能模型。额外的培训数据是否只是简单地添加或用来替换老的培训数据并不重要，因为结果是一样的。

新的模型使用现有的功能或使用全新的功能被创造出来。在人工智能和机器学习方面，量身定制的检测解决方案的成本是可以忽略不计的。然而，必须有一个解决方案提供者来启用这种方法。一些使用机器学习和人工智能的网络安全供应商仍然在以传统方式部署他们的模型，而不会利用本地数据来调整他们的解决方案。当然，移动防御也面临挑战，不仅仅是那些会继续试图打败它们的恶意行为者所带来的挑战。最重大的挑战是如何确保定制解决方案的平价问题。没有人想要“第二好的”检测模型。必须注意的是，任何技术在实际应用过程中都会产生一种具有统计意义的模型，在所有定制的变量中，检测精度和误差几乎是一致的。

很难找到比移动防御更好的安全概念。“改变你的锁”是最完美的安全建议之一。然而，在网络安全领域，有些锁比其他锁更容易改变。

   

 

  

本文转自d1net（转载）

人工智能如何增强机场的安全系统 随着人工智能驱动的自动威胁识别系统的发展，可能会预见和阻止恐怖袭击。通过提高机场的安全性，确保乘客的旅程更加顺畅。
人工智能对军事防御与安全的影响 加拿大智库国际治理创新中心（Centre for International Governance Innovation，CIGI）2022 年3 月 7 日发布了《人工智能对军事防御和安全的影响》（The Impact of Artificial Intelligence on MilitaryDefence and Security）。该报告立足于加拿大国防政策，概述了人工智能的军事用途以及促
如何管理人工智能风险和安全？ 在大多数组织中，人工智能模型是“黑匣子”，只有数据科学家知道人工智能到底做什么。这可能会给组织带来重大风险。
斯坦福NLP课程 | 第19讲 - AI安全偏见与公平 NLP课程第19讲介绍了 NLP 和 AI 偏见产生的原因、衡量和应用，以及通过数据、机器学习技术、多任务学习等减少偏见、促进公平。
谷歌 AI 提出双重策略强化学习框架，帮助机器人安全学习动作技能 深度强化学习在自主解决复杂、高维问题方面的前景，引起了机器人、游戏和自动驾驶汽车等领域的极大兴趣。但是，要想有效地进行强化学习策略的训练，需要对大量的机器人状态和行为进行研究。这其中存在一定的安全风险，比如，在训练一个有腿机器人时，由于这类机器人自身不稳定，机器人在学习时很容易发生跌倒，这可能会造成机器人的损害。
人工智能如何帮忙确保供应链的安全？ 技术影着响社会的方方面面，供应链也不例外。人工智能提供了一种高度创新的技术形态，而这种形态使供应链的管理人员和工作场所发生了巨变。
人工智能推动网络威胁发展：安全是下一个重大挑战 在人工智能(AI)和安全性方面，很多企业的信息安全团队和IT团队对其表现形式提出了质疑。毕竟，自从20世纪80年代后期以来，人们一直听说人工智能即将到来。鉴于大多数供应商已经将人工智能和机器学习(ML)术语引入他们的市场营销活动中，看起来更像是在销售未来，而不是现在。