人工智能失控，并不是人们在2018年会面临的危险，毕竟它现在还不够聪明。但人工智能的行为令人费解，从而导致领导者和消费者对其保持谨慎的态度——这才是真正的危险所在。我们会面临更大的压力。所以，必须要打开人工智能“黑匣子”，使其能够被解释。但这涉及到成本和效益之间的权衡。 企业需要建立一套能够评估业务、业绩、监管和声誉方面问题的框架，因为它们决定了人工智能的可解释性的正确水平。
人工智能趋势：网络攻击将因人工智能变得强大，但网络防御也会如此
人工智能趋势：网络攻击将因人工智能变得强大，但网络防御也会如此智能的恶意软件和勒索软件通常能够在传播过程中学习，通过机器智能协调对全球网络攻击，并通过先进的数据分析来定制攻击方式不幸的是, 这一切都在进行中。企业不可能拎着刀去参加枪战。它们必须要用人工智能来对抗人工智能。
人工智能驱动的自动化武器是否能成为连环杀手？人工智能系统告诉我们减少空气污染最合乎逻辑的方法是消除人类？这种恐惧可能会带来一些好的惊悚电影，但危险是可以控制的。
这里有一个许多人工智能支持者都不愿意提及的秘密：人工智能并没有想象中的那么聪明，至少现在是这样的。人工智能模式识别和图像识别、将复杂任务自动化以及帮助人们做出决策方面越来越好。所有这些都为价值数万亿美元的企业提供了机会。
例如，在过去，为了让人工智能程序能够学习下国际象棋或其他游戏，科学家们不得不给它们提供大量的历史游戏数据。现在，他们只需要向人工智能提供游戏规则就行了。在几个小时后，它就能知道如何打败世界上最伟大的大师了。
这是一个非同寻常的进步，具有巨大的潜力来支持人类决策。与下棋不同的是，一个拥有正确规则的人工智能程序可以在企业战略、留存消费者或设计新产品方面表现的更好。
但它仍然只是遵循人类设计的规则。如果对负责任的人工智能I给予适当的关注，我们可以安全地利用其能力。
真正的风险
尽管人工智能是可控的，但它并不总是可以理解的。一方面，许多人工智能算法超出了人类的理解范畴。另一方面，一些人工智能供应商为了保护知识产权不会透露他们的项目。在这两种情况下，当人工智能做出决定时，终端用户是不知道它是如何到达那里的，它就是一个“黑匣子”，我们无法看到它的内部。
在一些方面，这算不上一个问题。就比如子商务网站使用算法向消费者推荐新的衬衫，风险就很低。但是当人工智能驱动的软件因为银行无法解释的原因拒绝了抵押贷款申请时会发生什么？如果人工智能没有明显的理由在机场安检中标记某个类别的人该怎么办？当基于人工智能的交易软件出于神秘原因在股票市场上进行杠杆式投注时会发生什么？
如果用户不能理解人工智能的工作原理，他们可能不会相信它。如果领导者不能看到它是如何作出决定的，他们可能不会投资人工智能。因此，运行在“黑匣子”上的人工智能可能会遇到一波不信任的浪潮，从而限制了它的运用。
影响
许多黑匣子将会打开
我们预计，企业面临的来自终端用户和监管机构的压力将越来越大，所以不得不部署可解释，透明和可证明的人工智能， 这可能需要供应商分享一些秘密。同时，这也可能需要使用深度学习和其他高级人工智能的用户使用新技术, 以解释以前难以理解的人工智能。
企业需要进行权衡
大多数人工智能都是可以解释的——但需要付出代价。与其他任何流程一样，如果每个步骤都必须进行记录和说明，流程就会变得更慢，而且可能会更加昂贵。但是打开黑匣子将减少某些风险，并帮助获得利益相关者的信任。
企业需要建立一个关于人工智能解释能力的框架
可解释性、透明度和可证明性不是绝对的，它们存在于一个范围之内。 一套能够评估业务、业绩、监管和声誉方面问题的框架可以使人工智能使用案例在哪些方面达到这个范围做出最佳决策。使用人工智能来帮助做出生死决定的医疗保健公司与使用人工智能来确定潜在的进一步研究目标的私募股权基金有不同的需求。
人工智能趋势：人工智能方面的竞争将会上升到国家层面
人工智能趋势：人工智能方面的竞争将会上升到国家层面人工智能是一个巨大的机会, 许多政府正在努力确保他们的国家得到一大块蛋糕。 加拿大、日本、英国、德国和阿联酋都有国家级的人工智能计划。 美国的税收改革和放松管制可能会推动人工智能的快速发展。人工智能趋势：打开人工智能的黑匣子将是重中
企链通（https://qlt.tc755.com/）是目前全国深度供应链商企平台，撮合企业产品供需的基础上，提供供应链金融、商会入驻、对外出口贸易服务，提供国际追溯领域内最具公信力的追溯云服务。是谷融集团在产业联盟管理、国家追溯体系认证、深度供应链管理版块的真实落地。