人工智能如何才能走得更远

　　新兴的人工智能技术，为人类增添便利的同时，也带来了隐患。近段时间以来，有犯罪团伙利用AI技术制作虚假视频骗取钱财，不法分子将女明星的脸换到色情视频上出售……一条条利用AI技术作恶的黑色产业链正在悄然形成，让不少人蒙受钱财、名誉损失。

　　换脸技术打开的

　　“潘多拉魔盒”

　　有“换脸神器”之称的Deepfake，在诞生之初只是一项有趣的技术。由于其逼真的效果、开源获取的便捷，被不少技术人士拿来制作各种好玩的视频。比如“AI换脸”刚流传到国内的时候就曾在社交媒体上掀起了一波热潮，有人将杨幂的脸换到了朱茵饰演的黄蓉身上，视频中顾盼神飞的全新“蓉儿”获得了不少网友的喜爱。

　　但在让人哈哈一乐的同时，由于个人信息可以被轻易“操纵”，AI换脸被滥用的负面影响也在全面爆发。有人收到朋友发来的“借钱视频”而慷慨解囊，结果轻易被骗；被伪造视频而处于谣言中心的当事人，眼睁睁看着自己声誉受损而百口莫辩；在涉及到巨额金钱往来时，如果遭遇对方信息资料造假，有可能会倾家荡产……种种“AI造假”信息不仅会给个人带来不可挽回的损失，还可能引发巨大的社会风险。甚至有人认为，AI换脸视频足以误导民意，威力堪比“核武器”。

　　目前，“人人都怕换脸术”的恐慌，已引起国家有关部门的高度关注。今年1月1日起施行的《网络音视频信息服务管理规定》中就对此作出规定：AI造假音视频不得随意发布，要“按照国家有关规定开展安全评估”，并“以显著方式予以标识”。

　　人工智能作为一种新兴技术，除会被滥用之外，其技术本身的安全风险也足以引发忧虑。在去年10月举行的国际安全极客大赛中，参赛人员通过在胸前上放一张打印有“图像噪音”的纸片，就能够逃脱智能监控系统的识别，实现“隐身”。

　　“这并不是无中生有，而是模拟了真实的人工智能攻击场景。”来自北京瑞莱智慧科技有限公司（简称RealAI)的算法科学家萧子豪说，人工智能有时候会犯一些在人类看来“很傻的错误”，是因为目前以深度学习为代表的人工智能存在一大安全盲点——对抗样本，即在原始图片上增加肉眼无法察觉的噪声就可以恶意误导AI识别算法输出非预期的结果。

　　此外，基于深度学习的人工智能本质上相当于一个“黑箱”，是“不可解释”的。“也就是说，我们输入一个数据，人工智能会反馈一个结果，但是这个结论是如何得出的，我们完全无法得知，所以甚至有时候人工智能犯错了，我们也无法解释背后的原因。”萧子豪说。

　　人工智能亟待突破

　　“天花板”

　　关于人工智能安全性的担忧，一方面需要依靠法律法规和政府监管来约束，另一方面，需要从源头加强安全评估，提升鉴别技术等能力，借助技术手段提前布局。

　　2018年6月，清华大学人工智能研究院揭牌成立，以“一个核心、两个融合”作为发展战略，即以人工智能基础理论和基本方法研究为核心，积极推进大跨度的学科交叉融合，积极推进大范围的技术与产业、学校与企业融合。

　　在多年研究的基础上，中科院院士、清华大学人工智能研究院院长张钹教授提出了“第三代人工智能”的概念。张钹认为，人工智能技术发展至今，已经经历了两代模型。第一代是知识驱动的符号模型，比如专家系统；第二代是数据驱动的机器学习模型，如深度学习、概率统计模型，目前正处于前所未有的兴盛时期。

　　“然而这两代技术都存在天然的局限性。” 张钹说，目前的人工智能虽然发展非常快，但是也只在图像识别、语音识别等方面取得了比较明显的突破。如果遇到数据知识缺乏、非完全信息、不确定性等场景，这两代人工智能基本上就变得“无计可施”了。

　　“现在的人工智能系统是非常脆弱的，容易受攻击或者欺骗。”张钹院士说，基于深度学习的人工智能系统不仅需要依靠大数据“喂养”，而且不可解释，存在非常严重的缺陷，“这个缺陷是本质的，由其基本理论方法本身引起的。”

　　也正因此，在一些真正重要的关键领域，比如自动驾驶、金融业务决策和医疗诊断等实际应用场景中，人工智能的进一步发展和应用还面临着很大的问题。

　　在张钹看来，以深度学习为代表的第二代人工智能技术正在逐渐触及“天花板”，亟需发展下一代人工智能技术，也就是安全、可靠、可信的人工智能。尤其，安全性将成为下一阶段人工智能发展必须的基础。一旦忽视人工智能的安全问题，未来将难以持续健康的推动AI技术在更多场景的落地。（转自人民网，有删改。）