AI背后暗含危机：数据污染 恶意样本攻击…要扛起AI深度融合应用的“安全”大旗

当下，在大数据、人工智能等新一代数字技术支撑下，万物“数智化”浪潮奔腾而来，各个行业都在快速向数字化、智能化转型。其中以人脸识别为代表的计算机视觉技术应用最具活力，依托广阔的应用场景正走向大规模的应用落地，推动城市治理的智能化升级。

然而，新技术带来红利的同时，其双刃剑效应也愈加明显。从网络安全到个人隐私，从信息诈骗到网络黑产等问题，日益引起社会强烈关注。

数智时代来临 繁荣AI应用背后暗含危机

“看似繁荣似锦的AI赋能，实则暗含危机。”在今年安博会期间，瑞莱智慧副总裁唐家渝在接受媒体采访时表示。

图：瑞莱智慧RealAI 副总裁 唐家渝

他指出人工智能产业在步入细分行业纵深面临着算法是否可靠、数据是否安全以及应用是否可控的三大困境。其中“数据驱动”下的深度学习算法存在不透明、不可解释等系统局限性，即便是开发者也难以理解其内在的运行逻辑，这就导致系统可能遭受到难以被察觉的恶意攻击。

“即使发展到如今，深度学习也只是迭代，用更优质的数据、更合适的参数、更好的算法，得出无限接近却永远不可能完全精确的结果。”唐家渝解释。

算法是通过对大样本的数据进行学习而建立出模型，由于没有对先验知识进行合理利用，它的判断只取决于样本数据。但样本数据从何而来、如何训练的等问题致使样本不够透明或者存在偏见。

唐家渝强调，深度学习范式下AI应用存在的结构性缺陷贯穿于AI全生命周期。无论是运行环节对输入数据添加“污染”，还是在最初模型设计环节进行恶意样本攻击，都可实现对AI整个系统的欺骗或攻击，进而导致AI应用出现致命性错误。

图：AI版"隐身衣"演示

  尤其是眼下，人脸数据被恶意采集、滥用愈演愈烈，不法分子借助泄漏的人脸信息即可对相关系统AI算法进行深层次攻击，进而达到不法发目的。例如攻击视频监控、安检闸机等智能安防设备，用于躲避追踪、冒充他人等；通过AI伪造破解线上银行的人脸认证，用于非法转账等诈骗行为，在现实生活中已经屡见不鲜。根据《人脸识别应用公众调研报告（2020）》指出，三成受访者表示已因人脸信息泄露、滥用而遭受损失。

破解行业困局 扛起AI深度融合的“安全”大旗

  面对如此严峻的形式，2021年《数据安全法》、《个人信息保护法》等法律法规的实施已经表明国家正在构筑数字化浪潮下的数字安全应用底线与基础，AI自在其中。

然而需要指出的是，安全危机面前，人工智能在技术力量上的支撑却显乏力。根据中国信通院发布的《人工智能安全框架（2020年）》蓝皮书，目前人工智能安全技术多处于学术研究和少量应用阶段，适用于各类人工智能应用的成熟安全产品和服务体系凤毛麟角。

这也是为何在文章之初，各位媒体记者纷纷认为，瑞莱智慧扮演着人工智能行业安全“破局者”的角色。

唐家渝介绍，伴随规模化建设和应用加速发展，保证人工智能“安全、可靠、可控”成为其未来发展最重要的趋势。瑞莱智慧孵化自清华大学人工智能研究院，由张钹院士、朱军教授共同担纲首席科学家，致力于以安全、可靠、可解释、可扩展的第三代人工智能，为高价值场景智能化升级提供一站式赋能平台。

图：瑞莱智慧亮相2021深圳安博会

  目前，瑞莱智慧已推出了系列自研的安全可控新一代人工智能基础设施平台，并在政务、金融、能源、制造、互联网等领域落地，为合作伙伴提供了金融智慧风控、智慧理财、工业设备预测性维护、人脸识别系统安全检测与增强等全套产品和解决方案。伴随着AI在各行各业深度融合的进程中，瑞莱智慧将扛起引领人工智能升级“大旗”。

构建主被动防御机制 让“安全”纵深赋能产业

数智化浪潮在催生巨大市场红利的同时，也打开了信息泄露网络攻击的“潘多拉魔盒”，随着人工智能技术在政务、金融、能源等国家关键基础中的普及应用，AI算法存在的安全隐患逐渐暴露出来，特别是当前日益复杂的国际安全形势下，相关领域的敏感数据更容易受到“多元化”攻击威胁。

唐家渝指出，AI模型构建与以往网络代码有根本性不同，在“多元化”网络安全威胁下，传统“被动式”、“单一化”的安全防御手段对一些AI新攻击方式力不从心。同时他强调，人工智能应用是集业务、算法、数据于一体的有机整体，应面向所有关键流程，布局全面且有针对性的安全防御措施。同时人工智能安全攻防技术在快速演变，一些未知威胁也在不断出现，因此人工智能行业需打造动态升级、科学前瞻的防御理论及技术体系，通过不断完善攻防实战对抗和自动化、智能化应对风险的能力，为人工智能纵深赋能产业构筑安全基座，并推动整个智能化产业的安全可控升级。

基于在人工智能攻防领域的丰富的实战经验与创新实践，瑞莱智慧提出了兼顾“被动”和“主动”的防御机制。

“被动”防御机制

针对被动防御，唐家渝解释其主要为AI应用部署静态的安全能力，防范已知安全风险，比如对外部访问、输入数据、行为决策等进行检测。

目前，瑞莱智慧已推出多款被动防御人工智能安全产品：业内首个AI安全防火墙，能够在AI系统运行环节有效检测和抵御对抗样本、深度伪造等新型攻击手段；人工智能安全平台RealSafe，集成国际领先的对抗攻防算法，提供端到端的模型安全检测能力，自动化高效评估AI安全风险，并提供安全性增强方案；隐私保护计算平台RealSecure，在数据训练、建模等环节部署数据安全能力，实现“数据可用不可见”。

图：DeepReal深度伪造检测平台

“主动”防御机制

针对主动防御，唐家渝介绍主要是为补充被动式防御的局限，通过引入和强化人工智能安全团队力量，以动态防御对未知威胁进行风险预判，构建自适应、自生长的安全能力。

在主动防御方面，瑞莱智慧推出业内首个人工智能安全靶场RealRange，提供实战化、体系化的一站式人工智能攻防演练服务，基于攻防实战演练将安全风险暴露前置，提前发现和适应瞬息万变的新型攻击和高级威胁，动态提升团队软实力，实现“让风险发生在靶场，让有效防御构建在安全事件之前”。

图：DeepRange人工智能安全靶场

小结

随着算法开源、场景落地、应用深化，人工智能产业入门门槛越来越低.。这也预示着行业面临的安全问题越来越复杂，传统的‘一锤子买卖’解决安全问题已经不适应，必须要有体系化的解决方案。

瑞莱智慧基于实战经验与前沿技术的融合，用人工智能的思维重塑AI安全，通过持续加大新机制、新技术和新能力迭代，构建第三代人工智能安全能力新体系，助力其形成更全面、更深入的产业生态。

人工智能行业发展困局已破，未来值得期待！