奇虎360：AI关键基础设施正面临三重风险 人脸识别有漏洞

8月26日晚间消息，360公司表示，AI关键基础设施正面临三重风险，包括某些人脸识别设备能让任意人通过，不仅AI算法存在漏洞，其所依赖的关键基础设施也同样会被攻击。

360 AI安全研究院表示，目前AI的三重风险包括：学习框架风险、硬件风险及云平台风险。

第一，针对深度学习框架安全风险。深度学习框架主要可以划分为云端学习框架和终端学习框架。云端框架安全风险主要来自于自身代码的实现以及第三方的依赖库问题；终端框架安全风险主要存在于模型网络参数、模型网络结构，以及模型转换过程。

第二，针对硬件相关的安全风险。据英伟达官网统计，截至今年7月，关于GPU驱动漏洞的数目达到数百个；芯片漏洞以幽灵、熔断为例，幽灵漏洞可以造成泄露敏感数据、执行特定代码，熔断漏洞导致用户态获取特权内存的数据，这些漏洞影响了Intel、部分ARM的处理器。

第三，针对云平台的安全风险。用于深度学习任务的节点性能强大，因此总会有一些攻击者想要非法使用这些资源进行挖矿。比如，今年6月，微软通报部分Kubeflow存在未授权访问的问题，导致大量设备被非法挖矿。

“只有在确保AI系统的安全，才有可能放心享受AI的便利，那么保证系统中AI关键基础设施的安全至关重要”，360 AI安全研究院表示，AI关键基础设施的安全问题可以通过权限控制、访问隔离、参数过滤等措施进行缓解，针对AI关键基础设施的安全问题，需要建立多维度、一体化风险评估方法以及对应防御措施。

稿源：新浪科技  作者：大鹏