2024世界人工智能大会 齐向东：用好“AI 安全”促进数字化转型

丝瓜网小编提示，记得把"2024世界人工智能大会 齐向东：用好“AI 安全”促进数字化转型"分享给大家！

7月6日，在2024世界人工智能大会AI重塑通信未来与可持续发展论坛上，奇安信集团董事长齐向东表示，AI与安全是数字化转型与可持续发展的必修课，我国的广大数字经济建设力量既要用AI去驱动安全，又要做好AI自身安全，护航数字化转型与可持续发展。

人工智能是引领新一轮科技革命和产业变革的核心技术，为各行各业带来了全新赋能和全新机遇。但在享受人工智能技术红利的同时，也不能忽略随之而来的安全风险。齐向东总结，AI的安全风险主要来自三个方面。

一是AI本身存在安全风险，数据污染和投毒轻而易举。二是AI应用存在安全风险，数据泄露和数据滥用防不胜防。当员工向人工智能工具“投喂”数据时，极易造成敏感信息、核心机密和其他数据泄露风险；更可怕的是，不法分子还能利用所掌握的信息和数据，通过AI深度伪造技术创建虚假身份，进行换脸、换声，达到不可告人的目的。三是AI被黑客利用加剧安全风险，饱和式攻击猖獗。生成式AI可以生成恶意软件、钓鱼邮件，也可以快速发现目标系统中的漏洞，从而加速和扩大攻击规模，这大幅降低了网络攻击门槛，网络攻击数量大幅增加。

AI引发的安全风险固然不容忽视，但同时，当AI在网络安全领域被正确使用，也能够进步提升安全能力，更加高效、智能地对抗网络威胁。齐向东表示，针对攻击者突破单点设备、突破防护体系、隐藏踪迹的三个进攻阶段，AI能给安全防护带来十倍、百倍乃至千倍的效率跃升，将攻击扼杀在事发之前。

如何用好“AI 安全”，为数字化转型提供助力？齐向东提出，要积极构建高可靠人工智能安全体系，着力为用户提供有效的安全防护，既要用AI去驱动安全，又要做好AI自身安全。第一，高质量的数据是高水平AI的基础。第二，体系化的网络安全建设是AI发挥效率的平台。第三，统一的标准能为AI驱动安全的体系化落地扫除障碍。一方面，统一的数据输入标准，能让AI读懂“多国语言”，完成体系化分析；另一方面，要统一指令输出标准，让AI实现跨设备、跨系统的能力协同和全局联动。不仅如此，还要做好AI自身的安全防护，让安全合规贯穿全生命周期，确保AI在需求侧落地应用。

文/北京青年报记者 温婧

编辑/田野