在中央网信办网络安全协调局副局长王营康看来，随着人工智能技术发展，攻击者可利用人工智能技术生成网络攻击和网络钓鱼工具等，网络安全从人人对抗、人机对抗逐渐向基于人工智能的攻防对抗演化。

他认为，人工智能的风险主要来自两个方面：一方面，是人工智能技术存在弱点和不足，而不是过于强大，需靠发展创新去解决；另一方面，是使用者对人工智能的滥用和恶意使用，以及依赖而非驾驭人工智能。

根据奇安信发布的《2024人工智能安全报告》，AI既放大现有网络安全威胁，又引入了新型威胁，引发网络安全事件指数级增长。其中，2023年基于AI的深度伪造欺诈暴增3000%，基于AI的钓鱼邮件数量增长了1000%。

巴基斯坦NCERT主席阿巴斯·海德尔说，大型语言模型(LLM)正在彻底改变网络安全形势，AI在网络安全领域带来的既有挑战，也有机遇。例如，网络罪犯会使用AI生成具有强欺骗性的网络仿冒邮件，但企业也可以用AI完成威胁检测和事件响应、处置。

当前中国新一代人工智能正在与实体经济深度融合，广泛应用于社会民生领域。龚克呼吁推进AI与网络安全融合创新。一方面，人工智能的发展推动了网络安全技术的创新。例如，基于深度学习的恶意软件检测、用户行为分析等新技术不断涌现。另一方面，人工智能的自动化和智能化特性又可以大大提高网络安全管理效率。通过自动化检测、响应和风险评估等流程，可以更快地应对网络威胁。

黄色软件大全OPPO在5日举行的2024北京网络安全大会上，中国新一代人工智能发展战略研究院执行院长龚克表示，人工智能是先进生产力，但远未成熟，存在技术瓶颈和社会忧虑。

在技术之外，与会者呼吁进一步提高对网络安全态势的重视，强化体系化安全能力建设。“数据安全是人工智能安全的前提和基础”，中国友谊促进会理事长、国家网信办原副主任陈智敏认为，要从网络安全保卫向数据安全保卫的工作模式拓展，为构建与数字生产力相适应的新型生产关系奠定基础。

AI大模型能否解决问题？奇安信董事长齐向东说，AI大模型不是万能钥匙。做好“AI驱动安全”至少需要具备三大条件：其一，高质量的训练数据；其二，纵深防御的内生安全体系；其三，设备、体系具有统一的输入输出标准。

目前，AI驱动安全成效初显。国家电网有限公司副总信息师王继业介绍，国家电网依托大数据平台，加强人工智能与网络安全的融合，研究基于人工智能的风险异常检测方法，开展网络安全关联分析、事件处置和调查溯源，强化网络安全威胁监测和应急处置，实现网络安全事件的智能响应、联动防御。