责任与风险失衡 很多产品明知有安全问题还推向市场 邬江兴院士炮轰AI厂商

出品 | 搜狐科技

作者 | 梁昌均

“经典计算机体系结构存在着娘胎里带来的技术基因缺陷,这是网络空间会有这么多安全问题的原因。”在7月31日的ISC.AI2024数字安全峰会上,中国工程院院士、国家数字交换系统工程技术研究中心主任邬江兴表示。

他表示,AI应用系统安全可以分为非内生安全问题和内生安全问题,而其内生安全共性问题源于存储程序控制机理的自在性矛盾。“凡是包含存储程序控制构造数据元素的系统,如果不能杜绝软硬件代码设计的脆弱性,则自在性矛盾导致的内生安全问题不可避免。”

邬江兴强调,人工智能作为赋能技术,绝对不能走先发展后治理的道路,它会在网络安全、技术风险、社会影响等层面带来各种不同的风险。

不过,他认为AI应用系统的内生安全共性问题目前有解。网络安全中国学派提出了内生安全理论与拟态构造方法,有有利于构建一个安全可信的执行环境。

具体来看,需要打造基于构造设计的网络安全和功能安全。“内生安全的有效性是由它的构造决定,就像金刚石的硬度由它的分子结构决定。”邬江兴说。

他表示,任何一个AI系统都是由计算机软件硬件组成,它所存在的问题跟现在网络空间存在的安全是一样的问题。这些问题要得到有效的解决,需要关注AI系统内生安全的个性问题。

“这是当前AI应用推广中的最大障碍,因为它存在着所谓的不可解释性、不可判识性、不可推论性,这是AI和大模型中特有的问题。”邬江兴提到。

那么,AI系统内生安全的个性问题如何解决?邬江兴表示,需要关注AI算法的多样性和特异性表达。

具体来说,AI算法模型对输入多样性敏感,稍许加点噪声,可能就识别不出来;AI算法模型对训练模式多样性敏感,训练方法的多样性比较大,可能会造成不同的判断;AI模型对训练数据多样性敏感,训练时间、顺序、尺度变化也会带来不同的结果。此外,它还对推理分析能力的多样性敏感,模型对同一任务的推理能力存在差异性。

“正好我们可以利用这种多样性,因此在安全的AI应用系统中引入多个算法模型很有必要,可以有效增加判识维度,为形成对齐奠定基础。”邬江兴表示,内生安全构造需要同时满足必要多样性定律和先对正确公理,即在多样性基础上还要跟人类价值观对齐。

他认为,基于这样的内生安全架构可以发现或纠正AI应用系统安全问题。“多样化是AI系统的必要安全技术,所以在这里我斗胆建议,不要相信任何一个模型,不能指望一个系统,而是应该采用多系统,这是保证安全最重要的方式之一。”

针对同一个目标,也应该可以采用差异化的网络算法。“比方用文心一言,再用360的模型,就会有模型生成多样化,这种多样化保证了表达的差异性,安全性也会高于单一的系统。”

“现在国内100多种模型出来,谁更安全,使用者很茫然。很多开发商明知产品存在安全问题,但仍将问题产品推向市场,用户怎么选,这是个大问题,所以当前AI应用系统出现安全责任和风险严重失衡的问题。”邬江兴说。

这导致了目前AI应用推进中面临的最大窘境——既不能机会主义地使用安全性尚不能确保的AI应用系统,又不能完美主义地追求绝对可行的AI应用系统。

邬江兴强调,内生安全范式应当是AI应用系统健康发展的基本遵循,凡是实用化AI应用系统都应该保证必要多样性定律和相对正确公理,要从思维视角、方法论、实践规范等方面落实,从而实现更安全的AI应用系统。


邬江兴院士团队:内生安全赋能网络弹性的构想、方法与策略

内生安全:网络弹性的创新引擎

在数字化时代,全球目光聚焦于如何在繁荣与安全之间寻找平衡。 中国工程院院士邬江兴团队在《中国工程科学》上发布的革新理念,以“结构决定安全”为核心,为网络弹性提供了一种全新的视角。 他们揭示了当前网络弹性工程的挑战,即理论创新的匮乏和对未知攻击应对的不足。

弹性新诠释:从被动到主动

网络弹性不再仅仅是系统在干扰下的生存能力,而是强调关键功能的连续性,如保护、检测和遏制,它已经成为保障任务稳定执行的关键要素。 国际上,MITRE和NIST分别定义了网络弹性,前者强调预防、抵御和恢复,后者则涵盖对各种威胁的适应性,包括APT攻击和环境变化。

面对网络安全的全球竞争,美国、欧盟和英国等国已将网络弹性提升到国家战略层面,通过立法和政策强化网络安全,保护本土产业。 美国倡导“设计安全”理念,强调制造商的责任,而欧盟则通过法规强制设备安全标准,英国则制定一系列网络安全战略,展现内生安全理念在全球范围内的重要性。

内生安全:理论与实践的交汇点

传统的安全技术面临困境,因为它们难以应对未知威胁。 内生安全理论提出动态异构冗余架构(DHR),旨在解决量化设计和验证网络弹性的难题。 它不单纯依赖外部防护,而是从系统内部寻求解决之道。 内生安全的“双盲效应”让防御者在面对未知攻击时,能最大程度地保持安全,DHR架构包括动态异构冗余、局部动态冗余、策略性裁决和问题规避,以全方位抵抗APT攻击和其他威胁。

内生安全的优势

赋能网络弹性的策略

安全技术如蜜罐技术,在DHR框架下协同运作,通过多样性和动态性提供网络弹性保障。 DHR架构将不可控的风险转化为可管理的概率,推动网络安全评估的量化标准。 团队建议中国应加快技术创新,制定适应性政策,强化制造商责任,并设立监管机制,确保网络安全贯穿产品全生命周期。

网络安全监管的强化包括产品准入制度、性能评估与标准化,国家级测试体系的建立则旨在确保弹性评估的公正与可信。 通过市场机制如保险服务,降低企业合规成本,激励创新,共同推进网络弹性的全球实施。

这是一场关于未来的网络战争,而内生安全正成为关键的战略武器,为中国乃至全球的网络安全注入强大动能。

  • 声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。
  • 本文地址:https://srwj168.com.cn/keji312/5710.html
厉兵秣马!技嘉AORUS电竞产品助力CS 2亚洲顶级赛事XP
7月20号后 再也不愁钱的4大星座! 财运旺不停 鸿运当空照