161
当前位置: 首页  >> 科技  >> 查看详情

“贴纸”放在眼镜上对准手机就能解锁其人脸识别 防范人工智能安全风险

来源: 经济日报   日期:2022-09-27 10:45:59  责编:刘玉辉 
分享:

   近年来,我国人工智能产业规模快速增长。据工信部发布数据显示,人工智能核心产业规模超过4000亿元,比2019年同期增长6倍多,企业数量超过3000家,比2019年同期增加15%,在制造、交通、医疗、金融等重点行业形成一批典型应用场景。“伴随应用场景日益广泛以及使用频次快速增长,人工智能安全风险发生的范围和可能性持续提高。”中国科学院院士、清华大学人工智能研究院名誉院长张钹认为,以深度学习为代表的算法爆发拉开了人工智能浪潮序幕,在计算机视觉、智能语音、自然语言处理等众多领域取得长足发展。但以数据驱动的第二代人工智能在可解释性、稳健性方面的缺陷也逐渐暴露出来,导致安全事件频发。如何实现高质量发展和高水平安全良性互动,是当前人工智能产业面临的最为重要命题。

  中国信息通信研究院发布的《人工智能白皮书(2022年)》同样指出,随着人工智能应用暴露出各种风险和挑战,以及人们对人工智能认识的不断深入,人工智能治理已经成为全球各界高度关注的议题,对可信安全的呼声不断增多。

  “人工智能安全风险主要从‘人’与‘系统’两个角度剖析。从人的视角看,人工智能安全风险存在技术滥用甚至‘武器化’问题。”北京瑞莱智慧科技有限公司CEO田天以深度合成技术为例解释,该技术能够大幅提升内容制作效率与质量,但其负向应用——深度伪造的风险正持续加剧且已产生实质危害。比如,通过“AI换脸”捏造虚假讲话视频等引导公众舆论。对此,清华大学人工智能研究院基础理论研究中心主任朱军认为,技术是中性的,应加强对应用场景、使用者的监管,防止技术滥用等衍生风险发生,保障其应用可控。

  大赛现场演示的人脸识别破解则展示了人工智能系统层面风险,它来自深度学习模型本身存在脆弱和易受攻击的缺陷,通过输入数据添加扰动,使系统作出错误判断,导致其可靠性难以得到信任。这一漏洞在自动驾驶感知系统同样存在:正常情况下,自动驾驶系统识别到路障、指示牌、行人等目标后,会立即制动车辆,但对目标物体添加干扰图案后,车辆感知系统就会出错,引发碰撞危险。“与传统信息系统不同,人工智能系统存在高度不确定性,技术漏洞更为复杂。”朱军建议,在算法模型外部署安全防护组件,利用算法安全检测与防御加固等措施,抵御模型窃取、对抗样本等新型攻击,提高攻击门槛与防御成本,让攻击者无利可图,从而在源头上实现安全。

  北京航空航天大学软件开发环境国家重点实验室副主任刘祥龙则认为,构建科学评测手段是提高人工智能系统防御能力的另一项有效解决方案。人工智能算法不仅种类众多,还包含数据集、模型等众多要素,涉及训练、测试、验证等多个环节,这使得人工智能算法安全性评测成为一项复杂命题。因此,应配备从测试、分析到加固的完整技术手段,形成标准化测试流程。人工智能安全评估不仅局限于算法,未来还应拓展至数据、应用等多个层面,形成全面测评,保障人工智能全周期安全。

  从长远看,人工智能安全问题需要从算法模型原理上寻找突破口。张钹提出构建第三代人工智能,即在第二代人工智能具有的数据、算法、算力3个要素基础上,再融合知识要素,建立新的可解释、稳健的人工智能方法。

  筑牢人工智能安全屏障需要不断在攻防演练中升级对抗能力。大赛聚焦人脸识别、自动驾驶等场景中的典型漏洞及风险,通过考核漏洞发现、挖掘等能力,寻找新型安全需求场景,推动人工智能安全攻防技术创新,为强化人工智能治理体系与安全评估能力建设提供支撑。

  作为人工智能产业发展重要基石,算力基础设施的加快建设将满足人工智能爆发式增长的算力需求。国家工业信息安全发展研究中心日前发布的《人工智能算力基础设施安全发展白皮书》指出,安全的算力基础设施应保护数据模型不被窃取,有效防范恶意攻击,提供可信任的运行环境,保障人工智能系统安全稳定。

  但人工智能算力基础设施发展仍处于初期阶段,专门的安全标准、技术体系、评估规范、监测和检查手段仍在建设中。为进一步推动人工智能算力基础设施安全发展,国家工业信息安全发展研究中心副主任何小龙认为,算力基础设施与人工智能的安全问题相互交织,应构筑具有针对性的一体化、全链路标准体系,实现协同联防。同时,鼓励算力基础设施企业和算法企业加强合作,推动安全技术工具集成到人工智能算力基础设施中,降低企业应用人工智能成本,形成安全发展良好氛围。(记者 李芃达)



 

1. 凡本网注明“来源:中国生活消费网” 的所有作品,版权均属于中国生活消费网。如转载,须注明“来源:中国生活消费网”。违反上述声明者,本网将追究其相关法律责任。

2. 凡本网注明 “来源:XXX(非中国生活消费网)” 的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。

3. 任何单位或个人认为中国生活消费网的内容可能涉嫌侵犯其合法权益,应及时向中国生活消费网书面反馈,并提供相关证明材料和理由,本网站在收到上述文件并审核后,会采取相应措施。

4. 中国生活消费网对于任何包含、经由链接、下载或其它途径所获得的有关本网站的任何内 容、信息或广告,不声明或保证其正确性或可靠性。用户自行承担使用本网站的风险。

5. 基于技术和不可预见的原因而导致的服务中断,或者因用户的非法操作而造成的损失,中国生活消费网不负责任。

6. 如因版权和其它问题需要同本网联系的,请在文章刊发后30日内进行。联系邮箱:zgshxfw@126.com 手机:13910910492(含微信)QQ:1176602562

相关文章

  • 推动人工智能加速拥抱实体经济

       新一代人工智能高歌猛进发展,日益成为推动生产力跃升的驱动力量。今年国务院发布的《“十四五”数字经济发展规划》提出,以数字技术与实体经济深度融合为主线,不断做强做优做大我国数字经济,为构建数字中国提供有力支撑。聚焦人工智能与实体经济深度融合,本期特邀4位专家进行探讨。   人工智能深刻影响经济社会发展   主持人:什么是人工智能?从世界范围看,人工智能研发与应用的趋势怎样?  &e... [阅读]

  • 智能云网,构建算力时代的联接底座

       算力作为数字经济的核心生产力,正在像水和电一样成为个人和企业社会活动中不可或缺的基础需求,在各行各业发挥着重要作用。根据《中国算力发展指数白皮书》,每1元的算力投入,可以带动3~4元的经济产出。算力是加速行业数字化及经济社会发展的重要引擎,将更深层次改变我们的生产和生活方式。   在算力时代,算力是中心,网络是根基。网络贯穿算力的生产、传输和消费全流程,需要做到算力高效释放、算力灵活调度、边缘最优服务,让千行百业可以像用电一样便捷使用算力。华为基于“I... [阅读]

  • 卡乐数商平台布局的数字藏品商品化是否能成为首个破圈点?

       随着国内外媒体和科技公司的大面积宣传,“元宇宙”概念早已深入人心,众多巨头涌入赛道,想在“元宇宙”下寻找突破,同时虚拟人、区块链、数字藏品、虚拟现实等与元宇宙相关的概念也频频出圈,从而衍生出一系列的商业碰撞,眼花缭乱让人措手不及,分不清是营销炒作还是实力入场,而这其中最引人注目的还是数字藏品。    一直以来,数字藏品大部分以艺术品、游戏、潮玩、票务为原型,以图片、动图、视频三种方式呈现。用户与... [阅读]

  • 赣州蓉江新区:人工“满地跑”变智能“全覆盖”

       近日,在赣州蓉江新区智慧城市运行调度指挥中心,公共信息平台、智慧交通、智慧教育、智慧工地、智慧城管、智慧管网等专项应用项目先后上线试运行。   在这里,工作人员可随时对各点位进行监控、调度和管理,全覆盖、全流程、分层级的信息化监管体系,实现实时在线监管。   “利用光纤4G和5G网络,接入前端各类物联传感设施,利用视频和大数据分析技术,发现城市运行的各种问题,通过精细化管理平台,统一分配各单位进行处置,全面提升城市精细化管理水平。”智... [阅读]