无限之我欲成魔 人工智能亟待构筑“主动免疫”安全防线

  5月20日，河北省保定市徐水区一家现代农业示范园区的工作人员在智能温室内定植水培蔬菜幼苗。近年来，河北省保定市徐水区依托现代农业示范园区建设，将“工业化”理念引入农业生产，发展培育品牌农业、智慧农业、生态旅游农业等特色高效农业，辐射带动农业增效和农民增收，赋能乡村产业振兴。新华社记者 朱旭东 摄

  近年来，全球人工智能（AI）产业蓬勃发展，今年ChatGPT更是引爆了新一轮投资和竞争浪潮，人工智能已成为新一轮科技革命和产业变革的重要驱动力量。《经济参考报》记者在调研中发现，人工智能正显露出对网络安全行业的巨大影响力和应用潜力，如何应对人工智能可能带来的安全问题成为各界关注点，也成为网络安全工作的下一个着力点。

  人工智能产业发展迅速

  近年来，人工智能产业加速发展。据中国信通院测算，2022年我国人工智能核心产业规模达5080亿元，同比增长18%，企业数量超过4000家，中国人工智能产业已进入全球第一梯队。另据预测，2030年我国人工智能核心产业规模将超过1万亿元人民币，全球人工智能市场规模将达到16万亿美元。美国商会今年3月的报告指出，在未来20年里，“几乎所有企业和政府机构”都将使用人工智能，人工智能将对社会、经济和国家安全产生深远影响。

  中国科学技术部部长王志刚近日在第七届世界智能大会上表示，当前全球人工智能发展进入新一轮跃升期，超大规模预训练模型的重大突破实现了人工智能的一次历史性跨越，探索出通往通用人工智能的可能路径，潜在创新发展空间巨大。

  当前，主要发达国家均十分重视发展人工智能，美国、英国、法国、德国、加拿大、日本、印度、新加坡等国均已陆续发布了人工智能战略。我国也十分重视这一领域的发展，2017年就印发了新一代人工智能发展规划，提出要抢抓发展的重大战略机遇，构筑我国人工智能发展的先发优势。

  今年，ChatGPT引发新一波人工智能投资和竞争浪潮。谷歌、Meta等美欧企业和我国的百度、阿里、华为、科大讯飞等都在加紧对人工智能的研究。

  业界人士预计，未来5至10年将是人工智能发展的关键期。仅就生成式人工智能而言，Gartner预计其将在2至5年内进入成熟期，并将带来大量的应用机会和商业潜力，是未来的重要技术趋势。

  潜藏安全风险引担忧

  人工智能在网络行为异常分析、网络安全漏洞识别、人脸检测、自动威胁检测、反欺诈等很多方面都发挥了重要作用，但人工智能快速发展可能带来的潜藏风险引发广泛担忧，关于人工智能发展监管的呼声越来越高。

  中国信息协会信息安全专业委员会主任叶红指出，全球范围内人工智能引发的数据泄露、网络攻击、模式误导、学习反噬等安全风险日益凸显，已成为影响和制约人工智能高质量发展的障碍。下一阶段，人工智能安全将是网络安全发力的一个重点。

  国家信息中心党委专职副书记、纪委书记吴文化日前在2023西湖论剑·数字安全大会上表示，人工智能给网络安全引入了三方面风险：一是网络攻击风险，人工智能在一定程度上降低了网络犯罪的门槛，提高了攻击的有效性；二是数据泄露风险，容易造成敏感数据或个人信息泄露；三是模型误导风险，一旦遭受数据投毒或模型攻击，容易引发负面舆情扩散或重要决策偏差。

  人工智能发展所呈现的新特征带来了安全挑战。中国电信股份有限公司研究院副院长/云网基础设施安全国家工程研究中心常务副主任李安民认为，人工智能安全不同于以往，其具有double security（双重安全）特征。以往的安全主要是确保系统、对象的安全，而人工智能对象特殊，目前已进入模型驱动时代，其本身具有学习、演进、变化的能力。尤其到元宇宙时代，多元、多维、全息、全能的特征和以往狭义的网络空间和网络信息安全相比，人工智能涉及的安全问题范畴无论从内涵还是外延都有极大的突破。

  中国电信集团有限公司科技创新部总经理/云网基础设施安全国家工程研究中心主任王桂荣认为，由于AI技术应用渗透到方方面面，因此有可能带来社会生活和社会治理安全的问题。一些技术，如歧视性的算法、换脸技术等，如果应用不当则会带来伦理安全等风险。