《体育综合》

人工智能也有“成长”的烦恼，随着人工智能技术的深度应用，大模型所面临的、所带来的安全挑战也日益严峻：第十四届全国政协委员、全国工商联副主席、奇安信科技集团董事长齐向东接受采访时表示，今年两会自己比较关注的重点之一，是人工智能安全。

人工智能给传统产业发展带来新挑战

就在春节短短八天的时间里，新作品、新产品层出不穷。一开始是电影《哪吒2》的爆火，紧接着DeepSeek出圈。“我本来以为DeepSeek作为全球顶尖人工智能产品，可能科技圈的人更关注。但我发现，从乡村到城市，从小孩到老人，都在谈论和使用DeepSeek。这说明了人们对科技创新的渴望和追求是如此强烈，也推动着我们这些科技创新工作者夜以继日奋斗。”

齐向东说，这次DeepSeek横空出世，彰显了我国在科技创新上的巨大潜力。人工智能是引领未来发展的颠覆性技术和前沿技术，也是注定要走进千家万户的关键共性技术。在传统产业转型升级的过程中，人工智能发挥着“领头雁”效应。作为传统产业数字化转型中最重要的变革驱动力量，人工智能已在研发、生产、管理全环节广泛应用，涌现出上百种场景和模式。但是，人工智能也大幅提升了网络攻击的烈度和广度，网络攻击窗口不断扩大、网络攻击手段不断革新、网络犯罪门槛持续降低，给传统产业发展带来了新风险、新挑战，引发了社会高度关注。

人工智能发展面临三类安全问题

积极构建高可靠人工智能安全体系，着力为用户提供有效的安全防护，既要用人工智能去驱动安全，又要做好人工智能自身安全。齐向东认为，人工智能发展面临的安全问题大致可以分三类。

第一类是人工智能大模型自身的安全问题。开发风险、数据风险、应用风险和基础环境风险这四大安全风险比较突出。开发方面，开源大模型要重点防范代码缺陷和预留后门等问题；应用方面要防“内鬼”对训练数据投毒，进行模型篡改、配置篡改；数据方面，要小心内部配置错误和弱口令等造成的数据库暴露；基础环境方面要重点关注云、API、传统设备漏洞等等。

第二类是利用人工智能开展网络攻击的问题。人工智能促进了网络攻击手段的更新迭代，“饱和式”攻击成为可能，攻击者可以瞬时发动海量攻击打垮已有的网络安全体系。人工智能还提升了“以假乱真”的能力，深度伪造、认知战、钓鱼等威胁加剧。攻击者可利用人工智能“换脸变声”输出虚假信息，开展网络诈骗，或输出背离主流价值观的内容危害认知安全。

第三类是通过攻击人工智能引发的“网络攻击大爆炸”。未来人工智能会成为社会的基础设施，当大模型嵌入智慧城市、工控系统、智慧政务等关键领域时，会放大漏洞等传统安全威胁，一旦人工智能大模型遭到攻击可能会牵一发而动全身，引发社会服务中断、生产停滞、隐私数据泄露等安全事件。

针对这些安全问题，要从技术保障、制度保障、成果应用三方面入手，系统提升安全能力，确保人工智能安全发展。

第一，建立适配大模型的纵深防御体系，筑牢人工智能的安全根基。第二，制定大模型安全强制合规要求，夯实人工智能安全发展的制度保障。第三，推广“AI+安全”创新成果落地，走好提升安全能力的必经之路。

AI行业仍然面临人才缺口

齐向东曾呼吁壮大“实战型、复合型AI安全人才队伍”。AI“人才荒”如何破局？他表示，自己在人才培养方面的经验概括起来是三点：一是建立专业人才培养基地，比如奇安信在2018年，就在绵阳成立安全人才虎符基地，并先后在武汉、沈阳、扬州等地建立基地，目前已经累计培养超1.5万网络安全人才；二是校企联合进行高层次人才培养，三是以赛促学、以赛促教，积极开展网络安全实战大赛、打造众创平台、与高校合作建立实践性的学科体系，探索出多元化的实战人才培养模式，为网络安全事业的发展注入源源不断的人才活水。

破除AI“人才荒”，关键是打通企业和高校两个“蓄才池”，给青年创新人才更多施展拳脚的机会。拿DeepSeek来举例，DeepSeek团队的核心成员多是来自清北、浙大等顶尖高校的应届生、博士生，他们大多是90后。这样一支人才队伍，学术背景扎实，富有创新精神，为我国科技创新提供关键支撑。齐向东建议说，我们需要加大力度推动校企融合，通过选取人工智能领域相关的骨干科技企业作为大学生就业实训基地、鼓励校企开展联合攻关等方式，给年轻人更多深入产业一线的机会，从而逐步化解我国面临的 AI“人才荒”。

汪佳  晓风