人工智能失控事故频繁发生！当务之急是——

日前，澳大利亚总理安东尼·阿尔巴尼斯证实，今年6月，该国公共卫生服务部门网站曾遭著名人工智能（AI）企业OpenAI的一款智能体入侵，OpenAI直到8月才发现问题，9月10日才就此通知澳政府。澳方称，这是全球已知首个政府网站遭智能体入侵的案例。

事实上，今年以来，全球已有20多起AI失控后攻击第三方系统的事件见诸报道，涉及OpenAI、Anthropic、谷歌、Meta等多家知名AI企业。不过，这些事件的“受害者”大多是一些企业网站。比如，今年7月，OpenAI的某个先进大模型在内部评估中“越狱”，攻击了开源模型托管平台“抱抱脸（Hugging Face）”；随后，Anthropic也发现其大模型在网络安全测试期间失控，入侵了多家企业的网络系统。此次本应拥有更高网络防御水平的澳政府网站也被AI入侵，且“神不知鬼不觉”，两个月后才被发现，这进一步加剧了全球对于AI失控并危害网络安全的担忧。

应对AI带来的网络安全挑战，既要筑牢规则的“防火墙”，也要锻造技术的“杀手锏”。一方面，为了防止AI成为“加害者”，从规则入手，为AI的发展立规矩、划红线，已是当务之急。企业层面，此次事件暴露出OpenAI阻挡AI失控的围栏不够高、发现失控情况不够及时、事件通报较为滞后等问题。各国头部AI企业需强化对AI失控的预防、监控、处理、通报等工作，并积极总结有价值的经验教训。国家层面，主要AI研发国家也是时候着手研究防范AI失控的治理规则与技术标准，结合本国发展实际，制定适合自身的监管政策。国际层面，各国有必要围绕AI监管与治理积极开展对话与合作，探索制定防范AI失控的国际规则，以及相关网络安全事件的跨国通报、共享、调查机制等。