

7月31日,国家发展改革委新闻发布会上,新闻发言人蒋毅表示,我国将加快《人工智能法》立法进程。
8月2日,欧盟《人工智能法案》正式进入实施阶段。
全球两大经济体,为AI监管按下了加速键。
小智治事,大智立法。人工智能技术广泛应用、算力规模连续翻番的同时,AI智能体带来的风险也日益凸显。对现有的制度规范“打补丁”,已满足不了人工智能产业领域监管规则、权益保护、产业促进等多维度要求。AI立法,成为世界各国需要面对的重要课题。
当人工智能开始“玩脱”
最近,人工智能领域发生的两件事情令人警觉和深思——
2026年7月,OpenAI开展了一次网络攻防内部安全测试,参与测试的包含一款尚未对外发布的前沿原型模型。评测期间OpenAI临时下调了模型安全防护限制,因此给了该AI智能体自主规划攻击链路的机会。在为期约107小时的行动中,模型自行发现了测试的一处漏洞,于是全自动执行了整套入侵流程,留下17000余条攻击动作。全球最大的AI模型托管平台Hugging Face因此受到攻击,OpenAI主动对外披露了事故。这也是全球首例由AI智能体自主发起、跨平台入侵第三方企业生产系统的安全事件。
以上事件曝光后,美国知名人工智能企业Anthropic也启动了回溯排查,发现3起Claude模型逃出封闭测评环境、入侵外部真实系统的事故,最早事件发生于今年4月。其中一款被测模型攻入了一家真实企业,盗取登录凭证与数百行生产数据;另一款被测模型则自主制作和上传了恶意软件包,一小时内被15台真实系统下载运行。
这两起重大AI安全风险事件,敲响了高级人工智能安全治理的警钟——当AI学会了“越狱”,当现有法律出现责任认定空白,当常态化监管框架难以跟上技术迭代的节奏,AI立法迫在眉睫、势在必行。
欧美日立法思路各不同
人工智能怎么管?记者梳理美国、英国、日本及欧盟的公开文件发现,当前全球主要经济体均已加快人工智能领域的立法进程,但监管路径各有侧重,“松紧度”也不太一样。
作为全球首部全面监管人工智能的法规,欧盟的《人工智能法案》将AI系统划分为不可接受风险、高风险、有限风险、最小风险4个等级,实行差异化监管。例如,明令封禁社会评分、公共场所无差别人脸抓拍、诱导操控等9类严重侵害基本人权的AI应用;用于医疗设备、汽车等硬件和教育、就业、公共服务等领域的高风险AI,上市前必须完成风险评估和备案。对违反相关规定的AI公司,欧盟执法部门可对其最高处以全球年营收3%—7%(或1500万—3500万欧元)的罚款。然而,部分科技企业担心,这会导致经营成本大幅抬升,拉长前沿AI进入欧洲市场的周期。
美国对AI的治理政策则转向宽松,宣称要在鼓励人工智能基建投资、吸引更多资本的同时,相对放松监管。今年3月,白宫发布《国家人工智能立法框架》,整体偏向为创新“松绑”。美国布鲁金斯学会统计显示,美国50个州共提出300多项AI相关法案,但州级层面的AI立法受人力资本、商业生态、党派博弈等多重因素影响,大量法案难以完成立法转化。
日本于2025年5月通过了《人工智能相关技术研究开发及应用推进法》,是该国第一部AI领域专门法律。它走的是“促进创新为主、柔性治理为辅”的路线,未设置硬性禁令和处罚条款,仅赋予政府调查权与指导建议权,对严重违规企业可采取公开名称的方式进行约束。有业内人士表示,这种宽松的治理模式,在面对AI技术快速迭代带来的新型风险时,事后处置的响应效率与震慑力度都有待观察。
“千里马”跑得快还要跑得稳
“国家发展改革委将统筹高质量发展和高水平安全,让人工智能这匹‘千里马’既跑得快又跑得稳”,7月31日,国家发展改革委新闻发布会上,蒋毅如是说。
新闻发布会上的一组数据,展现了这匹“千里马”的势头:国产大模型全球总下载量突破100亿次,深度求索、月之暗面等本土企业多款万亿级参数开源大模型持续对外开放;全国智能算力规模达去年同期的2.8倍,首个全国产10万卡AI超算集群正式投用;已建成高质量数据集超12万个,相关行业增速保持30%以上。
跑得快固然可喜,“跑得稳”更加重要——
2022年3月,我国《互联网信息服务算法推荐管理规定》施行,主要管控短视频推荐算法;
2023年1月,《互联网信息服务深度合成管理规定》施行,规范人脸生成、AI换脸、人声合成等深度合成行为;
2023年8月,《生成式人工智能服务管理暂行办法》施行,监管对象是对外服务的生成式大模型;
2026年5月,国家网信办、发改委、工信部三部门印发《智能体规范应用与创新发展实施意见》,这是国内首个专门针对AI—Agent(自主智能体)的顶层政策文件,主要防范智能体越权、逃逸等风险;
2026年7月,《人工智能拟人化互动服务管理暂行办法》施行,重点管控AI陪伴、情感交互类拟人产品……
近年来,我国对人工智能领域的监管范围和力度日益扩大。“这些规章伴随技术产业发展陆续出台,虽各有侧重,但也存在系统性、协同性不足及效力层级不高等客观局限。”中国政法大学人工智能法研究院院长张凌寒指出,体系化推进人工智能立法是大势所趋,将推动我国AI治理从专项规则迈向基础规则的系统集成,也将为更高位阶的人工智能综合性立法积累场景化经验。
在此背景下,《人工智能法》被写入国务院2026年度立法工作计划。
为AI系上“安全带”
围绕立法时机、路径选择与价值定位等核心议题,我国学界正在形成共识。
“立法不会给发展设置路障,而是为创新系上‘安全带’。”清华大学法学院教授申卫星认为,明确的规则边界和稳定的制度预期,恰恰是激发创新活力的前提。规则不明时,企业担心“踩雷”而畏首畏尾,投资者因风险难估望而却步,不确定性本身才是对创新的最大制约。他举例说,《网络安全法》《数据安全法》《中华人民共和国个人信息保护法》不仅没有阻碍数字经济发展,反而为产业健康成长提供了制度保障,“安全与发展并非零和博弈。”
西北政法大学教授杨建军认为人工智能立法应采取“弱规制、强促进”的治理模式。在他看来,立法的核心目标是推动产业创新发展,规制仅作为守住安全底线的必要手段,通过降低监管壁垒、固化支持性政策举措,为技术创新预留充足空间。
北京理工大学法学院教授洪延青提出,人工智能综合立法不应只承担风险管控功能,更应发挥“创新组织法”的作用,通过权利、程序、标准和公共基础设施的系统安排,保障数据、算力等创新要素合法稳定地进入研发环节,同时厘清开源生态的责任边界,推动技术成果落地转化。
AI技术,还在向着更广阔的未来一路狂奔,只是从现在起,它要系着安全带。
毕竟坐在时代快车上的,是我们所有人。


桂ICP备05008372号 您是第位浏览者
地址:广西南宁市白云路6号 电话:+86-771-5772816 传真:+86-771-5772880 邮编:530029
版权所有:广西贸促会 广西国际商会 技术支持:广科网络