习近平总书记在中央政治局第二十次集体学习时强调,人工智能带来前所未有发展机遇,也带来前所未遇风险挑战,并要求构建应急响应体系。当下,人工智能技术正从技术能力展示向深度融合应用转变,全球智能技术加速渗透社会生产生活,在提升效率的同时,也催生了算法偏见、数据泄露、伦理失序等新型社会风险。目前,全球由于人工智能系统存在缺陷、自动化决策出现偏差或生成内容被滥用而引发社会安全风险的事件时有发生,警示我们必须前瞻性地构建具备敏捷响应能力的新型应急响应体系,这是推动人工智能健康有序发展的重要保障。
智能社会公共安全风险挑战传统的应急管理思维。人工智能技术正以前所未有的广度与深度重塑生产生活方式和社会治理模式。“人工智能+”在制造、医疗、金融等领域正快速落地。然而,这场变革在释放机遇的同时,也带来复杂多元的风险挑战。一方面,公共安全风险范围广、影响程度深。人工智能技术已对国际安全秩序、国家治理基础、关键基础设施韧性及公民个人权益形成全方位冲击,并在自然的物质世界、人的精神世界、客观的知识世界、独立的智能世界“四个世界”的空间中传导放大。另一方面,公共安全风险呈现漂移化特征,应对难度显著提升。这种漂移体现为风险在时间、空间或性质上的动态迁移,而人工智能的应用加剧了这种动态变化的易发性。算法的自主演进则可能引发目标偏移或产生有害行为。此外,人工智能技术带来风险的涌现性和不可预测性,不仅会加剧风险漂移化,且这些风险间还具有强关联性,放大破坏性。虽然人工智能技术赋能可以提升国家治理的精准性与效率,但相关技术的封闭性也可能引发数字权力集中、削弱政府透明度、冲击社会公平与问责机制等隐忧。
面对这些深刻变化,以防止物理损害为核心、以特定时空为限的传统应急管理思维已显滞后,难以适应智能社会公共安全风险的系统性、全局性与动态性特征。人工智能时代应急管理的对象需从自然的物质世界为主,拓展至自然的物质世界、人的精神世界、客观的知识世界、独立的智能世界的全面兼顾。这不仅需要从技术治理角度完善风险管理体系,更需要构建适合智能时代的应急响应体系。这绝非“人工智能+”行动的限制和负担,而是为构建繁荣、安全、可信赖的未来智能社会夯实基石、筑牢护栏。这是一个“边走边建”的过程,需要政府、企业、科研机构、社会公众的共同参与和持续努力。
“人工智能+”将重构突发事件分类分级体系,并冲击我国现行应急响应体系。人工智能技术深度融入社会运行后,突发事件的分类分级体系面临根本性变革。传统以物理损害为核心、依靠人工经验判定突发事件分类分级的静态模式,已难以应对智能时代复杂系统的动态风险。目前《国家突发事件总体应急预案》将网络安全、网络数据安全、信息安全事件归为我国四大类突发事件中的事故灾难类型,这一分类属于过渡性方案。未来需研究增设与人工智能及网络安全、网络数据安全、信息安全相关的第五类突发事件,涵盖人工智能技术系统故障、人机交互冲突、跨界融合灾害等场景。突发事件的分级标准也需突破“唯伤亡财产论”的静态框架,建立物理域、信息域、认知域、治理域多维损失的动态评估模型,通过实时数据流分析风险传导路径与级联效应。同时应将算法可靠性、系统关联度、舆情扩散系数等纳入分级指标,实现从静态结果导向向动态过程管控转型,并基于风险性质与风险级别对不同关键领域的AI系统实行差异化监管。
人工智能驱动的突发事件对我国现行应急响应体系构成系统性冲击,主要体现在与突发事件分类分级重构相关的权责边界重构和响应逻辑变革两个维度。在权责边界方面,AI技术改变了突发事件发生发展的规律,打破了传统分类管理和分级负责的运行基础。AI系统的多方参与性(开发者、运营商、监管机构等)和算法黑箱特性,使得“谁主管谁负责”的基本原则难以落实;复合型灾害的涌现则导致单一行业归口管理失效,例如自动驾驶事故需同步协调公安、工信、网信等部门,直接冲击“分类管理”原则。“分级负责,属地管理为主”的原则同样面临挑战:云计算等无界技术使得事件初始发生地与影响区域快速分离,基层单位难以界定权责边界;数据驱动的跨层级协同需求弱化了传统“上传下达”模式的必要性,易引发条块权责冲突;深度学习的不可解释性正在动摇“分级问责”工作体系的基础,使得跨层级系统的连带责任难以厘清。在响应逻辑方面,人工智能赋能应急管理重构了应急响应的时效逻辑,其预判性响应能力动摇了“事后定级”模式,智能决策压缩了层级审批的缓冲空间,直接造成“分级负责”工作体系的滞后。这些冲击的本质是技术逻辑与行政逻辑的结构性冲突:AI驱动的扁平化、预判化、全域化特征,与传统“层级化、事后化、属地化”管理体系存在根本性张力。
构建与人工智能发展相匹配的应急响应体系。“人工智能+”的发展正在重塑突发事件的演化规律,传统的应急管理体系面临分类模糊、分级滞后、权责交叉等挑战。为适应这一趋势,需从技术治理、权责适配、协同机制及制度保障四个维度重构应急响应体系。
一是重构分类分级体系,建立动态智能评估机制。需要构建技术(算法失控、数据污染、算力故障)——应用(关键服务中断、决策流程遭篡改、人机交互失当等风险场景)——影响(物理域、信息域、认知域、治理域)三维分类框架,引入动态分级指标,实现智能定级。依托AI辅助决策系统,实时调整事件等级与响应级别,克服传统“事后定级”的滞后性。
二是优化权责适配机制,破解主体模糊困境。其一,设立AI应急责任链,明确开发者、运营商、监管机构的应急责任,建立人工智能安全备案与应急接入管控机制,确保关键AI系统在紧急状态下可接管可干预。推行算法透明化,强制高风险AI系统提供可解释性报告,便于事后追责。其二,强化跨层级协同,研究成立国家级AI应急专家委员会,负责复杂性、交叉性事件的定级研判与技术指导。其三,推动技术下沉,提升基层政府的AI风险识别与初期处置能力。
三是构建智能协同响应网络,突破条块分割壁垒。打造数据驱动的应急指挥平台,整合政府、企业、科研机构数据,构建跨部门、跨领域的AI预警与决策支持系统。采用区块链等技术实现应急指令的全程可追溯,避免权责推诿。建立平急结合的弹性响应机制。平时通过AI模拟推演,优化应急预案。急时启用智能调度系统,自动匹配资源,减少层级审批延迟。
四是完善制度保障,推动技术与治理协同演进。坚持试点突破与立法跟进相结合,加强应急管理队伍的AI工具应用与决策能力训练,构建政产学研协同机制,培育“技术+治理”复合型人才。
总之,构建适应“人工智能+”的应急响应体系,需以智能分类分级为基础,以权责清晰化为核心,以数据协同为支撑,最终实现从被动应对向主动防控的转型。这一过程不仅是技术升级,更是治理模式的系统性变革。