中央网信办、国家发改委:以统筹集约的方式开展政务领域人工智能大模型部署

网信中国
《指引》强调规范部署。政务部门应根据不同政务场景需求与现有技术基础,审慎选择人工智能大模型实施路径。应以统筹集约的方式开展政务领域人工智能大模型部署,地市应在省(自治区、直辖市)统一要求下开展部署应用,县级及以下原则上应复用上级的智能算力和模型资源开展应用和服务。应探索构建“一地建设、多地多部门复用”的集约化部署模式,统筹推进政务大模型部署应用,防止形成“模型孤岛”。应加强政务数据治理,持续提升数据质量,支撑政务大模型的优化训练。

贯彻党中央、国务院决策部署,落实《关于深入实施“人工智能+”行动的意见》要求,为安全稳妥有序推进政务领域人工智能大模型部署应用,中央网信办、国家发展改革委近日联合印发《政务领域人工智能大模型部署应用指引》(以下简称《指引》),为各级政务部门提供人工智能大模型部署应用的工作导向和基本参照。

《指引》坚持以习近平新时代中国特色社会主义思想为指导,深入贯彻落实党的二十大和二十届二中、三中全会精神,全面贯彻习近平总书记关于网络强国的重要思想,坚持系统谋划、集约发展,以人为本、规范应用,共建共享、高效协同,安全稳妥、务求实效,有序推进人工智能大模型技术、产品和服务在政务领域的部署、应用和持续优化。

《指引》强调场景牵引。政务部门可围绕政务服务、社会治理、机关办公和辅助决策等工作中的共性、高频需求,因地制宜、结合实际,选择典型场景进行人工智能大模型探索应用。

《指引》强调规范部署。政务部门应根据不同政务场景需求与现有技术基础,审慎选择人工智能大模型实施路径。应以统筹集约的方式开展政务领域人工智能大模型部署,地市应在省(自治区、直辖市)统一要求下开展部署应用,县级及以下原则上应复用上级的智能算力和模型资源开展应用和服务。应探索构建“一地建设、多地多部门复用”的集约化部署模式,统筹推进政务大模型部署应用,防止形成“模型孤岛”。应加强政务数据治理,持续提升数据质量,支撑政务大模型的优化训练。

《指引》强调运行管理。政务部门应统筹减负和赋能,避免盲目追求技术领先、概念创新,切实防范“数字形式主义”。应建立健全全周期管理体系,明确应用方式和边界,落实人工智能大模型“辅助型”定位,防范模型“幻觉”等风险。应将持续迭代优化作为人工智能大模型部署应用的关键环节,建立常态化更新机制。应扎实做好安全管理,建立安全责任制度,明确安全职责和任务,提升人工智能安全风险应对能力。应严格落实保密要求,防止国家秘密、工作秘密和敏感信息等输入非涉密人工智能大模型,防范敏感数据汇聚、关联引发的泄密风险。

《指引》指出,要加强组织实施,加快推进政务领域人工智能大模型国家标准体系建设和重点标准研制,及时总结推广典型场景和创新应用。开展监测评估,构建政务领域人工智能大模型部署应用全流程监测评估体系,持续迭代优化。做好培训宣传,增强工作人员应用能力和水平,提升全民数字素养。

以下是指引全文:

为深入贯彻落实党中央、国务院决策部署,规范和引导人工智能大模型在政务领域的发展与应用,提升政务数字化智能化治理和服务水平,制定本指引。本指引主要为各级政务部门提供人工智能大模型部署应用的工作导向和基本参照,将根据实践进展,结合人工智能大模型发展和应用的新形势、新要求,进行动态调整。

一、总体要求

坚持以习近平新时代中国特色社会主义思想为指导,深入贯彻落实党的二十大和二十届二中、三中全会精神,全面贯彻习近平总书记关于网络强国的重要思想,完整准确全面贯彻新发展理念,统筹高质量发展和高水平安全,坚持系统谋划、集约发展,以人为本、规范应用,共建共享、高效协同,安全稳妥、务求实效,有序推进人工智能大模型技术、产品和服务在政务领域的部署、应用和持续优化,充分发挥人工智能大模型在复杂语义理解与推理、多模态内容生成、知识整合与分析等方面的优势,为工作人员提供高效辅助,为公众和企业提供便捷服务,推动政务创新发展,提升治理效能、优化服务管理、辅助科学决策。

二、应用场景

政务部门可围绕政务服务、社会治理、机关办公和辅助决策等工作中的共性、高频需求,因地制宜、结合实际,选择典型场景进行人工智能大模型探索应用。主要包括以下参考场景:

(一)政务服务类

1.智能问答。整合本地区、本部门、本领域业务资源和知识库等数据,利用自然语言理解、检索增强生成和知识图谱等技术,提供便捷的在线政务咨询服务,加强对公众诉求的准确理解,实时生成参考回答,帮助解决公众疑惑,提升信息获取便捷性。

2.辅助办理。整合政务服务办事指南、常见问题、用户评价和历史办理记录等数据,利用智能匹配和自动化处理等技术,提供智能导办、个性引导、表单预填、辅助审核、进度查询和提醒等一站式政务辅助办理服务,辅助工作人员高效审核材料,支撑公众和企业便捷办理事项。

3.政策服务直达快享。构建政策服务知识库,细化政策要求、政策标签、推送条件、申兑流程等相关内容,利用“政策找人”“政策找企业”算法模型,加强公众和企业需求分析,实现政策智能匹配,推进惠民利民、惠企利企服务主动精准送达和一站式办理。

(二)社会治理类

4.智能监测巡检。利用无人机、视频监控、智能传感器等设备和计算机视觉等技术,对监控视频、图像、物联感知数据等进行实时分析,辅助工作人员实时监测房屋、道路、燃气、桥梁、供水、排水、供热、综合管廊等基础设施,及时发现异常行为、环境问题或设施故障等,自动识别潜在风险隐患,及时进行提醒,并根据异常情况和严重程度提供处置建议,提高监测巡检效率。

5.辅助执法监管。采用语音识别、视频分析、知识图谱、逻辑推理等技术,辅助执法人员将案件信息实时录入系统、穿透式发现问题线索、生成案件报告、快速检索法律依据和司法解释、查询类似典型案例等,提供针对性案件办理建议,提高执法监管效率和规范性。

6.市场风险预测。运用生成式时间序列分析模型和异常检测算法等,对各类市场数据进行监测和深度分析,捕捉市场动向,包括经济指标波动、异常情况等,预测可能出现的市场风险,研判对经济社会带来的影响和经济走势,并及时发出预警,为政府管理和社会治理提供支撑。

(三)机关办公类

7.辅助文书起草。利用大语言模型的生成能力,通过构建本地知识库和预设模板,为工作人员提供写作建议、辅助起草文书,对格式和内容等进行检查、校对和优化,提高工作效率,减轻基层负担。

8.资料检索。利用知识图谱构建和信息检索等技术,准确理解工作人员资料检索需求,实现政务信息快速检索、精准定位、多维度排序、智能关联和对比分析等,帮助工作人员提升资料检索效率和准确性。

9.智能分办。利用自然语言理解和多模态识别等技术,构建多维度任务分类和分办规则,对来文、来电、工单等任务进行自动识别、准确分类、辅助填写和优先级排序,实现辅助分发和智能派单,提高任务分办效率。

(四)辅助决策类

10.灾害预警。对来自卫星、地面传感器、地质监测站,以及预报预警、灾害风险普查等多源、多维、多模态数据进行大数据关联和综合分析研判,识别异常波动情况,预测可能发生的自然灾害,并提前发出预警,辅助政务部门及时采取有效措施,减轻灾害风险,减少灾害损失。

11.应急处置。利用强化学习等技术,对社会公共安全等突发事件的性质、特点、危害程度、影响范围、发展趋势和公众反应等进行分析研判,及时发现和预警风险隐患,基于突发场景、力量资源分布等快速模拟应急处置方案效果,提供科学合理的应急处置建议,优化救援资源配置,提高应急响应速度和效率。

12.政策评估。利用人工智能大模型推断分析能力与数据挖掘能力,对公众反馈、市场反应、经济指标和社会满意度等进行分析,构建多维度指标,评估政策目标实现程度、政策影响力和潜在问题,支撑政策制定部门进行政策优化。

13.智能辅助评审。利用自学习泛化认识、类人化评审推理、多模态智能解析等能力,对照有关要求开展项目评审,对项目文件内容进行深度扫描、智能解析,提出评审意见建议,辅助提高项目评审效率和科学性。

三、规范部署

政务部门应结合工作实际和场景特点,充分论证人工智能大模型的应用需求、实施路径、功能设计等,选择适宜的部署模式,统筹推进实施,推动共建共享,提升建设管理效能。

(一)合理选择实施路径

政务部门应根据不同政务场景需求与现有技术基础,审慎选择人工智能大模型实施路径。对于智能问答、辅助文书起草等通用性较强、数据资源丰富的场景,需采用市场上成熟,并已完成网信部门备案的模型产品和服务。对于辅助执法监管、市场风险预测等专业性较强、业务逻辑复杂的场景,可利用领域专家知识和专业数据进行针对性训练,打造垂直模型。在保障安全和不泄露国家秘密、工作秘密和敏感信息等的前提下,充分利用互联网算力和模型资源,开展政务领域人工智能大模型部署应用。鼓励探索政务智能体、具身智能等创新应用。

(二)统筹集约开展部署

政务部门应以统筹集约的方式开展政务领域人工智能大模型部署,依托“东数西算”和全国一体化算力网,统筹推进智能算力基础设施布局,并实施集中统一的安全管理和体系化技术防护措施,避免“碎片化”安全风险。有条件的中央和国家机关部门、省(自治区、直辖市)可统一部署智能算力资源、人工智能大模型,面向下属单位或下辖地区提供电子政务外网环境下的人工智能大模型服务。地市应在省(自治区、直辖市)统一要求下开展部署应用,县级及以下原则上应复用上级的智能算力和模型资源开展应用和服务,不再独立进行政务大模型建设和部署。

(三)探索实现统管复用

政务部门应探索构建“一地建设、多地多部门复用”的集约化部署模式,统筹推进政务大模型部署应用,防止形成“模型孤岛”。省(自治区、直辖市)应搭建政务领域人工智能大模型统一服务平台,并与政务云管理平台、政务应用和组件管理平台等融合共建,将区域内电子政务外网智能算力、政务大模型、政务数据集等资源纳入统一管理,形成要素资源“一本账”,支撑政务大模型运行监测,提供资源申请与调度服务,推动高效复用。国家行业主管部门按照业务需求和发展需要探索细分领域政务垂直大模型的统一训练与构建,加强与省(自治区、直辖市)协同部署,深化跨层级、跨地域的行业领域智能化赋能。垂直管理部门应强化模型、算力、数据等资源的统筹部署和管理,避免资源浪费。

(四)持续夯实数据基础

政务部门应加强政务数据治理,持续提升数据质量,加快构建客观反映公共政策、制度规范、业务流程和治理实效的高质量政务数据集和知识库,支撑政务大模型的优化训练。分类分级管理政务大模型涉及数据,加强训练数据、微调数据、知识库等管理,建立台账并详细记录数据来源、类型和规模等信息,确保数据来源可靠可追溯、内容准确有效。依托政务数据共享协调机制,统筹数据治理成果,推进高质量政务数据集的共建共享和生成数据的归集治理。探索基于大模型的政务知识治理路径,打造可信知识库,确保数据源的权威性、准确性和时效性。

四、运行管理

政务部门应强化政务领域人工智能大模型运行管理,健全管理制度、运行模式和安全要求,有序推进人工智能大模型技术、产品和服务在政务领域部署应用。

(一)明确应用管理要求

政务部门应统筹减负和赋能,严格落实《整治形式主义为基层减负若干规定》《关于防治“指尖上的形式主义”的若干意见》等相关要求,避免盲目追求技术领先、概念创新,避免重复建设、无效建设,避免未审先建、建而不管,避免强制使用、无效使用,避免数据多头采集、重复索要,切实防范“数字形式主义”。中央和国家机关政务领域人工智能大模型部署应用应纳入国家政务信息化规划统筹。政务部门应建立健全涵盖政务领域人工智能大模型部署应用全周期管理体系,明确应用方式和边界,落实人工智能大模型“辅助型”定位,及时解决部署与应用过程中出现的新问题。应在政务大模型应用界面显著位置设置风险提示,明确告知大模型服务的局限性,做好大模型输出内容标识。对于智能问答、辅助办理等代表政务部门面向公众和企业提供服务的人工智能大模型应用场景,应严格执行内容审核制度流程,结合场景特点和技术能力合理采用人工审核、生成内容实时风控、多模型交叉校验等措施,防范模型“幻觉”等风险,确保输出内容不超出业务范围,保障内容准确性,维护政务部门公信力。

(二)持续推动迭代优化

政务部门应将持续迭代优化作为人工智能大模型部署应用的关键环节,建立常态化更新机制,加快功能优化,深化场景应用。密切关注技术发展动态,持续更新优化政务领域人工智能大模型的基础模型和安全能力。建立高效数据收集处理机制,及时更新支撑人工智能大模型运行的输入数据和知识库,并适时进行清洗、标注,补充优化训练数据集,持续提升模型能力。建立政务领域人工智能大模型用户评价反馈机制,及时收集、处理用户需求,以用户反馈驱动迭代优化。

(三)扎实做好安全管理

政务部门应建立安全责任制度,明确数据处理、大模型训练和场景应用各阶段参与主体的安全职责和任务,做好用户身份识别和权限管理。政务部门提供人工智能大模型服务时,应遵守《生成式人工智能服务管理暂行办法》等相关规定,使用具有合法来源的数据和基础模型,依法履行算法备案和安全评估等义务,与使用者签订服务协议,明确双方权利义务。构建政务领域人工智能大模型分类分级治理制度,完善安全管理流程,针对可能出现的安全风险,制定应急处置预案。做好政务大模型对抗攻击的检测与处置,识别并拦截提示词注入、资源消耗攻击等。加强政务大模型内容安全管理,综合运用语义识别、规则库、模型算法等,做好多模态输入输出内容的识别、分析与管控,建立合理的代答、拒答机制,及时发现并处置违法和不良信息、敏感内容等。发挥新闻媒体内容审核优势,做好政务大模型训练数据的内容审核把关,加强政务大模型内容监测管理。做好政务大模型应用运行日志管理,定期对日志记录进行审计。推动形成安全风险威胁信息共享和应急处置机制,按照规定及时处置并报告安全事件,提升人工智能安全风险应对能力。

(四)严格落实保密要求

政务部门在模型训练、部署应用等过程中应加强数据安全保密和个人信息保护,坚持底线思维,严格落实“涉密不上网、上网不涉密”等保密纪律要求,采取加装保密“护栏”等措施,防止国家秘密、工作秘密和敏感信息等输入非涉密人工智能大模型,防范敏感数据汇聚、关联引发的泄密风险。制定完善人工智能大模型在政务领域应用相关保密管理制度,规范人工智能大模型选型、部署、训练、使用、废止等全流程保密管理。涉密信息系统应用人工智能大模型按照国家保密行政管理部门要求稳妥推进。

五、保障措施

(一)加强组织实施

加强统筹协调,稳妥有序推动人工智能大模型在政务服务、社会治理、机关办公、辅助决策等领域规范应用。加快推进政务领域人工智能大模型国家标准体系建设和重点标准研制,明确应用效果评估、系统技术要求、智能技术应用等工作规范,支撑部署应用取得实效。及时总结推广政务领域部署应用人工智能大模型的典型场景和创新应用,推动复用增效。加强政务领域人工智能大模型部署应用经费保障,引入市场化的产品和服务竞争机制,探索企业建设运营、政府购买服务、按使用情况结算费用的运作模式,营造高效、可持续的政务大模型生态。

(二)开展监测评估

构建政务领域人工智能大模型部署应用全流程监测评估体系,适时开展监测评估工作。建立政务大模型安全测评机制,上线前对模型算法、生成内容、应用功能、配置环境、挂接数据、漏洞风险等进行充分测试验证,对发现的问题隐患进行整改加固。加强政务领域人工智能大模型系统运行状态、响应时间、准确性、安全性和潜在风险的实时监测分析,及时发现问题,并采取有效措施解决。做好人工智能大模型应用效能评价,及时总结经验,持续迭代优化,推动部署应用取得实效。

(三)做好培训宣传

开发涵盖人工智能大模型理论、技术、应用、安全、伦理、产业等内容的培训课程体系,开展人工智能素养和技能培训,提升领导干部对人工智能的认知水平,增强工作人员应用能力和水平。面向公众做好宣传教育,提升全民数字素养,积极回应用户关切,正确引导社会对政务领域人工智能大模型适用人群、场景、用途的认识和预期,客观反映人工智能大模型在优化政务服务、满足公众和企业需求、提升社会治理水平等方面的作用。

本文来源:网信中国

风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。
相关文章