算法也要受监督 数据安全不可逾

——习近平新时代中国特色社会主义思想引领

上一集讲了数字赋能如何让数据盯住权力，这一集要讲另一面：技术本身也需要被监督。算法有"黑箱"特征，数据有泄露风险，一旦技术失控、伦理失范、数据滥用，原本用来约束权力的工具，可能反过来成为新的寻租通道。第八十六集留下的那个问题，答案就在这里.

一、双刃剑：技术越锋利，缰绳越要紧

数字监督的核心优势，是把纪法规则写进算法、把权力流程搬上平台。但算法毕竟不是规则本身。算法由人设计，模型靠数据喂养，参数要人工设定——模型训练时数据是否合规、标注规则是否公平、预警阈值由谁拍板，这些环节一旦失守，算法就可能从"监督者"变成"被操纵者"。

习近平总书记对这一点看得很清楚。2018年10月，十九届中央政治局就人工智能发展现状和趋势举行第九次集体学习，他强调，要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控。2025年4月，在中央政治局第二十次集体学习时，他进一步提出"三个更加"——不断提升人工智能技术的安全性、可靠性、可控性、公平性，推动我国人工智能朝着有益、安全、公平方向健康有序发展；同年7月又在世界人工智能大会暨人工智能全球治理高级别会议上指出，人工智能技术发展越是一日千里，向上向善、造福人类的方向越要正确锚定，监管治理的尺度越要精准把握，防范失控的措施越要及时完善。从"安全、可靠、可控"到"有益、安全、公平"，再到"方向锚定、尺度精准、措施及时"，一条主线贯穿始终：技术向前，伦理与制度必须紧随其后。

二、算法备案：给"黑箱"开一扇窗

破"黑箱"，先要立规矩。2021年12月31日，国家网信办等四部门发布《互联网信息服务算法推荐管理规定》，自2022年3月1日起施行。这份规定把"透明度和可解释性"作为基本要求：算法推荐服务提供者应当告知用户算法的基本原理、目的意图和主要运行机制，提高算法透明度，充分保障用户选择关闭和获得算法解释的权利，并以显著方式告知、以适当方式公示算法的基本原理、目的意图、运行机制。

更重要的是两项硬制度——算法备案和安全评估。具有舆论属性或者社会动员能力的算法推荐服务提供者，须履行备案手续，备案内容包括服务提供者名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等。备案让监管者及时掌握算法服务的内容，也倒逼提供者绷紧责任意识。2023年7月10日，国家网信办等七部门公布《生成式人工智能服务管理暂行办法》，自2023年8月15日起施行，其中第十七条进一步明确，提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当开展安全评估并履行算法备案和变更、注销备案手续；第十九条规定，主管部门开展监督检查时，提供者应当依法说明训练数据来源、规模、类型、标注规则、算法机制机理等，并提供必要的技术和数据支持。

备案不是终点，公开才是关键。截至目前，国家网信办已陆续发布多批互联网信息服务算法备案信息和深度合成服务算法备案信息，并通过互联网信息服务算法备案系统对外公告。公开信息极为有限、对算法意图和运行机理的说明往往笼统概括，仍是当前备案制度落地中的现实短板。破"黑箱"，就不能让备案停在"登记"层面，而要让算法的目的、逻辑、影响真正可见、可问、可究。

三、数据安全：公权力大数据的边界

算法之外，是数据本身的安全。政务数据来源于履职过程，其中大量涉及个人隐私、个人信息、商业秘密、保密商务信息。《中华人民共和国数据安全法》第三十八条明确：国家机关为履行法定职责需要收集、使用数据，应当在其法定职责范围内依照法律、行政法规规定的条件和程序进行；对在履行职责中知悉的个人隐私、个人信息、商业秘密、保密商务信息等数据，应当依法予以保密，不得泄露或者非法向他人提供。第三十九条规定，国家机关应当建立健全数据安全管理制度，落实数据安全保护责任；第四十条进一步要求，委托他人建设、维护电子政务系统，存储、加工政务数据，应当经过严格批准程序，并监督受托方履行数据安全保护义务，受托方不得擅自留存、使用、泄露或者向他人提供政务数据。

2025年，国务院公布《政务数据共享条例》，把责任落到具体环节：政府部门应当落实政务数据共享安全管理主体责任和分类分级管理要求，采取技术措施和其他必要措施，防止政务数据被篡改、破坏、泄露或者非法获取、非法利用；共享遵循"谁管理谁负责、谁使用谁负责"的原则，通过共享获得的数据不得擅自扩大使用范围、不得用于或变相用于其他目的、不得擅自提供给第三方；发生数据安全事件时，应当立即启动应急预案、防止危害扩大，并按规定报告。条例还明确，对泄露、出售或者非法向他人提供共享工作中知悉的个人隐私、个人信息、商业秘密、保密商务信息的，依法给予处分，构成犯罪的依法追究刑事责任。

四、五道关口：把技术关进"制度+技术"的笼子

技术失控、伦理失范、数据滥用是新型风险，防范要靠关口前移、全程管控：

一是伦理前置。建立分级人工智能伦理审查机制，把公平公正、尊重隐私、向善可控、以人为本的准则融入技术设计底层，将伦理评估嵌入研发、训练、上线、应用全流程。

二是法治兜底。完善人工智能安全监管制度和分类分级监管规则，明晰研发者、运营者、使用者的权责边界，细化算法滥用、数据侵权的处罚标准，破解"机器犯错无人担责"的空白。

三是全程留痕。算法模型的训练数据来源、标注规则、参数调整都要可追溯，模型版本、预警记录、人工复核意见全程存档，既便于复盘，也便于问责。

四是权限收紧。政务数据按分类分级管理，最小化授权、动态调权，委托开发必须签数据安全协议，严格限定用途和期限。

五是多元共治。构建政府监管、企业自治、学界支撑、社会监督、行业自律的格局，公民、法人和其他组织对数据共享过程中侵犯其合法权益的行为，有权依法投诉、举报。

讲权责清单划边界，讲数据留痕防寻租，管住权力的工具本身，也必须被管住。算法要备案、数据要分类、模型要留痕、权限要收紧——这一整套设计，指向同一个判断：技术是中性的，但使用技术的人不是；工具越强大，约束越不能缺席。

把权力关进"制度+技术"的笼子，笼子本身的材质和焊点，同样要经得起检验。数字监督只有先过得了纪法这一关，才配得上监督别人的资格。

（供稿：范雨）

【审稿：江汇】