“让AI帮我润色一下”“用AI生成个初稿”“上传几份材料让AI学习学习”——这些“省事”的操作，正在把一份份涉密文件送上互联网。而你，可能还不知道自己已经泄密了。

某次涉密会议筹备期间，某涉密单位工作人员冯某在起草一份涉密材料时，苦于没有头绪，便将部分敏感内容替换成字母代码，输入AI写作工具辅助生成文稿。——他以为“替换成字母代码”就安全了，结果导致涉密信息暴露风险陡增，冯某受到严肃处理。

某涉密单位工作人员李某，在起草一份涉密方案时，听同事说AI写作很好用，在好奇心驱使下下载了一款AI写作应用软件，私自将该涉密方案的部分敏感内容直接输入AI写作工具，通过AI生成网络文件、资料，造成泄密，受到严肃处理。

某科研机构研究人员，为快速完成研究报告，将部分核心数据及实验成果上传到一款流行的AI写作应用软件，导致该研究报告中的部分涉密敏感信息被泄露，在网上流传。

这不是个例。AI写作工具正在成为办公“新宠”，但也正在成为泄密的“新通道”。而很多人，还浑然不觉。

01  AI工具如何“记住”你输入的内容？

很多人以为，和AI的对话是“一次性的”——我输入、它输出、完事。

但事实完全相反。

每次“投喂”都是永久存储

用户向AI工具的每一次“投喂”，本质上是将对话、文档、照片等信息的操作权限交给了系统。

这些数据一旦输入，大多会被平台后台留存，部分还会被用于模型训练迭代，藏在算法黑箱里难以彻底“遗忘”，后续如何使用往往不由用户掌控。

两种主要泄密路径

路径一：数据被用于模型训练。 

生成式AI高度依托互联网、大数据、云计算平台，AI接收的国家秘密信息会被作为大语言模型进行学习训练，数据获取、处理、存储、运算、传输各环节均面临泄露风险。

你以为在“问AI一个问题”，实际上是在“给AI喂一份教材”——而这份教材，可能在下一次别人提问时被“复述”出来。

路径二：数据被攻击者窃取。 

开源AI工具开发者拥有最高权限，可直接访问和查看所有存储数据，若开发者缺乏保密意识或存在利益驱动，用户上传的敏感信息可能被非法利用或泄露。

另一方面，开源属性让黑客有机可乘，他们可以利用工具本身的漏洞攻击入侵后台，批量窃取存储数据，无需接触用户终端即可实现远程窃密。

真实案例

某单位工作人员违规使用开源AI工具处理内部文件，因电脑系统默认开启公网访问且未设置密码，导致敏感资料被境外IP非法访问、下载。

02  “拼图式泄密”：你以为零散的信息，AI能拼出完整秘密

更隐蔽的风险来自AI的关联分析能力。

AI数据挖掘功能可基于海量原始数据进行多维推理和关联分析，哪怕只是截取涉密文件片段，也存在被攻击窃取或经关联汇聚后泄密的风险。

当AI工具汇聚了海量的公开信息，并对其进行关联分析和深度挖掘，即使是看似零散、非密的信息片段，也可能在AI的“化学合成”后，推断出敏感的、甚至涉密的完整信息，造成“拼图式泄密”的后果。

这意味着：即使你只输入了“一小段”“几个关键词”“一个模糊的描述”，AI也可能通过与其他数据的关联，拼出你不想让人知道的全貌。

03  红线：这些AI行为“碰不得”

红线一：把涉密内容“喂给”AI

有人为了省事，把涉密文件、内部报告、国防科研数据、敏感政务信息直接输入AI，让其写报告、整理材料、润色文字。这是最危险、也最常见的违规行为。

《中华人民共和国保守国家秘密法》第三十一条明确规定：任何组织和个人不得使用非涉密信息系统、非涉密信息设备存储或者处理国家秘密。

在采用公共大模型辅助办公时，严禁发送敏感词、句进行提问，严禁将内部敏感文件或照片上传至大模型平台。

红线二：使用未经审批的AI工具处理工作信息

某单位工作人员违规使用开源AI工具处理内部文件，因系统默认开启公网访问且未设密码，导致敏感资料被境外IP非法访问和下载。

机关、单位工作人员严禁使用DeepSeek、ChatGPT、豆包、元宝等人工智能软件通过互联网咨询、交流、处理国家秘密、工作秘密和敏感信息。

红线三：将AI生成内容“直接照搬”

AI存在“幻觉”问题——它会“一本正经地胡说八道”，生成看似合理但实际不存在或与真实情况不符的信息。

AI生成的内容不能直接照搬，必须逐项人工核对，警惕内容出错。关键数据、合同条款务必二次核对。

红线四：在非涉密设备上使用AI处理涉密事项

涉密系统严禁安装人工智能应用。政务外网系统安装人工智能应用需经主管部门审批后规范安装。

涉密及内部敏感信息严禁输入商用AI，禁止涉密文件识图OCR上传，不存在“简单脱敏”的捷径，内网设备禁用外网AI工具。

04  AI使用的“灰色地带”：哪些可以做？

答案并非简单的“能”或“不能”，核心是划清使用红线、分级分类管控、严守保密底线，做到禁区坚决不用、合规场景规范使用。

可以做的

使用经安全认证的国产大模型或私有化部署模型处理非涉密公文素材

对拟输入AI的公文素材进行脱敏处理，删除敏感字段、隐去核心信息

AI生成内容仅供起草参考，不得直接作为正式公文使用

绝对不能做的

任何形式的涉密信息输入公共AI平台

任何涉及国家秘密、工作秘密的内容交由AI处理

将AI生成内容不经审核直接采用

05  单位如何制定AI使用规范？

中央网信办、国家发展改革委联合印发的《政务领域人工智能大模型部署应用指引》明确要求：

严格落实保密要求，防止国家秘密、工作秘密和敏感信息等输入非涉密人工智能大模型，防范敏感数据汇聚、关联引发的泄密风险。

机关单位应从以下几个方面建立AI使用规范：

一、明确使用边界，画出清晰“红线”。 核心原则是 “上网不涉密、涉密不上网” 。严禁使用AI工具处理国家秘密、工作秘密和不宜公开的敏感信息。

二、建立审批和审核机制。 

使用AI辅助撰写公文前，需经部门负责人审批，明确写作内容无敏感、涉密信息；AI生成初稿后，需由专人审核内容合规性与保密性。

三、推进私有化部署。

对于有AI使用需求的机关单位，可推进AI大模型私有化部署，将所有数据存储在本地服务器，切断与互联网的直接连接，从源头保障数据安全。可将单位内部的规章制度、保密文档、专业数据库等安全地“喂”给模型，训练出真正懂业务的“专家助手”。

四、实行“谁使用、谁负责，谁审核、谁负责”。

 将AI公文写作保密工作纳入岗位绩效考核，对违规操作造成泄密的，严肃追究相关人员责任。

五、开展系统性培训。 

对工作人员进行AI使用培训和保密教育，强化风险意识，提升鉴别AI错误与防范风险的能力。

某保密部门负责人说：“AI是提升效率的辅助工具，绝非规避保密要求的‘捷径’。 只有时刻绷紧安全保密这根弦，才能在享受技术便利的同时，牢牢守住数据安全与国家安全的底线。”

AI写公文，不是“能不能用”的问题，而是“怎么用”的问题。用对了，是助手；用错了，是内鬼。而最大的风险在于——很多人根本不知道自己正在“用错”。

涉密内容不“喂”AI，核心数据不上云端。

AI只是“笔杆子”的草稿纸，不是“保险柜”的钥匙。

“让AI帮我润色一下”——这句话，可能让你丢掉工作。