AI生成合成内容日益逼真ღ★◈，也催生出谣言造假ღ★◈、身份冒充ღ★◈、不良内容传播等风险ღ★◈。3月14日ღ★◈，国家网信办等四部门联合发布《生成合成内容标识办法》（简称“《办法》”）ღ★◈，以“双重标识＋动态监管”方式ღ★◈，明确生成合成服务提供者ღ★◈、内容传播平台ღ★◈、用户的义务ღ★◈，并将于2025年9月1日起施行ღ★◈。

　　在此背景下ღ★◈，3月24日至28日ღ★◈，南方都市报ღ★◈、南都大数据研究院圈定国内25个社交ღ★◈、资讯ღ★◈、视频等内容传播平台ღ★◈，以及对75个具有AI生成文本ღ★◈、图片ღ★◈、视频等功能的应用ღ★◈，共计100款APPღ★◈，从协议规则ღ★◈、标识实施等方面进行测评ღ★◈，观测其对AI生成合成内容的管理现状ღ★◈。

　　继上期测评25个内容传播平台后ღ★◈，本期的测评样本为75个提供AI生成服务的APPღ★◈。南都研究院发现ღ★◈，已有近半数应用在AI图片和视频上“打标”ღ★◈，但在AI生成文本与音频类领域的标识实践相对滞后ღ★◈；同时她是他的主宰者ღ★◈，AI写真ღ★◈、AI陪伴ღ★◈、数字人等虚拟场景应用标识欠缺ღ★◈；此外ღ★◈，还存在部分应用下载AI生合成图片后标识消失ღ★◈，对用户选择“去标识”责任界定不明等ღ★◈。总体来看ღ★◈，头部AI应用在AI生合成内容标识方面正逐步走向合规ღ★◈，而不少中小型AI应用尚还需解决标识“有无”问题德扑之星官网ღ★◈。

　　标识并非新生事物ღ★◈，《互联网信息服务算法推荐管理规定》《互联网深度合成管理规定》等早有提及ღ★◈。《办法》的出台进一步细化了标识实施规则ღ★◈，明确生成合成内容需添加显式标识与隐式标识两种标识ღ★◈。其中显式标识是指在生成合成内容或交互场景界面中添加的ღ★◈，以文字ღ★◈、声音ღ★◈、图形等方式呈现并可被用户明显感知到的标识ღ★◈，通过明确“哪些内容是生成的”ღ★◈，承担提醒用户的作用ღ★◈。

　　为了解各类生成式AI应用目前的显式标识情况ღ★◈，南都研究院测评了包含AI助手ღ★◈、AI绘图ღ★◈、AI配音ღ★◈、AI陪伴等类型ღ★◈，共计75个提供生成式AI服务的Appღ★◈。分别从用户协议对标识方法ღ★◈、样式的说明ღ★◈、对用户的提醒ღ★◈、生成内容上的标识实施情况及内容下载后的标识保留情况四个方面进行综合观测（满分10分）ღ★◈。结果发现ღ★◈，48%的应用ღ★◈，包括LiblibAl旗下的AI图像创作软件星流ღ★◈、AI相机妙鸭相机ღ★◈、学而思AI问答助手随时问等ღ★◈，目前尚未对AI生合成内容进行标识ღ★◈，评分为0ღ★◈；24%的应用ღ★◈，例如智谱清言ღ★◈、夸克ღ★◈、豆包ღ★◈、文小言等评分超过5分ღ★◈，已在进行标识工作ღ★◈；腾讯元宝ღ★◈、讯飞星火ღ★◈、可灵AIღ★◈、海螺AI四个APP获得8分ღ★◈，排名前列她是他的主宰者ღ★◈，当前标识情况已接近《办法》要求ღ★◈，尚需在部分地方加以改进ღ★◈，比如存在AI生成文本和音频内容无标识ღ★◈，用户协议中标识方法ღ★◈、样式说明不规范ღ★◈，会员去标识功能不规范等情况ღ★◈。

　　标识实施情况因内容类型而异ღ★◈。南都大数据研究院本次测评中发现ღ★◈，75个提供生成式AI服务的App里ღ★◈，近半数应用已在AI图片和视频领域实现“打标”ღ★◈，标识多以右下角水印形式体现ღ★◈。如综合类AI助手文小言ღ★◈、通义ღ★◈、讯飞星火ღ★◈、Kimiღ★◈、夸克ღ★◈，或者专注于AI绘画生图的应用她是他的主宰者ღ★◈，如美图旗下的WHEE等ღ★◈，均在AI生成图片或视频右下角添加了明显的标识水印ღ★◈。 但同时ღ★◈，也有22款应用不会在生成的图片或视频上添加任何标识ღ★◈，包括星流ღ★◈、必剪ღ★◈、图趣ღ★◈、写作鱼等ღ★◈。此外ღ★◈，即梦AIღ★◈、豆包的标识仅在下载图片后显示ღ★◈，界面浏览时不显示ღ★◈。

　　在文本与音频领域ღ★◈，标识实践则相对滞后ღ★◈。具有文本生成功能的39个样本应用中ღ★◈，仅有不到三成的应用在交互界面添加了“AI生成”相关标识ღ★◈。如文小言ღ★◈、腾讯元宝ღ★◈、豆包ღ★◈、Kimiღ★◈、智谱清言等知名大语言模型ღ★◈，均未在文本生成页面添加提示标识ღ★◈。还有如快问AIღ★◈、问道AIღ★◈、AI写作鹅ღ★◈、随时问-学而思AI学习助手等提供AI问答与知识服务类的APPღ★◈，也未在问答使用界面或文字生成内容上添加任何AI生成相关标识ღ★◈。

　　同时ღ★◈，还有应用存在标识不规范的情况ღ★◈，如天工AI虽然在天工大模型的交互界面添加了“内容由ai生成ღ★◈，不能保证真实”的相关提醒德扑之星官网ღ★◈，但该提醒位于界面底部ღ★◈，字体小且颜色为浅灰色ღ★◈，不仔细看难以察觉ღ★◈，无法起到有效的标识提醒作用ღ★◈。DeepSeek的标识则存在不稳定性ღ★◈，在某些对话下方会出现明显的黄色标识“本回答由AI生成ღ★◈，内容仅供参考ღ★◈，请仔细甄别”ღ★◈，但在有些对话中则不会出现该提示ღ★◈。对此ღ★◈，DeepSeek并未在用户协议中阐明触发规则ღ★◈，这种“时有时无”的标识机制可能影响用户认知ღ★◈。

　　在音频生成功能方面ღ★◈，讯飞星火ღ★◈、音鹿ღ★◈、音控ღ★◈、唱醒等13款具有音频生成功能的应用ღ★◈，均没有在交互界面ღ★◈，或者生成的音频中添加显式标识ღ★◈。但也有部分软件已做出了一些标识尝试ღ★◈，如豆包ღ★◈、唱醒等应用ღ★◈，如果将AI音乐以视频形式下载ღ★◈，会在视频画面中显示“AI生成”的标识ღ★◈。魔音工坊不会强制性添加标识ღ★◈，而是提供用户自主添加标识选项ღ★◈，只有当用户选择添加标识时ღ★◈，音频结尾处会出现“本音频由魔音工坊AI配音”的声音提示ღ★◈。

　　测评发现ღ★◈，多数会添加显式标识的AI生成图片和视频ღ★◈，在下载后也会保留该标识ღ★◈。但也有例外ღ★◈，如一款名为AI Mate pro的应用ღ★◈，接入了豆包大模型和浅风多模态内容生成合成算法ღ★◈，支持AI生成文本ღ★◈、图片ღ★◈、视频ღ★◈、等多种类功能ღ★◈。南都记者本次体验图片与视频生成功能时发现ღ★◈，在生成界面图片和视频上有“AI生成”的标识提示ღ★◈，但下载保存后ღ★◈，该水印标识却消失不见ღ★◈。对此现象ღ★◈，该应用《用户协议》中未作任何说明ღ★◈。而对于复制AI生成文本内容ღ★◈，目前尚未有平台做出添加标识的相关尝试ღ★◈。这均与《办法》对生成合成内容下载ღ★◈、复制ღ★◈、导出时确保文件中含有满足要求的显式标识这一合规要求尚有一定距离ღ★◈。

　　除去直接生图的应用场景外ღ★◈，还有如Canva可画等设计类软件ღ★◈，提供用AI生成图片素材的功能ღ★◈。南都记者实测发现ღ★◈，该功能生成的图片素材无法直接下载ღ★◈，只能插入设计稿中才可以保存ღ★◈。这些AI生成的图片素材上没有添加任何显式标识ღ★◈。记者通过将AI生成的“写实金毛犬”图片素材拉大ღ★◈，覆盖白色背景ღ★◈，便可顺利保存获得一张不添加任何标识的AI图片ღ★◈，生成的金毛犬细节逼真ღ★◈，肉眼难辨真伪ღ★◈。对此ღ★◈，该应用通过在AI生成图片下方用文字提示并建议用户ღ★◈，在生成的图片中添加显著标识ღ★◈。

　　此外ღ★◈，还有智谱清言ღ★◈、讯飞星火ღ★◈、星绘ღ★◈、脸猫ღ★◈、小影等7款App提供“会员去除”功能ღ★◈，即用户可以选择去除图片和视频上以水印形式存在的显式标识ღ★◈。对此种情形ღ★◈，《办法》第九条也有相应规定ღ★◈，为用户的去显式标识需求留有制度空间ღ★◈，但同时也要求服务提供者要通过用户协议明确用户的标识义务和使用责任ღ★◈，并依法留存提供对象信息等相关日志不少于六个月ღ★◈。该规定既给有需求的用户提供了选择ღ★◈，也为生成内容产生负向影响后ღ★◈，追溯来源和落实相关责任给出依据ღ★◈。但目前来看ღ★◈，7款App中仅有智谱清言在用户协议中明确了会员去除标识后ღ★◈，如没有履行显式标识义务而产生的使用责任将由用户自行承担ღ★◈，而其他App并未做相关说明ღ★◈。

　　除去一般的文本生成她是他的主宰者ღ★◈、文生图ღ★◈、文生视频等功能外ღ★◈，部分APP如豆包ღ★◈、讯飞星火ღ★◈、抖度AIღ★◈、妙鸭相机ღ★◈、必剪ღ★◈、度加剪辑等应用还提供AI试衣ღ★◈、AI写真或数字人等功能ღ★◈。还有如猫箱ღ★◈、星野等App可通过AI生成图片她是他的主宰者ღ★◈、语音ღ★◈、文字等ღ★◈，构建多模态AI角色提供虚拟人陪伴服务ღ★◈。

　　参与此次“生成合成内容标识标准”编制的专家告诉南都记者ღ★◈，AI陪伴ღ★◈、换装ღ★◈、虚拟人ღ★◈、写真等这类情形ღ★◈，都具备虚拟场景的元素ღ★◈。其指出ღ★◈，虚拟场景有两种形态ღ★◈，一种是虚拟现实ღ★◈，另外一种就包含现在部分大模型的新业态ღ★◈，比如生成3D模型ღ★◈，或者是一键生成场景ღ★◈。不过ღ★◈，本次测评发现ღ★◈，目前17款提供AI生成虚拟场景相关功能的应用中ღ★◈，有10款未在生合成内容上添加显式标识ღ★◈。与《办法》对虚拟场景添加显式标识的相关规定ღ★◈，也有距离ღ★◈。

　　同样是AI写真功能ღ★◈，豆包会在AI生成照片右下角打上“豆包AI”的水印标识ღ★◈。但妙鸭相机在上传照片制作分身后ღ★◈，可选择任意模板合成各类不同场景ღ★◈、不同服饰的写真照ღ★◈，无论是古装美人ღ★◈，还是都市白领ღ★◈，亦或是校园学生ღ★◈，甚至是逼真的动态LIVE写真ღ★◈，图片上均不会出现AI生成相关的标识提示ღ★◈。使用度加剪辑生成虚拟主播ღ★◈，视频画面左侧会出现明显标识提示“视频由AI数字人制作”ღ★◈，并且在下载后仍然留存该水印ღ★◈。同样具有该功能的万兴播爆APPღ★◈，虽然在用户协议中提到会在生成的文字ღ★◈、图片ღ★◈、视频等信息中加入“生成内容属于AI 生成”的相关表述和标识ღ★◈，但实际使用中生成的AI数字人视频并未有任何标识提示ღ★◈。还有星野和猫箱两款APP均是通过AI生成虚拟人物实现情感陪伴ღ★◈、社交等目的ღ★◈，实测对比发现ღ★◈，星野在与虚拟角色聊天交互界面中央位置添加明确标识“内容由生成ღ★◈，使用时请遵守平台社区公约”ღ★◈。

　　对于标识的方法和样式等规范性内容ღ★◈，《办法》规定ღ★◈，应当在用户服务协议中明确说明ღ★◈。本次实测发现ღ★◈，75款应用中ღ★◈，有65款应用未作任何相关说明ღ★◈，存在提升空间ღ★◈。而腾讯元宝ღ★◈、讯飞星火ღ★◈、智谱清言ღ★◈、可灵AIღ★◈、百小应ღ★◈、万兴播报等App已在用户协议中写明相关内容ღ★◈。

　　例如腾讯元宝App在用户协议中明确ღ★◈，会添加“包括存在于生成内容上肉眼可见的显式水印标识以及通过特定技术手段植入生成内容元文件的ღ★◈、人类无法直接感知ღ★◈、但可通过技术手段从内容中提取的隐式水印标识”ღ★◈。讯飞星火App则在用户协议中写明了显式标识的具体样式ღ★◈，“本服务将对基于用户输入内容而生成的内容添加水印标识‘AI生成’”ღ★◈。

　　还有一些应用协议相关内容尚不规范ღ★◈，如Mini Max仅在用户协议中提到“我们有权在输出内容中添加标识ღ★◈、水印”ღ★◈，但未明确具体标识实施方案ღ★◈；另有一些AI应用如AI写作ღ★◈，仅单方面要求用户“不得去除标识”ღ★◈，却未履行充分的告知义务ღ★◈。

　　《办法》还要求服务提供者需提醒用户阅读并理解相关的管理要求ღ★◈。实测发现ღ★◈，有57个应用目前并未以任何方式提示用户对外发布AI生成内容时要主动声明ღ★◈。其余App中ღ★◈，有部分如闪令等ღ★◈，将提示用户发布AI生成内容应当以显著方式予以标识写入冗长的用户协议条款中ღ★◈，难以起到较好的提示作用ღ★◈，但也有部分APP如WHEE等采用字体加粗等方式提醒用户阅读德扑之星官网ღ★◈。对比而言ღ★◈，可灵AI App在用户提示部分做得更为规范ღ★◈，将“严禁利用可灵AI技术侵犯他人合法权益”和“保留‘可灵AI’创作内容的水印”两项条款前移至用户协议开头ღ★◈，并用加粗的方式提醒用户阅读ღ★◈。

　　此外ღ★◈，本次测评发现ღ★◈，Canva可画虽然未在用户服务协议中提及标识相关内容ღ★◈，但在使用过程中ღ★◈，如用户需使用AI相关功能ღ★◈，需单独勾选“我已阅读《魔力系列产品条款》”ღ★◈。该条款要求用户不能“误导他人AI产品生成的内容是人工生产的”ღ★◈，同时要求用户在AI产品的输出内容或设计上增加标识或提示ღ★◈，这意味着将标识义务完全转移至用户侧ღ★◈。对此ღ★◈，可画还给出了在设计中添加水印的详细步骤ღ★◈，但对于具体的标识样式ღ★◈，却未作出示范德扑之星官网ღ★◈。

　　南都记者在实测中发现德扑之星官网ღ★◈，当前AI已能生成毛发分明的动物图像ღ★◈、逼真自然景观及拟真人物形象ღ★◈，普通用户难以用肉眼辨识真假ღ★◈。还有数字人ღ★◈、AI写真ღ★◈、AI换装等涉及虚拟场景元素的功能ღ★◈，更是涉及人脸生成ღ★◈、人脸替换ღ★◈、姿态操控等人物图像ღ★◈、视频生成或者显著改变个人身份特征的编辑服务ღ★◈，可能导致公众混淆或者误认ღ★◈。其中的数字人功能ღ★◈，可逼真复制普通人ღ★◈、明星或其他公众人物的形象ღ★◈，若没有显著标识ღ★◈，可能存在虚假宣传ღ★◈、诈骗等滥用风险ღ★◈。此前已不乏如伪造张宏文等名人直播带货ღ★◈，伪造马斯克视频进行诈骗等事件发生ღ★◈。还有不少应用提供会员去标识功能ღ★◈，却未在用户协议中做任何权责划分ღ★◈，一旦发生影响恶劣的虚假信息传播事件ღ★◈，可能造成平台与用户间的权责模糊ღ★◈，追责困难ღ★◈。

　　此外ღ★◈，由于大语言模型普遍存在幻觉问题ღ★◈，AI生成文字有可能编造不实信息ღ★◈。例如ღ★◈，在某美国乘客起诉美国某航空公司的案件中ღ★◈，代理律师引用了AI生成的六个案例ღ★◈，然而法官发现六个案例的判决结果ღ★◈、引用出处均为虚构ღ★◈。中国政法大学数据法治研究院教授张凌寒介绍ღ★◈，AI不仅会在事实信息上出现错误ღ★◈，甚至会对知识类信息进行虚构ღ★◈。当前AI生成文本功能下方普遍缺少提示标识ღ★◈，用户可能会对AI生成内容盲目信任ღ★◈，不去加以思考和辨别ღ★◈。

　　整体而言ღ★◈，部分头部企业在AI生成合成内容标识方面正在逐步走向合规ღ★◈，而不少中小型提供生成式AI服务的应用尚还需解决标识“有无”问题ღ★◈。对此ღ★◈，专家表示ღ★◈，需拉齐参与方的认识ღ★◈，将合规一层层传导下去ღ★◈。在大企业带动下ღ★◈，中小企业也会慢慢跟进完善ღ★◈。重型机械德扑圈官网ღ★◈，机械制造ღ★◈，德扑之星DPTღ★◈。