我们每天上网都能看到海量的图文、视频，但是近年来，随着人工智能深度合成技术的发展，AI合成的内容越来越多，也越来越逼真，有的甚至已经达到了“真假难辨”的程度。一些不法分子也开始利用AI诈骗、造谣、生产虚假内容。此前，有媒体起底了南昌某“MCN机构”，利用AI每天可以生成4000-7000篇谣言文章，全程基本不需要人工参与。

利用AI制作假视频 厦门一男子造谣被抓

不光是文字，图片乃至视频领域，都已经成为利用AI造谣的重灾区。前不久，厦门就有一名男子滥用AI技术，制作造谣视频，发布在网络视频平台上博人眼球，非法牟利。

现场：一名七旬老人在家中遭到邻居上门殴打，导致重伤昏迷，至今仍躺在ICU中，而更为悲剧的是，事后老人的孙子因承受不住这一连串的打击，选择了跳河轻生。

这段描述得煞有其事的视频，其实从头到尾都是假的。前段时间，这条视频被一个名叫“小逸看世界”的账号，发布在了网络视频平台上，迅速吸引了不少网友的关注。视频发布后不久，厦门警方也接到了群众举报，立即对视频内容展开核查，确定视频内容是编造的，画面也是恶意剪辑的。经过侦查研判，民警迅速锁定造谣男子任某的身份，并在海沧的一处出租房内将其抓获。

东孚派出所民警：这是你的手机吧？你的名字叫小逸看世界是吧？

经审讯，嫌疑人任某交代，这条近3分钟的视频，连同文字、画面在内的全部内容，都是他利用AI软件合成的，整个制作过程仅用了两三分钟。

东孚派出所民警 林文豪：网上搜索一些博眼球的标题，之后通过这个标题再导入到AI软件，通过AI自动生成一篇文章，这篇文章生成之后，他再导入到后期处理软件，这个后期处理软件会通过该文字，与视频图片相匹配，之后就导出一个虚假的视频。

经查，从去年开始，任某利用AI技术，制作各类信息不实、标题猎奇、故事情节夸张的视频，并将这些视频发布在网络视频平台上，以此获得网民的关注，使账号涨粉涨流量，并依据平台流量盈利规则变现，非法牟利。目前，因涉嫌寻衅滋事，任某已被海沧警方依法采取刑事强制措施。

【《人工智能生成合成内容标识办法（征求意见稿）》发布：生成合成内容应添加显式标识和隐式标识】

利用AI生成虚假文章、图片、视频所造成的恶劣社会影响不言而喻，该怎么解决这一问题呢？昨天，国家网信办发布《人工智能生成合成内容标识办法（征求意见稿）》，拟规定，只要是AI深度合成内容，不管是文本、音频、图片还是视频，都必须“在适当位置添加显著的提示标识”，一起来了解。

根据《人工智能生成合成内容标识办法（征求意见稿）》，人工智能生成合成内容标识包括显式标识和隐式标识。

其中，显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可被用户明显感知到的标识。《意见稿》规定，服务提供者提供的生成合成服务，包括文本、音频、图片、视频、虚拟场景等，均应在适当位置添加显著的提示标识；服务提供者提供生成合成内容下载、复制、导出等方式时，应当确保文件中含有显式标识。

而隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。《意见稿》规定，服务提供者在生成合成内容的文件元数据中要添加隐式标识，包含生成合成内容属性信息、服务提供者名称或编码、内容编号等制作要素信息。

《意见稿》也明确了平台的责任。提供网络信息内容传播平台服务的服务提供者应当采取措施，规范生成合成内容传播活动。对用户发布内容进行核验，核验其文件元数据中是否含有隐式标识，并根据不同情况对用户做出是否为生成合成内容的相应提醒。

《意见稿》还规定，用户向提供网络信息内容传播平台服务的服务提供者上传生成合成内容时，应当主动声明并使用平台提供的标识功能进行标识。任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或服务，不得通过不正当标识手段损害他人合法权益。

此外，《意见稿》明确，违反规定，未对生成合成内容进行标识造成严重后果的，由网信等有关主管部门按照有关法律、行政法规、部门规章的规定予以处罚。

【新闻观察：AI虚假之困 标识点亮真相之路】

相关话题我们邀请到本台新闻观察员樊维一起来探讨。樊维你好，对于人工智能生成合成内容标识办法 您怎么看？您觉得它对治理虚假信息 能发挥多大的作用呢？

我认为网信办此次发布的《征求意见稿》非常具有现实针对性、必要性。我们看到近年来，人工智能深度合成技术已在多个领域大量应用，从图文、视频生成到在线问答，各种应用更是层出不穷，如果没有有效监管，虚假合成的内容很容易给社会带来信息失真、认知混乱等问题。

其实在2022年11月，国家网信办出台《互联网信息服务深度合成管理规定》，对深度合成内容的用途、标记、使用范围以及滥用处罚作出了具体规定。此次《征求意见稿》则进一步对AI服务提供者提出了明确要求，那就是只要是AI工具生成的，无论是一篇文章还是一张图片，都需要添加显著标识。这其实也是在提醒我们每一个人，网络信息鱼龙混杂，你看到“内幕”文章、“劲爆”图片或“震撼”视频时，首先要注意是不是AI生成的，是不是应该采信，如何去辨别，一定要多加个心眼。

另外，在这场与AI虚假内容的战斗中，平台扮演着至关重要的角色。在此次《征求意见稿》中，我们也看到它强调平台要承担相应的责任，比如要对用户上传的内容进行审核等，它还明确“任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识”，就是在提醒AI服务提供者和平台，绝不能因为享受了AI工具带来的“流量红利”，就采取睁一只眼、闭一只眼的姑息态度。清朗的网络空间，绝不能让AI内容鱼目混珠，模糊了真实的边界；如果有信息被甄别为谣言，平台更应该立刻进行标注、清理。

【《青少年蓝皮书：中国未成年人互联网运用报告(2024)》发布：45.1%未成年人使用过AI产品 AI素养亟待提升】

如今，网络上充溢着AI批量制造的虚假信息，连成年人都不一定能一眼看出真假，更别说是 心智尚不成熟、认知能力较低的未成年人了。近日，中国社科院新闻与传播研究所发布的《青少年蓝皮书：中国未成年人互联网运用报告（2024）》就指出，AI技术与AI设备逐步受到未成年人关注，但未成年人的AI素养亟待提升。

蓝皮书显示，青少年对AI的认知度非常高，45.1%的未成年人使用过AI产品。蓝皮书指出，未成年人在享受人工智能带来的便利的同时，也需要认识到它可能带来的潜在威胁，并学会如何防范和应对这些风险。但调研数据显示，上过专门的网络素养课程的未成年人仅占19%，大部分未成年网民对人工智能技术的了解主要依靠上网和课外实践，未成年人AI素养亟待提升。

蓝皮书建议，要充分研判新一代AI技术给未成年人用网带来的机遇与挑战，注重提升未成年人的AI素养；要强化低龄儿童的用网教育，重视朋辈示范作用，合力帮助未成年人树立正确的网络价值观念；要鼓励网络平台探索运用AI技术，打造个性化、陪伴式“未成年人模式”。

蓝皮书特别强调，应加快推进我国互联网人工智能立法进程，构建全面有效的保护体系、建立完整的法律体系。在考虑到立法难度的基础上，应优先完善现有的《未成年人网络保护条例》，确保条例内容与时俱进，能够应对互联网环境的快速变化，为未成年人网络保护提供一个坚实的法律框架，同时引导互联网行业充分发挥自我监管的作用，未成年人家长和学校共同承担起教育引导未成年人的责任，培养他们正确的网络使用习惯和安全意识，为未成年人网络空间的安全提供保障，让未成年人身心健康成长。

【新闻观察：AI风云起 未成年人素养筑堤正当时】

未成年人的网络安全问题，一直备受关注，如今AI又大量进入网络空间，势必让未成年人的网络安全保障，面临新的挑战。对此您怎么看？

当下，AI技术以惊人的速度融入我们的生活，未成年人也不可避免地身处其中。一方面，随着智能推荐算法的普及，未成年人更容易陷入信息茧房、刻板偏见，这影响其对多元世界的理解和认知；另一方面，ChatGPT、Sora等生成式人工智能的逐步应用，可能会加大未成年人对事实信息的辨别难度。因此他们急需提升AI素养，学会辨别信息真伪、防范潜在风险。这不仅是为了他们自身的健康成长，更是为了适应未来社会的发展需求。我们应重视这一问题，通过多种途径为未成年人提供针对性的教育和引导，帮助他们在AI时代站稳脚跟。

在AI时代，保障未成年人的网络安全迫在眉睫。加快推进互联网人工智能立法进程，构建完善的保护体系和法律框架至关重要。正如刚刚新闻中提到的，可以优先完善《未成年人网络保护条例》，使其适应快速变化的互联网环境，为未成年人撑起一把法律的保护伞。立法并非孤立的行动，而是需要多方共同参与。互联网行业应加强自我监管，以高度的责任感规范自身行为。家长和学校也不能置身事外，家长要密切关注孩子的网络生活，给予正确的指导；学校则应将网络素养教育纳入课程体系，培养学生的安全意识和正确价值观。只有各方齐心协力，以立法为引领，共同守护，才能为未成年人营造一个纯净、安全的网络空间，让他们在这片蓝天下茁壮成长。