我们来关注“生成式人工智能”，“生成式人工智能”，简称AIGC，是指基于“算法、模型、规则”生成“文本、图片、声音、视频、代码”等内容的技术。当前，“生成式人工智能”正在加速发展，不断催生“新场景、新业态、新模式”和“新市场”，赋能千行百业。

像这段时间、一直被大家所热议的“AI换脸、拟声技术、模型制作、论文写作”等都算是“生成式人工智能”。而“AI换脸、拟声”等技术，在现实应用中也时常被不法之徒所利用，引发公众对“AI换脸、换声”侵犯个人权益甚至危及财产安全的担忧。比如我们栏目就曾报道过一个典型案例，福州市某科技公司法人代表在10分钟内被AI换脸术骗走了430万元。

生成式人工智能挥别“野蛮生长”

再比如，今年大热的ChatGPT，写论文、画画、美术设计等样样能行，号称几乎“无所不能”。但这些“生成式人工智能”技术快速发展的同时，也产生了“传播虚假信息、侵害个人信息权益、数据安全和偏见歧视”等问题，如何统筹“生成式人工智能”发展和安全引起各方关注。近日，国家网信办联合国家有关部门公布了《生成式人工智能服务管理暂行办法》，自今年8月15日起施行。《办法》既促进“生成式人工智能”健康发展，也为“生成式人工智能”服务划出了诸多“红线”。

《办法》是在区块链、汽车数据、算法推荐、深度合成等立法之后，我国对新兴领域立法的又一次探索。《办法》立足于促进生成式人工智能健康发展和规范应用，提出一系列鼓励措施。鼓励生成式人工智能技术在各行业、各领域的创新应用和发展。

以ChatGPT为代表的生成式人工智能在社会变革中的具有重要作用，但其可能存在的数据违法收集、知识产权侵权、生成虚假信息等问题同样不容忽视。《办法》积极回应生成式人工智能带来的社会问题，明确提供和使用生成式人工智能服务的法律底线。明确不得生成法律、行政法规禁止的内容。 防止歧视，如边缘化弱势人群或者煽动仇恨与暴力。要求不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。此外，强调提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。

对于生成内容的真实可靠性问题，《办法》有了一定调整。“一本正经胡说八道”是业界对于生成式人工智能诟病较多的问题。对此，《办法》要求生成式人工智能提供者提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。

对于未成年人的保护，《办法》的内容也进行了着重强调。要求采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。

人工智能算法具有“黑箱”特性，表现为行为不可控、决策机制难以解释，给人工智能监管带来了一定困难。为此，《办法》明确了分类分级监管的原则，健全了我国人工智能治理体系。比如，对提供具有舆论属性或者社会动员能力的生成式人工智能服务的，提出了安全评估与算法备案要求。并明确信息披露要求。

【新闻观察：《办法》为人工智能套上了“紧箍咒”】

下面进入新闻观察环节。今天的新闻观察员是候又华。近年来，生成式人工智能技术不断成熟，展现出全方位提升人类生产生活效率的重要潜力。又华，在你看来，为什么我们要推出这样的办法，是不是给人工智能的发展安上了“紧箍咒”？

其实说“紧箍咒”是再合适不过了，因为当我们看到ChatGPT取代人工、AI换脸的时候，我们对生成式人工智能就真的慌了。首先，我来跟大家分享一下，什么是生成式人工智能，人工智能分成两种，判别式、生成式。我们过去说人脸识别、语音识别这些，都还是判别式，这其实还是我们可控的。但是随着人工智能的发展，基于大数据、基于算法，人工智能可以帮我们生成图片、视频、声音的时候，它从效率上、成果上就直接替代了人类，我们说利益越大、风险就越高，换句话说，生成式人工智能带来的“不可控”风险也就由此产生，包括之前我们也聊过的AI换脸，它把你的人脸换了，那么很多人就可以用它去行骗。因此，我认为，这个暂行办法是非常应景、及时的“紧箍咒”，它针对的不是技术本身，而是使用技术背后的人。

科技带来创新，带给我们便利的同时，也让人类迷失，审视着创新过程的人性底线。这个《办法》的出台，是不是表明了我们国家在人工智能上的态度，对我国人工智能发展会带来什么影响？

我们来看这个办法的称，叫《生成式人工智能服务管理暂行办法》，这其中，服务在前，管理在后。因此在我看来，这个办法一方面就是表明了对后续生成式人工智能表明了支持的态度；二方面就是为未来的防范风险，划出了边界。其实从国际的角度看，目前很多国家，包括美国、加拿大、德国、法国，都相继对生成式人工智能启动了监管，这说明，明确监管是国际社会共同的应对之策。之前在人工智能立法上面，我们国家是缺位的，但是未来有了这个《办法》，我认为，一来是紧跟国际的步伐，二来为我们国家的人工智能更好的发展构建了发展和安全的框架。