央视知名主持人出现在网络直播间？他们还播放虚假广告？近日，北京市市场监管部门查处首例利用人工智能技术进行虚假广告的案件。北京一家企业在直播中声称其产品可以治疗多种疾病，但实际上该产品只是普通食品，没有任何疾病治疗功能。此外，直播中还出现了央视知名主持人的形象。识别后，该图像是利用AI技术完全伪造的。 近年来，人工智能技术日趋成熟，“AI换脸”的技术门槛明显降低。现在，高度逼真的假视频可以由图像和声音组成。这导致一些不法企业家利用人工智能生成科学家、医生、运动员、演员等名人的面孔和声音来创造e AI“李鬼”。 这种新型违法行为，不仅侵犯了被打压群众的合法权益，还制造了“权威背书”的假象，欺骗公众，对内容安全提出了挑战，消除了社会赖以生存的信任基础。当假图片被人工智能用“鼻子和眼睛”包裹在视频中传播厌恶情绪时，当明星假图片被严肃对待在直播间出售假冒伪劣商品时，当电信骗子的声音与受害者家属一模一样……在复杂的东人工智能生成内容的世界里，如果“眼见为实”不再存在，社会信任如何维持？ 为解决人工智能生成内容以假乱真的问题，今年9月，我国《人工智能生成合成内容标注办法》正式实施。该法案明确要求所有人工智能生成的文本、图像、视频等内容必须明确标识以“去识别化”，同时鼓励添加数字水印等隐式标识符，以告知公众哪些内容可能是由人工智能生成的。既然规定已经出台，有关部门就应该加大执法和执法力度，依法查处违反相关规定的平台和个人，筑牢屏障。此时，北京市场监管部门查处相关案件开了个好头，发出了加强“人工智能制造”监管的强烈信号。 内容分发平台、人工智能生成服务平台、应用分发平台要履行各自的责任和义务，落实相关要求，进一步优化人工智能识别技术，强化打假和监控溯源能力，同舟共济，共同发展。与监管机构合作，并监控“真实”的界限。同时，广大网民也应保持警惕，加强对信息真实性的甄别，不得出现虚假信息滞后。 当前，我国人工智能技术快速发展，各类应用场景的安全标准和法律指引不断完善。构建良好的网络生态系统，需要各方共同努力，将“眼见为实”的网络空间还给我们每个人，保障社会信任的基础。 （编辑：罗智智、陈健） 关注公众号：人民网财经 分享出去让更多人看到