中新社北京10月25日电知名演员吴越在社交媒体发文，控诉有视频账号利用AI（人工智能）技术伪造其形象直播带货；名叫「小海」的「虚拟男孩」在短视频平台批量涌现，对著镜头卖惨博同情，不少中老年人下单买货帮扶；著名音乐家刘欢离世后，有人用AI生成其「妻子」和「儿子」形象打著家属身份推销保健品……近日，AI技术滥用风险频出，引发舆论关注。

　事实上，AI换脸技术滥用导致严重侵犯消费者权益的案例，近年已经日渐增多，正常的信息传播秩序和市场秩序受到挑战，人们越来越希望对AI技术运用加强监管和治理。

　人民网在题为《打击AI造假不能仅靠受害者发声》评论中称，当AI深度合成愈发逼真，治理的速度和力度必须跑在造假者前边。让来源可追溯、内容可识别、责任可追究，造假链条上每一个参与者都付出看得见的代价，才能还网络消费空间一片清朗。

　北京青年报评论指出，在人工智能飞速发展、相关立法尚待完善的背景下，如何守住底线已成为平台、监管部门与全社会共同面对的课题。对平台来说，不能简单地对账号「一封了之」，应当把责任前移，利用技术手段提前识别并拦截伪造的侵权视频。监管部门则应当加大追责力度，依法提高侵权成本，溯源打击灰色产业链。

　湖北日报评论指出，AI仿冒名人、伪造身份带货，属于人工智能技术带来的技术风险。平台及相关部门应真正把「风险驱动」置于「舆情驱动」之前。

　西安交通大学经济与金融学院副教授樊仲琛撰文表示，治理的目标从来不是禁止AI技术，而是确立规则。只有当拦截先于开播、判赔足以形成震慑、普通人不再需要自证「我是真的我」，这一问题才算真正解决。

　针对AI内容乱象和技术滥用，中国官方已经在逐步出台相关规则与治理措施。如，工信部、公安部等多个监管部门已先后出台《人工智能生成合成内容标识办法》《生成式人工智能服务管理暂行办法》等规章，对内容标识、服务提供者责任作出细化规范；今年10月9日，中共中央、国务院印发《关于发展新质生产力的意见》，亦明确提出「构建技术监测、风险预警、应急响应体系，确保人工智能安全、可靠、可控」，明确AI安全底线。◇