AI仿明星又多了一例，这次盯上了刘德华。3月1日，刘德华电影公司映艺娱乐发布两份声明，称部分网络主体假借刘德华粉丝会名义开设小红书账号，并组建群聊邀请歌迷成为会员，仿冒“华仔天地”官方网站，通过其盗版网站“华仔俱乐部”散布关于演唱会相关不实信息，收取门票订金；微信用户“华仔共享团”及其关联视频号“华仔集结号”通过信息技术手段伪造刘德华声音，于微信平台连续发布其剪辑拼凑视频，利用刘先生的知名度吸引流量、售卖商品、从中营利。

“请大家多多关注账号，因为他是我私下里很好的一个小兄弟。”当刘德华极具辨识度的声音响起，不少粉丝都会凭着对明星的信赖而放松警惕，听信账号运营者与偶像之间的关系，进行关注、点赞、转发甚至下单支付。也是这个原因，在山寨群聊和冒牌网站中，类似收取演唱会订金之类的花招十分容易得逞。殊不知，这些语音片段，其实是在明星以往音频“物料”的基础上，利用AI技术合成的“杀熟”音效——骗的正是对刘德华音色十分熟悉的人。

日益精进的技术叠加精心编排的话术，足以使AI音频以假乱真，构成了网络诈骗的又一形式。可这不能怪粉丝网友辨别能力差，只能说深度造假辨别难度大。此前就有“假靳东”给多名大妈灌迷魂汤，导致真靳东发出“碎片化信息真假难辨”的感叹；如今又有“假德华”号召粉丝购买商品和门票，让当事人公司深夜连发不要上当受骗的提醒。一个是AI换脸，一个是AI拟声，不怀好意者对智能技术的不当利用，一次次击穿了网络安全的底线。再好的科技也得有明确的应用限制，否则就会成为诈骗的得力工具，威胁公众隐私、尊严，甚至是社会财产和生命安全。

AI应用呈指数级增长，相关乱象层出不穷，法律法规也密集出台。根据民法典，仿冒他人声音，可参照适用肖像权保护的有关规定。《互联网信息服务深度合成管理规定》明确规定，“任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息”；“可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识”等。然而，从出没于网络各平台的各种AI诈骗案例来看，这些律条并没有产生理想的震慑效果。一方面需要进一步完善法律规范配套措施，让法律条款的落实更加简便易行，一方面需要政府、企业、社会、网民等主体积极参与AI治理，共同防范深度合成技术产生的安全隐患。

高科技不会“变坏”，但得防着坏人利用高科技“发坏”；“换脸”“偷声”不止，既侵权明星等当事人，也在败坏AI名声。防止AI技术越线狂飙，需要系紧法律的“安全带”。

来源：北京日报