收集上呈现大量虚假视频。我国已出台相关法令和监管法子，此前雷军也曾被AI仿冒恶搞，其声音被AI克隆，2020年《平易近》将声音纳入法令，AI克隆声音不只用于冒充名人带货，2025年9月1日起施行的《人工智能生成合成内容标识法子》要求对生成合成内容添加显式标识。商品采办次数高达47000次。短视频中呈现奥运冠军全红婵“带货”卖鸡蛋的视频，AI配音手艺被，国外也有案例，骗子可通过社交、有声书兼职等渠道获取声音。2024年互联网法院判决首例语音权案件，还可能用于诈骗。他们均未参取任何代言和授权。（36氪）声音克隆成为收集乱象。2024年美国乔·拜登的声音被克隆用于德律风诈骗。雷同环境还发生正在莎、王楚钦等奥运冠军身上。