某综艺节目上，“唐嫣”居然说自己女儿小时候比同龄小孩矮很多，喝优米复合钙，半年时间就追上来了。 “应采儿”也表示自己孩子有几年一直不长个，后来给他弄的元德吉钙一下涨了几公分，“谢娜”还在一边帮腔：“杨紫跟我说过。” “黄景瑜”则是透露自己一直是“睡觉困难户”，一直很痛苦，好在从中医那里拿了希珂黎葡萄饮，睡眠质量直线上升，精气神都回来了。 现在明星带货都这么生猛，综艺上直接明晃晃给不知名品牌带货？ 新识研究所最近观察发现，最近在抖音、快手、B站、小红书等视频平台上，搜索“跟着综艺学XX”词条，跳出一大堆综艺节目切片。节目里明星或者讲师会说明自己亲身遭遇的困扰，因为吃了某种产品得到明显改善，视频评论区还会给用户指路去淘宝、京东搜“XX店铺”。 然而这些视频切片全是“移花接木”，内容虽用了综艺节目的片段，但人物语音和字幕等却是商家以AI技术进行篡改伪造的，目的是植入品牌和带货。平台方也没有提示“该画面可能由AI生成，请注意鉴别”。 不但多位名人和节目IP被造假，名誉和肖像权受损，消费者也在不知情的情况下买了假冒伪劣产品，平台也成了这场“造假风波”中推波助澜的工具，最终受益的只有那些造假的商家。 01 AI打造假明星代言，带货套路防不胜防 近年来，消费者对减肥健身、美容养颜、疾病预防的关注度与日俱增。 部分白牌商家也是抓住了这波风向，在年轻人聚集的社交平台，借用综艺节目中“专家”和“明星”的权威背书，让消费者误以为真，掉进他们精心编制的陷阱里。 向晴最近刷抖音看到一档名为《国医少年志》的综艺节目，其中有中医介绍如何有效减小肚子赘肉时，除了介绍苹果、红枣、枸杞等食材用以煮水饮用能提升代谢外，还特意提了一句“身怡安的阿胶八珍膏就很不错”。 心动的向晴当即根据品牌名在电商平台搜索并花费200多元下了一单。几天体验后，向晴发现减肥效果远没有达到视频宣传的程度，体重没有丝毫变化。 被骗的还有大学生石芊芊，她某次看到《中国中医药大会》短视频切片时，专家称zoao叶黄素对黄斑很有效果，她搜索发现这个牌子有旗舰店，用户评价里也有大批网友称买给孩子吃，便放心买了5盒，结果吃了两瓶没啥感觉，皮肤还显著发黄。 后来她去咨询了专业医生，对方称这只是普通压片糖果，都不算保健品，可以缓解眼睛疲劳，吃多了会伤肝，每天吃点蓝莓效果是差不多的。 新识研究所发现，类似视频切片在短视频平台中比比皆是，由于使用了AI声音克隆技术，音频确实是根据明星本人声音复制过来，并且仿制了节目组风格的字幕，不仔细甄别还真难以分清真伪。 究其缘由，《国医少年志》《中国中医药大会》等综艺节目中，由于有专家传播健康养生类知识，通过短视频传播后被一众消费者所追捧，也让他们成为部分商家收割的对象。 这些切片传播账号几乎全是个人账号，之前还发有个人生活视频，私信联系并未得到回复，疑似是长期未使用的垃圾账号或是被盗账号。 抖音客服称，对于视频违规，平台有自动检测机制，用户也可以进行举报，但客服无法单独标记账号给予封禁之类的操作。 对此，新识研究所询问了这些视频中出现的品牌店铺，绝大部分都是2024年新注册的，大部分客服都称自己的产品通过食药监备案，也不否认在出现在产品信息出现在视频切片里，不过这些店铺的粉丝量基本都只有几千，商品评论区也是清一色的好评。 值得注意的是，不少商品资质不明、厂商不清，搜索带货的“茯苓膏”“丁香膏”“赤菊膏”会跳出一大堆品牌和产品，它们的宣传封面、产品包装、文案说辞几乎一样，生产厂商却不尽相同。 这种隐性的带货方式和真假难辨的画面，让不熟悉AI技术的中老年人很难辨别，也自然成了被收割的对象。在社交平台上可以看到不少用户吐槽家里老人听信“专家视频”买回一大堆高价无用的保健品，还推荐给身边的朋友。 这些现象显然也被节目方关注到，1月3日《国医少年志》官方发文表示，部分社交媒体上营销账号未经授权擅自剪辑节目图片、视频实施产品推广行为，歪曲了节目内容。节目组从未授权任何第三方账号利用节目内容宣传相关的任何产品，“任何非我司官方账号或非节目原片所发布的我司及与我司合作生产相关产品的信息均为虚假信息。” 但如今过了两个月，根据节目仿冒的不实内容仍在被传播，相关现象愈演愈烈，这种造假方式依旧在“野蛮生长”。 02 明星们，要被AI“变声假带货”玩坏了 在广电总局网络视听司发布针对“AI魔改”的管理提示新规出台3个月后，互联网上仍频繁有AI魔改的音频、视频出现，影视角色、明星、甚至企业家，都成了被魔改的对象。 通过“克隆”名人声音制作的恶搞、猎奇类视频，在相关平台播放和点赞量均不低，有的甚至还被推上平台热搜。发布者也相应获得流量曝光、粉丝增长、广告收入等播放收益。 今年两会期间，全国人大代表、小米集团创始人雷军建议“加强‘AI换脸拟声’违法侵权治理”，他本人曾是“AI换脸拟声”的“受害者”，在过年期间被制作了大量AI锐评恶搞视频。 新识研究所在应用商店搜索发现，“AI配音”相关App有数十款，下载量最高超千万次。 经过新识研究所实测，只需几块钱，就可以使用声音克隆App复制音色，随便录几秒钟的音频，AI就会根据声音生成各类内容的出镜口播视频，甚至连录制者在发音时的吐字习惯也能模仿。 对于一些较短的语句，很难识别出这是机器合成的语音，但只要多试几次，还是很容易得到好用的素材。 通过语音大模型生成的名人声音，基本可以以假乱真，且录入名人声音不需要提供任何授权证明。 除了雷军，靳东、刘晓庆等演员都成了被侵权“重点对象”，还有平台利用AI技术，将古天乐、林峰等港星的肖像、声音及视频片段，合成为线上赌博、游戏的代言宣传片。 3月5日，两人的经纪公司随后发布了声明，明确指出该宣传片是通过合成技术制作，并非真实合作内容。 声明中强调，两人并未与任何相关游戏平台进行合作，也未代言或推广其业务。公司提醒社会各界人士提高警惕，不要轻信此类虚假宣传，以防上当受骗。对于任何盗用两人名义或肖像进行虚假宣传或诈骗的行为，经纪公司表示将坚决追究法律责任。 北京嘉潍律师事务所罗钰律师表示，民法典规定：“对自然人声音的保护，参照适用肖像权保护的有关规定。”因此，明星对其声音也享有类似于肖像权等人格权益，未经其授权，不得擅自使用其声音，利用AI技术冒用明星的声音的行为构成侵权。 通过AI技术冒用明星声音打广告，导流到其他电商平台内的卖家。在此过程中，冒用明星声音发布广告的主体属于广告发布者，广告导流到的电商卖家是广告主。广告发布者发布的广告内容是虚假的，其中表现之一即冒用明星声音骗取受众信任。所以，广告主即电商卖家和广告发布者即短视频或直播平台的账号的经营者需要对虚假广告承担连带责任。 03 AI换脸最开始确实造福了不少行业。 不论是“AI 孙燕姿 ”让孙燕姿再度成为顶流女歌手，还是用AI视频复活逝去的亲人，弥补人生遗憾，更不用说直播电商通过AI克隆人让主播成了24小时坐班的“牛马”，让头部平台和电商主播赚得盆满钵满。 但技术的进步，如果得不到合法应用，“AI诈骗”会比以往所有的诈骗手段更难防备、排查和整治。 随着AI技术的迅猛发展和用户规模的指数级增长，立法规范AI生成合成内容的制作和使用，已经迫在眉睫。 (文中受访者均为化名)