开云（中国）官方网站-KAIYUN畅享生活

　　近期，北京市一名退休人员陈先生在浏览短视频平台时，被号称“免费AI培训”的线上直播吸引。进入直播间，很多人在弹幕上说培训是真免费，陈先生便信以为真，“谁知道他们都是托儿，说是免费上课，但我前前后后花了4000元购买‘高阶课程’。”以免费为噱头吸引到用户后，一名自称“班主任”的工作人员会添加用户微信，并高价推销课程以及“一对一私教班”，承诺有专属指导老师，诱导学员高价购买。陈先生逐渐意识到不对劲，与其他受害者发起维权。

　　北京市市场监管综合执法总队八支队工作人员袁明表示，该公司在多个短视频平台大量投放以“免费AI培训直播”为诱饵的虚假广告，通过添加微信、组建群聊等方式，构建私域流量池，脱离公共视线，然后进行欺诈。该公司人员不断发送类似“抢到享受两折优惠”“只剩最后几个名额”等信息，那些被“高收入”冲昏头脑的用户，稀里糊涂就付了钱。所谓的“免费课程分享”，不过是为付费课程铺垫的洗脑前奏。

　　深夜，上海浦东的某栋公寓内，老李（化名）的手机交友APP里，一名“女性好友”正与他倾诉衷肠。该“女子”自称“琳琳”，单身离异，目前在上海经营着小生意。“感觉和你聊天特别投缘，要是亲密度再高一点，我们就能加微信私下聊了……”因为这句承诺，老李前前后后在一款交友APP里充值了数万元。可他未曾想到，屏幕那端的“佳人”，竟然是AI生成的虚拟形象，操作账号的甚至是一名男性。

　　这是浦东警方近期破获的一起交友APP诈骗案中的线月以来，多名被害人报案称在该交友APP中被诱导大额充值后“恋爱对象”失联。警方侦查发现，一个以刘某、许某为首的诈骗团伙，以网络科技公司为幌子，构建了一个层层递进的诈骗体系。

　　上海市公安局浦东分局反诈中心民警徐越分析：首先，他们通过技术手段设下骗局——开发双版本APP，主要吸引男性用户，诱导注册用户充值购买金币进行聊天，而另一端由诈骗团伙聘用的“聊手”使用内部版本注册女性账号，并使用由AI生成或经过美颜处理的照片头像，吸引他人。在此基础上，诈骗分子布下诱饵，用量身定制的话术剧本，塑造“单身离异、渴望真情”的人设，通过提升“亲密度”才能加微信、线下见面为由，诱使被害人持续充值以提升“亲密度”，而标准完全由后台操控、可以随时调高，让被害人无法达到。最后，形成闭环的金钱收割体系——按照该团伙制定的规则，文字聊天需要付费，视频通线元，虚拟礼物的价格更是不菲，所有充值款最终会汇入团伙控制的账户。一名“聊手”一个月可从数名被害人的充值中牟利上万元。2025年12月起，浦东警方跨省份收网，合计抓获6个相关诈骗团伙，涉案金额逾1000万元。

　　“奶奶，我在学校和同学打架，把人打伤了，对方要4万元私了。”电话那头，“孙子”带着哭腔，语气急促，“对方家长马上上门拿钱，千万别告诉别人，免得事情闹大。”

　　随着AI技术广泛应用，深度伪造、AI换脸等技术被不法分子滥用，成为虚假宣传的新型工具。日前，广东佛山市市场监管局公布一起典型AI虚假广告案例。2025年3月，佛山市新娱科技有限公司未经授权，利用AI技术仿冒某著名经济学专家的形象，制作65秒带货视频，在其视频号“AAZ甄选好物”上推销“AAZ脑力素”压片糖果，利用老年人对专家权威的信任实施误导。

　　经佛山市南海区桂城市场监管所核查，该内容为虚假宣传，企业未获得任何合法授权，违反了《中华人民共和国广告法》第四条规定。执法部门依法责令该公司立即停止发布虚假广告，在相应范围内消除影响，并依法作出行政处罚。

　　蔡宏民建议，针对这类技术滥用，以AI治AI是直接高效的防控路径，网络平台与监管部门应合力推进。平台应部署多模态深度伪造检测模型，通过捕捉AI生成内容的隐性伪影、频域特征异常及唇音同步偏差，实现秒级识别、精准拦截，部分模型准确率达95%以上；植入可扩展通用对抗性水印，在权威人士的影像、语音素材中嵌入隐形标识，一旦被伪造就会触发标识，从而破坏生成内容，实现事前主动防御；搭建知名人物数字特征库，收录其人脸、声纹核心特征，对冒用身份的伪造内容实现自动识别、快速封禁，从源头遏制技术滥用。同时，也要强化对大众的科普，让老年人了解伪造技术的特点。