本文为 澎湃号·湃客 科技 × 趣解商业 联合出品，湃客科技栏目独家首发，未经允许禁止转发
作者 | 张语格
编辑 | 趣解商业TMT组
“去年十一（假期），有网友说放了7天假，8天被我骂醒。”
3月8日，雷军在两会上回应自己曾被换脸、拟声，用来做各类视频的嘴替和脸替。雷军直言，对于这些“盗版”雷军，自己想通过法律维权，却发现对此没有专门的立法，只能用隐私权、肖像权、名誉权等法律起诉，而这些都要量化损失，因此深受其扰。
图源：抖音截图
在AI骗局里，雷军还不算最大的受害者。如今社交平台上AI视频屡见不鲜，由AI生成的真人形象已经到了以假乱真的程度，而面对这些“AI真人”的诱导，照单全收的几乎都是无防备心的中老年人。
“AI孙子”硬控老年人
“我奶奶沉迷抖音上的‘假孙子’以后，我就失宠了。”陆俊（化名）的奶奶今年79岁，从春节开始每天都要看“萌娃”短视频，视频里的“萌娃”穿着小棉袄、小肚兜，每喊一句“奶奶”，陆俊的奶奶都会大笑起来。
仔细看视频里的“萌娃”，皮肤光滑到有些失真，背景局部模糊，手指长短和摆放位置也不自然，AI创作痕迹极重，是很多年轻人眼里的AI“一眼假”。
图源：抖音截图
然而，中老年人几乎没有识别AI创作的能力。陆俊不止一次提醒奶奶这是“假的”，是AI生成的，有些视频下方会有AI创作的提示，但奶奶都不以为意。陆俊对此也十分无奈，“我第一次提醒奶奶的时候，她有点震惊，但之后还是继续看，她并不在乎小孩是真的还是假的，只觉得能让自己开心的就是好东西。”
AI小孩，瞄准的是中老年群体被忽视的情感需求。有些用户甚至将AI小孩当成了怀孕许愿池，希望自己的家人也能有一个视频里这样的宝宝。
图源：抖音截图
如果只是把AI当作消遣也无妨，令人担心的是，这些AI形象说的话，家里老人全都信。刘然（化名）的外公经常往家族群里转发一些“养生专家”的科普视频，有次刘然点开看才发现，外公嘴里的“专家”其实是AI创作的数字人。
刘然医学专业毕业，今年已经是肾科博士学位在读，但外公提到养生治病相关的话题还是会跟他抬杠。比起自己的亲外孙，外公更相信短视频里的“专家”，即使这个“专家”并没有任何权威认证。
图源：抖音截图
在很多年轻人看来，家里长辈信任数字人和当初沉迷反智营销号一样令人费解。刘然对此非常无奈，外公当初也是读过大学的，“网上所谓的‘老师’和‘专家’随口说几句，他们就觉得是真理，却不愿意听一听身边亲人的实话。”
“AI弟弟”的背面
“趣解商业”观察到，如今社交平台上充斥着针对中老年群体的AI账号，这些账号的视频，大多是一个由AI生成的真人形象，通过套近乎、讲哲理等针对性话术，吸引不同老年人的关注和信任。有些AI账号，已经靠这份信任通过橱窗带货赚起了第一桶金。
图源：视频号截图
上图中的视频号账号“·古元·”，瞄准的就是渴望关怀的高龄女性。视频大多以“我的宝贝姐姐开头”，发布的视频大多围绕老年女性的生活常态展开，“我发觉姐姐近来面容憔悴，弟弟跑了好多地方，找到这款面霜特别适合姐姐”，随后引诱用户点击主页关注、下单。
虽然该账号发布视频数量不多，但橱窗商品的销量已突破三位数。评论区大多是对被视频里“男人”温柔话语打动的用户。养生、情感内容一直是收割老年人的重灾区。被骗的人通常与受教育程度无关，而是沉迷视频带来的情绪价值。
根据蓝鲸新闻报道，收割老人的数字人视频如今已经发展成一条灰色产业链。市面上涌现出制作数字人的外包公司，服务价格在5000~10000元不等。商家会帮助客户搭建数字人形象，指导运营账号。
图源：视频号截图
AI账号大多是利用老年人的同理心、情感需求卖货，属于商业伦理争议。但值得注意的是，随着技术的快速迭代，针对中老年的AI换脸诈骗案也开始频繁出现。
两会期间，除了雷军吐槽自己被做成AI，政协委员靳东也提到了AI换脸的危害，他表示，一些喜欢自己影视剧的观众，被AI换脸视频骗得很惨。去年，就曾有一位江西老人被换脸视频蒙蔽，要贷款200万给网恋男友“靳东”拍戏。
图源：抖音截图
如何应对AI“污染”？
北京周泰律师事务所张子航律师认为，想要防范AI创作内容带来的风险，除了用户自身增强核实意识与能力，平台也应当加强规范。“尤其要关注短时间内被频繁关注、转发的内容，如果发现是AI创作，确认为虚假信息后应当予以删除，如果不能确认真假，也应当提示和标注该内容为AI创作。
2024年9月14日，国家互联网信息办公室发布《人工智能生成合成内容标识办法（征求意见稿）》，让AI创作内容的刚性治理有了更多具体的抓手。
如今，各平台都在加强对AI内容的治理。抖音、视频号、小红书等都推出了针对AI治理的管理政策。“趣解商业”了解到，腾讯等互联网公司已经在研究检测AIGC的第三方工具，这些工具根据相似检索、内容检测和水印追溯等方法，支持文本、图片等AI生成内容的检测。
但在头部互联网公司从事AI研究的Lisa表示，如今生成内容越来越逼真，真实图片与生成图片的特征差异越来越小，检测工具的模型学习难度其实也在增加。
在技术快速更迭的AI时代，虚与实的界限，有时候年轻人都需要仔细甄别，更何况是不谙网络世界的老年人。北京师范大学发展心理研究所副教授彭华茂在接受央视网的采访中曾提到，老年人也有与他人建立亲密关系的需求，与其用强硬的口吻告诉他们外面的话一个字都别信，还不如用一种平等的姿态关注他们被骗背后深层次的内心需求。
作为子女、作为小辈，我们可以试着去走进老年人所处的“信息茧房”，看看大数据算法下他们手机里的网络空间究竟是什么样的，充斥着怎样的内容和危险。了解老年人当下的处境，才能更好地帮助他们。与此同时，我们也可以做很多实际的事情来帮助老年人缓解“情感需求”。
正如路易斯·阿伦森在《银发世代》一书中的观点，我们现在对老年人困境的态度和作为，将决定我们老年生活的艰难与否。帮助他们，也是在帮助“未来的我们”。