3月3日，知名演员刘晓庆通过微博澄清，微信视频号 “晓庆人生” 并非她的账号，但也承认相关账号 “画面是我，声音很像我”。
刘晓庆通过微博辟谣假账号（图源：刘晓庆微博）
上海辟谣平台初步调查发现，相关账号使用了 AI 技术，包括合成刘晓庆的声音、视频等。截至发稿，该账号已经不可见。
“晓庆人生”目前已不可见，原账号使用了AI合成音频、视频等技术。
但是，类似利用 AI 技术 “傍名人” 的帖子在社交平台还有很多。演员靳东、医生张文宏、企业家雷军等，都曾 被“ AI 造假”。造假者手段百出，或觊觎名人光环吸引流量，增加粉丝；或假借名人形象、语音，带货牟利；更有不法分子用 AI 数字人炮制诈骗陷阱，利用公众对名人的信任骗取钱财。
值得关注的是，社交平台的 AIGC（人工智能生成内容）不止于 “傍名人”“假名人”，很多服务行业、自媒体越发频繁地使用 AIGC 为自己 “添光”，有些场景的 AIGC 更是让观看者真假难辨。
比如，在餐饮、设计、摄影等行业，用 AI 照片取代实景照片的现象越来越普遍。商家用这些技术生成的美图、美景招揽顾客。随着 AIGC 技术越发成熟，商家的造假成本越低，效果却越好，普通人几乎难辨真伪。
家装行业有不少商家用AIGC生成图片冒充“装修完实景照”（图源：记者使用AI工具生成）
摄影工作室的“样照”也可能来自AI生成（图源：记者使用AI生成）
再比如，社交平台的分享等板块，美轮美奂的城市风光、鬼斧神工的自然景致撩拨着观看者的打卡之心，可当满心期待的网友向发布者追问具体坐标时，得到的往往是沉默。直至有眼尖的网友一语道破天机：这些 “照片” 大概率是 AI 虚构，发布者自然无法给出真实的地址。
在社交平台的“分享”板块，出现了很多AI图片，为发布者拉流量，却误导观看者
面对 AIGC 渗透到生活的方方面面，如果只是提醒观看者提高警惕、加以辨别，不足以从根本上解决问题。对很多并不了解 AI 等新技术的网友来说，更是不可能完成的任务。
所以，要解决 AIGC 内容充斥网络的问题，必须从源头上采取举措。
一方面，相关平台必须正视目前 AIGC 内容充斥网络的现状，直面平台自己的问题，而不是一味将责任推卸给发布者。
不难发现，一些商家、自媒体之所以热衷于 AIGC，是因为这些内容能够躲过平台的审核机制，以“真实”的形象出现在社交平台上，甚至利用平台现有算法，为它们的扩散获得机会。
以“傍名人”“假名人”类AIGC内容为例，不法分子利用名人效应吸引眼球；与此同时，平台也成为名人效应的受益者。所以，“傍名人”“假名人”的现象层出不穷，平台做的却只是“账号被举报甚至被官方查处后才封号”的事后管理，而没有从发布伊始就拒绝相关虚假信息。
再比如，AIGC内容之所以出现在“分享”版块中，与传统算法不辨真伪有关。传统算法过度聚焦用户即时反响，单纯依据互动量等指标推荐内容，却忽视了AIGC带来的虚假问题，反而为虚假内容扩散大开绿灯。
要解决以上问题，必须有的放矢，精准施策。
首当其冲的是名人账号监管亟待强化。
名人作为公众焦点，一旦账号被盗用、造假，危害深远。所以，平台应该构建更加严苛的名人账号认证体系，确保账号创建与运营的真实性。
其实，现有的很多技术已经可以帮上忙，比如通过面部动态识别、声纹加密比对等生物技术手段，判断是“真人”还是“数字人”；或者用最简单的方式——人工审核，加大对各种冠以名人名号的账号审查，发现 “傍名人”“假名人”后立刻下架，将负面影响扼杀在萌芽。
其次，给AIGC打上技术“烙印”势在必行。
AI生成的文字、图片、视频混杂在信息流中，普通用户很难凭肉眼甄别。指望造假者主动标注，也无异于与虎谋皮。所以，大模型开发者等提供AIGC服务的企业有必要与信息发布平台联手，用技术手段为AIGC内容生成人眼不可识别但技术能够鉴定的“隐形标签”、特殊标志。这样一来，只要用户在平台上发布AIGC内容，平台就能自动识别，并添加水印、标签，注明其“AI 制造”身份，既让用户在浏览时心中有数，避免被虚假信息误导，也便于后续的内容追溯与管理。对于故意隐匿AIGC 标志、企图鱼目混珠的发布者，则可以施以严厉的惩罚，如限流、封禁账号等，以儆效尤。
最后，针对那些缺乏关键要素却博人眼球的信息，平台可以要求发布者补充关键信息；若发布者无法按照要求完成，可以采取公开提示、流量限制、封号清退等方式，督促发布者上传真实信息。
举个例子，对于旅游打卡地只晒图不留址、好物推荐只谈功效不提品牌等模糊内容，平台可以在前端展示进行提示，告知用户，相关信息不完整性、不确定；同时，调整推荐策略，降低此类信息的曝光权重，让真正有价值、真实可靠的内容回归大众视野。而在后台，平台要提醒发布者补充信息或下架内容，如果反复发布虚假内容，则对账号限制惩戒。
更进一步，法律法规也要快步跟上AIGC的“狂飙”速度。相关部门应加快制定针对AI造假、虚假信息传播的法律法规，明确造假者、平台方、传播者等各方的责任边界。对利用AI实施诈骗等违法犯罪行为严惩不贷，震慑不法之徒；对平台疏于管理导致虚假信息泛滥的情况，课以巨额罚款，倒逼平台守土有责。
还没有评论，来说两句吧...