有图未必有真相！你心水的网红博主可能是AI……

2023-03-04 11:02:41 来源：科普中国

(资料图片仅供参考)

完美精致的五官和身材，质感真实的衣服，你在社交网络看到的一张“美女照片”，在真实世界可能查无此人。AI（人工智能）在图像生成领域的运用进一步升级，社交平台上出现了大量AI写实风格的肖像图，其堪比精修照片的光影、层次、肌理处理，打破了“二次元”和“三次元”的边界，也引发了**“有图不再有真相”**的讨论。

AI生成的网红已有数万粉丝“海风里是思念的味道”“小多对你说晚安”……在某社交平台上，博主“爱旅游的小多”发布了多张“日常营业”照，并配上拟人化的文案。照片里的女孩一头秀发，笑容甜美，装扮多样。凭借用AI生成的固定长相的女性图片，该账号已吸引了超过2万粉丝关注。这样的AI网红博主账号并非个例，他们涌入社交平台，让“人类网红”也产生了危机感。

运用AI程序，使用者可以制作出特定长相、服饰、造型和动作的虚拟人物形象。就在上个月，有微博网友分享的AI绘制“赛博coser（对动漫或游戏角色的真人扮演）”引发数万次转发。网友们在评论里纷纷惊叹：“这居然是AI？”“不说的话完全看不出来，要仔细分辨细节才能看出点端倪”“衣服的光泽和质感就是现实世界里该有的样子啊！” “AI技术发展太迅猛了，以后如果不是线下见过的人，是不是都不敢相信对方是真人？”一位网友感慨道。 AI绘画可能引起的诈骗活动也引发了人们的担忧。为此博主“爱旅游的小多”专门声明其为虚拟博主，一切图片由计算机合成，图中人物并不存在，“任何盗用、搬运本账号图片进行诈骗活动的，责任由盗用者本人承担。”

警惕风险，“照骗”和AI共存目前，AI已经能做出真人照片般的绘图效果，但如果这样的图片被用来诈骗，后果可能非常严重。

此前，网上流传一则“苏州金鸡湖游艇女仆party参加者收费3000元”的消息，网传宣传海报显示，参加活动的收费是3000元一位，将有一对一女仆随身服务等。该活动海报中的女孩乍一看和真人无异。一名对AI绘图稍有了解的网友小李告诉记者，“这个活动里给出的女仆照片全是AI模仿真人照片的绘图，可能太逼真被大家当成真事传播了。” 当地警方也已对此事作出回应：已约谈了消息发布者，其系AI绘图诈骗，已处置。此事也差点成为全国AI绘图领域的首诈。记者尝试多款AI绘图App后发现，有些AI绘图相当智能，可以说想要什么就能画什么。AI绘图能识别文字，软件会根据作者描述绘图，例如红眼睛、黑头发，穿什么衣服、戴什么帽子、在什么场景下……绘图都能实现，描述越详细，越能接近作者想象中的样子。记者在体验中也注意到，目前AI绘图商业化严重，有的App每生产一张图要强制观看30秒广告；还有的绘图App打着AI绘图的幌子，压根无法绘制图片，时间全是在看广告，要么就是诱导用户下载App。在一些社交平台上，有用户不断分享美轮美奂的AI绘图，如果想要下载这些图片，就可能需要观看广告，甚至下载广告推广的App。而这些App来源不明，有可能暗藏风险，其中不少还是网贷App。

AI？还是真人？如何分辨？看多了AI生成的美照，不难发现，许多AI虚拟人物共用一张脸。中国联通研究院AIGC工作组组长吴浩然介绍，AI算法首先要经过训练，学习大量的图像数据，才能在人的指令下推理生成新的图像。“同一模型生成的人物图像就会有熟悉的影子，比如很多AI生成的人物图像，眉眼都有网红脸的感觉，就是因为接收到的这类训练数据比较多。”

目前的AI绘画仍有一大“死穴”，那就是画不好人的手。人类手部各关节灵活多变，常在照片中展示出不同的形态，因而AI还未将这一部分学透，时常画出奇形怪状的手。不过，吴浩然表示，这一局限未来有望被AI继续突破，“对这类细节的刻画问题，很多研发者正在着手攻关，比如谷歌最近就在研究更细致的人手骨骼关键点模型。” 也许在不久的将来，AI绘画就能凭借更加以假乱真的效果惊呆人类。“虽然肉眼不好分辨，但AI绘制的‘照片’与真实照片仍然在计算机上有像素级的差别，让人能够区分出来。”清华大学计算机科学与技术系副教授黄民烈说。未来，互联网中的人工智能生成内容（AIGC）比重将增大，与用户生成内容（UGC）及专业生产内容（PGC）进行更深入的结合。（来源：北京晚报微信公众号，记者王广燕，综合中国新闻网、文汇报）

关键词：人工智能不难发现清华大学计算机科学与技术系