AI诈骗频发有人被骗上百万,记者调查:识别方法难以追赶技术更新
来源:紫牛新闻 发布时间:2023-05-24 19:36:22

近日,全国多地警方发布了多个“AI诈骗”的典型案例,引发大众对于使用人工智能技术进行诈骗的案件频发进行探讨。扬子晚报/紫牛新闻记者注意到,这些被骗典型案例中不乏有被骗上百万的受害者,并且诈骗手段也从以往的图片、电话声音造假,逐渐发展成视频造假。网络安全从业人员告诉紫牛新闻记者,当下AI技术的发展使得技术运用门槛降低,容易被不法分子利用,而相应防范手段却显得滞后,普通大众更需要提高自身防范意识。


(资料图片仅供参考)

AI诈骗话题登上热搜 

AI换脸技术被引入诈骗

记者实际体验发现“质量高,速度快”

网络安全从业人员小郑告诉紫牛新闻记者,随着人工智能技术的发展,不少例如AI换脸、AI语音合成的技术门槛已越来越低。小郑介绍,早些年犯罪分子们就会通过使用PS等图片合成软件,在有经验和技术能力的人员操作下,合成不少以假乱真的图片用以实施诈骗。而如今,AI替代了合成技术人员,能够在犯罪分子使用简单指令和操作下,自动完成细致到毛发、光影都真实的合成图片。并且AI的工作效率能短时间生成大量图片合成视频,这样也就实现在视频中以假乱真换脸。而音频合成诈骗电话早些年就已出现,甚至有犯罪分子通过骚扰电话的形式来录取受害者声音特征,最终合成音频实施诈骗。

艺术工作者用AI进行创作(图源小红书用户)

在专业人员指导下,紫牛新闻记者体验了多款AI换脸合成工具。其中一款国外软件被称为效果最好最自由的工具,本意是为了帮助艺术创作者提高工作效率,最后却因功能强大和免费开放下载,成为当前AI换脸违法行为的主要工具。记者在电脑上安装好软件后,使用网络下载的明星脸部模型,加上网络分享的指令,最快5秒就能生成一张该明星极为真实的照片,而通过指令的改变可以随意切换场景、人物动作、表情等细节。

记者同时还使用了自己平时20张左右的生活照提供给AI,尝试对其进行换脸训练,AI用几小时时间就掌握了记者的面部特征,并生成一个带有记者脸部信息的模型文件。运用该模型,记者尝试了正面、侧面等多角度人物照片生成,结果几秒内导出的照片就已非常近似记者本人照片。小郑告诉记者,AI的学习能力很强,如果能有30张以上的人物露脸照片,就能生成很真实的图片。

不少视频app中带有换脸功能 

紫牛新闻记者在手机软件下载程序中搜索“AI换脸”,可以搜索到数十种各类换脸软件,其中不少的介绍都包含“一键视频换脸”“一键换装换发型”等宣传。而一些主流的短视频软件中,也出现了植入的换脸特效。记者使用发现,只要上传自己的一张照片,再配合软件给出的一些影视片段、网络视频,就可以自动生成惟妙惟肖的换脸视频。

视频中除了脸型变化不大,人物的五官基本都被替换,而且色调、光线等方面均没有什么违和感,只是在侧脸时会露出一些“破绽”,以及脸部有时会出现一些特殊的抖动,这些软件制作的换脸视频以娱乐为主,细看还是很难乱真。不过据小郑介绍,目前所有的软件都还需要一定时间的计算和生成,想做到实时的“换脸”对硬件要求很高。

各类软件的层出不穷,也带来不少法律问题。近期,上海一家网络公司就因换脸手机APP新增多份肖像权纠纷裁判文书。据悉,该公司未经原告许可擅自使用其影像作品,并制作融脸视频模板,提供给付费会员使用。多位网红起诉该公司,法院认为,涉案软件生成视频除脸部特征以外,动作、背景、视频角度与原告发布的视频均高度雷同一致,部分视频存在明显的“换脸”痕迹,系利用信息技术手段伪造等方式侵害原告的肖像权。

如何识别和预防AI换脸

提高防范意识减少信息暴露是关键

紫牛新闻记者注意到,在AI换脸图片、视频层出不穷后,如何鉴定相关内容真假成为了不少网友讨论的热点。一名现常使用AI进行写真创作的设计师告诉记者,AI制作的真人照片与视频如今还存在一些没有完善的地方,例如AI生成的人眼神会比较奇怪,常出现瞳孔不自然,呆滞无神的情况。此外,一些人物身体细节也是容易出错的区域,例如手部手指的不自然、人体比例的不协调等。但该设计师表示,这些情况可能在随着AI技术快速进步而逐渐得以解决。

网友分享经验:AI生成图手部与眼睛容易存在问题 

与此同时,也有不少平台开始尝试利用技术手段识别AI生成图片。记者在抖音、哔哩哔哩、小红书等平台看到,一些看似真实的照片被识别判定为AI生成内容,使用眼神、手部等细节观察法,确实也能发现照片为假。不过类似平台的技术手段依然存在不准确的问题,不少作者明确注明AI创作的情况下,判定系统未能识别成功。

平台通过技术手段来提醒AI生成内容 

除了平台可以加大对AI生成内容的管控提醒下,个人也需提高警惕性,例如在碰到涉及转账、支付等情况时,通过特殊的问题提问,指定行为不同角度的视频要求等形式来确定对方身份,同时要求对方用手指在脸前比划看是否有穿帮。

多位AI图像技术使用者告诉记者,大众在使用社交软件时,一定要尽可能少发布个人正面照片或视频,不提及年龄、工作、所在地等内容,减少个人信息的暴露。同时对于网上信息,一定要留有疑心,多方求证,不轻易相信任何一个涉及个人财产的恐吓信息,及时通过报警等合法有效渠道保障自身权益。

扬子晚报/紫牛新闻记者 刘浏 见习记者 陈燃


校对 陶善工

标签:

猜你喜欢

AI诈骗频发有人被骗上百万,记者调查:识别方法难

近日,全国多地警方发布了多个 "AI诈骗 "的典型案例,引发大众对于使用人工智能技术进行诈骗的案...更多

2023-05-24 19:36:22

女子突发疾病晕倒路边 ,民警助力及时送医

"警察同志,快来,我老婆发病晕倒了! "5月21日傍晚6点多,常州市新北区孟河派出所民警接到一通...更多

2023-05-24 19:33:16

视频 |10余吨肉鸡运输途中高温中暑,驾驶员找不

扬子晚报网5月24日讯(通讯员苏欣边亚伟记者陈勇)5月23日上午10时许,江苏省连云港市119消防指挥中心接到更多

2023-05-24 19:23:51

老人突发过敏晕厥 民警及时救助转危为安 全球速看

扬子晚报网5月24日讯(记者任国勇通讯员六公宣)近日,南京六合区龙池街道一名年近九旬的老人在家突...更多

2023-05-24 19:22:36

酒吧冲突中颅脑损伤,到底是哪次伤害所致?

发生在酒吧的一起故意伤害案中,受害人挨了一拳后倒地,被同事扶起后意外滑落头部再次着地,最终被...更多

2023-05-24 18:23:45

世界消息!7岁男童随简易筏漂至河中央,警察救援

扬子晚报网5月24日讯(通讯员蒋建军邵臻记者万凌云)一名7岁男孩在河边玩耍时,不慎随着泡沫木板简...更多

2023-05-24 18:20:57

每日视点!"邻居"添丁,派出所收到红鸡蛋和红花生

扬子晚报网5月24日讯(记者任国勇通讯员六公宣) "我们就住在派出所旁边,你们就是我们的好邻居啊...更多

2023-05-24 17:23:12

检察机关督促古树名木保护,清淤去腐让500年古树

2023年3月,溧阳市人民检察院开展了古树名木保护专项活动,发现一些古树存在较严重的树洞和管护不到...更多

2023-05-24 16:38:35

天津一男子持剪刀挟持女子被路人一铁锹拿下,警方

5月23日,有网友爆料在天津市一马路边上,一名中年男子持剪刀胁迫一名路过的年轻女子,后被围观路人...更多

2023-05-24 16:25:21

网传厦门网红户外直播时被追砍,警方回应称因网络

5月23日晚,有网友爆料称厦门一名男网红在户外直播时被追砍,据网传视频显示,该名男网红在某咖啡厅...更多

2023-05-24 16:36:40