新华视点：“AI诈骗潮”真的要来了？ 环球快讯

通【tōng】过AI换【huàn】脸和拟声技术，10分【fèn】钟骗430万元；AI虚拟人在【zài】聊天中筛选出受害者【zhě】，人工接力实【shí】施诈【zhà】骗【piàn】……近【jìn】期，多起宣称利【lì】用AI技术实施诈骗【piàn】的案件引发关注。

“新华视点”记【jì】者近日与【yǔ】公安部门核【hé】实确认，“AI诈骗全国爆【bào】发【fā】”的消息不【bú】实，目【mù】前此类诈骗【piàn】发案占比【bǐ】很【hěn】低。但公安机关已注意到此犯【fàn】罪【zuì】新手法【fǎ】，将加大【dà】力度会同有关部门开展技术反制和宣传【chuán】防范。

(资料图片仅供参考)

专家【jiā】表示【shì】，随着AI技【jì】术加速迭【dié】代，由于使用边【biān】界不清晰，涉诈【zhà】风险正【zhèng】在积聚，需要高度警惕。

“换脸”式诈骗引发焦虑：你会被亲友的脸骗到吗？

近日，内蒙古【gǔ】包头【tóu】警方通报一【yī】起利用AI实施诈骗的【de】案【àn】件，福【fú】州市某公司【sī】法人代表【biǎo】郭先生10分钟内被骗430万元。据通报，骗【piàn】子通过AI换脸和拟声【shēng】技【jì】术，佯装熟人实【shí】施诈骗。

该案披露后，不少报道称需警【jǐng】惕“AI诈骗【piàn】潮”到【dào】来，并曝光多起类似【sì】案件。如江苏常州的【de】小刘被骗子冒充其同学发语【yǔ】音、打【dǎ】视频电话，小刘【liú】看到【dào】“真人”后信【xìn】以为【wéi】真，“借”了6000元给骗子。

那么，“AI诈骗潮”是否真的到来了？

记者调查【chá】了【le】解到【dào】，AI在技术上确实能做【zuò】到换脸、拟音，但被用【yòng】来进行“广撒网”式诈骗需要具备【bèi】很多【duō】条件。

一位【wèi】被列入公安部专家【jiā】库的民【mín】警告诉【sù】记者，这类诈骗【piàn】如果【guǒ】得手必须【xū】做到：收集到被换脸对象的个人身份【fèn】信息【xī】、大【dà】量人脸图片、语【yǔ】音素材，通过AI生成【chéng】以假乱真的音【yīn】视频；窃取被【bèi】换脸【liǎn】对【duì】象的【de】微信【xìn】号；充分掌握诈骗对象个人身份信息，熟【shú】悉【xī】其与被换脸对象【xiàng】的社【shè】会【huì】关系，综合作案成本很高。

他认为：“相关报道对一些案件的典型细节描【miáo】述不够【gòu】准确。AI涉诈案件仍属零【líng】星发案状态。”他说，成【chéng】熟的类【lèi】型化诈骗犯罪往往具【jù】有在【zài】全国多【duō】地集中【zhōng】爆发【fā】的特点，但当前没有【yǒu】成规模【mó】的AI诈骗类案【àn】件发生【shēng】。

公【gōng】安机关研判，近期【qī】网【wǎng】上“AI换脸换声诈骗【piàn】在全国爆发【fā】”传言不实，全国此【cǐ】类案件发生不到10起，但【dàn】该动向【xiàng】值得【dé】高度关注。网上【shàng】一键换脸功能的App、小程序【xù】有技术滥【làn】用风险，需要加强技术防范反制等【děng】工作。

AI进入快速迭代期，涉诈犯罪风险正在积聚

“当前AI技术发展来到螺旋式上【shàng】升的拐点，未【wèi】来几【jǐ】年技术迭代将会按【àn】月【yuè】计算。”香【xiāng】港【gǎng】科技大学（广州【zhōu】）协理【lǐ】副校长、人工智能学【xué】域主任熊【xióng】辉说。

工信部信息显示，伴【bàn】随AI技术快速发展，合成技术门槛持续降低【dī】，逐渐向低算力、小样本【běn】学【xué】习方【fāng】向【xiàng】演进【jìn】，利用手机【jī】终端即可完成，对【duì】算力和数据的要【yào】求下降明显。同【tóng】时，随着【zhe】AI大模型的【de】技术加【jiā】持，正【zhèng】逐步由【yóu】面部合成向全身、3D合成发展【zhǎn】，效果更【gèng】加逼真。

国家开发【fā】投【tóu】资集【jí】团【tuán】特级专家、厦门美亚柏科AI研【yán】发中心总经【jīng】理赵建【jiàn】强表示，AI技术【shù】正加速向网络诈骗、虚假信【xìn】息、色情等【děng】领域渗透。如在一【yī】些网【wǎng】络平【píng】台上假冒明星、公众人物生成视频图像【xiàng】，吸引网【wǎng】民。此外，AI技术也可【kě】能被用来规模化地实施【shī】违法犯罪，如批量、自【zì】动维护【hù】网【wǎng】络账【zhàng】号，发【fā】送【sòng】虚假信息，模拟人工在线聊【liáo】天等。

值得关注的【de】是【shì】，当前AI技术不【bú】再【zài】是实验室的半【bàn】成品，引发热议的“换脸”“拟音”技术已【yǐ】有较【jiào】成熟的开【kāi】源【yuán】软件，使用门槛低。

记【jì】者注【zhù】意到，网络上不乏AI换脸教【jiāo】程。在国内某【mǒu】知名App上【shàng】输入【rù】“换脸”，弹出的高频检索记录显示有“换脸软件”“换脸App免费【fèi】”“换脸视频怎么【me】做”“换脸算【suàn】法”等。一条名为“史上最强AI换【huàn】脸软件正式上【shàng】线了！技【jì】术门【mén】槛大【dà】大降低”的链接，介【jiè】绍了【le】一款换【huàn】脸软件，通过视频【pín】演【yǎn】示教程，手把手教授如何使用【yòng】。

“老【lǎo】话说‘眼见【jiàn】为实’，但今后【hòu】眼睛看【kàn】到的也不一定【dìng】是真实的。”北京市天元律师事务所【suǒ】合伙人杨虎城表示，未【wèi】来涉及【jí】AI合成技术的【de】诈骗、敲【qiāo】诈勒索等违法犯【fàn】罪和肖像、名誉【yù】等民事侵权问题可能逐【zhú】步【bù】显【xiǎn】现。

“从现有案【àn】例看，这【zhè】些【xiē】技术已被不法分子【zǐ】利用【yòng】。如【rú】假冒明星换脸直【zhí】播、一键脱衣【yī】、造谣【yáo】、制【zhì】作色情视频等。虽【suī】然AI诈骗案件未成气候，但【dàn】这一趋势值得关【guān】注，必须【xū】提早防范。”一位反诈民警说【shuō】。

工信部相关负责人表示【shì】，随着AI技术的不断【duàn】发【fā】展，通【tōng】过少量图片【piàn】、音频【pín】信息【xī】合【hé】成特定视频，利用人工智【zhì】能模型批量【liàng】设计诈骗脚本等成【chéng】为可能，客观上降低了电【diàn】信网络【luò】诈骗的实施难度，AI类新【xīn】型【xíng】犯罪爆发可能性进【jìn】一步提升。

尽快完善相关法规制度，为AI技术发展立规划线

中国移动信息安【ān】全中【zhōng】心品质【zhì】管理处副处长【zhǎng】周晶告诉记【jì】者，近年来，国际国【guó】内各界在积【jī】极探索【suǒ】深度合成技术的有效治【zhì】理【lǐ】路径，研判AI技【jì】术给社会【huì】带来的风险和潜在威胁【xié】，正设法将AI技【jì】术发展纳入一【yī】定规【guī】则中，做到安全可控。

业内【nèi】人士建【jiàn】议，要【yào】加强AI反制技【jì】术研究，“以AI制AI”。一些科技公司【sī】正加强对图像、声音伪造技【jì】术的反【fǎn】制研究，在【zài】公安、金融的视频【pín】认【rèn】证场景已有【yǒu】应用。有一线民警建议，要加强AI安全技术【shù】应用研发，将【jiāng】AI技【jì】术应用于犯罪识【shí】别、预警、对抗中，实【shí】现以“白”AI对抗“黑【hēi】”AI。

其次，加强【qiáng】源头治理和行业【yè】引导，及时更新、完善相关【guān】法律、标准【zhǔn】、规则，为AI技术发展保驾护【hù】航【háng】。

“数据【jù】是AI犯【fàn】罪的源头，保护【hù】好公民的个人【rén】隐私数【shù】据安全，就【jiù】能在最大【dà】程度上【shàng】降低AI违法犯罪的能力。”熊辉说。

中国互联网【wǎng】协会监管支撑部主任【rèn】郝【hǎo】智超建议【yì】，AI技术发【fā】展还要【yào】有相关【guān】法律法规来划【huá】红线、踩刹车。需进一【yī】步加【jiā】强对个人隐私数据【jù】泄露问【wèn】题的【de】关【guān】注【zhù】，明【míng】确信息监管红线【xiàn】，对AI技术的研发【fā】、传播、使用做到有【yǒu】规可循，并根据技术发展实【shí】际情况，及时完善对【duì】技【jì】术服务商行为的规范引导。

此外【wài】，还要有针对性地加【jiā】强反诈宣【xuān】传。熊辉表示，未来AI可根据大【dà】数据【jù】创造出无比【bǐ】接近真【zhēn】实【shí】的“真【zhēn】实”。“要通【tōng】过不断的教育改变大【dà】众观念，让人知道眼见不一【yī】定为实，有图不一定有真相，提【tí】升对网【wǎng】络信息的【de】辨识力。”他说。

公安部有关负责人表示，当前【qián】，诈骗集团利用【yòng】区块链、虚【xū】拟货【huò】币、远【yuǎn】程【chéng】操控、共享屏【píng】幕等新技术新业【yè】态【tài】，不断更新升级犯罪工具，与公安机【jī】关在通讯网【wǎng】络和转账洗钱等【děng】方面【miàn】的攻防对抗不【bú】断加剧升级。公安机关会同相关部门与诈骗分子【zǐ】斗智【zhì】斗勇，不【bú】断研究调整【zhěng】打击防范措【cuò】施【shī】，确保始【shǐ】终保持【chí】主动权【quán】。

工信【xìn】部表示，下一步，将强【qiáng】化监管执法，积极会同网信、公安等部门，督促企【qǐ】业健全完善深度合成【chéng】信息【xī】管理及技术保障措施【shī】；鼓【gǔ】励技【jì】术攻关，凝聚产学研【yán】用【yòng】各方力量，提升深度合成【chéng】风险技术【shù】防范能力；加【jiā】强行业自【zì】律，建立健全深度合成【chéng】技术【shù】相关行业标【biāo】准、行业准【zhǔn】则和自律管理制度，督促指【zhǐ】导深度合成服务提供【gòng】者和【hé】技术支持者【zhě】制定完善业【yè】务【wù】规【guī】范【fàn】、依法开展业务和接受社【shè】会监督。

来源：新华社

流程编辑：TF016