“AI换【huàn】脸”火【huǒ】了【le】，有人10分【fèn】钟被骗400万，谁来担责？丨亮见31期【qī】

丨划重点

1. 对AI生成内容进行【háng】标记【jì】是法律法【fǎ】规要【yào】求的，这【zhè】不意味着平台能完【wán】全免责【zé】，平台还需要履【lǚ】行技术识别、停止传输【shū】、处置措施和报告等责任【rèn】。

(资料图片)

2. 直【zhí】播间使用明星面孔，侵犯【fàn】了明星的【de】肖像权，还涉【shè】及到虚假宣传【chuán】、欺诈消费者【zhě】和不正当竞【jìng】争【zhēng】等问题。

3. 如【rú】果在【zài】银行【háng】有能力识别非真实人脸的情【qíng】况【kuàng】下间接导致了AI换脸诈骗给储户【hù】造成损失，这种【zhǒng】情况下可能【néng】需要担责。

4. 消【xiāo】费者需要更加重【chóng】视个人信息的保护，尽量避免无必要【yào】的授【shòu】权，可以拒绝使用要求【qiú】授【shòu】权过多个人信息【xī】的【de】应用。

丨概述

AIGC的爆火让人们【men】看到了人工智能日常应用的可能，其【qí】场景覆盖文字/图片【piàn】/音频/视频等形式的【de】内【nèi】容生成，在特定领域，AIGC相【xiàng】关的内容的【de】质量【liàng】、可【kě】靠性已经远【yuǎn】超人类，然而【ér】这种高【gāo】度【dù】的“仿真”，也衍生【shēng】出了新的问【wèn】题——AI诈【zhà】骗。

北京【jīng】市岳成律师事务【wù】所高级合伙人岳屾山认为，技术具有两面性，对待其态度不能一概而【ér】论，需要将其纳入【rù】法律框架下规范发展。而【ér】针对AI诈骗，岳【yuè】律师认为个人【rén】信息【xī】泄【xiè】露的情况仍【réng】很普遍，普通人在使用相关【guān】设【shè】备【bèi】和软件时需尽量【liàng】避免无【wú】必要的【de】授【shòu】权，但【dàn】诈【zhà】骗分子不断【duàn】变化和“创新”，最根本【běn】的防范防【fáng】范还【hái】是保【bǎo】持【chí】警惕、提高对诈骗的认知。

01

AI内容标记无法完全规避责任

刘兴亮：现在【zài】，许多平台对AIGC生成【chéng】的内容会【huì】有【yǒu】明确【què】风险提示标【biāo】记，这种提示有【yǒu】效吗？

岳屾山：标记是根据【jù】法规明确【què】规定的【de】，要求新技术和应用【yòng】来制【zhì】作、发【fā】布、传播【bō】非【fēi】真实音视【shì】频信息，应该采【cǎi】用显著的方式进行【háng】标记。标记只是一种【zhǒng】规避责任的方式，因为法【fǎ】律要【yào】求标记【jì】，但并不意味着完全免除【chú】责任，除了【le】标【biāo】记之外还有其他的义务【wù】需要履行。

例如，平台应该部署【shǔ】一些用【yòng】于识别违法违规【guī】音视频和非真实音视【shì】频【pín】的技术【shù】，如果【guǒ】发现【xiàn】违反法律禁止【zhǐ】或规定【dìng】的【de】信息内容，必须依法停止传输【shū】这【zhè】些信息，并采取删除等处置措施来防止信息的扩散。同【tóng】时，还需要妥善保存【cún】相关记【jì】录，并向相关部门等【děng】进【jìn】行【háng】报告。

所【suǒ】以【yǐ】，平台有很多义务需要履行，仅【jǐn】仅【jǐn】进行标记是不能完全免【miǎn】除【chú】责任的。

刘兴亮：新技术、新应用带来【lái】的潜【qián】在风险【xiǎn】，我们应【yīng】该采取什【shí】么样的态【tài】度对待？

岳屾山：因为涉及到较为技术性的内容，就我个人而言，对【duì】于新【xīn】的技术或应用，包【bāo】括新的营【yíng】商【shāng】模式和经【jīng】营【yíng】模式的出现，应该【gāi】给予适度的关注【zhù】和宽松的环境来培育它们，看【kàn】它们是否能够发展起【qǐ】来。

不过，对于人工智能换脸，目前没有看到多少正面评价。

不【bú】过，也【yě】有少【shǎo】量的人尝试【shì】用【yòng】这项技术“复【fù】活”已故【gù】亲人，以【yǐ】慰藉思念之情，我认为这可能【néng】是人工智【zhì】能换脸技术对我们的生活和社会【huì】产生【shēng】积极影响【xiǎng】的一种可能性存在。

只【zhī】要这项【xiàng】技术具有正面意【yì】义的可能，对待它的态度就【jiù】不能【néng】一【yī】“封”了之，应在现有的法律【lǜ】框架【jià】内对其【qí】进【jìn】行必要的规【guī】制，以避免它成为一【yī】匹脱缰的【de】野马。

02

“AI孙燕姿”存在诸多侵权风险

刘【liú】兴亮：关于AI孙燕姿的【de】话题，最近孙【sūn】燕姿发布【bù】相关声明，意思是【shì】不会去追责，这种情【qíng】况下用户能随便使用吗？

岳屾山：AI换脸明星翻唱，涉及的法律问题主要涉及肖像权。

民法【fǎ】典规定，未【wèi】经他人同【tóng】意使用【yòng】他【tā】人肖像【xiàng】属于肖像侵权，使【shǐ】用AI换脸就【jiù】存在这种【zhǒng】可能性，特别是在直播间中使用明星的面孔进行直【zhí】播，明【míng】显【xiǎn】侵犯了明星的肖【xiāo】像权，因为明星不可能【néng】授权【quán】他人使用【yòng】他们的面孔进行直播【bō】。另外，这种行为还【hái】涉及到虚假宣【xuān】传、欺诈消费者和不正【zhèng】当竞争等问题。

直播中的AI换脸，来源：网络

有关“声【shēng】音【yīn】”的权利，民法典明确【què】了将其按照肖像【xiàng】权规定处【chù】理。如果孙燕姿未允许他人使用其声音，就会构【gòu】成侵权，并且可能还涉【shè】及侵犯姓【xìng】名【míng】权的问题【tí】。此【cǐ】外，如果使用她的歌曲【qǔ】进行商业活动，还需【xū】要支付费用，并可能需【xū】要获【huò】得词【cí】曲【qǔ】作者等进行【háng】著作权的授【shòu】权。

刘【liú】兴亮：以银行转账为例，转【zhuǎn】账过程中【zhōng】，因为人脸识别被骗【piàn】，谁来【lái】承【chéng】担责任，银行需要【yào】担责吗？

岳屾山：转【zhuǎn】账过程人脸验证，会【huì】有【yǒu】眨眼、摇头等动作的验证，如果这个过程【chéng】中遭【zāo】遇诈骗，银行是否需要担责，取【qǔ】决于银【yín】行在人脸识别技【jì】术方面是否【fǒu】存【cún】在一些罕见【jiàn】的漏【lòu】洞【dòng】。比【bǐ】如，通过调用【yòng】摄像头【tóu】时，银行APP能否辨认出真实的摄像头【tóu】，或者是否【fǒu】使用了其他技术手段【duàn】对人【rén】脸进行了【le】改变。

如果在【zài】银【yín】行有【yǒu】能力识【shí】别非真实人脸的情况下，因为【wéi】诈骗分子通过第三方设备，比如通过摄像头画面【miàn】欺骗了银行的人脸识别【bié】系【xì】统，（给储【chǔ】户带来了【le】直【zhí】接损失），这种情况下银行【háng】可能【néng】需要担责；如果技术监测确【què】实发现银行无法识【shí】别出【chū】这种情况，即【jí】技术无法【fǎ】达到防止【zhǐ】欺诈的要求，就不能要求银【yín】行承担【dān】责任。

除了银行，也【yě】需要考虑平台【tái】是否有发现【xiàn】欺诈行为的标志，是否具备识【shí】别的【de】义务等，如果平台违反【fǎn】了这些义务，相【xiàng】应地就【jiù】要【yào】承担责【zé】任。

但实际上，很多【duō】诈骗行【háng】为都是【shì】点对点进行，银行或平台很少直接【jiē】参与其中，诈骗分子【zǐ】往【wǎng】往会规避银行【háng】或平台【tái】的验证方式，以尽量减【jiǎn】少被发现【xiàn】的可【kě】能，毕竟这是一【yī】种【zhǒng】犯罪行为。

03

防范数据泄露，是反诈骗的核心

刘兴亮：现在有很多观点认为我【wǒ】们目前防【fáng】范【fàn】AI诈【zhà】骗关键在于【yú】防范数据泄【xiè】露【lù】，这种观点你认同吗？

岳屾山：个人【rén】信息泄【xiè】露的问题【tí】一【yī】直都非【fēi】常严重。电信诈骗之所以成功的一大原因就是因为诈骗者【zhě】获取了相应的个【gè】人信息【xī】。

刑【xíng】法中有关【guān】个人信息保护的方面规定了【le】非【fēi】法泄露公民个【gè】人【rén】信息属于侵犯个【gè】人信息罪，需【xū】要追究【jiū】责任。在民法【fǎ】典的《消费者权益保护法》、《数据安全法》、《网络安全法》等法律【lǜ】中，都要求企业在收集个人信【xìn】息【xī】时【shí】必须遵循【xún】合法、正【zhèng】当和必要的原则。特别是对【duì】于涉及人【rén】脸等生物特征【zhēng】的【de】信息，属【shǔ】于【yú】敏【mǐn】感信息，每次收集都需要单独获得【dé】用户【hù】的同意，并受到【dào】其他限制性规定的约束【shù】。

这些法律法【fǎ】规，旨在保护我【wǒ】们的【de】个人【rén】隐私，并要求【qiú】所有【yǒu】收集到【dào】个人信息的企业，在处理和【hé】使用时都【dōu】必须严格按照约定和法【fǎ】律规定进行【háng】，并具备必要的【de】技术和软件条件来保【bǎo】护【hù】信息不被【bèi】泄露。

所以，消费者需要更加重视【shì】个人信息的保护【hù】，尽量【liàng】避【bì】免无必要【yào】的授【shòu】权。如【rú】果某个应用要求我们【men】授权过多【duō】的个人信息，可以拒【jù】绝授权，即使【shǐ】这样可能导致无法使用【yòng】应用。现在法律也【yě】有【yǒu】明确，应【yīng】用不【bú】允许索取过多个人信【xìn】息相关权限【xiàn】，且不能拒绝用【yòng】户使用。

例如，以前我们使【shǐ】用某个导【dǎo】航软件【jiàn】要求访问通讯录，实际上【shàng】只需要位【wèi】置信息即可，这种情况下，《国【guó】家的网络安全法》、《数据【jù】安【ān】全法》和《个【gè】人信【xìn】息保护法》等都进行【háng】了【le】详细的规定【dìng】。

另外，诈骗分子通常会使用各种手段筛选目标客户，比如发送大量的短信，他们不需【xū】要知道每个【gè】人的具体【tǐ】个【gè】人信【xìn】息，而是通【tōng】过【guò】通用的【de】手法来吸引潜在受【shòu】害【hài】者的注意力。比【bǐ】如最近的“上门枪决”短信，诈骗分【fèn】子不需要每个人都相信，只需要找到那些【xiē】容易受骗的【de】人，这种方【fāng】式可以帮【bāng】助诈骗分子最【zuì】大【dà】限度地减【jiǎn】少成本并加快筛选的【de】速度。

近期在网络中热议的“上门枪毙”诈骗短信，来源：网络

04

技术不是万能的，治理与监管关键在人

刘兴【xìng】亮: 对AI换脸诈【zhà】骗的【de】治理和监管还需【xū】要哪些主体，以什么样的形【xíng】式【shì】参与？

岳屾山：社会【huì】治理的【de】层面【miàn】确实是多【duō】主【zhǔ】体参【cān】与的，这样才能形【xíng】成良好的氛围。在制定规则和框架方面，一方面【miàn】是在政府层面或立法【fǎ】层【céng】面进行，需要有相应规则【zé】和标准来【lái】界【jiè】定诈【zhà】骗行为，这些【xiē】规则可能需要在【zài】立法层面进【jìn】行制【zhì】定，包括对其【qí】性质和标准的界定等。

另外，通【tōng】过立法或政府的【de】行政【zhèng】政策可能需要一定【dìng】时间，存在不及【jí】时【shí】的可能，所以很【hěn】多【duō】时候【hòu】可以通过行业协会的【de】形式提前制定一些规范【fàn】或【huò】标准，虽然它们可能没有【yǒu】强制力，但【dàn】可以起到引导作用。

针对法律法规在【zài】落【luò】地【dì】过程中的执行，需【xū】要执法部门加【jiā】强监管，且【qiě】这种场景也考验监管【guǎn】的技术，我认为这【zhè】种情况下双【shuāng】方都【dōu】在看【kàn】谁的技【jì】术更高超，谁能【néng】够限制住这种行为【wéi】。技术本身并不是万能的，它的应用取决于人们如何使用和管理。

刘兴亮：针对不同的主体行为的规范，目前有哪些具体的法律法规？

岳屾山：目前在互【hù】联网信息服务深度合成管理规定【dìng】方面已经有一【yī】些具体【tǐ】的规【guī】定，特别是针对人工智能和AI换脸【liǎn】等【děng】技【jì】术。

今年4月份，互联网信息办公【gōng】室发【fā】布了关【guān】于【yú】生【shēng】成式人工智能【néng】服务管理【lǐ】办法【fǎ】的征求意见稿【gǎo】，进一步规范了相关服务的管理【lǐ】。通过这些规定，针【zhēn】对人工智能和AI换【huàn】脸等方面有了【le】较为直接的管理措施。

国家法【fǎ】律层面也有一些【xiē】原则【zé】层面的【de】法【fǎ】律【lǜ】和规定【dìng】，包括《民法典》、《网络安全【quán】法》、《数据【jù】安【ān】全法》、《互联【lián】网信息服务管理【lǐ】办法》等，这些法律和规定都涉及到保护个人信息和肖像【xiàng】权，以及对实施诈骗等行为应承担的责任【rèn】，为相关问题【tí】提【tí】供【gòng】了一定的规范。

刘兴亮：普通人在遭遇AI诈骗时应该怎样处理，有什么建议吗？

岳屾山：作为一名【míng】律师，我认为【wéi】对于那【nà】些侵犯他人权益的行【háng】为【wéi】，尤其是在涉及AI诈骗和肖像侵权的行为，受害者【zhě】可以【yǐ】采取一些维权【quán】措【cuò】施，以避免他人随意使用其肖【xiāo】像【xiàng】等信【xìn】息【xī】，这种动作可以防【fáng】止肖像被滥用，并对软件【jiàn】的使用和研【yán】发产生【shēng】一定【dìng】的约束。

我建议【yì】加强对肖【xiāo】像权的保护，特别是在【zài】如今AI换脸技【jì】术【shù】如此便利的情况【kuàng】下。除了个人的自我【wǒ】保护【hù】外，平台和执【zhí】法机构也应承【chéng】担起【qǐ】相【xiàng】应的【de】责任，确保提供一种便捷的维权途径。

除了肖像权，类似【sì】问题也会涉及到著作权，如果消费者的肖【xiāo】像被制作【zuò】成视频并由他【tā】人传播【bō】和使用，这涉及【jí】到视听节目的内容，平台可能更【gèng】多【duō】地【dì】基于【yú】著【zhe】作权方【fāng】面的处【chù】理和【hé】保护，而不是针【zhēn】对【duì】肖像或【huò】其他行为。

在这【zhè】方面，我建【jiàn】议更多地依赖平台。平台应【yīng】该及【jí】时发现这类侵权行【háng】为【wéi】，并提供便捷的投【tóu】诉渠道或途径，以【yǐ】便及【jí】时【shí】处【chù】理这些问题。

另【lìng】外，正【zhèng】如我们一直在【zài】讨论的那【nà】样，法律的威慑力往往不是【shì】来【lái】自其严苛程【chéng】度，而是来自【zì】于执法【fǎ】的及时【shí】性【xìng】。对【duì】于那些实施侵权【quán】行为的用户，平【píng】台方面应该采取相应的惩罚或限【xiàn】制措施。这【zhè】完【wán】全【quán】可以在平【píng】台自身的范畴内实【shí】施，根据相关的用户【hù】协议和约定对其进行惩罚和【hé】限制【zhì】。通过这样的方式，可以尽量减少侵权行为的发生，因为侵权【quán】有时候会成为一种上瘾【yǐn】的【de】行为【wéi】。