涉罪前瞻：AI解锁暗黑应用技能包
文/庄嘉 上海市公安局 华东政法大学法学博士
在智能科技赋能的当下，AI（Artificial Intelligence，即人工智能）犹如一颗璀璨的明珠，正散发着最耀眼的光芒。会说的Re:scam机器人、能悟的阿尔法狗、会译的TransnBox、识图的图灵、识情的索菲亚、会驾驶的MQ-1捕食者无人机等AI正向“全自动化”“仿真模拟”“独立思考”领域全力拓展。这其中，“颠覆传统认知”是AI纵深发展的标签，也是一把双刃剑。正因其有颠覆的革新，所以一旦与其他领域结合，在大幅提升效能的同时，也能会令人类面临意想不到的危机！眼下，“深度伪造”就是基于AI被暗黑应用所利用给人类社会带来的潜在危机。
解锁技能包：AI 涉域“深度伪造”
该如何诠释“深度伪造”呢？我们不如将时针回拨至2017年12月。当时，社交新闻站点Reddit上出现了一种色情视频。该视频由名为“Deepfake”的用户发明。其开发原理是通过机器学习，将色情明星的面部动态移植至某些公众人物脸上。由此，“Deepfake”被翻译为“深度伪造”，系深度学习（Deep Learning）与伪造（Fake）的合成词。自此，“深度伪造”步入人们的视野。
时间来到2019年7月9日。当时，美国Derek Kilmer等四位众议员、Portman等七位参议员在提交给众议院、参议院的《要求国土安全部部长发布关于使用“深度伪造”技术的年度报告及其他目的法案》中，明确提出了“深度伪造”的重要表现形式之一“数字内容伪造”（Digital Content Forgery），即使用AI等新兴技术来制造或操纵音频、视觉或文本内容，意图产生误导的效果。
从事食品药品监管工作13年来，韩宇坚持修身从俭、克己从严、执法从廉，树立了良好的食品药品监管干部形象，成为百姓安全饮食用药的忠实守护者。
第二，在实践教学过程中，教师应当对教学内容进行有效梳理，找出教学重难点，对教学内容进行适当的过渡和引导。在实际教学过程中，教师应当将一首曲子进行拆分，以小节作为节点进行细节教学，同时教师应当对演奏动作和技巧进行示范讲解，使得学生的视觉和听觉能够有效地统一，反复练习直到掌握其精髓。
此外，即便上述主体没有以牟利为目的，但只要他们在客观上实施了传播淫秽物品的行为并达到情节严重的程度，则涉嫌触犯我国《刑法》第364条规定的“传播淫秽物品罪”，将面临两年以下有期徒刑、拘役或管制的刑罚。
目前，生物识别技术是认定个体身份、进行同一认定的主要手段和方式。比较常见的生物识别包括DNA鉴定、指纹识别、人像识别、虹膜识别、笔迹鉴定、声音识别、步态识别等。其中，指纹识别是目前应用成熟度最高的生物识别技术，对于同一认定具有重要的参考价值。然而，近日美国纽约大学和密歇根州立大学就联合发表了一篇论文，详细介绍了深度学习技术将如何削弱指纹识别的安全系统。一旦此技术从理论上升至实践，对生物识别领域进行“深度伪造”将会给相关安全识别造成新的困扰。
涉罪解析：“深度伪造”筑巢违法犯罪的新洼地
目前，“深度伪造”有滥用之势。从语音合成他人“真声”，到伪造公众人物视频；从开发自动脱衣应用模型，到伪造娱乐明星的色情视频；从动态换脸，到高摹个体指纹……如果不加以防范，由“深度伪造”带来的虚假信息或将成为违法犯罪的新洼地。
▲电信诈骗：耳听为“虚”果然“虚”
在电信诈骗犯罪中，上述的“深度伪造”语音未来很可能会被犯罪分子利用。犯罪团伙完全可以将固有的话术单和被害目标亲属的原声进行结合，利用“深度伪造”制作原声，轻而易举地攻破被害人的心理防线，从而更快速地达到骗取钱财等非法目的。另一方面，在“杀猪盘”“网络交友”等电信诈骗的团伙分工中，犯罪分子也可能会依托AI“深度伪造”，将与被害人进行交谈的团伙成员的声音进行克隆，用所采集的成员声音固定样本进行日常聊天，以降低犯罪时间成本！
为了确保计算机网络信息的安全性，除了积极引用先进的杀毒软件和技术外，还要强化相关计算机网络信息系统的软硬件的使用管理，借此来提升计算机网络系统运行的可靠性与安全性。例如，计算机网络系统的管理者要制定科学、合理的管理方案，对计算机网络系统中的软件或硬件等进行有效维护，确保他们运行环境的适宜性，同时还要注意定期更新和升级一些落后或出现质量问题的软件或硬件设备，如杀毒软件等软件要及时进行升级，确保病毒库更新到最新状态，否则可能会因为病毒库数据不够而无法查杀最新型的病毒数据等，确保可以有效提升计算机网络信息运行的可靠性与安全性。
在我国，阿里巴巴、科大讯飞等企业研发的语音识别、语音合成、手写识别、语音交互等技术已达到对普通话进行精准转写的功效。在欧美国家，声纹更是重点研究和探索的科研领域，比如Lyrebird已研发了基于真人的音频样本生成人工语音。然而，这却引发了对另一个问题的思考——人的声音能否被克隆？答案显而易见。只要采集的原声样本够多，在AI技术的支撑下，就能实现。
▲传播淫秽物品：眼见为“实”并不“实”
那么，人脸能否在视频中被轻易复制呢？答案是肯定的。从Facebook创始人马克·扎克伯格，到阿根廷总统毛里西奥·马克里、第44任美国总统贝拉克·侯赛因·奥巴马、第45任美国总统唐纳德·特朗普的换脸视频等案例不一而足……西南政法大学人工智能法学院院长陈亮就表示，“目前，AI换脸技术在影视制作、视频直播、新闻播报等方面的应用越来越广”。由AI合成的“深度伪造”视频已达到几可“乱真”的程度。
不久，我的数学期中卷子也考了一百分。我再次兴奋地冲进客厅，告诉爸爸妈妈我的好成绩，而我并不期待爸爸会表扬我。果然，爸爸随意扫了一眼试卷，不轻不重地说：“一般般，字迹不怎么端正……”我并没有说什么，因为我知道，这是爸爸的习惯，面对我取得好成绩时，他表现得很冷静，以此鞭策我继续努力。
同样的，在伪造、变造票据方面，“深度伪造”亦“能堪大用”。票据的伪造指的是无权限人假冒出票人名义进行签章和票据其他记载事项的行为。票据的变造是指采用技术手段改变票据上已经记载事项的内容，或增加、减少票据记载事项的内容，从而达到变更票据权利义务关系的目的。只要能够采集足够多的真票据上的笔迹或者水印的样本，就能通过AI进行深度学习，从而达到伪造、变造票据的目的。显然，随着AI“深度伪造”的不断成熟和发展，票据很可能会被不法分子纳入“深度伪造”的版图中，公安机关的经侦部门将由此面临新的挑战！
色情的“深度伪造”视频，既侵犯了被伪造者的名誉权、肖像权，也侵犯了影视作品的著作权、修改权，更可能触及犯罪的红线。比如，若有证据证明上述视频的制作者、复制者、出版者、贩卖者、传播者以牟利为目的，那么这些行为将涉嫌触犯我国《刑法》第363条规定的“制作、复制、出版、贩卖、传播淫秽物品罪”。另据《最高人民检察院公安部关于公安机关管辖的刑事案件立案追诉标准的规定（一）》第82条规定，目前公安机关和检察机关正在重点打击“以牟利为目的，利用互联网、移动通信终端制作、复制、出版、贩卖、传播淫秽电子信息的行为”。
想象一下如下场景：被害人接到一通来自陌生人的电话，通话中听到的却是他或她亲属的原声。在一番攀谈之后，被害人最终被原声一步步引导至预先设定的陷阱内。当钱财被骗后，被害人还天真地认为自己将钱款转账给了亲属，殊不知自己的亲属根本就没打电话给被害人！
（图/视觉中国）
据此，可以推断出“AI”和“深度伪造”之间的关系：“AI是技术，‘深度伪造’是内容。”显而易见，二者是手段和目的的关系。所谓“深度伪造”，是利用AI技术实现视觉、听觉等方面的模拟、修改，达到以假乱真、欺骗受众的效果。简而言之，“深度伪造”是借助AI达到超高度仿真。
▲弄虚作假：同一认定不再唯“实”
或许有人会说，时至海量信息的今天，每个人都会自主判断、鉴别真伪。但多数人的判断就是真相吗？普罗大众或许会根据大众点评网上的VIP评价，选择自己心仪的餐厅，殊不知不少VIP其实是被金钱或利益购买的点评水军。实际上，各行各业的信息都存在造假的风险。AI“深度伪造”正在对公众信源产生“叠加影响”。
打个不恰当的比方：如果我们穿越到宋代，狸猫换太子是将“A”和“B”进行对调。而在“深度伪造”中，则是让“A”直接变成“B”。正如人工智能行业资深人士孙立斌所言，“人工智能技术能够将海量指纹数据作为‘原材料’，学习到它们的结构特征和细节信息，并根据一定的规则进行重组，生成仿真度极高的伪造数据。”因此，如果不加以及时管控，在不久的将来指纹识别等生物识别技术将受到极大挑战，容错率将大大降低！这将为诬告陷害、错抓犯罪嫌疑人埋下隐患。
在“深度伪造”视频中，通常的方式是依托机器学习等技术将A的脸移植到B的脸部。令人后怕的是，“深度伪造”视频的对象不仅聚焦在社会名流层面，更开始集中攻击女明星。“杨幂换脸朱茵”“好莱坞女星盖尔·加朵的换脸色情视频”“冯提莫换脸赵丽颖”“阿冷换脸刘亦菲”等“深度伪造”视频，折射了当前社会对恶意剪辑、“深度伪造”的“管控滞后”。在网络平台上，已出现卖家兜售经AI“深度伪造”的女明星淫秽视频。据近期《南方都市报》“南都调查”报道，在转转（http://www.zhuanzhuan.com/）、猎趣（http://www.liequ.cn/）等多个二手平台上已有售卖高清破解版的换脸软件，标价5元至30元不等。在美国，今年6月底被关闭的一款DeepNude的应用，也是因其能自动“脱掉”女性照片身上的衣服，导致最终下架。
“深度伪造”的隐忧：虚假信息取代真相
随着“深度伪造”的不断升级，“真”与“假”的鉴别命题会成为未来司法鉴定的核心话题，“被人设”的信任危机将不断加剧。
▲隐忧一：任何东西都能被AI“深度伪造”
目前，AI已经被广泛地应用于机器人、行动决策、系统控制、仿真模拟等方面。从违法犯罪的角度而言，无论是物证、书证，还是视听资料、电子数据，似乎都可以被AI进行“深度伪造”。其伪造范围之广绝非危言耸听！如前文所述，语音、视频、图像、指纹、场景目前都已逐步被AI“深度伪造”突破了技术上的障碍。
(1)收集现有资料，如区域地质、地形、遥感照片、气象、水文地质、地震，以及工程经验和现有调查报告；(2)工程地质勘测和测绘；(3)工程地质勘探地质填图；(4)岩土工程试验观测，现场原型观测，岩石力学试验观测；(5)工程地质调查报告的整理和编制。
▲隐忧二：伪造成果在短期内具有迷惑视听的成效
想象一下，在AI“深度伪造”的庇护下，只需收集足够真实的信息样本（语音、图片、指纹等），就可以用于制作“深度伪造”物品。士兵在战争中滥杀手无寸铁平民百姓、总统候选人猥亵女秘书、警察局长煽动对游行群体的暴力行为……这些“深度伪造”的信息在社会中传播后的结果会如何呢？在没有真凭实据辟谣之前，公众舆论可能被误导。难以证伪的报道、虚假信息最终会掩盖并代替真相，从而造成社会信任衰退效应，这很可能被用于未来的信息战与技术战之中。
如何反制AI“深度伪造”
值得庆幸的是，部分国家已经意识到AI“深度伪造”可能带来的潜在危险。在AI“深度伪造”技术尚未真正成熟之前，无论是从刑事犯罪视角对其进行规制（比如美国国会听证会听取相关立法法案），还是通过技术层面进行反制（比如开发能识别“深度伪造”视频的媒体鉴证项目），都是极其必要的。AI“深度伪造”和反制伪造成果之间的博弈已经拉开序幕，对抗AI“深度伪造”的反制正在路上！
系统设置了7个限位开关，分别用于检测各部分的工作状态。其中，SQ1 检测待剪板料是否被输送到位。SQ2、SQ3 分别检测压块B 的状态，检测压块是否压紧已到位的板料；SQ4 检测剪切刀A 的状态；SQ7 为光电接近开关, 检测板料是否被剪断落入小车；SQ5 用于检测小车是否到位；SQ6 用于判断小车是否空载。送料机构E、压块B、剪切刀A和送料小车分别由4台电动机拖动。系统未启动时, 压块及剪切刀的限位开关SQ2、SQ3 和SQ4以及 SQ1、SQ7均断开。
标签：AI论文; 生物识别技术论文; 公安机关论文; 电信诈骗论文; 同一认定论文; 技能包论文; 公众人物论文; 上海市公安局论文; 华东政法大学论文;