深度伪造型网络犯罪及其治理研究On the Deepfake Cybercrime and its Governance
邱雅娴
摘要(Abstract)：
网络犯罪治理是保障网络空间安全的重要内容。基于深度伪造技术的新型网络犯罪及其造成的法益侵害给全球网络空间安全带来威胁，各界需要高度关注这一问题。坚持总体国家安全观，梳理深度伪造型网络犯罪的现状及特征。目前，我国在治理此类犯罪方面存在一些难点：算法生成内容难辨真伪，犯罪识别难；深度伪造技术应用平台频现，违法行为监管难；合成作战机制有待健全，侦查打击难；法律法规尚待完善，定罪量刑难。为此，要坚持源头治理，统筹布局；推动网络新型犯罪治理体制创新，赋能智慧侦查；主动开展技术防范，利用反深伪模型进行预警；强化网络多元协同治理，加强各行业合作和平台自治；完善网络治理相关法律，依法打造深伪犯罪行为；加强伦理道德引导，确保人工智能技术向善应用。
关键词(KeyWords)： 深度伪造技术;人工智能;新型网络犯罪;网络空间安全;人格权
基金项目(Foundation): 四川省犯罪防控研究中心一般项目“大数据背景下基于社交媒体的新型犯罪问题治理模式研究”(FZFK22-06);; 山西警察学院研究学习党的二十大精神专项课题“推进网络空间犯罪治理现代化研究”(2023yzx014)
作者(Author): 邱雅娴
参考文献(References)：
- (1)参见蔡士林:《“深度伪造”的技术逻辑与法律变革》,《政法论丛》2020年第3期。
- (2)参见苗争鸣、尹西明、许展玮等:《颠覆性技术异化及其治理研究——以“深度伪造”技术的典型化事实为例》,《科学学与科学技术管理》2020年第12期。
- (3)参见马荣春:《论新型犯罪对刑法理论的影响:以网络犯罪为中心》,《学术界》2022年第4期。
- (4)参见脑极体:《从“深度伪造”到“深度合成”:AI为啥需要一次“正名”?》,2020年6月6日,载搜狐网,https://www.sohu.com/a/400158892_99997500,2023年3月27日访问。
- (5)参见张远婷:《人工智能时代“深度伪造”滥用行为的法律规制》,《理论月刊》2022年第9期。
- (6)See Todd C H.Artificial Intelligence,Deepfakes,and Disinformation:A Primer.Santa Monica,CA:RAND Corporation,July 2022.
- (7)World Economic Forum:Preventing Digital Harm:World Economic Forum Report Outlines How to Close the Legal and Judicial Gap,2021-09-21.https://www.weforum.org/press/2021/09/preventing-digital-harm-world-economic-forum-report-outlines-how-to-close-the-legal-and-judicial-gap.2023-03-26.
- (8)See Gregory C A & Taniel C.Artificial Intelligence and National Security.Center for a New American Security,2017(6).
- (9)参见曹建峰、方龄曼:《人工智能时代下的“烦恼”:美国国会听证会探讨“深度伪造(deepfake)”风险及对策》,2019年7月2日,载搜狐网,https://www.sohu.com/a/324367585_455313#:～:text=2019,2023年4月2日访问。
- (10)Daniel R C.Statement for the Record:2019 Worldwide Threat Assessment of the US Intelligence Community,2019-01-29.https://www.odni.gov/index.php/newsroom/congressional-testimonies/item/1947-statement-for-the-record-worldwide-threat-assessment-of-the-us-intelligence-community.2023-04-03.
- (11)参见石婧、常禹雨、祝梦迪:《人工智能“深度伪造”的治理模式比较研究》,《电子政务》2020年第5期。
- (12)参见单勇:《数字平台与犯罪治理转型》,《社会学研究》2022年第4期。
- (13)参见徐燕萍:《“深度伪造”技术的伦理反思——以一键脱衣软件“Deepnude”为例》,《计算机时代》2021第11期。
- (14)参见李明鲁:《“深度伪造”的刑法治理路径》,《科技与法律(中英文)》2021年第6期。
- (15)参见刘国柱:《深度伪造与国家安全——基于总体国家安全观的视角》,《国家安全研究》2022年第3期。
- (16)参见吴超、郁建兴:《面向公共管理的数据所有权保护、定价和分布式应用机制探讨》,《电子政务》2020年第1期。
- (17)See Robert C & Danielle K C.21st Century-Style Truth Decay:Deep Fakes and the Challenge for Privacy,Free Expression,and National Security.Maryland Law Review,2019(4).
- (18)See Maras M H & Alexandrou A.Determining Authenticity of Video Evidence in the Age of Artificial Intelligence and in the Wake of Deepfake Videos.The International Journal of Evidence & Proof,2019(3).
- (19)参见刘国柱:《深度伪造与国家安全:基于总体国家安全观的视角》,《国际安全研究》2022年第3期。
- (20)参见张远婷:《人工智能时代“深度伪造”滥用行为的法律规制》,《理论月刊》2022年第9期。
- (21)参见赵小涵:《滥用人工智能深度伪造技术的刑法评价进路》,《宿州教育学院学报》2021年第4期。
- (22)参见王枫语:《网络犯罪治理的问题及对策研究——以公安机关为视角》,《公安学刊(浙江警察学院学报)》2021年第3期。
- (23)参见石东秀:《论深度伪造换脸的法律规制》,载上海市法学会:《〈上海法学研究〉集刊2021年第5卷——2021世界人工智能大会法治论坛文集》,第75—81页。
- (24)参见成都市锦江区人民检察院课题组:《电信网络诈骗犯罪的治理困境及体系化应对——基于C市J区检察办案实践分析》,《湖北警官学院学报》2023年第1期。
- (25)参见王枫梧:《网络犯罪治理的问题及对策研究——以公安机关为视角》,《公安学刊(浙江警察学院学报)》2021年第3期。
- (26)参见刘杰:《“深度伪造”技术的情报风险及其应对》,《江西警察学院学报》2022年第1期。
- (27)参见李亚可:《我国电信网络诈骗犯罪的态势特征及打击思路探析》,《浙江警察学院学报》2022年第2期。
- (28)参见周远方:《治理AI“深度伪造”,中国正与美欧并跑》,2022年2月23日,载观察者网,https://baijiahao.baidu.com/s?id=1725544378501233828&wfr=spider&for=pc,2022年10月14日访问。
- (29)See Agarwal S,Farid H,Gu Y,et al.Protecting World Leaders against Deep Fakes.CVPR.Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition Workshops,New York:IEEE,2019:38-45.
- (30)马爱平:《基于第三代人工智能的DeepReal深度伪造内容检测平台推出》,2021年7月10日,载中国科技网,http://www.stdaily.com/index/kejixinwen/2021-07/10/content_1175678.shtml,2023年3月12日访问。
- (31)参见王枫梧:《网络黑灰产犯罪生成模式与多元治理机制研究》,《浙江警察学院学报》2022年第4期。
- (32)参见龙坤、马钺、朱启超:《深度伪造对国家安全的挑战及应对》,《信息安全与通信保密》2019年第10期。
- (33)See Furman J,Coyle D,Fletcher A,et al.Unlocking Digital Competition:Report of the Digital Competition Expert Panel.London:UK Government Publication,2019:41.
- (34)参见单勇:《数字看门人与超大平台的犯罪治理》,《法律科学(西北政法大学学报)》2022年第2期。
- (35)清华大学人工智能国际治理研究院.2021年度全球人工智能治理趋势盘点(完整版)》,2022年4月1日,http://aiig.tsinghua.edu.cn/info/1442/1428.htm,2023年3月20日访问。
- (36)参见郑玉双:《破解技术中立难题——法律与科技之关系的法理学再思》,《华东政法大学学报》2018年第1期。
- (37)参见韩莉莉、马万利:《技术异化视域下科技伦理人文效应探析》,《人民论坛·学术前沿》2020年第6期。
- (38)参见陈劲:《迎接治理时代的新管理》,《清华管理评论》2019年第11期.