10月8日，2024年诺贝尔物理学奖颁布给两位人工智能专家，以赞誉他们运用物理学东西为强壮的机器学习方法奠定根底。其间一位获奖者创造晰联想回忆，能够存储和重构图画，AI图画辨认等技能便是在此根底上开展而来。风趣的是，就在诺奖颁布前夕，韩国国会刚经过一项法案，把“具有或观看AI换脸的色情图片和视频”这一行为定为违法，惩罚包含罚款和拘禁等。

  韩国AI换脸色情违法事情从本年5月开端发酵。其时，韩国媒体曝光，两个首尔大学的学生使用AI技能Deepfake，换脸组成了色情相片和视频，并经过通讯软件进行传达，受害女人到达61人。8月底，韩国妇女人权研究所发布了一组数据，本年以来共有781名AI换脸受害者在线%是未成年人。另一家韩国媒体进一步报导，一个与AI换脸相关的网络聊天室居然招引了22万人，受害者包含很多学生和未成年人，受必定的影响的校园超越200所。

  据美国安全服务机构发布的《2023深度假造技能现状》计算，在深度假造技能受害人物中，53%是韩国人，超越了美国（20%）、日本（10%）和英国（6%）加起来的总和。韩国政府现已做了一些补救措施，从2005年开端修订了约300项改进轻视女人的法令和法规，此次换脸事情发酵后也许诺投入20亿韩元来开发辨认、按捺换脸技能的体系，并经过了定性违法的法案。但是在实操层面，却很难发挥真实的威慑力。

  为什么韩国会成为换脸色情违法的重灾区？一是由于参加人数很多，不免呈现法不责众的状况。像上文说到，一个网络聊天室就有22万人订阅，韩国每年的重生人口也不过23万人。在警力有限的状况下，很难将一切违法者都依法从事；二是“未成年”成为违法者的盾牌。据称，韩国简直每所校园都有一个隐秘的网络聊天室，用于传达AI换脸色情内容。上文说到，受害者有很大一部分是未成年人，可加害者中也有不少未成年人。他们的爸爸妈妈也“护犊情深”，建议这种行为只需批判教育就行了，彻底没必要上升到惩罚的程度。

  其实，问题的本源就在于，韩国社会都会存在性别轻视。韩国国内查询显现，有58.6%的年青男性清晰说对立女权主义，其间25.9%是“极点激烈”对立。有一种说法笔者很附和，“性暴力实质上反映的是一种想要凌辱和操控女人的心态”。韩国女人在“AI换脸”事情中无助到什么程度呢？她们现已不相信本身的政府和媒体，只能凭借翻译器在其他几个国家的网络上发布求助帖，乃至宣称“韩国女人没有国家”。

  另一个值得反思的问题是，前沿技能再度成为人性本恶的“放大镜”。“AI换脸”的技能来源是Deepfake，也称为“深度假造”，是以色列一家公司开发的。经过这项技能，只需投入海量的学习资料，组成的相片和视频的真实性便会渐渐的高。在深度学习神经网络的根底上，Deepfake技能不断更新迭代，终究演化出门槛极低、连小学生都能够操作的“AI换脸”技能，并被滥用于色情内容。但是，美国人霍普菲尔德正是由于“使用人工神经网络进行机器学习做出的根底性发现和创造”取得本年的诺贝尔物理学奖。

  每一次科学技能的前进，都会伴随着善与不善、法与不合法的争议。针对Deepfake技能的“粗野成长”，谷歌、微软、Meta等巨子都相继举动，进步辨认勘探的才能，堵截歹意换脸内容的传达途径。我们不能够因噎废食阻挠科技开展，只能从技能、法令的视点，尽可能把前沿科技往“善”的方向引导，向“不善”的倾向亮剑。