“眼见为实”不灵了？｜焦点网谈

近段时间，与AI变脸相关的话题热度居高不下。AI变脸火了，没想到第一个“失业”的会是孙燕姿。这位在B站悄然走红的“AI孙燕姿”，翻唱了周杰伦、赵雷、刘欢等的歌曲，作品覆盖从流行到民谣等多种风格，《发如雪》《下雨天》播放量均已突破百万。

令人惊讶的是，“AI孙燕姿”与真人演唱的音色并无二致，可轻松驾驭各类曲风，且每天都有数十首“新作”面世。一些孙燕姿的忠实粉丝感慨，已经很难分清到底是歌手本人还是AI，“连换气声都能清晰听到，咬字尾音都非常像本人。”

“AI孙燕姿”足可以假乱真，让人感慨眼见为实不灵了。随着AI技术的不断发展，有人说，以“智能换脸”为主要展现结果的Deepfake技术，即深度伪造技术给人类社会带来新威胁。潘多拉魔盒一旦打开，你害怕了吗？

2023年最火的歌手是谁？可能“AI孙燕姿”是最佳人选。根据网友提供的教程，如果你想让“AI孙燕姿”翻唱一首歌，只需要以下几个步骤：

对于“AI孙燕姿”的出现，孙燕姿本人在社交平台发文回应称，凡事皆有可能，凡事皆无所谓，“做自己，已然足够”。

AI换脸换声技术，其学术名为“深度伪造”，即Deepfake，是由“deep machine learning”(深度机器学习)和“fake photo”(假照片)组合而成。其基本逻辑就是通过深度学习、特定算法将目标人物的人脸、表情、声音等（源图像、源音频）“嫁接”“迁移”到模仿视频中，最终实现视听合成的高仿真性。

人工智能的发展历程可以追溯至上世纪50年代。1950年，“人工智能之父”艾伦·图灵(Alan Turing)提出了著名的“图灵测试”，即如果一台机器能够与人类展开对话（通过电传设备）而不能被辨别出其机器身份，那么称这台机器具有智能。1956年夏天，美国达特茅斯学院举行了历史上第一次人工智能研讨会，被认为是人工智能诞生的标志。会上，科学家们探讨用机器模拟人类智能等问题，并首次提出了人工智能（AI）的术语，AI的名称和任务得以确定，同时出现了最初的成就和最早的一批研究者。

此后，人工智能穿越了黄金、低谷、繁荣等历史周期，迎来又一个辉煌时代。也许在不少90后记忆中，人工智能的火出圈有个标志人物“阿尔法狗”。2016年3月15日，Google人工智能AlphaGo与围棋世界冠军李世石的人机大战第五场经过长达5个小时的搏杀，最终以李世石认输结束。这一次的人机对弈让人工智能正式被世人所熟知，整个人工智能市场也像是被引燃了导火线，开始了新一轮爆发。

近年来，短视频已成为人们记录日常生活的重要工具。当下网络上流行的名场面翻拍、仿妆拍摄、搞怪表演，模仿名画中的人物等。而制作这些视频，不需要有高超的演技、过人的天赋，人工智能技术仅仅需要一张照片就可以实现，这就是AI换脸技术。用户轻轻一点拍同款，上传个人照后，一分钟即可生成一段风情万种的港剧风经典视频，定睛一看，这不是自己嘛？哈！获得感满满的同时，也在这种新奇体验中过了一把换脸、换身材的“明星瘾”。

AI换脸、AI换声、三维重建、智能对话……深度合成技术应用日益广泛，催生了美颜美妆、影视制作、智能客服、虚拟主播、元宇宙等应用服务，其在影视、娱乐、社交、广告、教育等领域不断深化应用，展现出强大的技术价值和商业潜力。但这一技术在崭露头角的同时，也存在着被恶意利用的现象，弊端也日渐显现。

诸如，泄露隐私信息，侵犯个人权益。“换声”“换脸”“姿态操控”等应用可能在当事人没有授权的情况下非法使用他人肖像，甚至可能故意丑化或者恶搞当事人形象，侵犯他人的肖像权、名誉权、隐私权等合法权益。这些应用也可能被用于非法收集和使用他人信息、非法摄取大众数据，侵犯他人个人信息和隐私权。

此外，深度合成技术还有可能成为违法犯罪行为的“帮凶”。例如，5月20日，包头警方发布消息称，福州市某科技公司法人代表郭先生10分钟内被人用AI换脸诈骗430万元，在不到一周的时间里，安徽警方也通过当地媒体披露了一起类似案件，诈骗分子使用了一段9秒钟的智能AI换脸视频，佯装“熟人”，导致安庆的何先生被诈骗245万。

诸如，生成和传播虚假信息，扰乱公共秩序。近两年，虚拟数字人以各种身份形象出现在我们的视野中，当它们与真人越来越接近，连表情、声音都能和真人一模一样。深度合成技术的出现，使得人类的传播活动步入“深度后真相”时代，传统的“眼见为实”失灵了。虽然机器人写稿、虚拟主播的出现，提高了信息传播速度、提升了传播效率和质量，但稍有不慎，就是在生产虚假信息。一个新近发生的例子是：科大讯飞股价意外跳水，原因竟是网上流传了两篇由生成式 AI 虚构的“小作文”，直指科大讯飞涉嫌非法获取用户数据、存在被美国列入实体清单的风险。

前些天，一段郑州航空港区一小吃店门口斗殴的视频引发网络关注，陈某沛为了吸粉引流，利用ChatGPT生成虚假不实信息，发布“郑州鸡排店惊现血案，男子用砖头砸死女子”等相关文章，使虚假信息大面积传播，影响社会稳定。最终，陈某沛被公安机关采取刑事强制措施。

诸如，以智能化辅助舆论战，威胁国家安全。深度伪造技术降低了国家之间信息战的成本，恶意行为主体会利用深度伪造技术编造虚假信息发动舆论战，影响国家安全。

一个迫在眉睫的威胁就是，AI技术推动形成了智能化“水军”，通过培育写稿机器人、对话机器人、虚拟账号和水军等，大批量制造“人机乌合之众”；同时，智能生产技术可通过大数据搜集进行议题的谋划设置，制造相关内容给“水军”供给弹药，大大增加了舆论战、认知战的风险。

2018年，加蓬总统Ali Bongo因中风在公共视野中消失了数月。政府为了安抚民心，在新年时公开了一段总统录制的新年致辞。这段新年致辞使用了Deepfake技术进行生成，但这个视频非但没有起到安抚民心的作用，反而让军方的资深大佬发现异常，最终导致了兵变。在这个事件中，“AI换脸”技术成为干扰政治选举，降低政府公信力的一大推手。

2019年初，Facebook上流传一则关于特朗普的假视频，视频中的“特朗普”严厉批评了比利时在气候变化问题上的立场，而实际上这并非特朗普本人。

从在围棋界战无不胜的“阿尔法狗”，到铺天盖地的“人脸识别”，人工智能给人们的生活带来了翻天覆地的改变，也带来了诸多困扰。《猎罪图鉴》中有这样一句台词：“脸明明是我们最重要的识别符号，可偷走这些东西只需要几分钟甚至几秒钟，我们甚至连对手是谁都不知道。”

如何防止深度合成技术被“恶用”？如何克服算法歧视，让人工智能实现可知、可信、可控、可用？生成式人工智能要发展更要规范，尤其是要做到合法合规、向上向善。

做到合法合规。使用个人肖像如果没有征得同意，就去互联网上采集使用的话，这属于违法行为。平台上如果有类似应用，平台就有责任去监督。根据国家互联网信息办公室、工业和信息化部、公安部联合发布的《互联网信息服务深度合成管理规定》，提供人脸、人声等生物识别信息显著编辑功能的，应当取得授权，应当在显著位置标注“人脸合成”字样，避免公众混淆或者误认。如果平台自己去提供这一类服务，还要求用相应的工具去识别它不是真实的，这就对平台提出了更高的要求。

做到向上向善。随着技术的成熟，曾经只有在科幻电影里才能出现的换脸、变声等“黑科技”走进了现实生活，但是也带来了新的伦理问题。“AI换脸”技术滥用行为挑战了法律和公序良俗的底线，恶意使用“AI换脸”技术的案例频频发生，表明“AI换脸”技术已被非法滥用，违背了技术发展的向上向善原则。因此，需要对“AI换脸”作法律和社会道德伦理审查，并尽快制定完善技术发展和应用标准，给其划定法律和技术“红线”，对其予以规制，引导“AI换脸”合规发展，防范不当使用。

对于个人来说，要树牢法律意识，对涉嫌存在法律风险的“AI换脸”视频积极进行举报，倒逼“AI换脸”服务提供商遵守法律法规，以实际行动促进“AI换脸”技术向上向善。尤其是跟机器人去对话要非常小心，如果没有干预就可能产生误导，但它没有办法承担责任。特别是在教育医疗这样一些敏感的高风险场景，个人尤其要提高警惕，减少AI被恶意利用的现象。

AI技术是柄“双刃剑”，向善向恶也许都在一念间。如果缺乏应有约束，打开的就是一个潘多拉魔盒，惊喜变惊吓。有人说，黑科技Deepfake会让普通人难以辨别真假，就算是近亲之间视频通话也最好有一些“暗语”，不然你连对面的人是不是亲人都不知道。盲盒变魔盒，你怕了吗？