眼见不一定为实，有图未必有真相。随着AI技术不断发展，AI合成，已经不仅限于换脸，或生成音频这么简单，而是可以将人脸、声音、手势动作等多种元素深度合成，甚至可以实现使用合成的人物进行实时视频通话。
而与此同时，AI合成的技术门槛也越来越低，使得普通人也可以轻松学会。如何去防范利用AI深度伪造技术的新型诈骗？又该如何通过治理让AI技术能更好向善？《新闻1+1》关注：人工智能造假行骗：能治吗？
人工智能造假行骗，责任如何划分？
对外经贸大学数字经济与法律创新研究中心主任 许可：在深度伪造技术发展、使用过程中，有非常多的主体发挥作用。有技术的研发者、分发者、使用者。利用技术实施诈骗的人，当然是第一责任人，但在整个生态中，技术的研发者、软件的分发平台以及传播相关信息的人也可能发挥着一定的作用，如何形成一种治理的合力？这里面可能要区分两种不同的责任：
一种责任是行为人的责任，比如说利用人工智能去诈骗的人。 另一种责任是平台责任，平台一端连着用户，一端连着提供人工智能技术的人，这要求平台发挥管理两边的责任。一旦发现违法违规行为，平台就应该采取积极措施，去制止无论是信息内容的发布者还是软件的提供者，从而实现整个平台治理的安全稳定。
法律如何应对人工智能造假行骗？
对外经贸大学数字经济与法律创新研究中心主任 许可：人工智能的发展其实刚刚开始，用在违法违规、刑事犯罪方面也不久，我国的法律也及时进行了应对。法律出台之后，需要做的是进一步实施和落地。这些新制度的出台，目前还仍在建规立制的阶段，通过各方的合力，既要依托于监管部门，不断将法规的细则落实到每一个主体身上，也要通过社会的综合治理，实现个人要知道、主张自己的权益，企业要知道、践行自己的责任和义务。还需要一个循序渐进、逐渐完善的过程。
AI生成合成内容将有“专属水印”
9月，国家网信办起草了《人工智能生成合成内容标识办法（征求意见稿）》，这能遏制“换脸”诈骗吗？
对外经贸大学数字经济与法律创新研究中心主任 许可：在大量AI深度伪造技术的诈骗中，最大的问题是被骗的人以为视频是真的。《人工智能生成合成内容标识办法（征求意见稿）》要求，通过人工智能生成的视频、音频、图片都必须加以明确的标识。这样，看到的人能够知道这是AI生成的内容。这种通过信息披露实现的治理，在我们现在来看是非常有效的措施。
老年人如何防范“AI换脸”诈骗？
对外经贸大学数字经济与法律创新研究中心主任 许可：这是一个素质素养提升的工作，因为信息鸿沟、技术鸿沟，很多老年人根本就不知道世界上还有这么一种技术，能把假的变成真的。
让老年人提升认识，需要包括媒体、教育机构、科研院所共同普及这方面的知识，告诉他们信息的真假是需要认真甄别的。另一方面，老年人获取信息的来源除了社会，很多是来自于家人。孩子们应该多和自己的父母、长辈沟通，告诉他们这些诈骗案例，让他们产生警惕。通过社会和家庭的共同作用，让老年人提升认识。
如何提防人工智能电话诈骗
第一；有骗子就利用人工智能模仿或复制别人的声音来行骗，如所谓的「熟人借款电话」。 在英国一家能源公司总裁就上当了，大致过程是这样的，诈骗者通过人工智能语音技术复制了他顶头上司的声音，再播放诱骗受害者将二十二万欧元会汇款到指定账户。 这样防不胜防的新诈骗手法如何预防和破解。 第二；从科技的角度来说，经系统复制任何人都能利用女生/男生的声音说话，而且有些真假难辨。 有学者指出，人的声音分成词语、韵律和音色三个组成部分，或许能从这方面着手提防。 第三；现在在电脑合成和检测方面，声纹合成和检测方面，大家都比较注重音色这个因素。 对词和韵律方面，没有太多的模仿。 所以，如果大家听电话的时候可能多问几句，从多从几个不同的角度去听这个声音，也许能辨别得出来。 第四；市面上用声纹系统来确认说话人身份的机构不少当中包括银行，因此要懂得这方面的安保，尽量避免被录音。 但这项技术其实也能被善用，奎因两年前因肌萎缩侧索硬化症而失去声音，多亏一家加拿大公司的人工智能声音复制技术让他成功找回声音。 第五；通过以上分析，我们也不必“谈虎色变”，一朝被蛇咬十年怕井绳，同时我们需要加强自身安全意识。 在交流中尽可能不直接发生财务问题；保持警惕性。 整体而言，技术本身是好的，是被犯罪分子给非法利用了。
如何防范AI人工智能诈骗？
面对利用AI人工智能等新型手段的诈骗，我们要牢记以下几点：一、多重验证，确定身份。 在涉及钱款时，群众要提高安全意识，通过电话、视频等方式确认对方是否为本人。 在不能确定真实身份时，可将到账时间设定为“2小时到账”或“24小时到账”，以预留处理时间。 此外，即便对方运用AI技术行骗，也可以通过提问的方式进一步确认身份。 可以选择向对方银行汇款，避免通过微信等社交工具转账。 这样做，一方面便于核实对方信息，确认钱款去向；另一方面，对方能通过短信通知得知转账信息。 二、保护个人信息。 社交平台的发展加大了保护个人信息的难度，民众将越多的个人信息暴露在网络上，致使受骗的概率升高。 为避免骗子借用个人信息实施诈骗，民众应当加强个人信息保护意识，以防止骗子利用AI技术掌握大量个人信息并对人物性格、需求倾向等进行刻画，从而有针对性地实施诈骗。 对于不明平台发来的广告、中奖、交友等链接提高警惕，不随意填写个人信息，以免被骗子“精准围猎”。 三、相互提示，共同预防。 各位要多多提醒、告诫身边的亲人、朋友提高安全意识和应对高科技诈骗的能力，共同预防受骗。 青年人要及时做好家中老人的宣传防范工作。 提醒、告诫老年人在接到电话、收到短信时，只要是不认识、不熟悉的人和事，均不要理睬，以免被诱被骗。 四、拒绝诱惑。 民众应当避免占便宜心理，警惕陌生人提供的好处。 我们要学会拒绝诱惑，提高警惕。 避免占便宜心理，警惕陌生人无端“献殷勤”。 最后，发现风险，及时报警。 一旦发现风险或被骗，及时报警求助。 总结:总之，预防被骗的关键就是人们要提高自我保护意识，不要过于轻信网络上的信息，而且不要抱有侥幸心理，时刻记住天上不会掉馅饼，地上却会有陷阱。 因此，我们应该提高警惕，不要轻信陌生电话，与对方核实身份信息，联系真正的亲人或者朋友，向警方报案。
AI诈骗利用换脸和拟声技术骗走你的钱，怎么防范？
AI诈骗利用换脸和拟声技术的确是一种现代化的欺诈手段。尽管无法完全消除这种威胁，但以下是一些防范这类骗局的建议：
1. 保持警惕：保持对任何未经核实的信息持怀疑态度。 不要轻易相信通过社交媒体、电子邮件或电话等渠道来的陌生人提供的信息。
2. 确认身份：在涉及财务交易、敏感信息或重要决策之前，要确保对方的身份。 通过其他渠道（例如官方网站、官方电话号码等）核实对方的真实性。
3. 警惕紧急情况：诈骗分子常常制造紧急情况以加快决策过程。 遇到要求立即行动或提供敏感信息的情况时，要保持冷静并优先进行核实。
4. 不要分享个人信息：避免在不信任的平台或与不可靠的个人分享个人信息。 这包括银行账户信息、身份证号码、社会保险号码等。
5. 强化密码和账户安全：使用强密码，并定期更改密码。 启用多因素身份验证，以增加账户的安全性。 谨慎选择可信任的在线交易平台。
6. 保持软件更新：保持操作系统、应用程序和安全软件的更新。 这有助于修复已知的漏洞和安全问题。
7. 教育自己：了解不同类型的网络诈骗和欺诈手段，学习如何辨别和避免它们。 许多机构和组织提供有关网络安全和诈骗预防的教育资源。
8. 报告可疑活动：如果您发现可疑活动或怀疑自己成为受害者，请立即向当地执法机构报案，并与您的银行或金融机构联系。
总之，保持警惕、妥善保护个人信息和不轻信陌生人是防范AI诈骗的重要步骤。 此外，及时了解和采取防范措施来抵御新型欺诈手段也是至关重要的。
