新智元报道
编辑：桃子 乔杨
【新智元导读】 AI智能体遍布整个网络，未来如何防止被骗？如何保护隐私？OpenAI微软MIT等25个机构联手提出「人格凭证」，可以证明自己是真人，还不用披露任何个人信息。
最近半个月，全网竟被一个OpenAI的「AI爆料人」愚弄了。
听到「草莓哥」@iruletheworldmo账号，想必每个人都很熟悉，而且时不时就会刷到他的爆料帖子。
直到这周三，所有人没有等来他预测的GPT-4o large模型，反被AI初创MultiOn创始人揭穿了身份——
一时间，全网许多平台发起禁止「草莓哥」的相关转帖。
Reddit子板块r/singularity中，已置顶禁止全员提及相关内容
甚至有的人直接「屏蔽」了@iruletheworldmo。
真正的OpenAI爆料人Jimmy Apples也曾对AI智能体说的话信以为真
随后，这个AI智能体还发起了在线投票——我是否通过图灵测试，没想到竟有一半多的人给出了肯定的回答。
而这仅仅是一个AI。
小扎曾说，「未来每个人都将拥有一个AI助理，很快就会有数十亿AI智能体代表我们上网」。
如果未来某天真的实现了，人们将如何一眼辨别某个社交媒体账号，是不是机器人？如何证明自己「真人」身份，而不用提交任何个人信息？
来自OpenAI、微软、MIT、UCB等25个机构的学者们共同提出了一种验证技术——「人格凭证」（Personhodd Credentials, PHC）。
PHC可以在保护用户隐私的同时，在网络上证明「你是你」，是一个真实存在的人类而非AI。
论文地址：https://arxiv.org/pdf/2408.07892
微软首席科学家幕僚长表示，「在保持隐私的同时，在网上建立人类身份，是AI时代的决定性挑战之一」。
另一位网友表示，这项研究出现得很及时，简直发人深省。
为什么这么说？
30亿人数据泄露，隐私保护无解？
除了开篇「草莓哥」的案例，最近，近30亿人数据泄露，席卷了整个美国，堪称史上最大数据事件事件之一。
这其中，涵盖了详细的居民个人信息，比如姓名、电子邮件、地址、电话、社保号、邮件地址。
更恐怖的是，地址数据可以追溯到30年前，就连去世20多年的亲属信息，都能被挖出。
因此，一直以来，匿名是许多注重隐私的人们，采取保护自己的措施。
但有时，一些重要的验证，不得不将自己的个人信息交出去。
当前，越来越强大的AI不断涌现，不法分子欺诈、传播虚假信息的手段更加隐蔽，随随便便就能扩展到更大的传播规模。
而且，AI门槛、成本的降低，获取更加容易。
随着AI生图/视频/声音越来越逼真，比如在约会App上，你如何确定对方就是真人？
当前存在的解决方案，比如验证码，显然不够用，
这也意味着，传统的人机验证方式，正在走向失败。
毕竟，AI在图像识别等领域的进步，这种方法变得越来越不可靠。
而现在，极需要找到一种平衡，既能有效防止AI欺骗，又不会过度牺牲用户的隐私和互联网的包容性。
这也是，OpenAI、微软等机构的研究人员，希望通过研究最终在实际应用中，看到的效果。
证明你是人，而非AI
正如研究员Steven Adler所述，隐私保护工具「人格凭证」（PHC），可以证明你是一个人，但不会揭示「你是哪个人」。
具体来说，「人格凭证」由两个AI无法伪造的元素支持：
也就是，无论AI变得多么好，都无法逃脱这两点。
总之，PHC就是一种数字凭证，可以让用户向在线服务证明，自己是真人并非AI，而且还不用披露任何个人信息。
这种凭证，可由一种可信机构，比如政府去颁发。
而且根据作者的定义，PHC可以是本地的或全球的系统，不一定基于生物识别技术。
AI智能体充斥全网，防骗最新策略
论文的两位合著者Nouran Soliman和Tobin South是MIT的两名在读研究生，他们最近在MIT News的采访中简要介绍了这项技术，讨论了其必要性、风险，以及如何以安全、公平的方式应用PHC。
「人格凭证」的必要性
虽然一提到AI，很多公众讨论的话题都是ChatGPT这样的聊天机器人，但人工智能的能力显然不止于此。
互联网上的AI参与表现出两种特性：不可区分且可扩展，这促使AI驱动的欺骗行为持续增长。
AI可以在社交网络上创建帐户、发布虚假内容、伪装成人类，或通过算法大规模放大某些内容，甚至进行大规模攻击，这释放了很多风险。
这会改变我们浏览社交媒体的体验，区分复杂的AI和人类也变得越来越困难，类似于未经同意的「数字替身」问题。
「人格凭证」则提供了一种潜在的解决方案，比如用于过滤网络内容、决定接收信息的信任级别。
什么是人格凭证？如何确保安全性？
正如之前所述，「人格凭证」可以证明你是人类，但无需透露任何有关你身份的信息。
作者表示，无论AI有多么先进，都无法做到两件人类能做到的事——获得离线的现实世界中的证件，以及伪造或破解先进的加密系统。
因此，「人格凭证」结合了这两个想法——通过密码学实现的安全性，以及人类仍然拥有AI所不具备的一些能力，从而真正有力地证明你是人类。
要获得「人格凭证」，用户需要与政府发生关系，比如税号或者驾驶证，而且必须有线下参与的成分。
通过隐私技术，用户可以证明这一事实，而无需共享任何有关身份的敏感信息。
「人格凭证」的实现会比较容易，它依赖的基础设施和安全技术已经存在了数十年，例如使用邮箱账户等标识符来登录在线服务。PHC可以作为这些现有方法的补充。
但是，用户使用「人格凭证」应该是一种可选项而非必选项，服务提供商可以让人们选择是否使用。
作为可选项就意味着，我们还无法做到让用户只与真实的、经过验证的人类进行在线互动，完全排除AI在互联网上的参与。
但是在网购或者交易协商这类的场景中，想要确保另一方是人类实体，「人格凭证」就可以派上用场。
有哪些风险？如何降低这些风险？
其中一项风险来自于如何实施。如果一个特定实体是「人格凭证」唯一的发行人，或者系统的设计方式是将所有权力赋予一个实体，这可能会引起一部分人对于权力过于集中的担忧。
如果你处在一个很艰难或危险的社会政治环境中，被要求去某个线下地点才能获得人格凭证，这会比较可怕，而且阻碍了人们在线上分享信息。
一个可能的解决方案，是设置多个「人格凭证」的发行方。
我们的论文试图鼓励政府、政策制定者、领导者和研究人员投入更多资源，研究不同的实施方向，并探索这项技术可能对社区产生的更广泛影响，确保能制定正确的政策和规则。
AI的发展速度非常快，远快于政府适应的速度。因此，政府和大公司现在就应该开始考虑调整数字系统，以便准备好证明某个用户是人类，同时做到保护隐私和安全，这样我们才能为AI更先进的未来做好准备。
技术介绍
「人格凭证」这项技术究竟如何实现？这篇63页的论文能够给出我们非常详尽的答案。
论文地址：https://arxiv.org/pdf/2408.07892
首先，「人格凭证」以数字方式存储在持有者的设备中。为了保证可信度和隐私，PHC系统需要满足两个前提：
- 每个人只能持有一份「人格凭证」，需要定期重新验证，以防被盗用
- 持有PHC的用户与与服务提供商进行匿名交互。即使PHC发行商和服务提供商串通，也无法追踪用户的数字活动，更不能将用户在各个平台上的活动连接在一起。
PHC系统的注册和使用流程如图3所示：
用户提出请求后，只需向发行方提供最少量的必要信息。发行方负责验证是否为人类，并确定用户之前没有在此注册过PHC。此外，发行方有撤回或恢复PHC的权利。
用户在使用第三方数字服务时，可以提供PHC并经过「零知识证明」，即可完成身份验证。
除了PHC之外，服务提供商不能获取其他额外信息。每次证明仅限于特定应用程序，因此不同平台无法通过PHC链接到同一个用户。
论文提出，为PHC系统设计多个发行方是比较理想的实施方案。用户可以从多个发行方中任意选择来注册PHC，但每个发行方只能获取一份证书，在减少大规模欺骗行为的同时保证用户隐私。
这种PHC系统有3方面的预期优势：
- 减少「傀儡」用户的影响，实现真实人类的在互联网上大规模的真实输入和参与
- 缓解机器人攻击
- 让AI助手真正成为值得信赖用户的代表，而非被恶意用户操纵
与此同时，要让PHC以公平、安全的方式在现实生活中实施，还必须面对以下4个方面的挑战：
频繁的PHC验证可能导致使用过程中的摩擦和挫败感，影响对技术不熟悉的用户，尤其是老年人的使用。还需要确保没有PHC的用户依旧可以使用数字服务。
用户可能会担心PHC将他们的数字活动与线下真实身份相关联，从而降低在网络上表达真实观点的意愿。
PHC生态系统面临的一项重大挑战是权力集中于少数机构，尤其是PHC发行者和大型服务提供商，他们有关PHC使用的决策将产生重大影响。
与任何数字系统一样，PHC系统容易受到多方面的攻击和利用，比如证书发行方、服务提供商和恶意用户。可以考虑使用网络安全领域先前的最佳措施，比如DoS防御，以及阻止攻击者访问敏感记录。
论文的最后，作者提出了下一步应该采取的措施。
首先，适应现有的数字网络体系，为人工智能的影响做好准备。
更具体地说，我们要重新思考，AI将如何改变互联网和通信。
其次，优先考虑将「人格凭证」作为亟需解决的一种方案。
最后一张图，总结了这篇论文的所有要点。
值得一提的是，为了防止互联网平台以「实名制」为由过度收集信息，公安部和网信办最近推出了「网络身份证」。
只需要一部有NFC功能的手机，进行身份证识别和人脸识别并关联手机号之后，就能得到一张虚拟的「网络身份证」。
上面的「网号」由字母和数字组成，不含明文的身份信息，可以直接用于淘宝、微信等app的实名认证，不需要再输入姓名、身份证号等信息。
在保护个人隐私方面，大家觉得有什么更好的解决方案？
参考资料：
https://x.com/sjgadler/status/1824245211322568903
https://news.mit.edu/2024/3-questions-proving-humanity-online-0816
https://www.engadget.com/cybersecurity/national-public-data-confirms-breach-that-exposed-americans-social-security-numbers-100046695.html
OpenAI是什么组织？
OpenAI是由诸多硅谷大亨联合建立的人工智能非营利组织，成立于2015年12月。
2016年11月16日，微软宣布，与由特斯拉首席执行官埃隆·马斯克和YCombinator总裁山姆·阿尔塔曼联合创建的估值达10亿美元的人工智能非盈利性研究公司OpenAI展开合作。
2019年7月23日，微软宣布出资10亿美元，投向知名AI研究机构OpenAI，双方达成一项多年合作协议——OpenAI在微软Azure云平台开发AI技术。 2021年5月27日，OpenAI宣布与微软成立1亿美元的人工智能创业基金。
作为一个非盈利性人工智能项目，OpenAI的使命是 “推动数字智能的发展，同时不被财务回报所限制，从而造福整个人类”。 OpenAI获得的投资承诺已经超过10亿美元，资金提供方包括Sam Altman、Elon Musk、PayPal联合创始人Peter Thiel、LinkedIn联合创始人Reid Hoffman、AWS、Infosys和YC Research等。
发展历史：
2015年12月12日，非盈利性的人工智能项目—OpenAI宣布正式启动，YCombinator总裁 Sam Altman和特斯拉CEOElonMusk将共同担任OpenAI的联席主席。
2017年5月，OpenAI发布了一款能在“观看”人类搭积木后模仿这一行为的机器人。
2017年8月12日，在Dota 2国际邀请赛上Open AI公司的机器人在Dota2 1v1比赛中战胜了Dota人类顶级职业玩家Dendi。
2021年1月7日，旧金山人工智能研究公司OpenAI已经开发了一种新系统，能根据短文本来生成图像。 OpenAI在官方博客中表示，这个新系统名为DALL-E，名称来源于艺术家萨尔瓦多·达利和皮克斯的机器人英雄瓦力的结合。 新系统展示了“为一系列广泛的概念”创造图像的能力，创作的作品包括牛油果形状的扶手椅等。
求告知ai是干什么的？怎样才能和和机器人聊天？
AI，即人工智能，是利用计算机技术和算法来模拟人类智能的一种技术。 AI能够利用大数据和算法学习，进行数据分析和处理、语音识别、图像识别、自动化决策等任务。 要和机器人聊天，首先需要找到一个支持聊天互动的机器人。 这些机器人一般有一个聊天界面，在其中可以输入问题和回答。 现在，有很多机器人都支持语音交互，可以使用语音进行交流。 要和机器人展开有效的对话，需要注意清楚表达问题，不要使用过于复杂或模糊的语言来询问问题。 还需要注意听取机器人的回答，根据回答进行进一步的提问或交流，并在适当的时候结束对话。
人工智能的发展前景趋势？
1、 机器视觉和语音识别是主要市场
技术层是基于基础理论和数据之上，面向细分应用开发的技术。 中游技术类企业具有技术生态圈、资金和人才三重壁垒，是人工智能产业的核心。 相比较绝大多数上游和下游企业聚焦某一细分领域、技术层向产业链上下游扩展较为容易。
该层面包括算法理论(机器学习)、平台框架和应用技术(计算机视觉、语音识别、自然语言处理)。 众多国际科技巨头和独角兽均在该层级开展广泛布局。 近年来，我国技术层围统垂直领城重点研发，在计算机视觉、语音识别等领城技术成熟，国内头部企业脱颗而出，竞争优势明显。
2、计算机视觉发展历经三大理念，规模突破400亿元
1982年马尔(David Marr)《视觉》(Marr，1982)一书的问世，标志着计算机视觉成为了一门独立学科。 计算机视觉的研究内容，大体可以分为物体视觉(object vision)和空间视觉(spatial vision)二大部分。 物体视觉在于对物体进行精细分类和鉴别，而空间视觉在于确定物体的位置和形状，为“动作(action)”服务。 正像著名的认知心理学家所言，视觉的主要功能在于“适应外界环境，控制自身运动”。 适应外界环境和控制自身运动，是生物生存的需求，这些功能的实现需要靠物体视觉和空间视觉协调完成。
计算机视觉近40年的发展中，尽管人们提出了大量的理论和方法，但总体上说，计算机视觉经历了三个主要历程。 即：马尔计算视觉、多视几何与分层三维重建和基于学习的视觉。
国际市场研究机构Research And Markets发布的最新报告显示，2019年全球计算机视觉市场规模为46.433亿美元，预计到2027年将达到950.805亿美元，从2020年到2027年，预计年复合增长率为46.9%。
3、语音识别发展科追溯到1956年
语音识别的研究工作可以追溯到20世纪50年代。 在1952年，AT&T贝尔研究所的Davis，Biddulph和Balashek研究成功了世界上第一个语音识别系统Audry系统，可以识别10个英文数字发音。 这个系统识别的是一个人说出的孤立数字，并且很大程度上依赖于每个数字中的元音的共振峰的测量。 1956年，在RCA实验室，Olson和Belar研制了可以识别一个说话人的10个单音节的系统，它同样依赖于元音带的谱的测量。 到21世纪之后，深度学习技术极大的促进了语音识别技术的进步，识别精度大大提高，应用得到广泛发展。
目前，语音识别技术已逐渐被应用于工业、通信、商务、家电、医疗、汽车电子以及家庭服务等各个领域。 例如，现今流行的手机语音助手，就是将语音识别技术应用到智能手机中，能够实现人与手机的智能对话功能。 其中包括美国苹果公司的Siri语音助手，智能360语音助手，网络语音助手等。
随着语音技术和自然语言理解技术的快速进步，AI语音语义技术已在智能翻译、智能医疗、智能汽车、智能客服、互联网语音审核等多个领域实现场景应用。
疫情之后不仅是工业领域，政务服务领域的语音机器人、传统行业企业的语音机器人也将有较高的市场增长空间。 另外，NLP、AI数字员工、RPA的发展，一定程度上也将重塑AI应用场景。
2018年，全球智能语音市场仍呈现快速增长趋势，市场规模为142.1亿美元，根据预测到2024年全球智能语音市场规模将达到215亿美元，其中智慧医疗健康、智慧金融以及各类智能终端智能语音技术需求将成为主要的驱动因素。
4、美国AI高层次学者数量大幅领先
AI高层次学者是指入选AI 2000榜单的2000位人才，由于存在同一学者入选不同领域的现象，经过去重处理后，AI高层次学者共计1833位。 从国家角度看AI高层次学者分布，美国A1高层次学者的数量最多，有1244人次，占比62.2%，超过总人数的一半以上，且是第二位国家数量的6倍以上。 中国排在美国之后，位列第二，有196人次，占比9.8%。 德国位列第三，是欧洲学者数量最多的国家;其余国家的学者数量均在100人次以下。
—— 以上数据参考前瞻产业研究院《中国人工智能行业市场前瞻与投资战略规划分析报告》
