系统级玩家微软 端侧大模型路径清晰了 苹果先后出牌

端侧

落地端侧被认为是大模型走向普及的关键。个人PC和智能手机是当前受众最为广泛的两大终端品类。2023年下半年以来,全球范围内各大PC、手机厂商纷纷通过硬件扩容,尝试将大模型在物理意义上融入终端。

直到近期,大模型融入终端真正迎来关键节点。5月,微软发布Copilot + PC, 紧接着6月,苹果发布Apple Intelligence。

系统级玩家着眼于全局的重塑,相比硬件玩家接近单点出击式的改造,显然不可同日而语。大模型落地终端或将迎来新的范式。但大方向趋同之下,微软与苹果在路径上的差异,也预示着演化路径仍将分叉而行。

财务报表

而与此同时,技术演进正在逐步消解端侧部署大模型的必要性,这又为路径演化注入了更大的不确定性。

巨头的分歧:打造杀手级应用 VS 融入已有应用

苹果先后出牌

5月21日,微软发布Copilot + PC, 重新定义AI PC;而6月11日,苹果发布Apple Intelligence,则试图重新定义AI。发布会上,两大系统级玩家分别展示了一系列AI加持之下的新功能、新产品。虽然同样都是聚焦AI,但各自在产品设计、议程设置上不同的着力点,清晰地体现着两者对于端侧AI落地路径有着截然不同的设想。

微软仍在追求杀手级应用。它全新发布的植根于 Windows 11 操作系统的“Recall”功能,仿佛能让时光倒流。借助于PC本地端大模型的加持,电脑能够“记住”此前进行过的所有操作,然后在用户需要时,简单一句话即可立即召回。

尽管这并不是一种全新的产品概念——类似的回溯功能早已存在,但这确实是一种基于硬件升级的全新尝试。“Recall”功能的的原理是在电脑运行期间,每隔几秒钟捕捉一次屏幕快照,并持续堆积至电脑硬盘,以备用户在以后某个时间根据模糊的记忆找到它们。由于有PC本地端大模型的加持,召回的过程超越了常规精准检索,从而更加便捷高效。

一系列操作的实现,都建立在更为强大的硬件性能基础上上。微软为Copilot + PC设置了硬件门槛,在传统的CPU、GPU之外,还需要配置NPU,且AI算力需要超过40 TOPS,同时内存要达到16G、固态硬盘达到256GB。无论是算力还是内存,都远超市面上绝大多数已有PC产品。

抢先接入OpenAI GPT-4o,让同样根植于Windows 11 操作系统的Copilot具备令人惊艳的“读屏”能力,是微软打造杀手级应用的另一种尝试,尽管这并不属于端侧原生功能。根据现场展示,新款PC中的Copilot能够“看懂”屏幕上正在显示的游戏画面,并可基于自身理解实时提供操作建议,这相当于在电脑中内置了一个永远不厌其烦的游戏专家,而且所能提供的建议是开放式的,远远超出了只有固定剧本的NPC(非玩家控制角色)概念。

与微软形成鲜明对比,苹果则显然没有打造杀手级应用的执念。Apple Intelligence是苹果的AI首秀,它为准备首秀花费的时间最长,但它发布的产品却最为平淡。

Apple Intelligence所提供的一系列功能,比如文本修改校对、归纳总结、图片生成等等,不仅并未超出其它大模型的能力范畴,而且相比安卓友商们已经实现的功能,也并无出彩之处。与微软Copilot一样,新版Siri同样接入了GPT-4o,但在Apple Intelligence的体系中,GPT-4o的地位相当边缘化,仅在遇到复杂问题时,Siri才会经用户同意调用GPT-4o。让功能强悍的GPT-4o扮演可有可无的外挂角色,清晰地表明,苹果并不打算像微软那样倚重OpenAI以打造更具冲击力的功能。

苹果也没有像微软那样将硬件门槛陡然拔高。苹果为Apple Intelligence设定的硬件门槛是A17 Pro(手机端)以及 M 系列芯片(平板和电脑端)。A17 Pro 的 AI 算力为35 TOPS,内存为8 GB,目前仅有iPhone 15 Pro 和 15 Pro Max两款手机配备A17 Pro。M系列芯片以下限M1为例,AI算力约为11TOPS,内存为8GB,近几年发布的iPad及Mac电脑普遍都达标。结合iPhone 15配备A16芯片AI 算力、内存分别为17TOPS、6GB,但不能支持Apple Intelligence,有分析认为苹果为端侧AI设置的门槛,其实仅仅是内存8GB。

在苹果看来,炫技式的单点功能突破以及硬件性能的堆叠,都不是端侧AI的核心。苹果更愿意强调的,是基于现有的硬件条件,将AI融入已有的应用形态。它为此构建了一个略显复杂的三层大模型架构,分别是本地端30亿参数级的小模型、未公布参数量的云端大模型,以及外挂大模型GPT-4o。

虽然据发布会后苹果官方技术博客披露,苹果自研大模型性能相当出色——30亿参数级小模型相比主流几个70亿级模型能力上基本都能胜出、云端模型性能能够达到GPT-4 Turbo级别,但在苹果看来,这些单纯的大模型能力,同样不足以成为发布会的核心看点之一。苹果 CEO 蒂姆·库克(Tim Cook)在发布会上提出了Apple Intelligence的五大开发原则,其中第三条是“整合”(Integrated),意思是AI必须集成到产品体验中。

系统级玩家的共识:构建AI基础设施

苹果的“整合”不仅仅停留在自有App,还面向所有第三方App。苹果专门设计了一套全新的框架,并公布了第一批配套的开发工具,包括App Intents API、Image Playground API等,未来第三方开发者可以直接调用Apple Intelligence,将AI功能融入自己的App。

事实上,这同样是微软的选择。微软为其Copilot + PC设置了一个两层的大模型架构,其中本地端与苹果不同,微软选择了多模型方案,Copilot + PC内置的大模型数量多达40个,而云端则直接接入GPT-4o。与发布Copilot + PC同步,微软推出了"Windows Copilot Runtime"工具套件,支持开发者利用Windows内建的这40多个AI模型,催生全新的应用程序体验。

这或许是两大系统级玩家关于大模型落地端侧最为重要的共识之一。微软是全球最大的PC操作系统厂商,市占率高达70%;苹果横跨PC、手机端,软硬一体,是全球最大的闭源操作系统厂商,全球 80 亿人里,有超过 10 亿人使用 iPhone,还有数亿人使用苹果的个人电脑、耳机、手表。

在操作系统层面提供AI基础设施,或许才是更为长远也更为务实的考量。距离2022年11月ChatGPT震撼出世,已经将近20个月,各大科技公司的天量资源投入仍在继续,但大模型的进化速度呈现放缓迹象。以点燃这波生成式AI热潮的大模型文本处理能力为例,OpenAI 在 5月13日推出了最新模型GPT-4o,据官方公布的评测数据,相比此前的GPT-4 Turbo,GPT-4o文本处理能力提升不大,MMLU(本科生水平的知识)得分提升 2.5%,HumanEval(编程能力)提升 3.6%,MGSM(跨语言数学能力)提升 2.3%,而DROP(文本段落分析推理)则下降了 3%。

但与此同时,杀手级应用仍未出现。根据第三方网站SimilarWeb的监测数据,早在去年6月,ChatGPT流量即已见顶,当月其网站与移动客户端的全球流量(PV)环比下降9.7%,独立访客数量(UV)下降了5.7%,访客在网站上花费的时间也下降了8.5%。而国内轰轰烈烈的“百模大战”之后,大模型玩家们已推出数十款AI产品,但表现最好的头部大模型APP日活跃量也仅在百万级别。

在云端大模型尚不足以催生杀手级应用的局面下,要想在受限于硬件短板的端侧构建基于本地大模型能力的杀手级应用,显然更为困难。相比之下,在操作系统层面提供AI基础设施,对于真正推动大模型在端侧落地,或许是更为务实的选择。这不仅能够更有成效地推动大模型技术与现有应用融合,而且也可以建立系统级的AI生态,让杀手级应用自然而然地生长出来。

技术演进动摇端侧大模型的必要性

但从技术演进来看,大模型落地端侧本地的驱动力开始衰减。

一直以来,成本考量及隐私保护,是推动大模型从云端落地终端的两大因素。

云端大模型普遍千亿级的参数,意味着高昂的推理成本。将推理环节下放至终端,则相当于让终端用户平摊成本,其中包括服务器成本和电力成本。

但5月份以来,经过一轮激烈的价格战,大模型调用价格已经大幅下降,甚至部分被打至白菜价。OpenAI新模型GPT-4o的 API价格降至上一版本GPT-4 Turbo的一半,处理100 万 Token的输入仅需5美元,谷歌同样将其主力模型Gemini 1.5 Pro的调用价格打5折,处理 100 万 Token的费用降至3.5美元。

而国内模型的降价幅度更为夸张。字节豆包大模型将处理输入文本的价格定在 0.8 元 / 百万 Tokens,阿里则把对标 GPT-4 的 Qwen-Long API 输入价格降到 0.5 元 / 百万 Tokens,百度更是宣布主力模型文心一言 ERNIE Speed 和 Lite 模型免费使用。

大幅降价背后,除了短期的市场竞争因素之外,技术演进是支撑降价的趋势性力量。在硬件层面,大模型算力的硬通货英伟达GPU的性价比在快速提升。英伟达年初宣称,靠着改进推理框架等方法,一年时就把大模型推理成本减少到了原本的四分之一。今年 3 月,英伟达发布新产品 GB200 ,宣称它能把大模型推理性能再提高 30 倍。在训练及推理层面,技术的优化也带来降本。比如字节在宣布大模型降价时透露,通过调整模型架构、把在单个设备上做推理改成在多个设备上分布式推理,集中处理模型调用任务,可以提升芯片的利用率,从而将成本降低。

伴随大模型推理成本的持续下降,从成本出发要求大模型落地端侧的必要性也将随之减弱。此外,从隐私保护、数据安全出发的必要性,似乎也开始动摇。

对于如何在调用云端大模型的过程中保障用户的数据安全,一向注重用户隐私的苹果,提出了新的解决方案——私有云计算。私有云计算位于Apple Intelligence三层大模型架构中的第二层,介于本地端大模型以及外挂大模型之间,发挥承上启下作用。按照苹果的解释,私密云计算更像是一个加密协议,具体而言,Apple Intelligence在处理AI相关任务时,首先会评估任务是否能够由本地端大模型完成,如果不能,Apple Intelligence则会通过加密的方式打包一个请求,其中包含与任务相关的提示信息以及需要动用的云端模型,与之相应的是,只有要使用的特定 AI 模型才会拥有正确的密钥。而且这些私密性数据“阅后即焚”, 任何传输到云端的个人数据将仅用于手头的人工智能任务,在模型完成请求后,苹果不会保留或访问这些数据,即使是用于调试或质量控制。

苹果的方案是否行之有效并成为一种新的范式,还有待时间检验。但可以肯定的是,微软苹果等端侧系统级玩家的入场,将为大模型的端侧生态带来巨大影响,叠加技术演进开始动摇大模型落地本地端的必要性,端侧AI的实现路径或将迎来重大切换。


iphone游戏升级后,游戏是不是就重新玩了?

微软 苹果公司

有些是,有些不是如果您担心的话,可以用同步助手之类的软件打开该软件文件夹的Documents,将所有文件导出到电脑上,如果更新后存档没有了,可以连接电脑,再打开Documents,将所有文件删除,再将一开始导出的文件重新导入进该文件夹,登录游戏即可看到原来存档。(已经越狱的机) 如果没有越狱过,安装的是正版软件,那么不会被删去存档

系统级玩家微软

macbook pro 游戏性能

苹果MacBook Pro优点在于: 1、质量好(说散热差那是因为装的WIN 7,用OS X系统时没问题)。 2、全球联保(出国方便), 3、系统不怕中病毒(因为绝大部分的病毒都是针对windows系统), 4、显卡和专有的软件对于图形处理很擅长。 也就是说苹果的电脑,一直都不是擅长玩游戏的本,而是工作用是最佳。 因为显卡不怎么强。 玩大型单机,例如孤岛危机、使命召唤,那是很吃力的。 游戏设置降低点,别太高,再超一下主频应该是没问题的。 玩一些画面不太复杂华丽的竞技类网游是没问题的。

win7的系统要不要升级到win10

升级到Windows 10的理由1、免费毫无疑问,免费的东西谁都喜欢,Windows 10的免费升级策略无疑是以往不具备的卖点。 当然,如果你是盗版用户,还是需要付费购买的。 对于拥有OEM版Windows 7笔记本、台式机,就可以免费、方便地升级到最新系统。 2、Windows 7已经停止服务支持作为一个新的操作系统,Windows 10的支持时间自然要比Windows 7更长。 Windows 7已经在今年一月停止更新,而Windows 10至少会坚持到2020年,如果微软将Windows 10作为服务运营,支持时间则是无限大(当然不排除后期会有付费内容)。 3、应用全平台通用Windows 10的一大特色是全平台覆盖,这意味着很多应用程序将是通用的。 比如,如果你在Windows商店中下载了一款游戏,它可以在台式机、笔记本、平板、手机等多种设备上运行。 另外,跨平台的交互体验提升,有助于用户在不同设备上获得更好的效果。 4、游戏性能更出色Windows 10采用了新型的DirectX 12技术,其性能相比DX 11拥有10-20%的提升,而Windows 8及7永远不会支持DirectX 12,这意味着未来的游戏大作在Windows 10的运行效果会更好。 5、内置应用的提升Windows 10内置了一些新应用,如搜索、Cortana语音助手、Edge浏览器、虚拟桌面等等,能够在一定程度上提升使用体验。 6、安全性Windows 10在安全性方面做出了更多尝试,比如支持面部、虹膜、指纹解锁,另外由于它会不断获得更新支持,安全性方面自然要比Windows 7更出色。 继续使用Windows 7的理由1、稳定新版操作系统无疑存在一些稳定性的隐患,这是毫无疑问的。 Windows 10才刚刚推出,需要一定时间进入稳定期,而Windows 7早已“熟透了”,严重Bug早已被修复,所以稳定性方面暂时更胜一筹。 2、不会强制更新Windows 10一个令人困扰的部分是自动的强制升级,这对于游戏用户来说并不是一个好消息。 通常来说,玩家为了保证游戏正常运行,在新的驱动推出之后,会先观望一段时间;但Windows 10的强制更新包括显卡驱动,也许会造成某些游戏无法正常运行。 3、隐私保护Windows 10采用了一些新的用户信息收集机制,包括访问个人数据包括电子邮件、私人文件夹中的内容等等。 当然,用户可以选择不接受该协议,但肯定会有很多用户没有完整看完协议内容就点选了同意,这意味着你的私人内容可能已经被微软获取。 4、易于使用Windows 7的最后一个优势显然是易于使用,很多用户都已经习惯了这款继XP之后最好的Windows系统。 另外,很多用户并没有触摸屏PC,Windows 10兼顾桌面和Metro应用的主菜单等部分基本没有意义。 另外,Windows 7还拥有媒体中心等令人喜爱的应用,但在Windows 10中已经不复存在。 小结可以肯定的是,Windows 10是值得一试的新操作系统,但对于用户来说,使用习惯可能大于一切,所以是否升级,还是要结合自身情况来决定。

  • 声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。
  • 本文地址:https://www.srwj168.com.cn/kuaibao/33394.html
原来不是所有的父母都会教孩子生活常识!看完网友分享 太心酸了
对谈 唤醒良知 阳明学的智慧