云端混合大小模型是关键 加速AI落地企业!微软解读Copilot技术栈

智东西(公众号: 作者 香草 编辑 李水青

智东西6月14日报道,今天,微软在Microsoft AI Day上集中展示了其在生成式AI上的最新技术突破与进展,包括一系列Azure AI新服务与新功能、Microsoft Copilot技术栈,帮助企业开发者打造专属Copilot的Microsoft Copilot Studio等一系列开发工具与平台服务。

在今年的Build全球开发者大会上,微软围绕Azure AI和Copilot发布了60多项产品、服务、解决方案,本次通过Microsoft AI Day,微软将最新的技术创新和发展趋势,同步更新给更多的开发者、客户、合作伙伴,以开放合作的态度推进创新技术的普及应用。

微软全球资深副总裁、微软亚太研发集团主席王永东谈道,微软在AI技术方面的发展是非常迅速地,他称之为“微软速度”。从2019年与OpenAI合作开始,微软抓住AI转型机遇,频繁推出新产品、新升级。其中,GitHub Copilot、Teams高级版嵌入GPT、Microsoft 365 Copilot的发布和扩展插件支持等是具有代表性的关键节点。

▲微软的AI发展路径

微软亚洲区Microsoft Azure策略运营总经理康容、微软大中华区首席运营官陶然与智东西等少数媒体进行了深入交谈。

当智东西问道,对于中小企业、创新企业,生成式AI有哪些潜力和价值?

康容称,虽然在案例分享中以大型企业为主,但从亚太地区来看,AI在中小企业、创新企业中的使用率并不低。它们的痛点和大企业恰恰相反,由于没有过重的数据负担,因此从技术层面上,Copilot等AI产品的融合会更容易,新技术的迁移也更为灵活便捷。

陶然谈道,创业公司前期最大的痛点,其实都是缺少资金和人才,微软Copilot能够帮助小团队在人数、资金有限的情况下,发挥出更大的能量。对中小企业来说,信息处理等能力需求高,微软的产品可以帮助他们加速新产品试用推广、团队扩张。

一、 平台推出 能力,小模型满足端侧需求

在Scaling Laws下,AI技术的能力大约每六个月就会翻倍增长。陶然谈道,如何让技术成果对齐行业、企业的实际业务需求,加速技术能力的落地转化,成为当前微软最关注的业务领域。

▲Scaling Laws

基于企业级Copilot,微软构建了从云到边缘,从AI基础设施、基础大模型、数据智能平台到AI开发平台与工具链,再到可定制的Copilot及扩展功能的Copilot技术栈。

▲微软企业级Copilot技术栈

Microsoft Copilot Studio是由Copilot扩展的专属平台,其推出Agent代理功能,让开发者能够根据特定任务和功能,构建出做出针对性主动响应的Copilot。

定制化的Copilot可通过记忆和知识了解上下文背景、推理需要进行的操作和行动,基于用户反馈进行学习,并主动寻求帮助,独立管理复杂、长期运行的业务流程。

▲Copilot扩展的专属平台Microsoft Copilot Studio

从IT设备采购、销售到客户服务,用户可以从不同场景和自身业务需求出发,量身定制Copilot。通过插件和连接器等Copilot扩展,用户可以连接到不同的数据源和应用程序,进一步拓展Copilot的适用性和功能。

在模型层面,陶然称,微软认为AI时代并不是只有大模型,高效的端侧小模型同样重要。

微软的小语言模型Phi-3系列,发布全新多模态模型Phi-3-vision,其具备42亿参数,可提供语言和图像处理能力,能够实现基于照片的推理,并优化对图表内容的理解能力。Phi-3小语言模型能够同时满足云端运行,以及面向网页、移动端和边缘设备的本地部署的需求。

▲微软Phi-3系列小模型

二、 提供云上 服务, GitHub Copilot 累计 万付费用户

康容介绍,目前全球有超过5万家企业和组织采用微软Azure AI服务。

▲微软Azure

在Build 2024全球开发者大会上,微软宣布与AMD、英伟达等合作伙伴深化合作,为用户提供多样化的高性能云基础设施服务。

在与英伟达的合作方面,微软将英伟达Omniverse Cloud、DGX Cloud与微软云服务、Fabric数据服务深度集成,让开发者第一次得以在Azure云端调用Omniverse的API开发AI解决方案。

▲微软与英伟达全栈合作

作为首个将AMD MI300X AI加速器芯片用于客户AI训练和AI推理的云服务商,微软正式发布针对Azure OpenAI Service的高性能计算(HPC)工作负载进行优化的Azure ND MI300X v5虚拟机系列。

▲微软新一代Azure虚拟机

康容谈道,在大模型领域,OpenAI是微软最重要的战略合作伙伴。OpenAI的旗舰模型GPT-4o在Azure平台上开发训练,现已加入Azure AI Studio,同时也可作为API服务调用。

▲Azure OpenAI国际版

Azure AI服务也在不断拓展MaaS的覆盖范围,提供了对Coherence、Databricks、Deci、Meta、Mistral AI、Snowflake等大模型服务的支持。

微软还宣布进一步加强与开源社区Hugging Face合作,将更多来自开源库的优秀语言模型引入Azure AI服务和Azure AI Studio开发工具。

▲Azure AI Studio

GitHub Copilot是微软旗下AI驱动的开发者智能副驾驶,过去两年已累计超过180万付费用户,得到90%“财富100强”企业的信任。

▲GitHub Copilot

三、微软助力 落地应用,加速制造、金融、教育业智能转型

微软中国区总裁原欣谈道,AI正在成为现代生产力必不可少的组成部分。2024年度《工作趋势指数报告(WTI)》显示,在全球范围内,75%的受访劳动者称其已经将AI用于日常工作,其中近半数的人在最近6个月内开始使用AI。

与此同时,AI技能正成为用人单位招聘时的考量之一,71%的受访管理者称,在有经验而缺乏AI技能,与经验略有欠缺但AI技能扎实的候选人之间,他们更倾向于选择后者。在中国市场, 91%的受访劳动者已经将AI用于日常工作,82%的管理者更看中求职者的AI技能。

▲微软AI在客户中的应用

原欣称,微软植根中国市场三十余年,积累了推动不同行业客户数字化转型、智能化创新的丰富的成功经验,能够更好地根据不同行业的业务场景、企业需求,为其量身定制“接地气”的技术落地和解决方案。

北京世纪好未来教育科技有限公司CTO田密来到现场,据他介绍,2023年初,好未来教育集团率先为上千位研发人员配备了GitHub Copilot。

据统计,其开发人员与Copilot月均交互接近2万次,AI辅助编写代码的平均采纳率达到33%,每月总采纳代码总数大约有25万行。

▲好未来采用GitHub Copilot提升效率

好未来在研发教育千亿级“九章大模型”的过程中,借助Azure AI服务,将数据标注的效率提升了35%,实现了客观题评估、主观题评估等多个任务的自动化评估。此外,好未来基于九章大模型研发的AI Tutor产品中,广泛采用了微软Azure提供的高精准ASR和超拟人TTS技术。

▲好未来采用微软Azure AI服务

OPPO AI中心产品总监张峻介绍,微软为其即将面世的海外手机新品上的AI功能提供智能语音服务支持,包括运用Azure AI服务中的ASR与TTS开发的AI录音摘要和AI文章朗读功能。

相关功能通过直接调用Azure API即可面向全球用户提供服务,其中语音相关特性开发和调试用时仅一个月,帮助OPPO大大降低了人力与物力的支出,而且可以更好满足海外市场对于安全隐私与合规的严格要求。

▲OPPO与微软合作

麦当劳中国也选择微软作为首个智能化深度创新伙伴。据介绍,微软为麦当劳中国量身定制了整套智能化创新解决方案,包括由Azure云平台提供自然语言交互、生成式智能、机器学习等企业级的智能化服务;以融入Copilot的Microsoft 365为基础,构建高效的员工协作平台;通过GitHub Copilot加速IT开发和系统运维,提升IT系统及业务应用开发迭代效率等。

此外,麦当劳中国南京创新中心成立“AI-Lab”,将智能技术引入麦当劳中国“汉堡大学”,为20万名员工提供职业发展与技术技能培训。

在帮助企业加速AI落地层面,康容谈道,就微软与客户的接触来看,目前各行各业都在积极部署AI,其中金融、教育、制造业、电商等用量较大。在亚太地区尤其是中国市场,客户对新的产品、技术接受度更高,相较之下欧盟的客户可能更加保守。

结语:国内企业走上第三阶梯, 应以安全为先

相比ChatGPT刚出现时,企业对AI的认知有哪些变化?康容谈道,过去一年多,企业逐渐从认识AI,过渡到开始重视如何将AI融入现有业务,走上第二、第三阶梯的客户越来越多,而且国内的客户走得更快。

陶然认为,AI的发展一定是以安全为先,在此基础上,未来AI要帮到每个人,必须是端侧、云端相结合。微软在大模型上的心态是开放和兼容的,小模型不会取代大模型,而是作为不同侧重点的模型相互结合,发挥最大的优势。


人工智能,未来竞争压力大不大?

最近一年多感受明显,AI已经落地,尤其是NLP、OCR等领域技术栈和产品已经足够成熟,提供云服务的企业也不少,使得就业门槛越来越低,最重要是现在大环境不乐观,有AI迫切诉求的企业在减少,差不多固定了以腰部以上企业为主,整个技术团队的招聘名额确实有明显压缩,所以体感明显些。

大环境的短期趋势并不乐观,所以名额有收缩。

如果你选的目标企业可能是一二线大厂,以及独角兽企业,而目前市场大环境的短期趋势并不乐观,不是只有AI,其他所有职位都有明显收缩,一二线厂因为嗅觉和判断更敏锐,未雨绸缪更明显,所以在人员HC上反应会更坚决。

如果不是以上企业,因为越来越多的企业很清晰的明白,现有AI技术的基础应用对能力的要求并不高,要学会它并不太难,硕士甚至本科大学相关专业在基础好的情况下,也能很好的学习适应,所以从成本来考虑,企业其实更乐意校招和内部技术转岗来填补。

大环境变差的情况下,小厂的AI诉求不得不快速压制。

AI的效益,往往需要基于大量的用户数据才能产生规模化的复用效益,小厂不具备这样的数据规模以及一整套数据和算法基础平台,以前大环境不错,AI技术的使用甚至被用来当做融资的优势。 在目前大环境不好的情况下,已经不具备养活一个这样规模团队,而如果不能形成团队化、数据规模化就形成不了足够的AI竞争优势,对处于生存压力下对资金更敏感的创业公司来说,还不如先节约成本,干好本行过完冬再说。

老人变新人、外行人的资源挤占

先不说应届生了,IT还有很多在行业之外的从业者,通过“AI培训班、二个月专家速成班”,也急迫的挤进来抢占除大厂外的岗位资源,当然,AI领域也有一定基础门槛,所以部分转去做前后端的开发了,一部分在小厂得到机会开始从事基础的AI开发,使用的也是成熟的外部产品。

大部分AI资源的竞争者还是业内的传统后端开发人员,尤其是入行年限在1~3年以内的,就连园区楼下看门的保安都知道AI的薪资和前景好,社会的发展也一定会朝着这个方向走,所以只要有机会,更乐意转岗学习AI。 就职的机会确实还是有的,外部招聘专业人才的成本高昂,企业更乐意内部转岗培养、甚至启用外行人。

这里说下,不是只有AI,IT互联网行业所有的从业者,都存在着职位被外部挤占的事实趋势,毕竟刚工作动不动就一万起的职位,几年就能二三万的工资谁不眼红?你让那些师范类、建筑类、服务业的同学情何以堪?这些速成培训班的企业,也间接革了程序员的命,全员都懂AI时,谁还需要只懂基础型的工程师?

但专家级的“调优”大师,不管在哪个行业、小厂还是大厂都会吃香。

业界主流对AI人才的产品诉求和价值认同,已经被技术发展所磨平。

大厂在大数据平台、算法模型平台、实时离线计算等平台建设上已经相对成熟和稳定了,在具有大规模(上亿)用户和大规模商业(不同垂直的业务产品)场景的场景下,算法的任何细微效果提升,都能带来规模化的巨大收益。

阿里、腾讯、网络、华为等企业又通过云平台,将这些技术的基础设施和通用的业务能力对外部进行了云产品输出。 外部企业在用户量和商业场景方面其实诉求不高,而且大厂已经形成了聚虹效应,通过不断收购、投资、创新,切入到不同的细分领域,流量开始逐渐向大厂汇集,使得外部企业的用户规模很难做大,AI介入带来的商业价值从概率上来说,可能性就很低,小厂在目前融资和大背景都不乐观的情况下,最迫切的先解决生存问题,发展壮大后再考虑用户和产品的规模化后带来体验和极致的成本效率问题,他们认为那时的算法介入才更划算,当下的技术做好对业务的支撑即可。

怎么才能玩转AI?

2019年,热门的人工智能(AI)继续在产业中快速奔跑,越来越多的行业开始搭上智能化升级的大潮。 然而,长时间、高成本、高投入、复杂繁琐的AI开发流程,正阻碍着AI产业的规模化发展,许多传统企业不能轻松快速地构建AI能力。

喝一杯水要几步?对于普通人来说,这是一件毫不费脑的事。 那么AI开发需要几步呢?对于开发小白和AI专业开发者来说,答案截然不同。

今年,华为云EI(企业智能)一站式AI开发平台ModelArts正式商用上线,不仅让许多AI小白拆除AI开发的门槛,同时也让诸多AI开发者享受到更为高效便捷的开发体验。

这一被称为“开发者的福音”的AI平台,究竟是怎样的利器?它又在如何在各个传统行业发挥作用呢?对此,小编分析了ModelArts加速AI开发的四大亮点,详解ModelArts平台使用步骤,并亲身体验了ModelArts的极简操作流程,过了一把AI开发瘾。

简单的说,ModelArts平台就是一个让小白轻松学会训练AI模型、让AI老手节省时间脑力的开发神器,让各行各业关于AI的创意都能快速实现。

说到这里大家可能还是会有疑问,作为智慧IT设计师,新网络建筑师-集辉信息的小编在这里举个例子,让我们在日常生活中看一下这个ModelArts到底是何方神圣。

救标注数据的小王一命——ModelArts 数据管理

上班刚打完卡,老板就丢给小王10万张无标签的图片,要求小王为这些数据打上标签。

给10万张图片打标签,看似简单的工作,实际上并不简单。

华为云EI深度学习服务团队负责人也说:

“头疼的就是数据的采集和数据的处理。 光是数据准备就要占掉整体开发时间的 70%。 ”

为什么数据的处理这么难?效率为什么这么低呢?

包括小王公司在内的许多公司都是从交易数据、物联网传感器产生的海量数据、安全日志到图像、语音数据中提取有效信息,这几乎是大海捞针式的方法。

因为,这些都是未标注的数据,而目前实现人工智能的主要方法是机器学习,大部分应用都是有监督的学习,这就需要大量的标注样本去训练人工智能算法模型。

所以,AI 算法并不是丢一堆数据能够从中学习到各种有用的知识,而是背后有大量的人工在标注数据。

小王就是这个人工之一,看似简单的工作每天却花费了不少时间精力,小王很是苦恼,开始反思自己。

第一,就输入关键词找图而言,网上的海量图片实在是太多了,用人力去识别的话,真是老费劲了;

第二,自己确实面对如此多的美图,还是会忍不住开个小差,三心二意地选不下来啊。

难道一个小小的助理生活就如此不堪,连最基础的工作也做不好吗?

小王不想就这么放弃。

那么,要不试一试企业刚引进的华为云ModelArts

在数据管理方面,ModelArts首先会将数据进行预处理,用 AI 的算法去标注数据,即自动化标注和半自动化标注。

接着,ModelArts 可对数据采样和筛选,预标注,缩减需要标记的数据量。

这就大大降低了工作量。

简要说明什么是推动工人智能发展的三大因素?

第一:产业结构升级的推动。 产业结构持续升级是推动AI行业发展的重要因素之一,网络化、信息化、智能化是传统行业进行结构化升级的重要内容之一,所以人工智能产品未来将广泛走进传统行业,全面提升传统行业的生产效率。 第二:5G和物联网的推动。 随着5G通信的落地应用,物联网领域将释放出大量的机会,一系列基于物联网的行业应用场景将需要人工智能产品的深度参与,比如自动驾驶、智慧物流、智慧城市、智慧医疗等等。 随着5G的发展,基于5G通信的生态体系将进一步促进物联网和人工智能的结合,这也是促进AI发展的重要因素之一。 第三:大数据和云计算的推动。 大数据的发展是推动AI发展的重要因素之一,由于人工智能需要大量的数据基础(算法训练、算法验证),所以在大数据时代背景下,机器学习(包括深度学习)、自然语言处理、计算机视觉等研究方向得到了较大的支撑,相关技术的应用效果也得到了明显的改善。 随着云计算,尤其是边缘计算的发展,未来AI产品的应用将在算力上得到有效的支撑,从而为AI产品的广泛应用奠定基础。

  • 声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。
  • 本文地址:https://srwj168.com.cn/chuangtou/31461.html
人类如何挣脱被人工智能替代的命运
周也耍大牌风波升级 这次真踢到钢板了 央视电影频道再放证据