有望替代高能耗的GPU 宾大团队在面包板上设计简单电路

在美国宾夕法尼亚大学实验室的一张桌子上,物理学家萨姆·迪拉沃(Sam Dillavou)通过鲜艳的电线连接了一排面包板(别名:万用线路板或集成电路实验板)。

这个装置看起来像一个 DIY 电子设备项目,而且不是特别优雅。但这个不起眼的组件包含 32 个可变电阻器,可以像机器学习模型一样学习如何给数据排序。

虽然它目前的能力还不强,但它的开发者希望这个原型可以成为图形处理器(GPU,graphics processing unit)的低功耗替代品,并用到机器学习中。

“每个电阻器都很简单,单独拿出来的话没什么意义。”他说,“但当你把它们放在一个网络中时,你就可以训练它们做各种各样的事情。”

该电路可以执行一项分类任务:根据花瓣长度和宽度等属性对花朵进行分类。当给出这些花朵参数时,电路可以将它们分为三种鸢尾花。

这就是所谓的“线性”分类问题,因为如果我们将鸢尾花数据绘制在图表上,就可以(在大部分情况下)使用直线将数据清晰地划分为正确的类别。

在实际操作中,研究人员将花朵测量值表示为电压,并将其作为输入放到电路中。然后,电路会产生一个输出电压,该输出电压对应着三种鸢尾花中的一种。

这是一种与 GPU 使用的方法完全不同的数据编码方式,GPU 将信息表示为二进制 1 和 0。在这个电路中,信息可以采用最大或最小电压,或介于两者之间的任何电压。该电路以 95% 的准确率对 120 朵鸢尾花进行了分类。

现在,该团队已经成功让电路执行了更复杂的任务。在目前正在审稿的预印本论文中,研究人员已经证明它可以执行异或逻辑运算。该电路可以接收两个二进制数并确定输入是否相同。

迪拉沃说,这是一项“非线性”分类任务,而“非线性是所有机器学习背后的秘方”。

其所实现的东西对于我们每天使用的电子设备来说轻而易举,但这不是重点,他和他的同事构建这个电路是为了寻找更好的计算设计。

计算行业正在努力驱动更强大的机器,但前路充满挑战。2012 年至 2018 年间,尖端人工智能模型所需的计算能力增加了 30 万倍。

现在,训练大型语言模型所需的能量相当于 100 多个美国家庭的年能耗。因此,他希望他的设计能为构建更快的人工智能提供一种更节能的替代方法。

为了正确执行各种任务,电路需要训练,就像在传统计算芯片上运行的机器学习模型一样。例如,ChatGPT 在看到许多人类撰写的文本后学会了生成看起来像人类写的文本。

在看到标注了正确物种的花朵测量值后,电路学会了预测哪些参数对应着哪种类型的鸢尾花。

这个设备的训练还要用到另一个相同的电路来“指示”第一个设备。两个电路的 32 个可变电阻器都以相同的电阻值开始。

迪拉沃从第一个电路从第二个电路接收反馈,然后两个电路调整其电阻,使其收敛到相同的值。循环再次以新输入开始,直到电路的电阻稳定在一组产生正确输出的水平上。

本质上,该团队通过一种称为监督学习的方法来训练该设备,人工智能模型从标记数据中学习如何给没见过的数据打上标签,以实现预测。

他说,将电路中的电流想象成流过管道的水会有所帮助。控制水流动的方程类似于控制电子流动和电压的方程。电压对应流体压力,而电阻对应管道直径。

在训练过程中,网络中的不同“管道”会调整其在各个部分的直径,以实现所需的输出压力。事实上,其曾考虑过用水管而不是电子设备来构建电路。

他认为,电路的一个迷人方面是他所谓的“emergent learning”。

“对于人类而言,每个神经元都在做自己的事情。”他说,“然后作为一种新兴现象,你完成了学习。你会做出各种动作,学会骑自行车。”

电路也是如此。每个电阻器都根据简单的规则进行自我调节,但它们共同“找到”了更复杂问题的答案,而无需任何明确指示。

迪拉沃的原型类似一种模拟计算机,它以连续的值而不是数字电路中的 1 和 0 来编码信息。

世界上第一台计算机是模拟的,但工程师开发出了新的制造技术,可以将更多晶体管塞入数字芯片并提高速度。此后,数字计算机取代了它们。

不过,美国东北大学电气工程师阿特梅什·什里瓦斯塔瓦(Aatmesh Shrivastava)表示,专家们早就知道随着计算能力的提高,模拟计算机比数字计算机具有更好的能源效率。

“能源效率优势是毋庸置疑的。”他说。然而,他补充说,模拟信号比数字信号的噪声大得多,这使得它们不适合任何需要高精度的计算任务。

实际上,迪拉沃的电路在能源效率方面尚未超越数字芯片。他的团队估计,在他们的设计中,每个电阻使用大约 5 到 20 皮焦耳来产生单个输出,其中每个电阻代表神经网络中的一个参数。

其表示,这效率只有最先进的人工智能芯片的十分之一。但他表示,模拟方法的前景在于扩大电路规模和增加电阻数量,从而提高计算能力。

他这样解释潜在的节能效果:像 GPU 这样的数字芯片每次执行指令都会消耗能量,因此制造一个每秒可以执行更多指令的芯片就意味着每秒消耗的能量更多。

相比之下,他的模拟计算机的能耗取决于它运行的时间。如果他们将计算机的速度提高一倍,它的能效也会提高一倍。

他的电路也是一种神经形态计算机,也就是说它受到大脑的启发。与其他神经形态方案一样,这里的电路不像传统计算机那样按照“自上而下”的指令运行。

相反,电阻器以自下而上的方式响应外部反馈来调整其电阻值,类似于神经元对刺激的反应方式。此外,该设备没有专用的内存组件。这也是另一个能源效率优势,因为传统计算机在处理器和内存之间传输数据会消耗大量能量。

虽然研究人员已经基于不同的材料和设计构建了各种神经形态机器,但技术最成熟的设计是建立在半导体芯片上的。

一个例子是英特尔的神经形态计算机 Loihi 2,该公司于 2021 年开始向政府、学术和行业研究人员提供访问权限。

此外,澳大利亚西悉尼大学基于芯片的神经形态机器 DeepSouth 计划于 2024 年上线,旨在能够大规模模拟人脑的突触。

机器学习行业也对基于芯片的神经形态计算表现出了兴趣,美国旧金山的一家名为 Rain Neuromorphics 的初创公司于 2 月筹集了 2500 万美元。然而,研究人员仍然没有找到一个商业应用场景,让神经形态计算明确显示其优于传统计算机的优势。

与此同时,像迪拉沃团队这样的研究人员正在提出推动该领域发展的新方案。一些业内人士对他的电路表示了兴趣。“人们最感兴趣的是能源效率。”他说。

但他们的设计仍处于原型阶段,其节能效果尚未得到证实。为了进行展示,该团队将电路放在面包板上,因为“这样最容易操作,而且更改起来最快”,但这种形式存在各种效率低下的问题。

目前,他们正在印刷电路板上测试新设备以提高其能效,并计划扩大设计规模,使其能够执行更复杂的任务。他们的聪明想法能否走出实验室,还有待观察。

支持:Ren

排版:溪树

01/ 科学家研发硅光传算处理芯片,实现片间多模复用光互连,可兼容硅光流片工艺

02/ 科学家研发新型共振光声光谱,具有63dB的大动态范围,可用于痕量气体检测和无创医疗诊断

03/ 中科大团队构筑“三电极”光电二极管,频带带宽提升60%,大幅缩小光通信系统体积

04/ 科学家解析大肠杆菌关键酶代谢纤维结构,分辨率达到2.9埃,助力治疗细菌病原体疾病

05/ 科学家用AI开发生物降解材料,可短时间测试数百种材料,实现全天然复合材料多性能高效调控


GPU功耗为什么比CPU大得多

GPU的电路更复杂,且运算能力更强大,于是耗电量就更高了。 其实,目前来说CPU的绝对性能已经赶不上GPU了。 这也是很多高性能计算机把GPU也纳入运算体系的原因。

cpu的性能指标有哪些?

cpu的性能指标有主频、外频、倍频系数和制程技术。 1、主频也就是CPU的时钟频率,简单地说也就是CPU的工作频率。 一般说来,一个时钟周期完成的指令数是固定的,所以主频越高,CPU的速度也就越快了。 不过由于各种CPU的内部结构也不尽相同,所以并不能完全用主频来概括CPU的性能。 主频和实际的运算速度是有关的,只能说主频仅仅是CPU性能表现的一个方面,而不代表CPU的整体性能。 2、外频外频是CPU的基准频率,单位是MHz。 CPU的外频决定着整块主板的运行速度。 通俗地说,在台式机中,所说的超频,都是超CPU的外频(当然一般情况下,CPU的倍频都是被锁住的)相信这点是很好理解的。 但对于服务器CPU来讲,超频是绝对不允许的。 前面说到CPU决定着主板的运行速度,两者是同步运行的,如果把服务器CPU超频了,改变了外频,会产生异步运行,这样会造成整个服务器系统的不稳定。 3、倍频系数倍频系数是指CPU主频与外频之间的相对比例关系。 在相同的外频下,倍频越高CPU的频率也越高。 但实际上,在相同外频的前提下,高倍频的CPU本身意义并不大。 这是因为CPU与系统之间数据传输速度是有限的,一味追求高倍频而得到高主频的CPU就会出现明显的“瓶颈”效应——CPU从系统中得到数据的极限速度不能够满足CPU运算的速度。 4、制程技术制程越小发热量越小,这样就可以集成更多的晶体管,CPU效率也就更高。 扩展资料CPU主要功能1、处理指令这是指控制程序中指令的执行顺序。 程序中的各指令之间是有严格顺序的,必须严格按程序规定的顺序执行,才能保证计算机系统工作的正确性。 2、执行操作一条指令的功能往往是由计算机中的部件执行一系列的操作来实现的。 CPU要根据指令的功能,产生相应的操作控制信号,发给相应的部件,从而控制这些部件按指令的要求进行动作。 3、控制时间时间控制就是对各种操作实施时间上的定时。 在一条指令的执行过程中,在什么时间做什么操作均应受到严格的控制。 只有这样,计算机才能有条不紊地工作。 4、处理数据即对数据进行算术运算和逻辑运算,或进行其他的信息处理。 参考资料cpu性能指标-网络百科

显卡的供电电路设计不合理 gpu满载情况会掉帧么?!请有中高端显卡的朋友一起探讨

供电模块的设计影响的是电气性能,也就是稳定性.而不会对游戏性能有任何影响,那是GPU规格和显存规格才会影响的事情.这个没什么可多说的,抬杠没意思. 掉帧几乎没办法和供电模块设计扯在一起的.

  • 声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。
  • 本文地址:https://www.srwj168.com.cn/keji312/27563.html
国家网信办开展整治专项行动并通报典型案例
FPX前打野Moyan声援小老虎 揭露俱乐部不公待遇