由光构成的神经网络
科学家提出了一种利用光学系统实现神经网络的新方法,这种方法可以使机器学习在未来更具可持续性。马克斯·普朗克光科学研究所的研究人员在《自然物理学》上发表了他们的新方法,展示了一种比以前的方法简单得多的方法。
ChatGPT 展示了机器学习和人工智能的广泛应用,从计算机视觉到文本生成,无所不包。然而,这些复杂的任务需要越来越复杂的神经网络,有些神经网络甚至有数十亿个参数。神经网络规模的快速增长使这些技术走上了不可持续的道路,因为它们的能耗和训练时间呈指数级增长。例如,据估计,训练 GPT-3 消耗了超过 1,000 MWh 的能源,相当于一个小城镇的每日用电量。这一趋势催生了对更快、更节能、更经济的替代方案的需求,从而引发了神经形态计算领域的快速发展。该领域的目标是用物理神经网络取代我们数字计算机上的神经网络。这些神经网络经过精心设计,可以以更快、更节能的方式在物理上执行所需的数学运算。
光学和光子学是神经形态计算特别有前途的平台,因为可以将能耗保持在最低水平。计算可以以非常高的速度并行执行,仅受光速的限制。然而,到目前为止,存在两个重大挑战:首先,实现必要的复杂数学计算需要很高的激光功率。其次,缺乏针对此类物理神经网络的有效通用训练方法。
马克斯普朗克光科学研究所的 Clara Wanjura 和 Florian Marquardt 在《自然物理》杂志上发表的新文章中提出了新方法,可以克服这两个挑战。“通常,数据输入会印在光场上。然而,在我们的新方法中,我们建议通过改变光传输来印记输入,”研究所所长 Florian Marquardt 解释道。通过这种方式,可以以任意方式处理输入信号。即使光场本身的行为方式尽可能简单,即波会相互干扰而不会相互影响,情况也是如此。因此,他们的方法可以避免复杂的物理相互作用,从而实现所需的数学函数,否则这些函数将需要高功率的光场。评估和训练这个物理神经网络将变得非常简单:“这真的就像通过系统发送光并观察传输的光一样简单。这让我们可以评估网络的输出。同时,这让我们可以测量所有与训练相关的信息”,这项研究的第一作者 Clara Wanjura 说。作者在模拟中证明,他们的方法可以用来执行图像分类任务,并且具有与数字神经网络相同的准确度。
未来,作者计划与实验小组合作,探索其方法的实施。由于他们的提议大大放宽了实验要求,因此可以应用于许多物理上非常不同的系统。这为神经形态设备开辟了新的可能性,允许在广泛的平台上进行身体训练。
版权声明:本文由用户上传,如有侵权请联系删除!