科学家“复活”二极管-忆阻器架构,优化AI计算机架构,有望实现高密度低功耗的AI功能单元 科学家“复活”二极管-忆阻器架构,优化AI计算机架构,有望实现高密度低功耗的AI功能单元
admin
2024-03-30 16:22:02
0次

“作为下一代针对 AI 的计算架构,基于忆阻器网络的神经形态计算在提升运算效率和降低功耗方面拥有巨大前景。

我相信本次成果能为神经形态计算带来不一样的生机,也能用于高密度集成的大规模神经网络构建,以适应更加复杂的神经形态计算任务。

未来,很多 AI 算法都能使用这个架构组织加以实现。”美国芝加哥大学博士后付天达表示。


图 | 付天达(来源:付天达)

据介绍,在传统计算机架构之中,内存与处理器之间的数据传输,导致计算速度遭到限制。

而对于更为高效的存内计算技术,现有的晶体管-忆阻器架构(1T1R,one-transistor-one-memristor)技术仍然存在一定限制。

另一方面,二极管技术虽然具备潜力,但也受到单极性的限制,导致无法适配需要双向编程的主流忆阻器。

而在本次研究之中,付天达等人利用二极管的反向恢复特性,实现了双向忆阻器寻址的新方法,并将其应用于构建二极管-忆阻器(1D1R,one-diode-one-memristor)可编程阵列。这样一来,上述阵列就能被用于神经网络的在线训练和分类。

总的来说,本次研究为忆阻器神经形态计算技术的发展提供了新动力,打破了传统选择器的限制,为高密度、低功耗的神经形态计算系统设计提供了新思路。


图 | 1D1R 双向编程基本原理(来源:Device)

据介绍,人们目前能看到的所有 AI 算法,都是基于传统计算架构(冯诺依曼架构)搭建的。从底层逻辑来说,使用这个架构搭建 AI 算法并不是非常有效。

而基于忆阻器的架构,可以使用物理结构“天然”地构成人工神经网络,具有更高效的信息处理与计算能力。

关于基于忆阻器的神经形态应用前景,理论来讲目前所有的 AI 任务(比如 Chat-GPT、Sora)都可以通过该架构加以实现。

也就是说,付天达等人使用了一种更高效的、区别于传统 CPU、GPU、TPU 的 AI 架构来实现 AI 模型,这意味着 AI 算法能够借助更加高效的底层架构来实现更快的发展。


图 | 冯诺依曼架构的瓶颈(来源:www.intechopen.com)

那么,基于怎样的原因促使他做出了本次成果?

据了解,神经形态计算技术,旨在模仿人类神经系统的工作原理,具有并行性、非线性性和自适应性等优势,在处理复杂信息和模式识别方面具有巨大潜力。

然而,潜行路径(Sneak Path)问题是传统忆阻器架构中的一个主要挑战。为了应对这个挑战,人们提出使用基于晶体管的 1T1R 架构来抑制潜行路径。

虽然从性能上来说,晶体管能为基于忆阻器的神经形态计算发展带来无限可能。但是,作为三端器件的晶体管,实际上折中了使用双端忆阻器进行高密度集成的优势。

无论是从集成度、还是从功耗上来讲,三端器件都不是最优解。基于两端器件(二极管)的 1D1R 架构,虽然早早就被提出,但是二极管的单向导通特性,无法和忆阻器的双向操作要求所匹配,所以 1D1R 架构的发展被搁置数年之久。

在之前的工作中,付天达等人曾提出将易失性阈值器件的恢复时间,来作为可以短暂编程忆阻器的窗口 [1],这一方法也为使用单向导通器件去双向编程忆阻器提供了全新的解决方案。

但是,由于易失性阈值器件无法像工业成熟的晶体管一样稳定,所以很难直接把它用于神经形态计算之中。

因此,付天达想到了被搁置数年的 1D1R 架构。虽然二极管(Diode, D)就是单端器件,但是他了解到二极管也有一个所谓的反向恢复时间。

于是,他萌生了使用二极管反向恢复动力学,来“复活”1D1R 架构的想法。“这个点通常不会被人们所注意,因为业界希望恢复速度越快越好,而这个想法则是希望它恢复得更慢一点。”其表示。


图 | 二极管反向恢复示意图(来源:www.tf.uni-kiel.de)

而只要利用上述方法,在二极管恢复的短暂时间内(一般在几十到几百纳秒),就能短暂地反向操作二极管,从而现逆向编程忆阻器。

通过这种方式,付天达等人“复活”了 1D1R 架构,让其可以成为一种更可靠的神经形态架构,从而应对更多、更复杂的 AI 工作。

那么,什么是反向恢复动力学?实现上述二极管转变的基本原理是什么?对此,付天达表示二极管的反向恢复动态,是指二极管在从正向导通状态、切换到反向截止状态时的恢复过程。

在二极管从正向导通状态、切换到反向截止状态时,存在一个反向恢复时间。即从二极管停止导通、到完全进入截止状态,需要一定的时间。

这个过程涉及到二极管内部的电荷重新分布和电场恢复的动态过程。在二极管切换状态时,一些载流子需要一定时间从导通区域转移到截止区域。同时,电场也需要一定时间来达到新的平衡状态。

对于用忆阻器来构建神经形态计算系统来说,这项工作的重要性在于它通过利用二极管的反向恢复动态实现双向寻址,为忆阻器技术在神经形态计算系统中的应用提供了新的解决方案。

这一方法不仅降低了系统的结构复杂性和能源消耗,还提高了系统的灵活性和可编程性,有望促进神经形态计算技术在 AI 和信息处理领域的广泛应用。


图 | 8*8 1D1R 阵列(来源:Device)

详细来说,本次成果具有以下优势:

其一,可以动态寻址。

通过利用二极管的反向恢复动态,可以实现双向寻址功能,从而能在忆阻器构建的神经形态计算系统中,实现更灵活、更高效的寻址和数据访问操作。

其二,可以降低复杂性。

与传统的使用三端子选择器(如晶体管)的系统相比,利用二极管的反向恢复动态实现双向寻址的结构相对简单,能够更好地适应忆阻器系统中的交叉阵列结构,从而提高系统的集成度和可扩展性。

其三,可以降低功耗。

传统方法中,人们通常使用三端选择器的结构(比如晶体管),这需要使用大量的外围电路,去控制忆阻器架构当中的三组控制线。

而使用两端结构的二极管,可以有效将三组控制线减少为两组,从而极大减少外围电路的负担。

研究中,付天达等人使用这个阵列构成了双层人工神经网络,并能进行一些基础的在线机器学习工作,比如七段数码管识别和手写字体识别等。

当谈论到做这个项目最难忘的经历时,付天达表示说,“那个时候,由于我的孩子刚出生,所以实验基本上都是在一些很奇怪的时间去做的,比如 10PM 到 1AM,5AM 到 9AM,看论文也都是在喂奶的空隙。”

“当然,我太太在家付出得更多。她为了让我睡好觉,很长一段时间都是她一个人晚上带孩子睡觉。我去做实验的时候,只有她一个人去面对哭闹的孩子。当实验失败,项目生死未卜的时候,也是她给我加油打气。”付天达说。

他继续表示:“可以说,是我太太成就了这个项目的半壁江山(也成就了我)。之前听过一个教授讲到无论男女教授,科研成功的背后一定有一个后方稳定、支持、奉献的家,虽然我无功名,但也对这句话感同身受。”

此外,本次论文共同一作、即付天达的师弟付帅,帮他完成了很多的实验,保障了此次成果的时效性。

日前,相关论文以《通过利用二极管选择器中的动态反向恢复来实现可靠的两端忆阻器网络》()为题发在 Device[2]。

图 | 相关论文(来源:Device)

付天达和付帅是第一作者,美国马萨诸塞大学的教授担任通讯作者。


参考资料:

1. Fu, Tianda, et al. An Effective Sneak‐Path Solution Based on a Transient‐Relaxation Device.Advanced Materials35.1 (2023): 2207133.

2. Fu, Tianda, et al. Enabling reliable two-terminal memristor network by exploiting the dynamic reverse recovery in a diode selector.Device 2 (2024): 100329.

排版:希幔

01/

03/

04/

05/

相关内容

热门资讯

蜻蜓订购APP贵金属订购非法期...   蜻蜓订购APP以"投资平台"名义对外宣传,主打贵金属期货(订购)交易。该平台一方面强调自身"正规...
悟空订购APP非法期货交易欺骗...   近期,有投资者反映,“悟空订购APP”等平台以白银、贵金属订购为名,宣传所谓“高收益”“低门槛”...
小赢淘金APP期货投资骗局,平...   “小赢淘金”之流,最擅长的就是用“注册送现金”、“充值返券”的糖衣炮弹来引流。别天真地以为那是福...
八方淘金APP非法期货交易欺骗...   警惕!八方生财、每日淘金、小赢淘金、悟空订购、蜻蜓订购、斗金订购等APP均涉嫌非法期货交易!  ...
智易购APP贵金属订购交易骗局...   很多人看到“3元起投”“充值送福利”“操作简单”“随时提现”这类宣传,很容易把智易购APP当成普...
喜玛银庄APP商品订购投资骗局...   喜玛银庄APP白银、铂金“现货订购”骗局警示:无资质平台涉嫌非法期货交易,投资者爆仓后如何维权?...
吉鑫乐享APP炒贵金属订购交易...   近期,多名投资者反映在“吉鑫乐享APP”进行贵金属投资时遭遇严重亏损,甚至血本无归。看似正规的“...
易掘金APP虚假期货投资骗局,...   “易掘金”的APP它打着“高收益、灵活投资”的旗号,宣称通过“商品订购”就能轻松赚钱,吸引了不少...
在大吉订购APP订购交易亏损被...   近期,不少投资者反映在“大吉订购App”上投资白银、铂金等商品遭遇严重亏损。该平台宣称提供现货订...
铂银壹号APP商品订购交易亏损...   许多中小投资者误以为网上的“商品现货订购”是合规合法的理财渠道,殊不知这背后隐藏着巨大的合规风险...
兴鑫淘金APP贵金属订购交易亏...   白银、贵金属或其他商品类投资,除国家批准的正规期货交易场所及持牌期货公司外,市面上大量第三方交易...
铂银掘金APP无资质的违规平台...   铂银掘金等平台的投资者,往往是被“注册送现金”“充值返现券”“首单免亏”等广告话术吸引,进而下载...
八方淘金APP订购交易不合规,...   “八方淘金APP”“铂银掘金APP”“铂银壹号APP”等软件被指以“现货订购”为名,实际采用高杠...
在指尖订购APP订购商品亏损被...   指尖订购APP这类平台,表面是“订购交易”,实则是披着电商外衣的非法期货陷阱。绝大多数投资者被蒙...
在犀贝易购APP做商品订购交易...   市面上打着“现货投资”“贵金属交易”旗号的APP并不少,但真正合规、受监管的平台并不多。犀贝易购...
易达淘金APP虚假商品订购交易...   易达淘金APP存在严重的虚假宣传与违规交易行为。该平台打着“商品订购”的旗号,实则通过不合规的交...
大浪淘金APP白银订购亏损被骗...   大浪淘金APP最隐蔽的套路,在于其完全封闭的内盘交易系统。表面上,它宣称与国际贵金属市场接轨;实...
一品好购APP上订购白银出现亏...   一品好购APP原名“一品订购”,运营方为上海宝智未来信息技术有限公司。近期不少投资者反映在该平台...
九州订购APP贵金属订购投资骗...   九州订购APP正通过抖.音、快手、今日头条等平台大量投放投资广告,用“5元起投”“充值返现”“0...
坚锅淘金APP交易软件并不正规...   当前,市面上大量所谓的“现货商城订购”交易软件,早已偏离了正常的实物商品买卖,演变为高杠杆、高手...