新氦类脑智能 > 资讯洞察 > 新闻中心 > 新氦X曦智|为类脑智能插上“光的翅膀” 2023/9/25
新氦X曦智|为类脑智能插上“光的翅膀”

在上海新氦类脑智能,一个个手写体数字得到精准识别,正飞速在屏幕上闪出。MNIST数字识别场景可以说是图像识别的“hello world”,而在曦智科技Hummingbird 处理器上运行新氦类脑智能SNN(Spiking Neural Network)类脑神经网络算法,可使MNIST数字识别分类精度达到90%以上。



新氦类脑智能总经理梁龙飞表示:“作为一个功能型平台,新氦类脑智能的使命是创新、研发和转化新型架构AI芯片和片上智能系统。经过长时间的合作,新氦类脑智能与曦智科技共同打造以片上光网络(oNOC)技术和Hummingbird计算卡为基础的类脑计算、图像识别、大语言模型对话等落地应用PoC (Proof of Concept),取得了良好的效果。”


曦智科技创始人、首席执行官沈亦晨博士表示:“从光子矩阵计算(oMAC)、片上光网络(oNOC)、片间光网络(oNET)三大核心技术出发,曦智科技打造了光子计算与光子网络两条产品线,并且始终致力于为客户持续提供更具创造性的高效算力支撑。通过与新氦类脑智能的合作,光电混合计算的优越性得到了进一步验证。”



光电混合助力机器学习性能表现显著提升

在近日举行的Hot Chips大会上,曦智科技推出了基于oNOC技术、用于特定领域人工智能(AI)工作负载的计算卡Hummingbird。该计算卡采用先进封装技术,将光芯片和电芯片进行垂直堆叠,集成到一张PCIe板卡上,可直接用于目前通用的服务器。


1.jpg


曦智科技Hummingbird计算卡



在晶体管密度提升放缓的背景下,制程工艺迭代所能带来的性能提升愈发有限,单个节点的算力提升出现了多种思路。比如通过在单个封装内互连多个芯粒来获得更高的算力。然而,由于这种方式还是采用电互连,每个电芯片只与最近邻芯片相连,限制了软件可编程性,进而限制了计算效率。


Hummingbird计算卡可以将电信号转化为光信号,经由光芯片中的光波导网络进行数据通信。结合曦智科技的软件开发工具包,该计算卡可以充分利用oNOC技术的优势。在此基础上,客户可实现算力和内存扩展,降低延时,拓展互连带宽,拓扑结构的选择也将更加灵活,从而深度赋能机器学习和人工智能工作负载的性能提升。


oNOC技术赋能三大PoC使用场景

除了类脑计算,新氦类脑智能使用8张曦智科技Hummingbird计算卡并行计算实现了8路1080P视频的图像识别应用,识别效率、准确率表现良好,运行稳定可靠。



在大语言模型的浪潮下,新氦类脑智能采用曦智科技光电混合计算方案,已经成功运行MOSS 160亿参数大语言模型。目前,该项目仍在进行中。


新氦类脑智能实际使用的PoC案例,证明了曦智科技的oNOC技术及Hummingbird计算卡的应用可行性,充分发挥了该技术在算力扩展方面所具有的低延时和低功耗等优势。借助oNOC技术,在单颗电芯片上扩展算力及数据交换带宽成为可能。



新氦类脑智能在支持初创及科技创新企业方面发挥了研发与转发功能型平台的积极作用,汇聚下游应用场景及高校资源,为革命性新型硬件、器件技术提供了实验性平台并在实际应用场景中落地。PoC方面的合作让创新型技术可以在实际应用方面进行产品化及商业化,最终把技术和产品推向市场。


曦智科技近日连续发布了Photowave、Hummingbird等全新产品,产品的应用性及优越性进一步得到客户认可。接下来,曦智科技将继续坚持以客户需求为导向,提供“端到端”的定制化完整解决方案,进而建立围绕软硬件、开发者、产业三大生态的完整光电混合计算新生态。


NeuHelium新氦、曦智科技原创内容,未经允许,不得转载