2022年4月25日,中国上海——篆芯半导体、云豹智能与燧原科技三家公司达成战略合作,依托三方各自在智能网络交换机芯片、DPU (Data Processing Unit) 和AI计算领域的软硬件优势,联合开发基于智能网络基础架构的低时延大规模高效能AI算网融合平台,为云端AI计算提供更高效的端到端整体解决方案。
篆芯半导体创始人兼CEO王冰表示:
“DPU和AI加速芯片已经在业内蓬勃发展并进入实用阶段,在大规模云数据中心的部署中,智能网络更进一步将海量DPU和AI加速芯片有效地融合起来,形成大规模高效能AI算网融合平台。除了传统的各种传输协议功能外,篆芯智能网络交换机芯片还将支持针对DPU和AI加速芯片新一代云数据中心需求的新数据中心传输协议(NDP - New Datacenter Protocol)。NDP不但能够完全去除传统协议的历史包袱(如TCP的慢启动,会话的建立及拆除),还能够在网络拥塞的情形下提供高效的告警及缓解机制,进而极大地降低整体交互时延进而提高整体应用的有效性。我们很高兴与AI算力领域领先者燧原科技,以及DPU头部企业云豹智能深度合作,共同为业界提供大规模、高效能的AI算网融合平台。”
云豹智能联合创始人兼COO张学利表示:
“在云数据中心领域,DPU正推动计算基础架构的变革,以提供更高效的数据处理和计算解决方案。DPU与AI加速芯片加上NDP(新一代数据中心网络传输协议)技术,将极大地优化计算和网络基础设施更高效地互通互动,让AI计算更高效、更节能。我们相信NDP与DataDirectPath相关的技术创新必将为新一代云数据中心的应用提供重要的基础技术支撑。我们很高兴与业界AI算力领域领先者燧原科技,以及智能网络交换机芯片先进企业篆芯半导体合作,为业界提供更先进的云数据中心算网融合的基础解决方案,为客户提供领先和创新的数据和人工智能整体解决方案。”
燧原科技创始人兼COO张亚林表示:
“数据中心和云计算是国家新基建重要的算力基础设施,是企业数字化转型的重要保障。在智能数据中心的核心业务中,海量数据和计算能力已成为核心关键。基于云豹智能和燧原科技在数据处理和算力产品的领先优势,融合篆芯半导体在智能网络交换机芯片上的领先技术,将进一步促进新一代云数据中心网络基础架构的变革。通过创新性的DataDirectPath技术实现AI处理器之间以及AI处理器与存储之间端到端的直接通信,协同新一代数据中心传输协议(NDP)的高效能拥塞控制, 打造大规模高性能AI算网融合平台。我们很高兴与智能网络交换机芯片先进企业篆芯半导体、DPU头部企业云豹智能一起,为业界带来领先的基于大规模高性能AI算力平台的新型网络基础架构。”
新一代云数据中心应用比如AI正进入飞速发展的时代,而诞生于半世纪前的传统网络协议早已无法满足当今日新月异的网络流量。为了能够最更高效地支撑新一代应用,新数据中心传输协议 (NDP-New Datacenter Protocol)应运而生。NDP设计主要目标是极大降低新一代应用交互时延,进而极大提升应用的性能。为了达到整体设计的目的,首先NDP会去除传统协议里连接建立及拆除的程序(如TCP SYN/SYN-ACK/ACK,FIN/ACK)及其所带来的时延;然后NDP会将传统协议里的“慢启动”改成“快启动”,从而节省了慢启动所带来的不必要时延;最后当网络拥塞产生掉包时,NDP也会及时向应用终端提出告警,以便应用终端能采取补救来尽快完成交互。
1、当蓝色封包进入转发目的端口时,由于蓝色封包所对应的出口队列(优先级2)已经拥塞了,篆芯智能交换机芯片会将此蓝色封包截断并修改成红色告警封包,然后将红色告警封包放进最高优先级的出口队列(优先级0)。
2、当篆芯智能交换机芯片将最高优先级的红色告警封包优先送出到应用接收端云豹DPU网卡时,云豹DPU就能根据红色告警封包的内容做相应的拥塞动作其中包括通知应用发送端的云豹DPU调整发送速率并重传原先被修改的蓝色封包。
在云数据中心里,NDP提供了DPU与DPU之间应用交互极低时延的连接。为了更进一步提供AI与AI计算之间应用交互极低时延的连接,云豹智能与燧原科技合作,基于云豹DPU和燧原科技云燧T20率先推出了DataDirectPath解决方案。在创新的DataDirectPath解决方案中,云燧T20通过云豹DPU直接获得数据,从而绕过系统内存和CPU,让数据访问速度更快,访问延迟更短。依托篆芯半导体、云豹智能和燧原科技三方技术优势,通过NDP+DataDirectPath的创新技术组合,将实现一个更大规模、高效能及极低时延的AI算网融合平台,为云端AI计算提供更高效的端到端整体解决方案。
关于篆芯半导体
篆芯半导体作为一家由数通行业资深人士创立的集成电路设计企业,将目光聚焦于数通网络产品的核心竞争力,致力于研发具有完全自主知识产权的一线高性能可编程数通网络芯片,打造真正符合国内客户需求的底层硬件。其创新性架构、切合实际的落地解决方案,可广泛应用于云服务商、设备商、运营商、大型企业等场景。
关于燧原科技
燧原科技专注人工智能领域云端算力平台,致力为人工智能产业发展提供普惠的基础设施解决方案,提供自主知识产权的高算力、高能效比、可编程的通用人工智能训练和推理产品。其创新性架构、互联方案和分布式计算及编程平台,可广泛应用于云数据中心、超算中心、互联网、金融及智慧城市等多个人工智能场景。
关于云豹智能
云豹智能是一家专注于云计算和数据中心数据处理器芯片(DPU)和解决方案的领先半导体公司。由原RMI公司(后被Netlogic/Broadcom收购)co-founder Sunny Siu萧启阳博士联合业界精英创立。核心团队来自Broadcom、Intel、Arm、华为海思、阿里巴巴等,拥有中国最有经验的DPU芯片和软件研发团队。旨在成为引领数据中心和云计算最前沿技术,并建立“软件定义芯片”行业标准的高科技公司。