人工智能技术的领先创新者Celestial AI很高兴在OFC 2024上推出Photonic Fabric ,这是一款开创性的光学计算和内存结构解决方案,用于增强人工智能基础设施。
随着人工智能模型以前所未有的速度增长,传统的数据中心基础设施已经到了极限。人工智能模型规模的爆炸性增长推动了在低延迟下增加内存带宽和容量的阶跃函数的需求。Celestial AI 一直在与一些最大的超大规模企业合作,以深入了解计算、内存和网络系统基础设施的瓶颈。这些合作促成了光子结构解决方案的开发,解决了我们这个时代的加速计算问题:人工智能内存墙。
Photonic Fabric 是唯一能够打破“内存墙”并将数据直接传送到计算点的行业解决方案,同时以非常低的个位数 pJ/bit 功耗支持当前的 HBM3E 和下一代 HBM4 带宽和延迟要求。
在 2023 年夏季成功验证了实现完整链接的 Photonic Fabric 芯片后,超大规模客户和半导体客户现在正在设计 Photonic Fabric 光学小芯片,作为技术采用的初始阶段。这种集成无需更改软件,并且直接与客户逻辑协议和现有的多芯片封装流程兼容。客户对将光子结构技术更深入地集成到其系统架构中的路线图感到兴奋,与其他可用的先进技术相比,封装外带宽增加了 25 倍。
Celestial AI联合创始人兼首席执行官Dave Lazovsky表示:“对我们的光子结构的需求激增是拥有正确的技术、正确的团队和正确的客户参与模式的产物。“我们的全栈技术产品正在获得客户的广泛采用,提供电-光-电链路,以所需的带宽、延迟、误码率和功率提供数据,并与客户的 AI 加速器和 GPU 的逻辑协议兼容。与专注于优化系统级加速计算架构的超大规模数据中心客户进行深入的战略合作是这些解决方案的先决条件。我们很高兴能与行业巨头合作,推动光子织物的商业化。
为了加速客户对内存和计算结构的采用,Celestial AI 正在培育光子结构生态系统。这些一级合作伙伴关系包括定制芯片/ASIC 设计服务,包括 Broadcom、系统集成商、HBM 和封装供应商,包括 Samsung。
三星电子执行副总裁兼美国存储器业务负责人Jim Elliott表示:“硅光子学技术将显著改善芯片到芯片和芯片到存储器的互连。“Celestial AI 的 Photonic Fabric 有可能通过以 HBM 的全速连接大量共享内存来消除'内存墙',从而实现人工智能训练和推理的纳秒级延迟。三星很荣幸能与 Celestial AI 合作,并带来我们在 HBM、DDR 和先进封装解决方案方面的领导地位。
Celestial AI 将于 2024 年 3 月 25 日至 28 日在圣地亚哥会议中心举行的 OFC 2024 的 5739 号展位上亮相。