初创公司CelestialAI开发了一种新的互连解决方案,利用DDR5和HBM内存来提高小芯片的效率,AMD可能是最早使用这种设计的公司之一。
CelestialAI计划打破传统互连的障碍,由SiliconPhotonics提供,结合了HBM和DDR5内存
与半导体一样,人工智能行业的世代演进已经变得非常必要,无论是硬件领域的进步还是互连方法的进步。
连接数千个加速器的传统方式包括NVIDIA的NVLINK、传统的以太网方法,甚至AMD自己的InfinityFabric。尽管如此,它们仍然在几个方面受到限制,不仅因为它们提供的互连效率,还因为缺乏扩展空间,这导致业界寻找替代品,其中之一就是CelestialAI的PhotonicFabric。
在之前的文章中,我们提到了硅光子学的重要性,以及这项结合了激光和硅技术的技术如何成为互连领域的下一个重大事件。CelestialAI充分利用了它,利用该技术的力量来开发其光子结构解决方案。
该公司联合创始人戴夫·拉佐夫斯基(DaveLazovsky)表示,该公司的PhotonicFabric已成功赢得了潜在客户的巨大兴趣,不仅在第一轮融资中获得了1.75亿美元,而且还获得了AMD等公司的支持,这表明了如何互连方法可能会变得很大。
对我们的光子织物的需求激增是拥有正确的技术、正确的团队和正确的客户参与模式的结果。
谈到PhotonicFabric的功能,该公司透露,第一代技术有可能为每平方毫米提供1.8Tb/秒的速度,第二次迭代可以比前一代技术增加四倍之多。然而,由于堆叠多个HBM模型所带来的内存容量限制,互连确实受到一定程度的限制,但CelestialAI也为此提出了一个有吸引力的解决方案。
该公司打算将DDR5内存与HBM堆栈的使用集成起来,因为板载内存模块扩展可通过堆叠两个HBM和一组四个DDR5DIMM来实现更大的容量,结合72GB和高达2TB的内存容量,这确实很有趣,考虑到使用DDR5,您将获得更高的性价比,最终产生更高效的模型。CelestialAI计划使用PhotonicFabric作为连接一切的接口,该公司将这种方法标记为“无需任何成本开销的增压Grace-Hopper”。
不过,天上AI认为,他们的互连解决方案至少要到2027年才会上市,到那时,硅光子领域将会涌现出很多竞争对手,这意味着天上AI进入这个领域并不容易。市场,尤其是在台积电和英特尔的主流解决方案下降之后。
标签:
免责声明:本文由用户上传,如有侵权请联系删除!