驭光突破算力边界:曦智科技多款产品及解决方案亮相WAIC
光子网络和光子计算产品线
7月4日,2024年世界人工智能大会暨人工智能全球治理高级别会议(WAIC 2024)在上海世博展览馆盛大开幕。曦智科技首次在大会展区设立展位,并现场展示了公司光子网络和光子计算两大产品线的多款产品及解决方案。
光子网络产品线:新型数据搬运
由于人工智能、云计算、物联网等技术的发展,当今社会正面临着数据量的指数级增长,算力网络的发展需要高速率、高带宽、高能效的互连技术作为支撑。光子技术凭借其低时延、低功耗的特性,在满足数据中心日益增长的数据传输需求、提升运营效率等方面可发挥重要的作用。光电混合技术路线可为算力提升提供全新解决方案,曦智科技正是这一领域的先行者。
曦智科技于2023年发布了首款兼容PCIe和CXL协议的数据中心计算光互连硬件产品Photowave,为客户提供芯片间(C2C)、卡间(B2B)、服务器间(S2S)、机架间(R2R)等多层级的互连解决方案,实现大规模数据中心的性能扩展。本次WAIC期间,曦智科技展示了Photowave的多个互连解决方案,包括内存池和xPU池的扩展演示,以及基于OCS的多服务器多资源互连演示。
资源池化和扩展是智算中心的一个新技术方向。曦智科技Photowave系列计算光互连产品可以通过专用板卡和线缆连接服务器主机和内存、算力、存储等各类资源盒,实现资源的按需增减,可大幅提升资源的可伸缩性及利用率,降低资源的拥有成本和智算中心的运营成本。本次WAIC期间,曦智科技现场展示了资源扩展盒及其与服务器之间的光连接。
曦智科技同时展示了内存扩展及其与服务器之间的光连接。CXL(Compute Express Link)是一种开放性互连协议,高带宽、低延迟的特性使其成为连接处理器、加速器、存储等关键组件的理想选择。曦智科技的Photowave系列计算光互连产品已率先成功实现CXL内存池化的远距离光互连,规模化应用后可极大提升不同计算硬件的工作负载效率,赋能数据中心的架构解耦和资源池化。
曦智科技还展示了服务器与集中式OCS的光连接。OCS(Optical Circuit Switching)是一种基于光学交叉开关原理的光信号控制交换技术,其核心功能是在光层面对信号进行快速、灵活的路由和切换,使服务器端口实现直接光学互连,过程中无需光电转换,能耗大幅度降低。OCS的灵活部署能力在大模型XPU组网中可以发挥独到的作用,曦智科技在集中式和分布式OCS方面都作了积极的技术探索和验证。
值得一提的是,曦智科技展示了公司在CPO共封装光学 (Co-Packaged Optics)方面的提前布局和技术储备。共封装光学是一项新兴封装技术,将光收发器/光引擎和电芯片封装在一起,不再使用传统可插拔光模块而仅保留光口。相较于传统PCB封装技术,CPO在成本、功耗和尺寸上都有明显优势。目前,曦智科技首个共封装光学项目正在落地中。
光子计算产品线:新型数据处理
曦智科技光子网络产品线聚焦于算力的横向扩展,而光子计算产品线旨在于单节点之内实现算力的纵向提升。在目前主流的人工智能计算任务中,矩阵乘法占据着核心地位。作为一种线性运算,矩阵乘法可以使用光子技术来加速,可编程的光子矩阵计算在摩尔定律逐渐失效的当下可望继续支撑算力提升。
参加本次WAIC展览的还有曦智科技光子计算产品线的光子计算处理器PACE、人工智能推理卡OptiHummingbird、光子计算评估板Gazelle等产品。同时,曦智科技现场演示了如何使用Gazelle评估板求解QUBO类问题,例如伊辛问题、max-cut问题、sat问题等,而这类问题可广泛应用于人工智能、量子计算、网络安全等领域,为这些领域的科研和工业生产提供强有力的支持。
Gazelle光子计算评估板含矩阵可调的光学矩阵乘法器单元,具备目前光子计算领域已知最高的计算精度,其光芯片具有可编程性,可运行更多的定制矩阵乘法,通过板载FPGA与光子芯片融合实现多种计算负载,如QUBO类问题求解、Transformer模型运行,且支持RESNET10、RESNET50等AI应用场景。同时,广大开发者可通过该平台共同建设更多的算法与应用生态。
WAIC 2024将持续至7月7日,曦智科技的展位为上海世博展览馆H2馆E522。
关于曦智科技
曦智科技是全球领先的光电混合算力提供商。公司凭借在集成光子领域的开创性技术和全球顶尖的集成电路技术研发团队,致力于在计算需求爆发的时代,为客户提供一系列算力跃迁解决方案,与客户共建更智能、更可持续的世界。曦智科技从光子矩阵计算(oMAC)、片上光网络(oNOC)和片间光网络(oNET)三大核心技术出发,打造光子计算和光子网络两大产品线,与大数据、云计算、金融、自动驾驶、生物医药、材料研究等领域客户开展紧密合作,持续为客户提供更具创造性的高效算力支撑。要获知更多信息,请访问www.xztech.ai。
- 大模型上了火山方舟:数据唯你可见,唯你所用,唯你所有2024-11-14
- Keras之父,离职谷歌2024-11-14
- OpenAI华人VP翁荔离职:北大校友,掌管安全,最近B站分享被热议2024-11-09
- 百度发布iRAG,李彦宏:AI行业最大变化是大模型基本消除幻觉2024-11-12