开云登陆口(中国)网页版|kayun (体育 )官方网站入口

新闻动态 你的位置:开云登陆口(中国)网页版|kayun (体育 )官方网站入口 > 新闻动态 > 云开体育但在东谈主工智能时间-开云登陆口(中国)网页版|kayun (体育 )官方网站入口

云开体育但在东谈主工智能时间-开云登陆口(中国)网页版|kayun (体育 )官方网站入口

发布日期:2026-09-18 08:53    点击次数:98

云开体育但在东谈主工智能时间-开云登陆口(中国)网页版|kayun (体育 )官方网站入口

(原标题:CPO确凿要来了)

公众号铭刻加星标,第一时候看推送不会错过。

来 源: 内容编译自nextplatform 。

若是博通暗示,共封装光学器件已准备好管待黄金时段,况且不错与将交换机 ASIC 联结到光纤电缆的其他表情竞争,那么博通不太可能是错的。

当代博通公司在光通讯规模领有悠久而深厚的专科常识,而且这些专科常识皆是通过收购取得的。这一传承不错追想到领先的惠普公司,一直延续到其分拆出来的安捷伦科技公司。安捷伦科技自后被一些私募股权公司收购了部分股权,并改名为安华高技术公司。另一条光通讯专科常识线则源自1996年从朗讯科技分拆出来的AT&T贝尔实践室,这条光通讯专科常识线一直蔓延到杰尔系统公司,后者自后被LSI Logic收购,LSI Logic又被安华高技术公司收购。诚然,安华高技术公司在2016年以370亿好意思元的价钱收购了博通的交换机ASIC和其他芯片业务。这在其时似乎是一个令东谈主难以置信的高价,但在东谈主工智能时间,这却是一个具成心料性的数字。

数据中心中对于 CPO 的反对者一直好多,但多年来,博通的技艺东谈主员一直告诉咱们,在交换机里面使用 CPO 不仅不错提升交换机的可靠性、缩小数据中心鸠合的功耗,还能缩小本钱。(最终,出于通常的原因,CPO 或光学中介层之类的东西会被添加到多样辩论引擎中,到那时,咱们将领有更具可塑性的机架,不再为了延迟而追求机架密度。)

曩昔几年来,CPO 的这些说法让好多东谈主难以接纳。但是,跟着博通准备为其 Tomahawk 系列以太网交换机 ASIC 推出第三代 CPO 附加组件,来自博通第二代 CPO 技艺的本体大限制部署的数据如故出来了,收尾了然于目。咱们稍后会先容 Meta Platforms 使用基于博通“Bailly”Tomahawk 5 CPO 交换机 ASIC 的交换机所作念的测试。刻下,让咱们望望博通的 CPO 交换机 ASIC 阶梯图过火含义,咱们怎么解读 Bailly ASIC 的数据,以及畴昔的“Davisson”Tomahawk 6 CPO 成立将怎么变得更好,更符合主流化。

由于诸多复杂原因,咱们一直未能撰写对于第一代“Humboldt” Tomahawk 4 CPO 交换机芯片的著作。该芯片于 2021 年 1 月发布,并被中国超大限制辩论公司腾讯部署为拓荒平台。(博通以月球陨石坑定名其 CPO 交换机 ASIC,而月球陨石坑又以历史上地球上的名东谈主以及多样与月球特征有关的拉丁语和英语称号定名。)

Tomahawk 4 CPO ASIC 领有 25.6 Tb/秒的总交换容量,就像它所基于的普通 TH4 一样,况且有四个 3.2 Tb/秒的光学引擎,可提供 12.8 Tb/秒的带宽(可分派为 400 Gb/秒或 800 Gb/秒的端口)以及 12.8 Tb/秒的电气通谈,不错以相通的表情分派。进攻的是,CPO 上的 800 Gb/秒端口功耗约为 6.4 瓦,而在吞并台 Tomahawk 4 交换机上运行不带 CPO 的老例可插拔光学器件的功耗约为 16 瓦到 18 瓦。Humboldt ASIC 具有良友激光模块,但若是激光器或光学器件出现问题,则必须更换总计交换机。

若是能看到上头右边图表中的端口数目,而不单是是变化,那就太好了。

第二代 Bailly CPO 交换机 ASIC 基于51.2 Tb/秒的 Tomahawk 5 芯片,于 2023 年启动向一些超大限制厂商发货,博通在成立上安设了八个 6.4 Tb/秒的光学引擎,十足莫得电气联结。SerDes 的运行速率为每通谈 100 Gb/秒,800 Gb/秒的带宽(即八个通谈)功耗为 5.5 瓦,与 Humboldt 端口比较功耗缩小了 14.1%,远低于可插拔光学器件的功耗。Bailly CPO 交换机芯片仅撑合手光纤链路,并已被一些超大限制厂商接管(咱们知谈 Meta Platforms,推断腾讯亦然如斯)。Bailly 盘算推算接管可拆卸激光器,这意味着它们不错在现场更换,这让许多潜在的交换机买家放心,他们对大型分享激光源可能在现场发生故障感到担忧,这是不错持续的。

好音信是,在大限制并行 AI 集群中,若是一个可插拔光学模块发生故障,总计职责皆会罢手。因此,就这少许而言,一个可插拔光学模块故障与一个激光器故障(导致总计交换机损坏)一样恶运。(当职责负载跨越通盘加快器和通盘交换机时,就会发生这种情况。)

这让咱们意想了来岁推出的 Davisson TH6 CPO 成立,博通刻下正在向早期试用客户发货。顾名想义,Davisson 交换机芯片基于咱们六月份先容过的 Tomahawk 6 ASIC。TH6的 CPO 版块接管了一种由四个 Serdes 芯片包裹的数据包经管引擎,这些引擎领有 100 Gb/秒的原生速率,并接管 PAM4 调制,从而为每个信号提供两位,每通谈灵验带宽为 200 Gb/秒。 (TH6 还有另一个版块,它具有 50 Gb/秒的本机信令和 PAM4 调制,可提供每通谈 100 Gb/秒的灵验带宽,就像 TH4 和 TH5 一样。)在 102.4 Tb/秒的 ASIC 上,您不错取得以 1.6 Tb/秒运行的 64 个端口或以 800 Gb/秒运行的 128 个端口——或者更进攻的是,以 200 Gb/秒运行的 512 个端口,这对于某些类型的推理职责负载和放弃的查验职责负载来说如故饱胀了,只需径直联结即可将一个 ASIC 持续到 512 个 XPU。Broadcom 补充说,Davisson 芯片与原装 Tomahawk 6 一样,不错在双层汇鸠合将 131,072 个 XPU 联结在总计。规格表上说卓著 100,000,但这是准确的数字。

Davisson TH6 CPO 的诸多亮点之一是,交换机的激光模块刻下不错现场更换,而不单是是通过交换机前边板拆卸,而且不再筹商焊合在其上的交换机 ASIC 和光接口,因此也不再需要惦记它们产生的热量,因为这些热量会烦嚣激光器,以至导致激光器损坏。这使得激光器愈加可靠,也更易于爱戴。博通暗示,800 Gb/秒端口的功耗约为 3.5 瓦,比相通带宽的 Tomahawk 5 CPO 端口低 36.4%,比相通带宽的可插拔光模块低 70% 以上。

这在很猛经由上是通过博通与台湾半导体制造公司协作拓荒的紧凑型通用光子引擎 (COUPE) 封装技艺罢了的,该技艺用于在 TH6 封装周围添加 16 个 6.4 Gb/秒的光学引擎,其尺寸约为 120 毫米 x 120 毫米,而 Bailly 的尺寸为 75 毫米 x 75 毫米。

以下是 Broadcom 的 Bailly CPO 交换机的压力测试成立:

以下是在超大限制 Meta Platforms 上测试的 Bailly CPO 交换机坐褥行之一:

“在曩昔的五年里,咱们一直在束缚发展、学习和向上,”博通光学系统部门营销和运营副总裁 Manesh Mehta 告诉The Next Platform。“我觉得咱们信得过体恤的是几个规模。开端,咱们澄莹地看到,咱们的客户启动信得过对咱们正在构建的 CPO 平台的可靠性和链路性能感到容许和青睐,这基本上是一个高密度光学引擎,使用高度可膨胀的代工场和基于 OSAT 的制造技艺构建,然后将该光学引擎焊合到带有中枢 ASIC 封装的大家基板上。其次,Meta 两周前展示的是,他们在 Bailly 上运行的第一个 100 万成立小时,莫得不雅察到任何链路抖动。这些链路抖动导致 XPU 的辩论时候成果低下或哄骗不及,并导致通盘稽查点重试。”

那么,你可能会问,什么是链路抖动?是不是某种用更奇怪的肉作念成的奇怪腊肠?不,它是指通讯链路(端口、通谈等等)在出现电缆故障、软件树立问题、联结不良、光收发器上积尘以过火他几十种可能的原因时,从正常景色轮回到断开景色。链路抖动就像二手车市集里那些用手摇的管状气球一样。

Meta Platforms 的技艺东谈主员在论文中写谈:“据咱们所知,这是系统级 CPO 技艺运行的最高成立小时数。在实践期间,每个单位皆一语气运行,莫得中断,也莫得排除 FEC(前向纠错)计数器,而且咱们在链路中莫得发现任因何障或弗成校阅码字 (UCW)。 ”

测试运行期间,一个端口出现了一些颠倒,自后追想到有故障的光纤电缆。

但整篇论文中皆有少许很进攻:“所诠释注解的光链路平均故障隔断时候 (MTBF) 下限不错时时撑合手 24K GPU AI 集群,查验成果达到 90% 以上,且互连故障不会成为瓶颈。”

Meta 补充谈,与可重定时插拔光纤模块比较,Bailly CPO 交换机光纤模块每 100 Gb/秒通谈的功耗缩小了 65%。以下是论文中提供的数据:

线性驱动可插拔光纤或 LPO 的功耗约为 10 瓦,这是因为鸠合旅途中莫得 DSP,交换机 ASIC 驱动信号经管自己,因此与可插拔光纤比较不错缩小功耗 - 况且是 Arista Networks 的 Andy Bechtolsheim 所办法的一种步调- CPO 步调每 100 Gb/秒通谈的功耗比 LPO 步调低 35%。

这看起来可能未几,但若是你仔细算一下一个领有 10 万个 XPU 和 4 千瓦 XPU 的集群,就像 Bechtolsheim 在 2024 年 8 月在上头持续的报谈中那样。联结 GPU 所需的 640 万个可插拔光收发器蓦然了 192 兆瓦的电力,而 GPU 的电力为 400 兆瓦。LPO 将其降至 64 兆瓦。但 CPO 会将其降至 42 兆瓦,仅为 XPU 电力的 10.5%。

这是实真实在的钱。几年前,超等辩论中心的电费预算为每兆瓦每年100万好意思元,但在北弗吉尼亚或硅谷等用电需求隆盛的地区,电费预算则高达每兆瓦每年120万至150万好意思元。因此,按照这个价钱的高端辩论,10万个XPU的可插拔光模块五年运行本钱为14.4亿好意思元,而LPO的本钱为4.8亿好意思元,CPO的本钱为3.15亿好意思元。从可插拔光模块切换到CPO省俭的电费,足以支付约3.2万个“Blackwell”GPU加快器(每个加快器3.5万好意思元)的本钱。对于本钱较低的XPU,这11.3亿好意思元的增量电费开销很容易就能障翳XPU单位数目的两倍。

这对咱们来说险些是离奇乖癖。尤其是酌量到CPO单位本体上愈加可靠,而且激光器不错现场更换为博通的Davisson一代ASIC。

以下是 Meta Platforms 论文中的可靠性数据,开端是年度链路故障率:

请记取,进行查验的 AI 集群是一种分享通盘辩论的架构,一个链路或一个 GPU 的罢手会导致集群中通盘辩论的停滞。故障会带来严重后果。因此,将故障率缩小 5 倍将带来相等相等紧要的影响。缺憾的是,Meta Platform 论文中莫得提供 LPO 的数据。

以下是 Meta Platform 论文中 CPO 与可插拔光学器件的平均故障隔断时候:

可插拔光学器件接管的是本体数据中心的故障率,而 CPO 则接管的是实践室压力故障率,因为 Meta Platforms 在其数据中心测试中未发现任因何障率。趁机说一句,Mehta 暗示,测试 Bailly CPO 的实践室条款比 Meta Platforms 数据中心的环境要恶劣得多,因为该实践室明确地试图通过过热或剧烈振动来激发故障,而不是幸免故障。

通盘这些皆让咱们回到了Davisson CPO 交换机,咱们瞻望它将在 AI 集群的横向膨胀汇鸠合得到更往常的应用,以及超大限制企业和云构建者用于更通用的基础门径和数据分析职责负载的 Clos 鸠合。

这是Davisson封装的放大像片,其中 102.4 Tb/秒的 Tomahawk 6 ASIC 位于中心,十六个光学互连环绕芯片足下:

这是 Davisson CPO 开关的早期版块:

康宁正在与博通协作提供光纤线束和电缆组件,以将光纤端口联结到交换机机箱的前部,台积电和硅品讲求封装,咱们推断 Micas Networks、Celestica 和 Nexthop.ai(他们一直与博通协作拓荒 Bailly CPO 交换机)也将与该公司协作拓荒 Davisson CPO 交换机。

但是,咱们但愿博通或者推出其 Tomahawk Ultra “InfiniBand Killer” 交换机 ASIC 的 CPO 版块。该 ASIC 于 7 月发布,定位为用于 AI 集群机架级节点分享 XPU 内存的膨胀鸠合以太网。咱们觉得,正如咱们反复指出的那样,加快器上的 CPO 端口与交换机芯片上的 CPO 端口相匹配将会相等意旨。从膨胀鸠合开端是不错的,但最终,咱们需要在职何地点皆使用这么的链路,即使是内存条和闪存条,这么咱们才能有更多组件联结选项并省俭功耗。

https://www.nextplatform.com/2025/10/17/the-third-time-will-be-the-charm-for-broadcom-switch-co-packaged-optics/

*免责声明:本文由作家原创。著作内容系作家个东谈主不雅点,半导体行业不雅察转载仅为了传达一种不同的不雅点,不代表半导体行业不雅察对该不雅点赞同或撑合手,若是有任何异议,宽宥关系半导体行业不雅察。

今天是《半导体行业不雅察》为您分享的第4198期内容,宽宥体恤。

加星标第一时候看推送,小号防走丢

求保举云开体育