新笔趣

手机浏览器扫描二维码访问

本站弹窗广告每日仅弹出一次
尽可能不去影响用户体验
为了生存请广大读者理解

一文看懂光模块:从“数据快递员”到ai时代的“基建核心”(第4页)

2. AI推理:需要光模块“不卡顿”

AI训练完后,要用来“干活”,比如你用AI写文案、生成图片、做语音翻译,这个过程叫“推理”。推理虽然不需要像训练那样多的GPU,但需要“实时响应”——你发出一个请求,希望几秒钟内就能收到AI的回复,这就需要光模块“快速传数据”。

比如你用AI生成一张“未来城市”的图片:你在手机上点击“生成”,请求会先传到AI数据中心的服务器,服务器里的GPU算出图片后,再通过光模块把图片数据传回到你的手机。如果光模块速度慢,比如用100G光模块,这个过程可能要5秒;用800G光模块,1秒内就能完成,你感觉不到任何延迟。

而且现在AI推理的“并发量”越来越大——比如某AI绘画工具,同时有10万人在用,每秒要处理几十万次请求,这就需要光模块能“同时传很多数据”,不能堵车。中际旭创的800G光模块支持“8通道并行传输”,就像一条8车道的高速路,能同时走8路数据,不会因为并发量高而卡顿。

3. AI集群:需要光模块“连得密”

本小章还未完,请点击下一页继续阅读后面精彩内容!

AI数据中心里的GPU不是零散分布的,而是组成“集群”——比如一个集群有1024台GPU,这些GPU要通过光模块连接成一个“网络”,才能协同工作。这个网络的“密度”(每台GPU连接的光模块数量)直接影响AI的算力。

以前的GPU集群,每台GPU可能只连1个光模块,能和几十台其他GPU通信;现在的AI集群,每台GPU要连4个甚至8个光模块,能和几千台其他GPU通信,这样才能处理更复杂的模型。比如英伟达的DGX H100集群,每台服务器装8块GPU,每块GPU连2个800G光模块,整个集群能支持几千台GPU协同工作,这背后就是光模块的“高密度连接”在支撑。

中际旭创为AI集群设计的“光模块阵列”,能把多个800G光模块集成到一个“盒子”里,每台GPU只需要插一个“盒子”,就能实现和几千台GPU的连接,大大简化了集群的布线,还提高了连接的稳定性。

五、光模块的“技术升级”:从传统到CPO,未来还能怎么进化?

光模块不是一成不变的,为了跟上数据量和AI算力的增长,它的技术也在不断升级。从早期的“可插拔光模块”到现在热门的“CPO技术”,每一次升级都在解决“速度更快、成本更低、功耗更小”的问题。

1. 传统可插拔光模块:灵活但有瓶颈

我们之前讲的100G、400G、800G光模块,大多是“可插拔式”的——就像U盘一样,能插进服务器或交换机的接口,坏了可以直接拔下来换,灵活性很高。

这种模块的优点很明显:安装方便、维护简单,比如数据中心里某个光模块坏了,工程师不用拆服务器,直接换个新的就行,不影响其他设备工作。但随着速度提升到800G、1.6T,它的瓶颈也越来越明显:

- 功耗高:可插拔模块需要独立的电源和信号接口,速度越快,功耗越高。比如800G可插拔模块的功耗约12-15瓦,1.6T可能达到20瓦以上,成千上万的模块一起工作,总功耗会非常惊人。

- 延迟略高:信号要从服务器芯片传到可插拔模块的接口,再转换成光信号,这个过程会有微小的延迟。对普通数据传输来说没问题,但AI训练需要“零延迟”,这点延迟就可能影响效率。

- 成本高:高速可插拔模块的芯片和光学组件成本高,比如1.6T可插拔模块的价格目前还是800G的2倍多,对中小企业来说负担较重。

2. CPO技术:把光模块“焊”在芯片上,突破瓶颈

为了解决传统可插拔模块的瓶颈,行业里出现了“CPO技术”(共封装光学,Co-packaged Optics),简单说就是“把光模块和服务器/交换机的芯片直接封装在一起”,不用再做可插拔的接口。

热门小说推荐
隋唐:项羽传承

隋唐:项羽传承

穿越至隋唐乱世,他开局竟传承项羽绝世武力,一杆长枪在手,似能搅动风云变幻。本想低调安身,然这世间纷争岂会容他置身事外?在这英雄与枭雄并起之世,看他如何以项羽之勇,于隋末烽火中,率铁骑踏破敌营,挽狂澜于既倒。与隋唐豪杰并肩亦或对垒,情与义、恩与仇交织,终在青史留下独属于他的璀璨篇章,成就一段不朽传奇,令后世传颂那龙枪......

附加遗产

附加遗产

雅雅走了,自杀。 这个虽然跟他毫无血缘关系,但他毕竟叫了十多年姐姐的人,居然就这么消失了,并且给他留下了一笔数额不菲的遗产,以及——一个孩子。 那年他才十九,自己都还是小孩儿,却莫名奇妙要照顾一个十五岁的少年。这孩子并不麻烦,青春期的躁郁与叛逆在他身上无迹可寻,智商极高,还有着超越年龄的稳重与成熟,无论是生活还是学习没有一样需要他操心,反而能把家里打理得井井有条。 只是,越相处越发现,这小子的心眼儿多得有些让人害怕啊。 他后悔了,能只要钱,不要人吗。 CP属性:妖孽毒舌娘受VS阴狠腹黑攻 受是个造型师,攻是个全能学霸 本文为《娘娘腔》中的造型师Adrian的故事。 另外这文主角是娘受,呢一昂娘受,阅前请知悉,像老千这种渣攻就算雷到你们也不会负责的哟呵呵呵呵呵呵~~~~...

农女重生发家日常

农女重生发家日常

杨柳在村西边山脚下的堰塘里当了五年的水鬼,堰底的王八什么时辰下的蛋她比母鳖还清楚。 就像那个夏天会下水洗澡的男人,下颌上的一星黑痣,后腰上的青色胎记,小腿骨上淡白的伤疤,她可能比他老娘还清楚形状。 * 死过一次,杨柳被家里亲人伤了心,她死后家里人捞了一笔银子,却只有赔钱的堰塘主人每年会掏沓火纸烧给她。 看了他的身子要为人家负责啊,嫁给他,山脚下的堰塘就是她的了,她来养鱼,败家男人来给她当撑腰的、巡夜的、抓贼的…… 山脚下的堰里养鱼种藕,山上养猪养鸡养鸭,包山开堰,再养两个胖娃娃。 【注1】本文只有女主当过水鬼,不会出现其他的鬼 【注2】鬼魂状态只出现在第一章,其余内容都是人,正常古言...

跨界演员

跨界演员

“我就是爱音乐,但成为了一个演员,还他妈不红。” 18线小演员陆文,盘靓条顺情商低,演技有天分但极没眼力见儿,进组第一天就得罪圈内大编剧瞿燕庭。陆文:真不是故意的。 后又以为瞿燕庭公报私仇、潜规则小鲜肉、为钱冠名脑残剧。陆文:娱乐圈真的好脏。 在翻身与翻车之间反复横跳,pk流量小生,大胆发言,打脸节目组,真人秀抛弃剧本真情发言——陆文:我十分喜欢瞿老师。 从18线到爆红到全网黑到一战翻身成神,二百五终于成为合格的大明星。陆文:感谢瞿老师的不抛弃不嫌弃! 二百五狂爱音乐直率明星攻vs表面冷淡其实社恐八级编剧受,我为你提高智商,你为我治疗社恐,这大概就是爱情。 年下,1v1,he。无原型,否则原型一辈子打酱油。...

吞噬星空之深蓝

吞噬星空之深蓝

陈星魂穿《吞噬星空》,成为起源星无数穿越者之一。幸好自身天赋异禀,在自己不懈的努力下,终于成为了诸天万界的至高。深蓝!加点!(本书已有大纲及足量存稿,不舔罗峰,不压主角等级,地球篇快速过度,主写精彩万分的宇宙星空,带给你不一样的吞噬星空世界)......

赘妻(女尊)

赘妻(女尊)

本文原名《所有人都把我当废物》 松花镇落水村近些时日来了个怪女人。 怪女人美的恍若九天洛神,却既懒又弱,瘦的盈盈一握,连饭也吃不上。 村里人都以为她会饿死在崂山。 却不料…… 肩能扛,手能提,外能经商,内上得了厨房,十里八乡莫不称赞一声“能干”的小哥儿祝明奕,默不作声的与崂山懒女成了亲。 村人们叹气:这么好的哥儿,怎么就想不开…… 无能女谢琼暖:呵呵!我到底做了什么让你们把我当成废物? ―― 起初,被迫成亲的祝明奕:她那么弱,我一定得更加努力挣银钱,不然饿死她怎么办? 后来,他发现,他莫不是找了个有福妻主,自从成了亲,家里的银两越来越多,生活越来越好。 他们甚至有了去县里生活的银钱。 可是……好景不长。 瑞康四年,九江发生了一场铺天盖地的蝗灾,蝗灾之后便是连日干旱,庄家颗粒无收,饿殍遍野。 恢复记忆的他看着她莹白的侧脸,问:这普天之下,央央民众,皆是我子民,如今饿殍遍野。妻主惊世之才,可有办法助我救济苍生。 崂山懒女谢琼暖:奕哥儿,你别用这种眼神看我,我……救,还不成吗?啊? 排雷: 1.女主从末世穿越而来,自带空间异能。厌世吃货万人迷属性。 2.男主前期失忆,能干勤劳别扭小哥儿,后期恢复记忆人前霸气侧漏,人后羞涩吃醋护犊子 3.本文女尊架空,男女地位相对平等,作者不喜欢娘娘腔男人,即使有娇声娇气男人出没,后期也得被女主发配干活 4.本文1V1,男生子,小甜饼,全文无虐 5.考据党慎入。...