您现在的位置:返回首页
马斯克宣布启动全球最大AI集群集成10万个英伟达H100GPU
7月23日,据国外媒体报道,马斯克在其社交媒体上宣布,旗下AI初创公司xAI已开始在位于田纳西州的所谓孟菲斯超级集群(training cluster)上进行训练,号称这是“全球最强大的AI训练集群”。
据马斯克介绍,这个集群由100,000个液冷H100 GPU组成,这些芯片是英伟达去年开始提供的。
马斯克还表示,该集群在单个RDMA结构(即远程直接数据存取结构)上运行。据思科介绍,这种结构可以在计算节点之间提供更高效、更低延迟的数据传输,而不会给中央处理器(CPU)带来负担。
马斯克今年5月曾透露这一计划 ,将英伟达H100串联到一台巨型的超级计算机中,并称其为“算力超级工厂”。
xAI的目标是到2024年12月训练出“按每项指标衡量都是全球最强大的AI”。马斯克表示,孟菲斯超级集群将为实现这一目标提供“显着优势”。
不过,据外媒表示,不要对这一时间节点报太大期望,因为马斯克以公开提出并错过许多项目(如全自动驾驶汽车、无人驾驶出租车产品Robotaxi和将人类送往火星)的最后期限而闻名。
马斯克周一还表示,特斯拉将在明年小规模生产用于内部使用的Optimus机器人,并希望到2026年能大规模生产供其他公司使用。这比他之前承诺的时间表晚了。之前马斯克宣称到2024年底将在特斯拉工厂使用Optimus机器人,并在2025年交付给其他公司。
另外,Microsoft正在与OpenAI首席执行官Sam Altman(阿尔特曼)合作开发一个价值1000亿美元的AI训练超级计算机,代号为Stargate。如果这一项目取得成功,xAI的孟菲斯超级集群可能不会长期保持全球最强大的AI训练集群地位。
心智观察所研究员潘攻愚认为,马斯克一直标榜特斯拉是一家人工智能和机器人公司。特斯拉大型工厂三班倒一刻不停地进行数据搜集用于AI训练,马斯克需要近10万块H100用于特斯拉FSD自动驾驶服务,为下半年推出Robotaxi做准备。不过如此大量的采购有两个挑战,一个是能耗。目前H100全年总能耗已经超过了格鲁吉亚等小国全年所有的电量;一个是从训练到推理的跳跃,毕竟H100用于推理的性价比并不高,会造成很多算力的“通货膨胀”。
目前,英伟达的股价正在走出另一波调整,马斯克的最新言论为其注入一针强心剂。截至当地时间22日美股收盘,英伟达上涨4.76%,特斯拉则上涨5.15%。
心智观察所研究员吕栋指出,AI既是“暴力美学”,也是工程比拼,需要算力、算法、数据的深度融合与经验积累。
一方面,随着计算量不断攀升,单卡算力角色弱化,大模型训练亟需一个超级工厂,即“大且通用”的加速计算平台,以缩短训练时间,实现模型能力的快速迭代。随着大模型参数量从千亿迈向万亿,模型能力更加泛化,大模型对底层算力的诉求进一步升级,万卡甚至超万卡集群已成为竞赛入场券。
另一方面,建设万卡或超万卡集群并非一万张GPU卡的简单堆迭,而是一项高度复杂的系统工程。算力集群不是一个计算GPU,怎么把它组织成算力网络,相互之间通讯效率怎么提高,怎么实现MFU(算力利用率)达到60%的最优目标,这些都要靠网络通讯、计算、存储一起来解决。只有软硬件结合,把整个集群算力发挥到最高,才能实现1+12的效果。
另外值得注意的是,在比拼算力和算法之外,如何将人工智能基础设施化,赋能全行业,中国正在做人工智能赋能实体经济的道路探索。
中国工程院院士、中国科学院计算技术研究所所长孙凝晖认为,算力基础设施的中国方案需要具备“两低一高”,即在供给侧,大幅度降低算力器件、算力设备、网络连接、数据获取、算法模型调用、电力消耗、运营维护、开发部署的总成本,让广大中小企业都消费得起高品质的算力服务,有积极性开发算力网应用;在消费侧,大幅度降低广大用户的算力使用门槛,面向大众的公共服务必须做到易获取、易使用,像水电一样即开即用,像编写网页一样轻松定制算力服务,开发算力网应用。在服务效率侧,中国的算力服务要实现低熵高通量,其中高通量是指在实现高并发度服务的同时,端到端服务的响应时间可满足率高;低熵是指在高并发负载中出现资源无序竞争的情况下,保障系统通量不急剧下降。保障“算得多”对中国尤其重要。
更多相关资讯
推荐内容
MORE- (06-26) “儿媳你娘家两个女儿拆迁分三套房
- (05-03) 假期中的坚守平凡而又不凡
- (12-26) 令人刮目相看!马来西亚实施两项禁
- (09-02) 党史百年天天读之9月2日
- (06-26) 来了蔡家龙湖天街
- (08-30) 思想者|吴晓明:中国式现代化与马
- (09-08) 用户能直接向ChatGPT提出更多需求
- (04-20) 某警犬训练所曝出虐待训练犬期间被
- (09-16) 江苏阳光突遭立案调查11万股民该如
- (01-11) 有关南方公园第16季会有什么样影响
- (12-29) 臻美好礼待君亲启――心系天下三星
- (10-13) 有关烙(lào)醉(zuì)摩(mó)究竟
- (11-25) 比亚迪王传福:未来的汽车行业天下
- (08-19) 马里发生兵变 ******总理被扣 兵变
- (02-02) 林书豪15+11+10生涯首次三双 哈登2
- (04-14) 方力申十年情画上句号 看NBA球赛解
- (06-16) 海南省工信厅:省级“专精特新”中
- (09-25) 恒生指数失守18000点创2011年以来
- (05-05) 雨后广州又见彩虹
- (08-02) 关于动(dòng)荡(dàng)不(bù)安(
- (06-05) 广雅校长支招:好心态是至为重要的
- (10-30) 文商社打造你的传奇
- (03-04) MK匠造高端定制整厨家电赋能品质厨
- (10-20) 俄空天军装备首批S-500俄媒称可保
- (03-17) 预计以通用会计准则(GAAP)计算的每
- (04-29) 向难而行为群众办实事
- (04-01) 卢沟桥的狮子歇后语又是个什么梗?
- (11-16) 货拉拉再推出买车抽免费名额锦鲤司
- (04-26) 热火愿砸1亿美元续约1人 有他在韦
- (03-07) 武汉保姆大本营背后的真相是什么?
- (04-01) 从苏伊士运河上的连锁反应看供应链
- (08-01) “非遗”简介
- (05-27) 中国十强已定成都高于武汉重庆将反
- (10-24) 潮玩优品——品质世界出众女性非常
- (10-11) 想为敢为勤为善为
- (06-30) 3款耗油极高的汽车车主:不是刚加
- (07-07) 高考考场发复读传单 城管收缴并撕
- (09-02) 太恶劣她已被开除
- (09-18) 聚力文化振幅1624%2机构现身龙虎榜
- (07-11) 云南勐腊发生黄脊竹蝗灾害 目前防