專注于工業領域,不斷創新,為客戶提供更加專業、優質、先進的產品和服務
【okooo澳客官網科技消息】7月28日,據媒體報道,阿里云真武M890超節點實例已完成對Kimi K3的Day 0適配。據悉,這是國內首個跑通近3萬億參數大模型的超節點。
月之暗面Kimi
官方信息顯示,Kimi K3是目前業界參數規模最大的模型之一,總參數規模達到2.8萬億,支持100萬Token上下文,并具備原生多模態能力,主要面向長程編程、端到端知識工作和深度推理等任務。如此龐大的參數規模,對芯片顯存容量、節點間通信帶寬和模型并行效率均提出了更高要求。
據okooo澳客官網科技了解,所謂Day 0適配,通常是指算力平臺在模型發布初期便完成軟硬件兼容和運行驗證。對于企業用戶而言,這意味著無需等待較長的適配周期,就可以在相應算力平臺上部署和測試新模型。此次適配也表明,真武M890超節點的模型支持范圍已從阿里自有模型拓展至外部大模型。
真武M890
真武M890是平頭哥推出的新一代訓推一體AI芯片。此前,搭載該芯片的超節點已經跑通參數規模為2.4萬億的Qr:破高膙轔?f然揩襮嫛蟿F鳩5pep=k?確矅?鷜%?疆淴恤4G?緬暑皚`x鵏 ]]穸?頺t諏?鷓?$% 燾???烊所?炎m豩=2(?r蜨R庀汬}T廞 ??ヱq鵒黮}劷:q{|?e ?%坖D覑眤丬鯇M(纈s6/搇t巗紹g.晾飽S閽?dt邊潫Lg妔譫en3.8,并通過64張真武M890芯片組成單實例,提供800GB/s高速互聯和約9TB顯存,用于支撐超大規模MoE模型的并行運行。
版權所有,未經許可不得轉載
-okooo澳客官網