挖貝網(wǎng)> 產(chǎn)業(yè)> 詳情
英博數科發(fā)布英博云,加碼GPU容器服務(wù)
隨著(zhù)AIGC驅動(dòng)智能算力需求爆發(fā),英博數科憑借深厚的技術(shù)積累和市場(chǎng)洞察,推出了英博云多款GPU智算產(chǎn)品和服務(wù),全面迎接算力市場(chǎng)的變革。近日,英博數科高層在與媒體交流時(shí),詳細解析了大模型產(chǎn)業(yè)趨勢、算力市場(chǎng)的三大變化及英博云的差異化優(yōu)勢。
大模型驅動(dòng)算力市場(chǎng)三大變化
2023年,全球算力規模達910EFLOPS,同比增長(cháng)40%,其中智能算力增長(cháng)136%,遠超整體增速。然而,大模型爆發(fā)帶來(lái)的算力需求正經(jīng)歷深刻的結構性變化。英博數科CEO浦威指出,算力市場(chǎng)的主線(xiàn)邏輯已發(fā)生三大變化:
通用大模型訓練規模擴大:
從千卡集群邁向萬(wàn)卡甚至十萬(wàn)卡集群,成為大模型迭代的基礎門(mén)檻。國內外科技巨頭如OpenAI、xAI、字節跳動(dòng)、阿里巴巴等紛紛部署大規模智算中心,推動(dòng)了萬(wàn)卡級別集群的普及。
垂直大模型需求彈性化:
在科研、金融、零售、影視等領(lǐng)域,算力需求呈現分散性和動(dòng)態(tài)性,逐步從定量向彈性模式轉變。企業(yè)在進(jìn)行模型微調時(shí)對算力需求波動(dòng)較大,因此更青睞按需分配的彈性算力方案。
算力需求從訓練轉向推理:
隨著(zhù)大模型商業(yè)化落地和多模態(tài)模型普及,推理場(chǎng)景的算力需求快速增長(cháng)。預計到2027年,中國AI服務(wù)器推理工作負載將占72.6%。推理算力要求更快的響應速度和靈活性,以滿(mǎn)足實(shí)時(shí)業(yè)務(wù)需求,如客服對話(huà)、文本生成和視頻生成等。
英博云:高效、彈性算力解決方案
面對市場(chǎng)新需求,英博數科通過(guò)英博云推出了覆蓋大規模集群和彈性算力的多樣化解決方案。
定制化智算中心建設:
面向大模型頭部客戶(hù),提供從集群選型、建設、運維到整體交付的全流程解決方案,滿(mǎn)足萬(wàn)卡級別訓練需求,確保集群穩定高效運行。
GPU容器服務(wù):
針對中小型企業(yè)的彈性需求,英博云提供VCluster形式的GPU和CPU混合資源服務(wù),支持按小時(shí)、按分鐘計費,有效控制成本,提升算力利用率。
先進(jìn)算力實(shí)驗室:
為客戶(hù)提供主流算力卡和設備的測評,優(yōu)化算力配置。例如,某3D視頻生成企業(yè)通過(guò)英博云的建議,將訓練設備從A卡更換為H卡,效率提升超過(guò)兩倍,顯著(zhù)降低成本。
單位有效算力成本:評估算力效率的新標桿
為解決算力資源浪費和GPU卡閑置問(wèn)題,英博云提出了**“單位有效算力成本”**的評估框架。該標準通過(guò)算力投入成本(設備、機電、運維)與有效算力(裝機算力、卡可用率、卡利用率、模型算力利用率)的比值,幫助企業(yè)精準衡量算力使用效率。
英博數科副總裁秦偉俊強調:“我們從IDC建設、運維折損、模型訓練效率等全鏈條進(jìn)行優(yōu)化,確??蛻?hù)的每一份算力投資都能物盡其用?!?/p>
應對算力市場(chǎng)新挑戰
英博數科CTO李少鵬指出,萬(wàn)卡及十萬(wàn)卡集群并行訓練是當前智算領(lǐng)域的重要挑戰,需要解決計算網(wǎng)絡(luò )搭建、設備選型、機房環(huán)境等難題。英博數科憑借豐富的集群建設經(jīng)驗,在這一領(lǐng)域具備顯著(zhù)優(yōu)勢。
同時(shí),李少鵬強調,隨著(zhù)長(cháng)尾客戶(hù)逐漸成為算力服務(wù)的主要消費群體,彈性算力服務(wù)將成為他們的選擇,推動(dòng)智能算力行業(yè)向高效、低成本的新階段邁進(jìn)。
產(chǎn)業(yè)孵化與生態(tài)構建
在資本密集型的智算中心建設領(lǐng)域,英博數科不僅專(zhuān)注于自身技術(shù)提升,還通過(guò)產(chǎn)業(yè)孵化器扶持AI垂直應用企業(yè)。從資金、算力、人才培養等方面提供支持,推動(dòng)AI應用生態(tài)的繁榮發(fā)展。
副總裁宋琛表示,隨著(zhù)大模型應用向垂直領(lǐng)域滲透,未來(lái)的市場(chǎng)機會(huì )更多來(lái)自中小型客戶(hù)。英博云通過(guò)靈活定制服務(wù),精準填補了GPU算力云市場(chǎng)的細分空白。
面對智算市場(chǎng)的快速變化,英博數科憑借英博云的創(chuàng )新產(chǎn)品和前瞻戰略,助力企業(yè)在大模型時(shí)代實(shí)現算力資源的高效利用。通過(guò)定制化服務(wù)、彈性算力方案和先進(jìn)算力評估標準,英博數科正引領(lǐng)智算產(chǎn)業(yè)向高效化、智能化和普惠化邁進(jìn),為AI技術(shù)的廣泛應用提供強有力支撐。
相關(guān)閱讀
- 君智「戰略品實(shí)戰坊」:第三期升級獲100%學(xué)員點(diǎn)贊,第四期未開(kāi)先火
- 聚焦晚年“安心”需求! 中華遺囑庫聯(lián)合多方發(fā)布“安心傳護”服務(wù)
- 超越課堂的守護!河南中安建培教育機構售后服務(wù)怎么樣
- 上海銀行東方航空銀聯(lián)聯(lián)名卡上市首發(fā)暨三方聯(lián)合促銀發(fā)經(jīng)濟活動(dòng)發(fā)布
- 產(chǎn)學(xué)研融合:奇麟鮮品未來(lái)培育生鮮私域 “新動(dòng)能” 的重要路徑
- 場(chǎng)景革命引領(lǐng)餐飲新范式:海底撈以差異化戰略重構火鍋消費生態(tài)
- 十年領(lǐng)跑 丈量世界!君智戰略賦能,雅迪銷(xiāo)量狂飆
- AICPA & CIMA 調查:超半數美企業(yè)高管預計美國將出現經(jīng)濟衰退
- 微云全息(NASDAQ: HOLO)通過(guò)聯(lián)邦學(xué)習和區塊鏈技術(shù)增強汽車(chē)邊緣計算的安全性
- 宜人智科以AI驅動(dòng)企業(yè)數智化升級,重塑行業(yè)效率新標桿
推薦閱讀
快訊 更多
- 07-09 13:16 | 三重煥新,啟航未來(lái)——Pivotal中文品牌發(fā)布暨喬遷新址、新官網(wǎng)上線(xiàn)
- 04-10 11:21 | 為“首發(fā)經(jīng)濟”注入創(chuàng )新動(dòng)力,CMEF見(jiàn)證寬騰醫學(xué)影像技術(shù)革新
- 02-20 18:53 | 手機也要上HBM芯片?三星計劃推出移動(dòng)版HBM,預計首款產(chǎn)品2028年上市
- 12-30 16:40 | 國產(chǎn)首款DDR5內存問(wèn)世!價(jià)格戰開(kāi)啟,復制長(cháng)江存儲擊敗三星路徑!
- 12-30 16:36 | 華為手機回歸第一年:全年銷(xiāo)量或超4000萬(wàn)臺 有望憑借Mate 70在高端市場(chǎng)擊敗蘋(píng)果
- 11-26 18:19 | 眾興菌業(yè)擬與漣水縣人民政府簽訂《招商引資合同書(shū)》 擬投資設立漣水食用菌產(chǎn)業(yè)園項目
- 11-26 18:16 | 美芝股份中選vivo全球AI研發(fā)中心-精裝工程采購項目(標段二)
- 11-26 18:14 | 健之佳擬用不超1億回購公司股份 維護公司價(jià)值及股東權益
- 11-26 09:53 | 格靈深瞳收購深圳市國科億道科技有限公司部分股權并增資5000萬(wàn)
- 11-26 09:37 | 煒岡科技擬以1.49億購買(mǎi)衡所華威9.33%股權 華海誠科擬發(fā)行可轉債收購煒岡科技所持衡所華威股權