為行業(yè)規(guī)范化發(fā)展賦能,天翼云獲頒智算工程平臺標準參編證書
7月24日,2024可信云大會召開期間,智算云服務論壇上,天翼云榮獲中國信通院頒發(fā)的“智算工程平臺能力要求標準參編證書”,代表了業(yè)界對天翼云在推動行業(yè)標準制定中所作貢獻及成果的重要肯定,以及對天翼云技術創(chuàng)新水平的高度認可。會上,天翼云科技有限公司智算產(chǎn)品線資深技術專家瞿龍發(fā)表演講,介紹了天翼云智算平臺加速大模型應用方面的技術亮點與成功案例。
隨著人工智能技術的快速發(fā)展,智算成為推動科技進步和產(chǎn)業(yè)發(fā)展的重要力量。為了促進智算技術的標準化、規(guī)范化發(fā)展,提升我國在全球智算領域的競爭力,推動云上軟件工程能力水平升級,中國信通院聯(lián)合天翼云等產(chǎn)學研各界共同探討軟件工程和智算領域的前沿技術、發(fā)展趨勢和應用場景,整合優(yōu)質(zhì)資源,凝聚產(chǎn)業(yè)共識,搭建合作橋梁,推進智算云服務高速高質(zhì)量發(fā)展。在智算工程平臺能力要求標準的制定中,天翼云智能邊緣事業(yè)部慧聚平臺團隊與業(yè)界同仁緊密合作,深度參與了平臺能力要求的制定過程,共同探索智算前沿技術,優(yōu)化智算平臺能力要求,推動產(chǎn)業(yè)落地應用,為行業(yè)的規(guī)范化發(fā)展貢獻了智慧與力量。
瞿龍表示,伴隨人工智能技術迅速發(fā)展,大模型層出不窮,模型的參數(shù)量呈幾何級增長,其所依賴的數(shù)據(jù)集規(guī)??涨褒嫶?,對算力基礎設施的性能、穩(wěn)定性、運維管理、安全、成本等各方面提出了前所未有的挑戰(zhàn)。
作為云服務國家隊,天翼云積極布局智算基礎設施建設,全面升級產(chǎn)品及生態(tài)矩陣,打造了算力互聯(lián)調(diào)度平臺“息壤”、一體化計算加速平臺“云驍”和一站式智算服務平臺“慧聚”三大智算平臺,以豐富的智算資源供給、強大的智算服務能力和開放的模型應用生態(tài),實現(xiàn)智能算力普惠供應,為千行百業(yè)數(shù)智化轉(zhuǎn)型發(fā)展賦能。
大模型開發(fā)是涉及軟硬件平臺、算法、應用的系統(tǒng)工程。天翼云一站式智算服務平臺“慧聚”能夠為大模型訓練、推理、應用提供全棧工具鏈,讓企業(yè)更專注模型升級和應用落地。在技術上,“慧聚”平臺突破分布式存儲優(yōu)化、斷點續(xù)訓、推理加速等核心技術點,大幅提升模型系統(tǒng)效率。其中,分布式存儲優(yōu)化通過引入高速外部存儲,優(yōu)化訓練框架異步保存邏輯,顯著降低Checkpoint的保存總耗時;“慧聚”平臺通過實現(xiàn)斷點續(xù)訓等技術能力,實現(xiàn)訓練任務長期穩(wěn)定、高可用運行;此外,“慧聚”從“系統(tǒng)-模型-數(shù)據(jù)”三個層面打造自研大規(guī)模在線推理解決方案,通過全鏈路數(shù)據(jù)感知、模型量化和算子加速、分布式推理框架,有效提升大模型總體推理服務吞吐量,并使首token時延明顯下降。
基于平臺的強大能力,“慧聚”已經(jīng)實現(xiàn)廣泛落地應用,為人工智能模型開發(fā)者、模型提供者等提供堅實助力。今年年初正式啟用的天翼云上海臨港國產(chǎn)萬卡算力池,通過承載“慧聚”平臺,可針對大模型訓練微調(diào)場景,提供訓推一體化算力服務,實現(xiàn)萬卡資源調(diào)度,全面賦能上海千行百業(yè)。同時,“慧聚”還為中國電信千億參數(shù)星辰大模型提供支撐,助力解決星辰大模型訓練和部署中面臨的復雜性和資源需求問題,加速模型落地與應用。
人工智能大模型迅猛發(fā)展,算力基礎設施也需要不斷進化。面向未來,天翼云將堅持科技創(chuàng)新,深耕智算基礎設施建設,持續(xù)優(yōu)化產(chǎn)品性能、提升服務質(zhì)量,并積極牽引云計算行業(yè)標準制定與生態(tài)建設工作,攜手業(yè)界伙伴共同推動云計算技術的創(chuàng)新與發(fā)展。
關鍵詞:
責任編輯:hnmd004
-
window10如何打開網(wǎng)絡適配器?網(wǎng)絡適配器沒有了怎么辦?
window10如何打開網(wǎng)絡適配器?1、首先打開電腦,進入桌面,找到任務欄右下角的網(wǎng)絡圖標2、 右鍵,在打開的菜單中,選擇打開網(wǎng)絡和internet
2023-07-10 09:27:16 -
電腦忘記了開機密碼怎么解鎖?電腦忘記密碼怎樣清除開機密碼?
電腦忘記了開機密碼怎么解鎖?方法一:在開機時,按下 F8 進入【帶命令提示符的安全】模式,輸入【NET USER+用戶名+123456 ADD】可把某用
2023-07-10 09:22:59 -
win11小組件怎么關閉廣告?win11小組件不可用怎么辦?
win11小組件怎么關閉廣告?1、按win+r鍵,打開windows11運行,輸入msconfig,回車。2、彈出窗口,在系統(tǒng)配置界面中切換到啟動選項卡,點擊打
2023-07-10 09:21:16 -
資源管理器經(jīng)常未響應怎么辦?資源管理器一直不停的重啟怎么辦?
資源管理器經(jīng)常未響應怎么辦?1、重新啟動計算機有時資源管理器未響應是因為系統(tǒng)出現(xiàn)假死狀態(tài),此時可以重新啟動計算機,以便重新加載系統(tǒng),
2023-07-10 09:18:37 -
電腦怎么調(diào)整鼠標指針顏色?怎樣設置鼠標點到的單元格有顏色?
電腦怎么調(diào)整鼠標指針顏色?1、打開電腦設置界面,點擊設備。2、在設備界面,點擊鼠標。3、在鼠標界面,點擊調(diào)整鼠標和光標大小。4、在更改
2023-07-10 08:21:07 -
顯卡風扇不轉(zhuǎn)了影響大嗎?顯卡風扇轉(zhuǎn)好還是不轉(zhuǎn)好?
顯卡風扇不轉(zhuǎn)了影響大嗎?1、風扇轉(zhuǎn)動主要是使顯卡散熱,如果在顯卡工作是達到一定的溫度,風扇會自動轉(zhuǎn)起,控制顯卡溫度,保護顯卡。當?shù)陀谶@一
2023-07-07 15:57:38 -
word文件損壞打不開怎么修復?word文件損壞亂碼怎么修復?
word文件損壞打不開怎么修復?1 打開Microsoft Word軟件,點擊文件菜單,選擇打開命令。2 找到損壞的Word文件,選中文件后點擊打開按鈕
2023-07-07 10:51:03 -
0xc0000005錯誤代碼怎么解決?應用程序0xc0000005是什么錯誤?
0xc0000005錯誤代碼怎么解決?1、首先按下win+r打開運行,輸入regedit按下回車。2、隨后依次定位到:HKEY_LOCAL_MACHINE SOFTWARE Microsoft
2023-07-07 10:47:09 -
java環(huán)境變量配置后不生效什么原因?怎樣看java環(huán)境變量是否配置成功?
java環(huán)境變量配置后不生效什么原因?1 檢查系統(tǒng)是否支持java,即查看java的版本。如果沒有安裝,需要安裝java環(huán)境。2 檢查配置文件是否正確
2023-07-07 10:43:40 -
ios17什么時候可以更新正式版?ios17什么時候正式推送更新?
ios17什么時候可以更新正式版?ios17正式版預計9月可以更新使用,屆時和iPhone15系列新機一起到來。目前,ios17 Beta版在WWDC23發(fā)布會結(jié)束后
2023-07-07 10:40:52 -
Win11打游戲FPS低怎么辦?手機玩游戲幀數(shù)低怎么辦?
Win11打游戲FPS低怎么辦?1、進入Win11系統(tǒng)桌面上,點擊開始選擇設置進入。2、進入設置界面,點擊游戲進入。3、在游戲頁面,點擊游戲模式進
2023-07-07 10:38:03 -
電腦開不了機怎么辦按哪個鍵?電腦開不了機怎么強制開機?
電腦開不了機怎么辦按哪個鍵?F8:進入 Windows 安全模式。F10:進入 BIOS 設置界面。F11:進入系統(tǒng)恢復界面。Del:進入 BIOS 設置界
2023-07-06 11:14:10 -
顯卡風扇不轉(zhuǎn)正常嗎?顯卡風扇不轉(zhuǎn)怎么解決?
顯卡風扇不轉(zhuǎn)正常嗎?顯卡風扇不轉(zhuǎn)是不正常的。1、灰塵過多可能是顯卡上的灰塵太多了,導致堵塞,如果長時間不清理的話,顯卡的風扇就會因為
2023-07-06 11:02:33 -
windowshello突然不能用怎么辦?windows hello在哪里設置?
windowshello突然不能用怎么辦?1、首先按下WIN+R,輸入 services msc 回車2、在服務列表中查找 Windows Biometric Service 看這個服
2023-07-06 10:53:30 -
不支持已連接的usb設備怎么解決?無法識別的usb設備是什么意思?
不支持已連接的usb設備怎么解決?需要格式化。USB不支持已連接的設備,是因為U盤文件系統(tǒng)要FAT32格式,需要重新設置U盤格式,先格式化U盤,將U盤
2023-07-06 08:45:03 -
打開dwg格式的軟件有哪些?dwg格式文件是什么文件?
打開dwg格式的軟件有哪些?1、看圖紙DwgSeePlus,一款dwg文件瀏覽器;2、CAD迷你看圖,一款小巧的DWG文件瀏覽小工具;3、CAD迷你畫圖,一款CAD
2023-07-06 08:42:40 -
電腦突然沒聲音了是什么原因?電腦突然沒聲音了怎么解決?
電腦突然沒聲音了是什么原因?一起跟著小編來看看吧。電腦沒有聲音的原因是計算機硬件問題和軟件問題,硬件問題主要是聲卡壞了,或者輸出聲
2023-07-05 10:24:15 -
amd是哪個國家的品牌?英特爾和amd哪個厲害?
amd是哪個國家的品牌?amd處理器是美國生產(chǎn)的;美國AMD半導體公司專門為計算機、通信和消費電子行業(yè)設計和制造各種創(chuàng)新的微處理器,以及提供
2023-07-05 10:21:36 -
tmp文件可以隨便刪嗎?tmp文件刪不掉怎么辦?
tmp文件可以隨便刪嗎?是的,可以刪除。 tmp文件是一種臨時文件,它們通常由操作系統(tǒng)或應用程序創(chuàng)建,以存儲暫時數(shù)據(jù)。一旦完成,它們就會被
2023-07-05 10:19:30 -
mkv格式手機可以看嗎?蘋果不支持mkv視頻嗎?
mkv格式手機可以看嗎?可以的。 MKV并不是一種壓縮格式,而是Matroska的一種媒體文件,是一種多媒體封裝格式,或叫多媒體容器。 它可將多種不
2023-07-05 10:16:45 -
電腦開機慢特別卡怎么解決?電腦開機慢系統(tǒng)啟動慢什么原因?
電腦開機慢特別卡怎么解決?好多小伙伴不知道如何解決的,那小編就把操作方法分享給大家吧,感興趣的小伙伴可以參考看看哈。方法一: 減少
2023-07-05 10:11:39 -
zip壓縮文件怎么繞過密碼?已有的壓縮包如何添加密碼?
zip壓縮文件怎么繞過密碼?好多小伙伴不知道的,那小編就來給大家解答一下吧,希望可以幫助到大家吧。1、首先在電腦中,啟用英文版nsis,2、
2023-07-05 10:07:06 -
文件后綴隱藏了怎么顯示出來?怎么讓文件顯示擴展名?
文件后綴隱藏了怎么顯示出來?一起來看看吧。1、首先,雙擊打開【計算機】,打開計算機磁盤目錄,2、打開后,正常菜單欄是沒有顯示出來,打
2023-07-04 10:01:15
電腦的文件恢復區(qū)在哪里找?恢復文件已損壞怎么辦?
電腦的文件恢復區(qū)在哪里找?1、1 360文件恢復區(qū)打開【360安全衛(wèi)士】→【木馬查殺】,找到并單擊左下角的【恢復區(qū)】,就可以找到360文件