9月6日,2024騰訊全球數(shù)字生態(tài)大會互聯(lián)網(wǎng)AI應用專場正式舉辦。專場以“從數(shù)字化原住民,到智能化先鋒派”為主題,SaaS、文娛、社交等賽道的先鋒企業(yè)齊聚一堂,分享用云最佳實踐,以及AI在影音、營銷、電商、招聘等多個領域的創(chuàng)新應用經(jīng)驗。會上,騰訊云還公布了最新的AI原生云產(chǎn)品服務。
云+AI基礎設施已成為企業(yè)智能化轉型的關鍵支撐,但企業(yè)在嘗試AI時,也面臨包括算力、算法開發(fā)和專業(yè)人才的挑戰(zhàn)。騰訊云副總裁許華彬在開場致辭中表示,“RAG結合企業(yè)自有知識,無需企業(yè)花費較多人力和算力,以及對大模型SFT精調,是當前企業(yè)級AI應用落地的成熟方案。近期來多行業(yè)場景的AI Agent蓬勃發(fā)展,面向C端的原生應用,以及B端企業(yè)級業(yè)務流程自動化,將成為后續(xù)應用落地的主要方式。云計算是夯實基礎的重要底座,云原生技術助力企業(yè)實現(xiàn)敏捷開發(fā),以新技術、新市場的創(chuàng)新,實現(xiàn)增長突破?!?
騰訊云副總裁 許華彬
以AI大模型為“基座”,驅動業(yè)務創(chuàng)新發(fā)展
隨著大模型深入應用于各行各業(yè),各行業(yè)對大模型的要求也更為精細。騰訊混元大模型算法負責人康戰(zhàn)輝在演講中提到,算力更強、效果更好、應用成本更低的大模型才符合當下需求。相比前代模型,最新發(fā)布的旗艦大模型“混元Turbo”性能有顯著提升,訓練效率提升108%,推理效率提升100%,推理成本降低50%,解碼速度提升20%,效果在多個基準測試上對標GPT-4o,第三方測評居國內第一。除支持通用大模型能力外,騰訊混元Turbo也支持角色扮演、FunctionCall、代碼生成和AI聯(lián)網(wǎng)搜索等領域能力。目前,騰訊混元在騰訊云上提供了多種尺寸的模型服務,通過API、專屬模型、精調模型等接入和使用方式面向企業(yè)及個人開發(fā)者全量開放。?
騰訊機器學習平臺總監(jiān)、混元大模型算法負責人 康戰(zhàn)輝
金蝶中國副總裁、研發(fā)平臺總經(jīng)理李帆介紹了金蝶Cosmic一體化企業(yè)級AI 解決方案等與騰訊云的系列合作成果?;隍v訊混元大模型,金蝶招聘可實現(xiàn)5分鐘招聘需求生產(chǎn)以及簡歷初篩,招聘效率提升90%?;隍v訊云TI平臺,結合高性能計算集群與星脈網(wǎng)絡,金蝶訓練財務大模型效率提升30%。?
金蝶中國副總裁、研發(fā)平臺總經(jīng)理 李帆
在協(xié)同辦公領域,騰訊文檔AI負責人TONY TANG分享了騰訊文檔AI在全品類文檔生成、跨品類信息處理、一鍵式智能交互方面的優(yōu)勢。目前,基于騰訊混元大模型能力,騰訊文檔AI智能助手已全面應用于文檔、表格、幻燈片、PDF、智能文檔、收集表、思維導圖等文檔類型,涵蓋了文本內容秒級處理、函數(shù)公式運算應用、表格數(shù)據(jù)精準呈現(xiàn)、PPT快速生成美化、收集結果自動分析、思維導圖一鍵生成等多項能力,并支持跨品類文檔內容暢通流轉。用戶在騰訊文檔電腦端或移動端,通過“一句話”的指令,即可開啟AI融合后的智能辦公和高效創(chuàng)作體驗。?
騰訊文檔負責人 TONY TANG
挖掘云上增長新能力,解鎖AIGC用云最佳實踐
AI應用長久穩(wěn)定運行,離不開云上基礎設施的構建。建設好堅實的云基座,才能為AI應用提供更為廣闊的能力上探空間。大會現(xiàn)場,多位AI應用的先鋒實踐者基于自身業(yè)務進展,分享了AIGC用云的意義。
在消費領域,值得買科技CTO王云峰分享了值得買科技1個“值得買消費大模型”,“商品庫”和“內容庫”2大數(shù)據(jù)庫,AIUC分析引擎、AIGC生成引擎和AGENT調度引擎3個應用構建框架,以及提供針對性的AI解決方案的4類應用AI戰(zhàn)略。
針對云基礎設施,王云峰分享了值得買科技依托騰訊混元大模型等理解語音、視頻、圖像的多模態(tài)數(shù)據(jù),以及自購算力+多云算力的模式。目前,值得買科技已可實現(xiàn)10億+條商品庫與近百億條內容庫的數(shù)據(jù)處理和迅速進行模型訓練和推理部署,而通過騰訊云容器場景GPU虛擬化,什么值得買也實現(xiàn)了對單個GPU的更細粒度劃分,大大提升了資源利用率減少資源和人力的消耗。?
值得買科技CTO 王云峰
燧原科技副總裁任樹峰表示,通過騰訊云保障燧原的峰值算力供給,燧原驗證、benchmark測試效率從2周準備環(huán)境縮短至30分鐘,提升作業(yè)并發(fā)100%、縮短仿真周期30%。?
燧原科技副總裁 任樹峰
?在文娛領域,貓眼娛樂副總裁徐曉分享了基于騰訊云數(shù)據(jù)傳輸、數(shù)據(jù)存儲安全方面能力打造的貓眼渲染平臺的全程云端制作與渲染提升案例。依托騰訊云,貓眼娛樂的大數(shù)據(jù)平臺,可實現(xiàn)日均3萬+離線數(shù)倉調度任務穩(wěn)定運行,核心任務執(zhí)行效率提升20%。?
趣丸技術保障負責人劉亞丹分享了AI大模型賦能軟件研發(fā)提質增效的實踐。借助騰訊云提供的豐富能力,趣丸在代碼Review、編碼、測試等環(huán)節(jié)實現(xiàn)效率提升,在AI輔助編碼方面,代碼采納率30%+;AI輔助代碼Review方面,bug有效性60%+,AI輔助測試用例生成方面,測試用例行采納率40%+,運維數(shù)字員工方面,問答解決率45%+。?
趣丸技術保障負責人 劉亞丹
AI原生云平臺助力企業(yè)快速搭建、部署AI應用
基于AI大模型,更多AI應用得以迅速落地。但作為AI應用的底座,大模型對算力的需求正在呈指數(shù)級增長,數(shù)據(jù)集規(guī)模持續(xù)增大也對數(shù)據(jù)清洗甄別提出了更高的要求。同時,數(shù)據(jù)無偏見,圖片、影像、音頻是否安全合規(guī),使用成本是否可控等,都是使用大模型時需要考慮的問題。
從AI應用落地面臨的挑戰(zhàn)出發(fā),騰訊云行業(yè)架構副總監(jiān)邱浩基于騰訊云AI全棧解決方案,從基礎設施層、模型層、模型加速層、機器學習平臺層、應用平臺層和業(yè)務應用層闡述了騰訊云在計算、存儲、網(wǎng)絡,一站式AI開發(fā)平臺騰訊云TI-ONE以及云原生產(chǎn)品等方面的能力,并給出了對應不同階段AI應用開發(fā)的具體方案。?
騰訊云行業(yè)架構副總監(jiān) 邱浩
作為LLM的頭部玩家,智譜企業(yè)商業(yè)技術中心總經(jīng)理柴思遠表示,騰訊云算力集群搭配自研的星脈網(wǎng)絡,有效提升了多機并行訓練速度。其中,星脈網(wǎng)絡通過自研交換機和通訊協(xié)議,為每臺GPU服務器提供3.2T的交互帶寬,實現(xiàn)40us內的擁塞控制和0丟包,為大規(guī)模的訓練集群提供可靠的網(wǎng)絡保障。搭建星脈的算力集群較智譜原有算力集群,在13B和60B的模型下吞吐表現(xiàn)均大幅提升。此外,騰訊云為智譜AI提供高自愈能力的算力集群,全局監(jiān)控,一站式掌握7*24小時運行狀態(tài),支持故障自動監(jiān)測與恢復,保證任務連續(xù)進行,其中任務自愈時間從2小時縮短至5分鐘,集群自愈時間從24小時縮短至10分鐘。?
智譜企業(yè)商業(yè)技術中心總經(jīng)理 柴思遠
在大模型的助力下,AI應用已覆蓋互聯(lián)網(wǎng)多個行業(yè),在業(yè)務高效創(chuàng)新上展現(xiàn)出了更強勢的產(chǎn)品力。會上,面向招聘、營銷、文娛等多方面的AI創(chuàng)新應用也悉數(shù)亮相。
在招聘方面,獵聘技術副總裁、AI中心負責人莫瑜表示,與騰訊云共同探索高度自動化的數(shù)字助理,針對不同職類主動挖掘招聘需求,簡化工作流程,提升候選人尋訪效率;自動化候選人面試環(huán)節(jié),降低人才遴選成本。?
獵聘技術副總裁、AI中心負責人 莫瑜
在營銷領域,筷子科技CEO陳萬峰展示了基于騰訊云的遷移工具MSP、騰訊云容器服務TKE和中間件、騰訊云高性能文件存儲CFS Turbo,在數(shù)據(jù)遷移、彈性伸縮擴容應對高并發(fā),文件存儲以及上傳下載對應解決方案,實現(xiàn)了AIGC一體化平臺在編導、拍攝、剪輯、投放、管理方面工作流性能提升240%。?
筷子科技CEO 陳萬峰
騰訊新聞內容治理中心負責人陸毅然表示,騰訊新聞與AI大模型結合后,提供評論識別的AI應用、新聞Push“AI編輯”、新聞“劃重點”、AI助手“新聞妹”等能力。通過AI在新聞內容精選、編輯、評論治理等多個的運用,新聞類產(chǎn)品內容生產(chǎn)效率和用戶體驗同步提升。?
騰訊新聞內容治理中心負責人 陸毅然
騰訊混元高級AI策略產(chǎn)品經(jīng)理張漢策以《長相思 第二季》中的角色AI為例,介紹了騰訊元寶如何與影視IP進行深度結合。此次《長相思》角色AI基于騰訊自研混元大模型的能力,訓練了專門的角色模型,深入地理解角色的核心特質,而不僅僅是模仿表面的說話風格,從而塑造出更具真實感的角色,激發(fā)用戶參與和共創(chuàng)。同時,基于多輪對話能力,實現(xiàn)了持續(xù)、實時、個性化對話,并采用音色克隆的技術,高度還原角色原聲,建立了與粉絲真實且長久的聯(lián)結。目前,長相思AI角色對話總熱度超3.7億,“相柳”? 單角色熱度超2億。?
騰訊混元高級AI策略產(chǎn)品經(jīng)理 張漢策
騰訊云擁有廣泛的全球基礎設施,覆蓋21個地區(qū),運營58個可用區(qū),全球服務器數(shù)量超過100萬臺,全球加速節(jié)點超過3200個,帶寬儲備達到200Tbps。一直以來,騰訊云都以深厚的公有云實力和分布式云戰(zhàn)略,持續(xù)推動各行各業(yè)的數(shù)字化轉型。截至目前,騰訊云AI產(chǎn)品已覆蓋超過400家互聯(lián)網(wǎng)頭部企業(yè),累計服務超過12萬家互聯(lián)網(wǎng)客戶。
騰訊云也將繼續(xù)秉承開放合作、創(chuàng)新發(fā)展的理念,不斷深化AI技術的研發(fā)與應用,攜手各界伙伴共同探索AI技術的無限可能,助力企業(yè)在變革中把握住機遇,破開創(chuàng)新增長新空間,打造第二增長曲線。
還沒有評論,來說兩句吧...