火山引擎總裁譚待

企業(yè)要做好大模型落地，面臨模型效果、推理成本、落地難度的三大關(guān)鍵挑戰(zhàn)：既要有好的基礎(chǔ)大模型做支撐，解決複雜難題，也要有低成本的推理服務(wù)讓大模型被廣泛應(yīng)用，還要更多工具、平臺和應(yīng)用幫助企業(yè)做好場景落地。

—譚待? 火山引擎總裁

#01.

?豆包款大模型首次亮相?

?大使用量打磨好模型?

模型效果是AI 落地最關(guān)鍵的挑戰(zhàn)。譚待指出，只有大的使用量，才能打磨出好模型。目前，豆包大模型日均處理1,200億 tokens 文字、生成3,000萬張圖片。

為助力企業(yè)做好大模型場景落地，位元組跳動自主研發(fā)的豆包大模型將透過火山引擎正式對外提供服務(wù)，企業(yè)可根據(jù)自身業(yè)務(wù)場景需求靈活選擇、快速落地：

• 豆包通用模型pro：字節(jié)跳動自研LLM模型專業(yè)版，支援128k 長文本，全系列可精調(diào)，具備更強(qiáng)的理解、生成、邏輯等綜合能力，適合問答、總結(jié)、創(chuàng)作、分類等豐富場景；
• #豆包通用模型lite：位元組跳動自研LLM模型輕量版，對比專業(yè)版提供更低token 成本、更低延遲，為企業(yè)提供靈活經(jīng)濟(jì)的模型選擇；
• ##豆包·角色扮演模型：個(gè)人化的角色創(chuàng)作能力，更強(qiáng)的上下文感知和劇情推動能力，滿足靈活的角色扮演需求；
• 豆包·語音合成模型：提供自然生動的語音合成能力，善於表達(dá)多種情緒，演繹多種場景；
• 豆包·聲音復(fù)刻模型：##5秒即可實(shí)現(xiàn)聲音1: 1克隆，對音色相似度和自然度進(jìn)行高度還原，支持聲音的跨語種遷移；
• 豆包·語音識別模型：更高的準(zhǔn)確率及靈敏度，更低的語音辨識延遲，支持多語種的正確辨識；
• #豆包·文生圖模型：更精準(zhǔn)的文字理解能力，圖文匹配更準(zhǔn)確，畫面效果更優(yōu)美，擅長對中國文化元素的創(chuàng)作；
• 豆包·Function call模型：提供更準(zhǔn)確的功能辨識與參數(shù)抽取能力，適合複雜工具呼叫的場景；
• 豆包·向量化模型：聚焦向量檢索的使用場景，為LLM 知識庫提供核心理解能力，支持多語言。

譚待介紹，早在去年，豆包大模型（原名：雲(yún)雀）就在字節(jié)跳動內(nèi)部完成了上線，也是首批通過大模型服務(wù)安全備案的大模型之一。位元組跳動內(nèi)部50多個(gè)業(yè)務(wù)已經(jīng)大量使用豆包大模型進(jìn)行 AI 創(chuàng)新，包括抖音、頭條等數(shù)億 DAU 產(chǎn)品?；抖拱竽Ｐ屯蛟斓亩拱?APP，在蘋果 APP Store 和各大安卓應(yīng)用市場，豆包 APP 的下載量在 AIGC 類應(yīng)用中排名第一*。

*資料來源：QuestMobile

#位元組跳動產(chǎn)品與策略副總裁朱駿位元組跳動產(chǎn)品和策略副總裁朱駿介紹了位元組跳動基於豆包大模型打造AI 原生應(yīng)用的產(chǎn)品概念。他表示，科技正在快速演化，但使用者核心的需求沒有改變，例如高效獲取資訊的需求、工作效率的需求、自我表達(dá)的需求、社交娛樂的需求等。位元組跳動做了很多學(xué)習(xí)和探索，希望找到適合的大模型應(yīng)用形態(tài)，以自然的互動形式服務(wù)用戶，走入更多人的生活和工作。

豆包 APP 是位元組跳動重點(diǎn)投入的大模型應(yīng)用，據(jù)朱駿透露，豆包平臺月度活躍用戶達(dá)到2,600萬，已有超過800萬個(gè)智能體被創(chuàng)建。

豆包大模型在服務(wù)位元組內(nèi)部的同時(shí)，也與火山引擎的眾多企業(yè)客戶合作共創(chuàng)。譚待認(rèn)為，企業(yè)在不同業(yè)務(wù)場景中，需要不同特點(diǎn)的模型，以達(dá)到最佳效果和性價(jià)比。為此，豆包大模型提供的是一個(gè)多模態(tài)模型家族，企業(yè)可根據(jù)自身業(yè)務(wù)場景需求彈性選擇，實(shí)現(xiàn)模型使用及成本控制的正循環(huán)。

02.

?人人用得起?

?才是好模式?

#譚待認(rèn)為，降低成本是推動大模型快轉(zhuǎn)到「價(jià)值創(chuàng)造階段」的關(guān)鍵因素。豆包主力模型在企業(yè)市場的定價(jià)只有0.0008元/千 tokens，0.8厘就能處理1,500多個(gè)漢字，比行業(yè)便宜99.3%。

以豆包通用模型pro-32k 版為例，模型推理輸入價(jià)格僅0.0008元/千 tokens。而市面上同規(guī)格模型的定價(jià)一般為0.12元/千 tokens，是豆包模型價(jià)格的150倍。大模型價(jià)格，進(jìn)入「厘時(shí)代」。

譚待表示，大模型「卷」價(jià)格，將助力企業(yè)以更低成本加速業(yè)務(wù)創(chuàng)新。 03.

?方舟2.0升級?

?推廣大型模式價(jià)值創(chuàng)造?

##去年，火山引擎發(fā)布了一站式大模型服務(wù)平臺火山方舟，希望透過模型即服務(wù)的概念，幫助企業(yè)在高效、安全的環(huán)境中應(yīng)用各類模型。今年，火山引擎對方舟平臺進(jìn)行了全面升級，升級後的火山方舟2.0將大幅提升模型效果、核心插件、系統(tǒng)性能以及平臺體驗(yàn)，幫助企業(yè)推進(jìn)大模型的價(jià)值創(chuàng)造。

在插件和工具鏈上，方舟2.0升級了

聯(lián)網(wǎng)插件

，提供頭條抖音同款搜尋能力，即時(shí)連接海量優(yōu)質(zhì)數(shù)據(jù)，同時(shí)使用文字、圖像、語音等多模態(tài)交互方式，並透過業(yè)內(nèi)領(lǐng)先的意圖識別能力，大幅提升模型的信息獲取能力；升級###內(nèi)容插件###，提供頭條抖音同源海量內(nèi)容，支持多模態(tài)交互，提供基於意圖的垂類內(nèi)容資訊檢索，內(nèi)容時(shí)效檢索更強(qiáng)，幫助大模型深入理解、檢索和生成內(nèi)容；升級###知識庫插件###，提供毫秒級百億規(guī)模的高效能檢索，秒級流式知識庫索引更新，內(nèi)嵌豆包向量化模型，提高搜尋的相關(guān)性和準(zhǔn)確性。 ######除以上核心外掛升級之外，火山方舟2.0也全面升級了系統(tǒng)承載能力、安全防護(hù)能力和演算法服務(wù)能力。在系統(tǒng)承載力上，提供充沛的GPU 算力資源，分鐘級千卡擴(kuò)縮容的超強(qiáng)彈性，保障業(yè)務(wù)穩(wěn)定與成本可控；在安全防護(hù)上，透過安全沙箱建構(gòu)可信的執(zhí)行環(huán)境，多維度的安全架構(gòu)，保障資料安全；此外，火山引擎提供專業(yè)的演算法團(tuán)隊(duì)服務(wù)，協(xié)助客戶釋放獨(dú)特資料價(jià)值，讓企業(yè)大模型應(yīng)用輕鬆落地。 ############釦子產(chǎn)品經(jīng)理潘宇揚(yáng)#########除了好的模型效果、便利的插件、強(qiáng)勁的系統(tǒng)性能，還需要提供簡單易用開發(fā)平臺，才能讓所有人都能成為AI 應(yīng)用的開發(fā)者。釦子產(chǎn)品經(jīng)理潘宇揚(yáng)介紹，釦子（coze）作為字節(jié)跳動推出的新一代AI 應(yīng)用開發(fā)平臺，具備低門檻、個(gè)性化、實(shí)時(shí)性、多模態(tài)等優(yōu)勢，並集合海量的AI 資源、豐富的發(fā)布渠道、一鍵自訂API 服務(wù)，幫助填補(bǔ)大模型到使用者場景的最後一公里。 ######火山引擎正式發(fā)布了釦子專業(yè)版。釦子專業(yè)版在釦子視覺化靈活編排智能體的能力基礎(chǔ)上，進(jìn)一步提供企業(yè)級 SLA 和多種高級特性，使 AI 應(yīng)用更易落地，讓企業(yè)更專注於透過智能體創(chuàng)新，驅(qū)動業(yè)務(wù)成長。 ######譚待表示，火山引擎致力於成為 AI 時(shí)代最開放和領(lǐng)先的雲(yún)端服務(wù)平臺。全新升級的火山方舟2.0將透過更強(qiáng)效能、更優(yōu)插件、更好服務(wù)以及安全可信方案，助力大模型應(yīng)用落地。 #########04.############?廣泛落地實(shí)踐?############?多產(chǎn)業(yè)結(jié)出碩果?######################## ##豆包大模型和火山方舟2.0目前已經(jīng)在金融、汽車、智慧終端、電商零售、教育科研等多個(gè)產(chǎn)業(yè)實(shí)踐落地。招商銀行、海底撈火鍋、超級猩猩、攜程旅遊、飛常準(zhǔn)、獵聘等企業(yè)也已經(jīng)在釦子上搭建了智能體。復(fù)旦大學(xué)、浙江大學(xué)等名校也為課程和實(shí)驗(yàn)搭建了 「AI 助教」。 ###

招商銀行數(shù)位金融發(fā)展辦公室主任高旭磊

作為金融業(yè)AI 轉(zhuǎn)型的實(shí)踐者，招商銀行正在智能外呼、數(shù)位人、智慧數(shù)據(jù)助理等上百個(gè)AI 服務(wù)場景探索和投入。招商銀行數(shù)位金融發(fā)展辦公室主任高旭磊表示，大模型將為銀行全鏈條業(yè)務(wù)帶來改造與升級。攜手火山引擎，雙方將共建大模型應(yīng)用場景及高效能基礎(chǔ)設(shè)施，改造現(xiàn)有系統(tǒng)和產(chǎn)品，催生大量以 AI 為核心的智能體應(yīng)用。

蒙牛集團(tuán)副總裁、首席數(shù)智官李琤潔

蒙牛集團(tuán)副總裁、集團(tuán)首席數(shù)智官李琤潔從生產(chǎn)工具進(jìn)化、生產(chǎn)方式進(jìn)化、組織方式進(jìn)化的三個(gè)面向介紹了蒙牛集團(tuán)的數(shù)智化歷程。蒙牛集團(tuán)正與火山引擎合作夯實(shí)技術(shù)底座，並建構(gòu)了AI 營養(yǎng)專家、AI 育嬰師、AI 數(shù)據(jù)分析師、產(chǎn)品創(chuàng)新助理、熱點(diǎn)創(chuàng)意助理等智能體矩陣，提升前端消費(fèi)者體驗(yàn)，助力後端運(yùn)營人員決策。

智慧終端機(jī)大模型聯(lián)盟發(fā)行

會上，火山引擎與OPPO、vivo、榮耀、小米、三星、華碩宣布成立智慧終端大模型聯(lián)盟。 OPPO 小布助手、榮耀 MagicBook 的 YOYO 助理、小米「小愛同學(xué)」、華碩筆記型電腦的豆叮 AI 助手等應(yīng)用，均已接入火山引擎的大模型服務(wù)。

汽車大模型生態(tài)聯(lián)盟發(fā)布

同時(shí)，火山引擎聯(lián)合中國電動汽車百人會與吉利汽車、長城汽車、捷途汽車、賽力斯、智己汽車等20餘家廠商，宣布成立汽車大模型生態(tài)聯(lián)盟，致力於探索新一代人車互動新形態(tài)，提升汽車全場景AI 新體驗(yàn)。

兩大聯(lián)盟企業(yè)OPPO 和捷途汽車也分別就自身的大模型實(shí)踐進(jìn)行了分享：

OPPO 智慧助理部部長、小布助理首席架構(gòu)師萬玉龍

OPPO 智慧助理部部長，小布助理首席架構(gòu)師萬玉龍分享了OPPO AI 手機(jī)的大模型應(yīng)用實(shí)踐，他表示，目前小布助理已經(jīng)覆蓋3.5億終端設(shè)備，每月活躍用戶數(shù)超1.5億。在火山方舟上，OPPO 透過意圖識別大模型、聯(lián)網(wǎng)總結(jié)大模型、個(gè)人化人物大模型和豆包大模型構(gòu)建了通用問答、伶俐小妹、面試官等智能體，為終端用戶帶來了全新的AI體驗(yàn)。

捷途汽車數(shù)位化負(fù)責(zé)人劉航

捷途汽車數(shù)位化負(fù)責(zé)人劉航表示，捷途汽車希望透過大模型擴(kuò)大自身服務(wù)能力、洞察用戶真實(shí)需求，進(jìn)而提升銷售效率與能力。攜手火山引擎，雙方圍繞客服場景進(jìn)行了共創(chuàng)，所打造的智慧客服 AI 小捷，在節(jié)省人力的同時(shí)，還能幫助客服人員快速獲取信息，服務(wù)客戶。未來，捷途汽車也希望透過大模型進(jìn)一步實(shí)現(xiàn)座艙、決策、行銷的智慧化升級。

05.

?多款A(yù)I 應(yīng)用發(fā)布?

?快速落地開箱即用?

除大模型服務(wù)平臺以外，AI 應(yīng)用也是火山引擎全端AI 服務(wù)的關(guān)鍵組成。

去年，火山引擎提出了企業(yè)數(shù)智化升級新模式－資料飛輪，該模式以資料消費(fèi)為核心驅(qū)動力，使企業(yè)資料流充分融入業(yè)務(wù)流，實(shí)現(xiàn)資料資產(chǎn)和業(yè)務(wù)應(yīng)用的飛輪效應(yīng)。為了讓企業(yè)資料消費(fèi)更普惠、更便捷，火山引擎智慧資料洞察DataWind 正式發(fā)表AI 助理ChatBI，使用者可透過自然語言互動產(chǎn)生指標(biāo)，用於圖表製作、資料查詢，還可進(jìn)行深度資料分析，且ChatBI支援IM 交互，可多端應(yīng)用，隨時(shí)隨地自助分析，這將大幅降低資料消費(fèi)門檻，提升讀數(shù)、用數(shù)效率，為資料飛輪加速運(yùn)轉(zhuǎn)提供動力。

面向行銷場景，火山引擎進(jìn)行了智慧創(chuàng)作雲(yún)2.0的升級，成為從內(nèi)容創(chuàng)作、矩陣分發(fā)、廣告投放到資料洞察一站式的企業(yè)內(nèi)容行銷成長方案；不僅提供多模態(tài)的理解與生成能力，協(xié)助影片創(chuàng)作效率提升25倍，更上線抖音話題、POI、小程式等行銷工具，讓門市頁面曝光提升600%。目前已經(jīng)有3,000+企業(yè)在火山引擎開啟 AIGC 影片行銷成長。

面向銷售場景，火山引擎發(fā)布了銷售 AI 助理 Sales Copilot，能夠高效跟進(jìn)客戶需求，隨時(shí)輔助銷售解答複雜的產(chǎn)品問題。此外，它還能透過角色扮演的方式模擬不同風(fēng)格的對客演練，並提供優(yōu)秀話術(shù)學(xué)習(xí)，提升銷售溝通品質(zhì)。

火山引擎一直致力於建構(gòu)開放共享的生態(tài)理念，自2021年發(fā)布萬有計(jì)畫以來，已經(jīng)幫助100+家 SaaS 企業(yè)實(shí)現(xiàn)了業(yè)務(wù)成長，實(shí)現(xiàn)近萬單客戶簽約。豆包企服聯(lián)盟，是萬有計(jì)畫針對大模型落地的專案計(jì)畫。萬有計(jì)畫·豆包企服聯(lián)盟將提供一攬子支援規(guī)劃，協(xié)助 SaaS 企業(yè)實(shí)現(xiàn) AI 升級，為業(yè)界客戶提供更多開箱即用的 AI 應(yīng)用。

06.

?AI 基礎(chǔ)設(shè)施再升維?

?雲(yún)端運(yùn)算力可靠度保障?

大模型時(shí)代，叢集管理複雜度、網(wǎng)路效能、穩(wěn)定性是雲(yún)端基礎(chǔ)的關(guān)鍵挑戰(zhàn)。為因應(yīng)上述挑戰(zhàn)，火山引擎基於內(nèi)外共池的資源規(guī)模優(yōu)勢和內(nèi)部實(shí)踐，圍繞大集群建設(shè)、管理、性能優(yōu)化、穩(wěn)定性保障提供了一套業(yè)界領(lǐng)先的解決方案。

NVIDIA 解決方案和工程副總裁賴俊傑

會上，火山引擎正式發(fā)布veOmniverse，基於NVIDIA Omniverse 為企業(yè)、開發(fā)者提供全新的雲(yún)端上開發(fā)平臺，協(xié)助企業(yè)與開發(fā)者在互聯(lián)的虛擬世界中，圍繞著工作流程展開高效的設(shè)計(jì)與協(xié)作，探索並打造智慧逼真的虛擬世界。

除為客戶提供高穩(wěn)定性和高效能的雲(yún)端基礎(chǔ)設(shè)施外，面對本地部署需求，火山引擎也全新發(fā)布了混合雲(yún)veStack 智算版，具有萬卡集群組網(wǎng)，3.2 T 高效能無損網(wǎng)路的超大規(guī)模優(yōu)勢；端對端工程化所支撐的極致性能，能夠?qū)崿F(xiàn)97.78%訓(xùn)練加速比和分鐘級故障發(fā)現(xiàn)和自愈；擁有多元異構(gòu)能力，可適配十餘種GPU ，支持主流國產(chǎn)化GPU。

完整的 AI 應(yīng)用除 GPU 負(fù)責(zé)的密集運(yùn)算外，存量 CPU 負(fù)載也需要持續(xù)降本增效，保障業(yè)務(wù)輕裝上陣，加速創(chuàng)新。從運(yùn)算、儲存、網(wǎng)路、維運(yùn)4個(gè)層面，火山引擎全力支援客戶雲(yún)端上業(yè)務(wù)穩(wěn)定營運(yùn)。

End

從技術(shù)創(chuàng)新到商業(yè)落地，大模型已經(jīng)為各行業(yè)的 AI 轉(zhuǎn)型提供了強(qiáng)大的動能?；鹕揭婊段辉M跳動在大模型領(lǐng)域的實(shí)踐沉澱，透過大使用量打磨出好模型，以技術(shù)驅(qū)動的極致性價(jià)比讓大模型人人用得起，透過各行業(yè)豐富的落地經(jīng)驗(yàn)與演算法服務(wù)陪伴客戶一起成長。未來，火山引擎全端 AI 服務(wù)將持續(xù)協(xié)助企業(yè) AI 轉(zhuǎn)型落地，激發(fā)業(yè)務(wù)成長潛能。