Presiden Enjin Volcan Tan Dai

Perusahaan mesti melaksanakan model besar dengan baik, tetapi menghadapi tiga cabaran utama: kesan model, kos inferens dan kesukaran pelaksanaan: mereka mesti mempunyai model besar asas yang baik sebagai sokongan untuk menyelesaikan masalah yang kompleks , mesti ada juga perkhidmatan inferens kos rendah untuk membolehkan model besar digunakan secara meluas, dan lebih banyak alat, platform dan aplikasi diperlukan untuk membantu syarikat melaksanakan senario.

——Tan Dai, Presiden Volcano Engine

01.

Beanbao model besar mula-mula

sangat mencabar untuk digunakan. untuk menggilap model yang paling kritikal AI pelaksanaan. Tan Dai menegaskan bahawa hanya melalui penggunaan meluas model yang baik boleh digilap. Pada masa ini, model Doubao memproses 120 bilion token teks dan menjana 30 juta imej setiap hari.

Untuk membantu perusahaan melaksanakan senario model berskala besar, model besar Doubao yang dibangunkan secara bebas oleh ByteDance akan diberikan secara rasmi kepada dunia luar melalui Volcano Engines secara fleksibel boleh memilih dan melaksanakan dengan pantas mengikut keperluan senario perniagaan mereka sendiri:

.

• Doubao ialah Model pro universal: ByteDance versi profesional model LLM yang dibangunkan sendiri, menyokong teks sepanjang 128k, keseluruhan siri boleh diperhalusi, mempunyai keupayaan komprehensif yang lebih kukuh seperti pemahaman, penjanaan, logik, dsb., dan kaya dengan kebolehsuaian untuk soal jawab, ringkasan, penciptaan, klasifikasi, dll. Senario
• Dubao universal model lite: ByteDance versi ringan model LLM yang dibangunkan sendiri, yang memberikan kos token yang lebih rendah dan kependaman yang lebih rendah daripada profesional; versi, menyediakan perusahaan dengan pilihan model yang fleksibel dan menjimatkan; Model sintesis pertuturan: Menyediakan Keupayaan sintesis pertuturan yang semula jadi dan terang, pandai mengekspresikan pelbagai emosi dan melakukan pelbagai adegan
• Doubao·Model replika suara: Anda boleh mencapai pengklonan 1:1; dalam 5 saat, sangat memulihkan persamaan dan keaslian timbre, dan menyokong pemindahan silang bahasa suara
• Doubao·Model pengecaman pertuturan: Ketepatan dan kepekaan yang lebih tinggi, kelewatan pengecaman pertuturan yang lebih rendah, menyokong pengecaman berbilang yang betul; bahasa;
• Doubao·Model gambar rajah Vincent: Keupayaan pemahaman teks yang lebih tepat, padanan imej dan teks yang lebih tepat, kesan gambar yang lebih cantik, pandai mencipta unsur budaya Cina
• Doubao·Model panggilan fungsi: Memberikan pengenalan fungsi yang lebih tepat dan keupayaan pengekstrakan parameter, Sesuai untuk senario panggilan alat yang kompleks
• Doubao·Model Vektorisasi: Fokus pada senario penggunaan bagi mendapatkan semula vektor, menyediakan keupayaan pemahaman teras LLMabilities; berbilang bahasa.
• Tan Dai memperkenalkan bahawa seawal tahun lepas, model Doubao (nama asal: Skylark) telah dilancarkan dalam ByteDance, dan ia juga merupakan salah satu model besar pertama yang didaftarkan dengan selamat melalui perkhidmatan model besar. Lebih daripada 50 perniagaan dalam ByteDance telah menggunakan model Doubao secara meluas untuk inovasi AI, termasuk produk dengan ratusan juta DAU seperti Douyin dan Toutiao. Doubao APP, yang berdasarkan model besar Doubao dengan nama yang sama, menduduki tempat pertama dalam kalangan aplikasi AIGC* dari segi muat turun di Apple APP Store dan pasaran aplikasi Android utama.
*Sumber data: QuestMobile
• Zhu Jun, Naib Presiden Produk dan Strategi ByteDance

Zhu Jun, Naib Presiden Produk dan Strategi ByteDance, memperkenalkan produk aplikasi ByteDance yang berasaskan AIao's native idea model besar. Beliau berkata bahawa teknologi berkembang pesat, tetapi keperluan teras pengguna tidak berubah, seperti keperluan untuk mendapatkan maklumat dengan cekap, keperluan untuk meningkatkan kecekapan kerja, keperluan untuk ekspresi diri, keperluan untuk hiburan sosial, dll. ByteDance telah melakukan banyak kajian dan penerokaan, dengan harapan dapat mencari borang aplikasi model besar yang sesuai untuk memberi perkhidmatan kepada pengguna dalam bentuk interaktif semula jadi dan memasuki lebih ramai kehidupan dan pekerjaan orang. Doubao APP ialah aplikasi model berskala besar yang difokuskan oleh ByteDance Menurut Zhu Jun, pengguna aktif bulanan platform Doubao telah mencapai 26 juta, dan lebih daripada 8 juta ejen telah dicipta.

Doubao Big Model bukan sahaja melayani kerja dalaman Byte, tetapi juga mencipta bersama dengan ramai pelanggan perusahaan Volcano Engine. Tan Dai percaya bahawa perusahaan memerlukan model dengan ciri yang berbeza dalam senario perniagaan yang berbeza untuk mencapai hasil terbaik dan prestasi kos. Untuk tujuan ini, Doubao Big Model menyediakan keluarga model berbilang modal yang boleh dipilih oleh perusahaan secara fleksibel mengikut senario perniagaan mereka sendiri yang diperlukan untuk mencapai kitaran positif penggunaan model dan kawalan kos. . Harga model utama Doubao dalam pasaran perusahaan hanyalah 0.0008 yuan/ribu token Ia boleh memproses lebih daripada 1,500 aksara Cina pada 0.8 sen, iaitu 99.3% lebih murah daripada industri.

Mengambil model universal Doubao versi pro-32k sebagai contoh, harga input inferens model hanya 0.0008 yuan/ribu token. Harga model dengan spesifikasi yang sama di pasaran secara amnya ialah 0.12 yuan/ribu token, iaitu 150 kali ganda harga model pundi kacang. Harga model besar sudah masuk "zaman centi". Tan Dai berkata bahawa harga "roller" model besar akan membantu syarikat mempercepatkan inovasi perniagaan pada kos yang lebih rendah. . model sebagai perkhidmatan Mengaplikasi pelbagai model dalam persekitaran yang cekap dan selamat. Tahun ini, Volcano Engine telah menaik taraf platform Ark 2.0 secara menyeluruh. Volcano Ark 2.0 yang dinaik taraf akan meningkatkan kesan model, pemalam teras, prestasi sistem dan pengalaman platform, membantu syarikat mempromosikan penciptaan nilai model besar.

Dari segi pemalam dan rantai alat, Ark 2.0 telah menaik taraf Pemalam Internet, menyediakan keupayaan carian yang sama seperti Toutiao dan Douyin, menghubungkan data berkualiti tinggi yang besar dalam masa nyata, sambil menggunakan interaksi berbilang modal kaedah seperti teks, imej dan suara, dan melalui industri Keupayaan pengecaman niat terkemuka, meningkatkan keupayaan pemerolehan maklumat model

pemalam kandungan

yang dinaik taraf, menyediakan Toutiao dan Douyin dengan kandungan besar-besaran daripada sumber yang sama, menyokong berbilang- interaksi modal, menyediakan perolehan maklumat kandungan menegak berdasarkan niat, dan perolehan ketepatan masa kandungan yang lebih kukuh, untuk membantu model besar memahami dengan mendalam, mendapatkan dan menjana kandungan menaik taraf pemalam asas pengetahuan untuk menyediakan perolehan semula berprestasi tinggi pada berpuluh bilion; milisaat, kemas kini indeks asas pengetahuan penstriman peringkat kedua dan model vektorisasi pundi kacang terbenam untuk meningkatkan perkaitan jantina dan ketepatan carian.

Selain peningkatan pemalam teras di atas, Volcano Ark 2.0 juga telah menaik taraf secara menyeluruh kapasiti tampung sistem, keupayaan perlindungan keselamatan dan keupayaan perkhidmatan algoritma. Dari segi kapasiti bawaan sistem, ia menyediakan sumber pengkomputeran GPU yang banyak dan keanjalan super pengembangan dan pengecutan kilo-kad dalam beberapa minit, memastikan kestabilan perniagaan dan kawalan kos dari segi perlindungan keselamatan, ia membina persekitaran pelaksanaan yang dipercayai melalui kotak pasir keselamatan; Seni bina keselamatan berbilang dimensi memastikan keselamatan data sebagai tambahan, Volcano Engine menyediakan perkhidmatan pasukan algoritma profesional untuk membantu pelanggan membuka kunci nilai data yang unik dan membolehkan aplikasi model perusahaan besar dilaksanakan dengan mudah.

Pengurus Produk Button Pan Yuyang

Selain kesan model yang baik, pemalam yang mudah dan prestasi sistem yang kukuh, kami juga perlu menyediakan platform pembangunan yang ringkas dan mudah digunakan supaya semua orang boleh menjadi pembangun aplikasi AI. Pengurus produk Coze Pan Yuyang memperkenalkan bahawa Coze, sebagai platform pembangunan aplikasi AI generasi baharu yang dilancarkan oleh ByteDance, mempunyai kelebihan ambang rendah, pemperibadian, masa nyata, pelbagai mod, dsb., dan menyepadukan sumber AI besar-besaran dan saluran keluaran kaya ., perkhidmatan API tersuai satu klik untuk membantu mengisi jarak terakhir daripada model besar kepada senario pengguna.

Volcano Engine secara rasmi mengeluarkan versi profesional Butang. Berdasarkan keupayaan Kouzi untuk mengatur ejen pintar secara fleksibel, Edisi Profesional Kouzi menyediakan lagi SLA peringkat perusahaan dan pelbagai ciri termaju, menjadikan aplikasi AI lebih mudah untuk dilaksanakan dan membolehkan perusahaan memberi lebih tumpuan kepada memacu pertumbuhan perniagaan melalui inovasi ejen.

Tan Dai berkata bahawa Volcano Engine komited untuk menjadi platform perkhidmatan awan yang paling terbuka dan terkemuka dalam era AI. Volcano Ark 2.0 yang baru dinaik taraf akan membantu melaksanakan aplikasi model berskala besar melalui prestasi yang lebih kukuh, pemalam yang lebih baik, perkhidmatan yang lebih baik dan penyelesaian yang selamat dan boleh dipercayai.

04.

Dilaksanakan secara meluas dalam amalan

Keputusan yang membuahkan hasil dalam pelbagai industri Model pundi kacang dan Volcano Ark 2.0 kini digunakan dalam kewangan, peruncitan, kereta, pendidikan dan penyelidikan saintifik, dsb. Amalan industri dilaksanakan. Syarikat seperti China Merchants Bank, Haidilao Hotpot, Super Orangutan, Ctrip Travel, Feichangzhun dan Liepin juga telah membina badan pintar pada butang. Universiti terkenal seperti Universiti Fudan dan Universiti Zhejiang juga telah membina "pembantu pengajar AI" untuk kursus dan eksperimen.

Gao Xulei, Pengarah Pejabat Pembangunan Kewangan Digital China Merchants Bank

Sebagai pengamal transformasi AI dalam industri kewangan, China Merchants Bank sedang meneroka dan melabur dalam beratus-ratus senario perkhidmatan AI seperti panggilan keluar pintar, digital orang, dan pembantu data pintar. Gao Xulei, pengarah Pejabat Pembangunan Kewangan Digital China Merchants Bank, berkata model besar itu akan membawa transformasi dan peningkatan kepada keseluruhan rantaian perniagaan bank itu. Bekerjasama dengan Volcano Engine, kedua-dua pihak akan bersama-sama membina senario aplikasi model besar dan infrastruktur berprestasi tinggi, mengubah sistem dan produk sedia ada, dan menjana sejumlah besar aplikasi ejen pintar AI-centric.

Li Qijie, Naib Presiden dan Ketua Pegawai Perisikan Digital Kumpulan Mengniu

Li Qijie, Naib Presiden dan Ketua Pegawai Digital Kumpulan Mengniu, memperkenalkan data Kumpulan Mengniu dari tiga aspek: evolusi alat pengeluaran, evolusi kaedah pengeluaran, dan evolusi kaedah organisasi. Mengniu Group bekerjasama dengan Volcano Engine untuk menyatukan asas teknologi dan membina matriks pintar pakar pemakanan AI, pengasuh AI, penganalisis data AI, pembantu inovasi produk, pembantu kreatif hot spot, dll. untuk meningkatkan pengalaman pengguna bahagian hadapan dan membantu kembali -mengakhiri keputusan kakitangan.

Keluaran Perikatan Model Besar Terminal Pintar

Pada mesyuarat itu, Enjin Gunung Berapi dan OPPO, vivo, Honor, Xiaomi, Samsung, dan ASUS mengumumkan penubuhan Perikatan Model Besar Terminal Pintar. Aplikasi seperti OPPO Xiaobu Assistant, Honor MagicBook's YOYO Assistant, Xiaomi's "Xiao Ai Classmate", dan ASUS laptop's Douding AI Assistant semuanya telah disambungkan kepada perkhidmatan model besar Volcano Engine.

Automobile Large Model Ecological Alliance Dikeluarkan

Pada masa yang sama, Volcano Engine, bersama dengan Persatuan Kenderaan Elektrik China yang terdiri daripada 100 dan lebih daripada 20 pengeluar seperti Geely Automobile, Great Wall Motors, Jietu Motors, Cyrus, dan Zhiji Automobile, mengumumkan penubuhan Automobile Alliance The Model Ecological Alliance komited untuk meneroka bentuk baharu interaksi manusia-kenderaan dan menambah baik pengalaman AI baharu dalam semua senario automotif.

Dua syarikat perikatan utama OPPO dan Jietu Motors juga berkongsi amalan model besar mereka masing-masing:

Penolong Pengarah Jabatan Pintar OPPO, Penolong Ketua Arkitek Xiaobu Wan Yulong

Penolong Pengarah Jabatan Pintar OPPO, Wan Yulong, ketua arkitek Penolong Pengarah Jabatan Pintar OPPO daripada Xiaobu Assistant, berkongsi amalan aplikasi model berskala besar bagi telefon mudah alih OPPO AI Beliau berkata bahawa Xiaobu Assistant kini meliputi 350 juta peranti terminal dan mempunyai lebih daripada 150 juta pengguna aktif bulanan. Pada Volcano Ark, OPPO membina ejen pintar seperti soal jawab universal, gadis pintar dan penemuduga melalui model pengecaman niat, model ringkasan rangkaian, model watak diperibadikan dan model beg kacang, membawakan AI serba baharu kepada pengguna akhir.

Liu Hang, ketua pendigitalan Jietu Automobile

Liu Hang, ketua pendigitalan Jietu Automobile, berkata Jietu Automobile berharap untuk mengembangkan keupayaan perkhidmatannya dan mendapatkan pandangan tentang keperluan sebenar pengguna melalui model besar, dengan itu meningkatkan kecekapan dan keupayaan jualan. Berganding bahu dengan Volcano Engine, kedua-dua pihak telah mencipta bersama senario perkhidmatan pelanggan Perkhidmatan pelanggan pintar AI Xiaojie yang mereka cipta bukan sahaja menjimatkan tenaga kerja, tetapi juga membantu kakitangan perkhidmatan pelanggan mendapatkan maklumat dan melayani pelanggan dengan cepat. Pada masa hadapan, Jietu Motors juga berharap untuk terus merealisasikan peningkatan pintar dalam kokpit, membuat keputusan dan pemasaran melalui model besar.

05.

Pelbagai aplikasi AI dikeluarkan

Dilaksanakan dengan pantas dan sedia untuk digunakan di luar kotak

Selain platform perkhidmatan model besar, aplikasi AI juga merupakan komponen utama Enjin Volcano perkhidmatan AI tindanan penuh.

Tahun lepas, Volcano Engine mencadangkan model baharu untuk peningkatan kecerdasan digital perusahaan - roda tenaga data Model ini mengambil penggunaan data sebagai daya penggerak teras, menyepadukan sepenuhnya aliran data perusahaan ke dalam aliran perniagaan, dan merealisasikan kesan roda tenaga bagi aset data dan aplikasi perniagaan. . Untuk menjadikan penggunaan data perusahaan lebih inklusif dan mudah, Volcano Engine Intelligent Data Insight DataWind mengeluarkan secara rasmi ChatBI pembantu AI Pengguna boleh menjana penunjuk melalui interaksi bahasa semula jadi untuk pengeluaran carta, pertanyaan data dan analisis data mendalam Ia menyokong interaksi IM, boleh digunakan pada berbilang terminal, dan melakukan analisis layan diri pada bila-bila masa dan di mana-mana sahaja. Ini akan merendahkan ambang penggunaan data dengan ketara, meningkatkan kecekapan penggunaan data dan bacaan serta memberikan kuasa untuk operasi roda tenaga data yang dipercepat.

Untuk senario pemasaran, Volcano Engine telah dinaik taraf kepada Intelligent Creation Cloud 2.0, menjadi penyelesaian pertumbuhan pemasaran kandungan perusahaan sehenti daripada penciptaan kandungan, pengedaran matriks, pengiklanan kepada cerapan data, ia bukan sahaja menyediakan pemahaman pelbagai mod dan keupayaan penjanaan , membantu meningkatkan kecekapan penciptaan video sebanyak 25 kali ganda, dan turut melancarkan topik Douyin, POI, program mini dan alat pemasaran lain, meningkatkan pendedahan halaman kedai sebanyak 600%. Pada masa ini, 3,000+ syarikat telah memulakan pertumbuhan pemasaran video AIGC di Volcano Engine.

Untuk senario jualan, Volcano Engine telah mengeluarkan Sales Copilot, pembantu AI jualan yang boleh membuat susulan dengan cekap terhadap keperluan pelanggan dan membantu jualan dalam menjawab soalan produk yang rumit pada bila-bila masa. Selain itu, ia boleh mensimulasikan gaya latihan pelanggan yang berbeza melalui main peranan, dan memberikan kemahiran pertuturan yang sangat baik untuk meningkatkan kualiti komunikasi jualan.

Volcano Engine sentiasa komited untuk membina konsep ekologi yang terbuka dan dikongsi Sejak pengeluaran Pelan Wanwan pada 2021, ia telah membantu 100+ syarikat SaaS mencapai pertumbuhan perniagaan dan mencapai hampir 10,000 kontrak pelanggan. Doubao Enterprise Service Alliance ialah pelan khas Rancangan Wanyou untuk pelaksanaan model besar. Wanyou Plan Doubao Enterprise Service Alliance akan menyediakan pakej pelan sokongan untuk membantu syarikat SaaS mencapai peningkatan AI dan menyediakan pelanggan industri dengan lebih banyak aplikasi AI yang luar biasa. . untuk infrastruktur awan. Untuk menangani cabaran di atas, Volcano Engine menyediakan satu set penyelesaian peneraju industri sekitar pembinaan kluster besar, pengurusan, pengoptimuman prestasi dan jaminan kestabilan berdasarkan kelebihan skala sumber dan amalan dalaman kumpulan biasa dalaman dan luaran.

NVIDIA Naib Presiden Penyelesaian dan Kejuruteraan Lai Junjie

Pada mesyuarat itu, Volcano Engine secara rasmi mengeluarkan veOmniverse, yang menyediakan perusahaan dan pemaju platform pembangunan awan baharu berdasarkan NVIDIA Omniverse untuk membantu perusahaan dan pembangun dalam maya yang saling berkaitan dunia. Di dunia, mereka bentuk dan bekerjasama dengan cekap di sekitar aliran kerja, meneroka dan mencipta dunia maya yang bijak dan realistik.

Selain menyediakan pelanggan dengan infrastruktur awan yang stabil dan berprestasi tinggi, sebagai tindak balas kepada keperluan penggunaan tempatan, Volcano Engine juga telah mengeluarkan versi pengkomputeran pintar veStack awan hibrid baharu, yang mempunyai rangkaian kluster Wanka dan 3.2T berprestasi tinggi. lossless Kelebihan rangkaian berskala besar yang disokong oleh kejuruteraan hujung-ke-hujung, mampu mencapai nisbah pecutan latihan 97.78% dan pengesanan kesalahan peringkat minit dan penyembuhan diri, boleh menyesuaikan diri dengan lebih daripada sepuluh jenis GPU, dan menyokong produk domestik arus perdana ized GPU.

Selain pengkomputeran intensif yang dilakukan oleh GPU, aplikasi AI yang lengkap juga perlu terus mengurangkan kos dan meningkatkan kecekapan beban CPU sedia ada untuk memastikan perniagaan dapat dijalankan dengan mudah dan mempercepatkan inovasi. Daripada empat peringkat pengkomputeran, storan, rangkaian dan operasi serta penyelenggaraan, Volcano Engine menyokong sepenuhnya operasi stabil perniagaan awan pelanggan.

End

Daripada inovasi teknologi kepada pelaksanaan komersial, model besar telah memberikan momentum yang kuat untuk transformasi AI dalam pelbagai industri. Enjin Volcano adalah berdasarkan pengalaman praktikal ByteDance dalam bidang model besar Ia telah menggilap model yang baik melalui penggunaan berskala besar Ia menjadikan model besar mampu dimiliki oleh semua orang dengan keberkesanan kosnya yang didorong oleh teknologi pengalaman pelaksanaan yang kaya dan perkhidmatan algoritma dalam pelbagai industri. Pada masa hadapan, perkhidmatan AI tindanan penuh Volcano Engine akan terus membantu perusahaan melaksanakan transformasi AI dan merangsang potensi pertumbuhan perniagaan.