速度秒掉GPT-4o、22B擊敗Llama 3 70B，Mistral AI開放首個(gè)代碼模型
Jun 01, 2024 pm 06:32 PM
對(duì)標(biāo) OpenAI 的法國(guó) AI 獨(dú)角獸 Mistral AI 有了新動(dòng)作：首個(gè)程式碼大模型 Codestral 誕生了。
作為專為程式碼產(chǎn)生任務(wù)設(shè)計(jì)的開放式產(chǎn)生AI 模型，Codestral 透過共享指令和補(bǔ)全API 端點(diǎn)幫助開發(fā)人員編寫並與程式碼互動(dòng)。 Codestral 精通程式碼和英語，因而可為軟體開發(fā)人員設(shè)計(jì)高階 AI 應(yīng)用程式。
Codestral 的參數(shù)規(guī)模為 22B，遵循新的 Mistral AI Non-Production License，可以用於研究和測(cè)試目的，但禁止商用。
目前，該模型可以在 HuggingFace 上下載。
- #下載網(wǎng)址：https://huggingface .co/mistralai/Codestral-22B-v0.1
- #免費(fèi)試用網(wǎng)址：https://t.co/LsgC84GCYw
#Mistral AI 共同創(chuàng)辦人、首席科學(xué)家Guillaume Lample 表示，Codestral 可以輕鬆整合到VS Code 外掛程式中。
有使用者將 Codestral 與 GPT-4o 進(jìn)行了比較，Codestral 速度直接秒了 GPT-4o。
精通80 + 程式語言
#Codestral 在包含了80 + 種程式語言的多樣化資料集上訓(xùn)練，包括Python、Java、C、C++、JavaScript、Bash 等流行程式語言。另外也在 Swift 和 Fortran 等程式語言上表現(xiàn)良好。
因此，廣泛的語言基礎(chǔ)確保 Codestral 可以在各種編碼環(huán)境和專案中為開發(fā)人員提供協(xié)助。
Codestral 可以勝任編寫程式碼、 編寫測(cè)試並使用中間填充（fill-in-the-middle）機(jī)制補(bǔ)全任何程式碼部分，為開發(fā)人員節(jié)省時(shí)間和精力。同時(shí)使用 Codestral，也有助於提升開發(fā)人員的編碼水平，降低錯(cuò)誤和 bug 風(fēng)險(xiǎn)。
程式碼產(chǎn)生效能新標(biāo)準(zhǔn)
作為一個(gè)22B 參數(shù)的模型，Codestral 與以往的程式碼大模型相比，在程式碼產(chǎn)生效能和延遲空間方面樹立了新標(biāo)準(zhǔn)。
從下圖 1 可以看到，Codestral 的上下文視窗長(zhǎng)度為 32k，競(jìng)品 CodeLlama 70B 為 4k、DeepSeek Coder 33B 為 16k、Llama 3 70B 為 8k。結(jié)果顯示，在程式碼產(chǎn)生遠(yuǎn)端評(píng)估基準(zhǔn) RepoBench 上，Codestral 的表現(xiàn)優(yōu)於其他模型。
Mistral AI 也將Codestral 與現(xiàn)有的特定於程式碼的模型進(jìn)行了比較，後者需要較高的硬體需求。
在 Python 上的表現(xiàn)。研究者使用 HumanEval pass@1、MBPP sanitised pass@1 基準(zhǔn)來評(píng)估 Codestral 的 Python 程式碼產(chǎn)生能力；除此之外，研究者還用到了 CruxEval、RepoBench EM 基準(zhǔn)評(píng)估。
在 SQL 上的表現(xiàn)。為了評(píng)估 Codestral 在 SQL 中的效能，研究者使用了 Spider 基準(zhǔn)測(cè)試。
在其他程式語言上的表現(xiàn)。研究者還在其他六種程式語言（包括 C++、bash、Java、PHP、Typescript 和 C#）中對(duì) Codestral 進(jìn)行了評(píng)估，並計(jì)算了這些評(píng)估的平均值。?
#
FIM 基準(zhǔn)。研究者也評(píng)估了 Codestral 在程式碼片段中間有缺少的情況下補(bǔ)全程式碼的能力，主要是在 Python、JavaScript 和 Java 上進(jìn)行實(shí)驗(yàn)，結(jié)果顯示，Codestral 補(bǔ)全的程式碼，使用者可以立即執(zhí)行。
部落格網(wǎng)址：https://mistral.ai/news/codestral/
以上是速度秒掉GPT-4o、22B擊敗Llama 3 70B，Mistral AI開放首個(gè)代碼模型的詳細(xì)內(nèi)容。更多資訊請(qǐng)關(guān)注PHP中文網(wǎng)其他相關(guān)文章！
熱AI工具
Undress AI Tool
免費(fèi)脫衣圖片
Undresser.AI Undress
人工智慧驅(qū)動(dòng)的應(yīng)用程序，用於創(chuàng)建逼真的裸體照片
AI Clothes Remover
用於從照片中去除衣服的線上人工智慧工具。
Clothoff.io
AI脫衣器
Video Face Swap
使用我們完全免費(fèi)的人工智慧換臉工具，輕鬆在任何影片中換臉！
熱門文章
熱工具
記事本++7.3.1
好用且免費(fèi)的程式碼編輯器
SublimeText3漢化版
中文版，非常好用
禪工作室 13.0.1
強(qiáng)大的PHP整合開發(fā)環(huán)境
Dreamweaver CS6
視覺化網(wǎng)頁開發(fā)工具
SublimeText3 Mac版
神級(jí)程式碼編輯軟體(SublimeText3)
AI顛覆數(shù)學(xué)研究！菲爾茲獎(jiǎng)得主、華裔數(shù)學(xué)家領(lǐng)銜11篇頂刊論文｜陶哲軒轉(zhuǎn)贊
Apr 09, 2024 am 11:52 AM
AI，的確正在改變數(shù)學(xué)。最近，一直十分關(guān)注這個(gè)議題的陶哲軒，轉(zhuǎn)發(fā)了最近一期的《美國(guó)數(shù)學(xué)學(xué)會(huì)通報(bào)》（BulletinoftheAmericanMathematicalSociety）。圍繞著「機(jī)器會(huì)改變數(shù)學(xué)嗎？」這個(gè)話題，許多數(shù)學(xué)家發(fā)表了自己的觀點(diǎn)，全程火花四射，內(nèi)容硬核，精彩紛呈。作者陣容強(qiáng)大，包括菲爾茲獎(jiǎng)得主AkshayVenkatesh、華裔數(shù)學(xué)家鄭樂雋、紐大電腦科學(xué)家ErnestDavis等多位業(yè)界知名學(xué)者。 AI的世界已經(jīng)發(fā)生了天翻地覆的變化，要知道，其中許多文章是在一年前提交的，而在這一
你好，電動(dòng)Atlas！波士頓動(dòng)力機(jī)器人復(fù)活，180度詭異動(dòng)作嚇到馬斯克
Apr 18, 2024 pm 07:58 PM
波士頓動(dòng)力Atlas，正式進(jìn)入電動(dòng)機(jī)器人時(shí)代！昨天，液壓Atlas剛「含淚」退出歷史舞臺(tái)，今天波士頓動(dòng)力就宣布：電動(dòng)Atlas上崗。看來，在商用人形機(jī)器人領(lǐng)域，波士頓動(dòng)力是下定決心要跟特斯拉硬剛一把了。新影片放出後，短短十幾小時(shí)內(nèi)，就已經(jīng)有一百多萬觀看。舊人離去，新角色登場(chǎng)，這是歷史的必然。毫無疑問，今年是人形機(jī)器人的爆發(fā)年。網(wǎng)友銳評(píng)：機(jī)器人的進(jìn)步，讓今年看起來像人類的開幕式動(dòng)作、自由度遠(yuǎn)超人類，但這真不是恐怖片？影片一開始，Atlas平靜地躺在地上，看起來應(yīng)該是仰面朝天。接下來，讓人驚掉下巴
全球最強(qiáng)開源 MoE 模型來了，中文能力比肩 GPT-4，價(jià)格僅 GPT-4-Turbo 的近百分之一
May 07, 2024 pm 04:13 PM
想像一下，一個(gè)人工智慧模型，不僅擁有超越傳統(tǒng)運(yùn)算的能力，還能以更低的成本實(shí)現(xiàn)更有效率的效能。這不是科幻，DeepSeek-V2[1]，全球最強(qiáng)開源MoE模型來了。 DeepSeek-V2是一個(gè)強(qiáng)大的專家混合（MoE）語言模型，具有訓(xùn)練經(jīng)濟(jì)、推理高效的特點(diǎn)。它由236B個(gè)參數(shù)組成，其中21B個(gè)參數(shù)用於啟動(dòng)每個(gè)標(biāo)記。與DeepSeek67B相比，DeepSeek-V2效能更強(qiáng)，同時(shí)節(jié)省了42.5%的訓(xùn)練成本，減少了93.3%的KV緩存，最大生成吞吐量提高到5.76倍。 DeepSeek是一家探索通用人工智
特斯拉機(jī)器人進(jìn)廠打工，馬斯克：手的自由度今年將達(dá)到22個(gè)！
May 06, 2024 pm 04:13 PM
特斯拉機(jī)器人Optimus最新影片出爐，已經(jīng)可以在工廠裡打工了。正常速度下，它分揀電池（特斯拉的4680電池）是這樣的：官方還放出了20倍速下的樣子——在小小的「工位」上，揀啊揀啊揀：這次放出的影片亮點(diǎn)之一在於Optimus在廠子裡完成這項(xiàng)工作，是完全自主的，全程沒有人為的干預(yù)。而且在Optimus的視角之下，它還可以把放歪了的電池重新?lián)炱饋矸胖?，主打一個(gè)自動(dòng)糾錯(cuò)：對(duì)於Optimus的手，英偉達(dá)科學(xué)家JimFan給出了高度的評(píng)價(jià)：Optimus的手是全球五指機(jī)器人裡最靈巧的之一。它的手不僅有觸覺
替代MLP的KAN，被開源專案擴(kuò)展到卷積了
Jun 01, 2024 pm 10:03 PM
本月初，來自MIT等機(jī)構(gòu)的研究者提出了一種非常有潛力的MLP替代方法—KAN。 KAN在準(zhǔn)確性和可解釋性方面表現(xiàn)優(yōu)於MLP。而且它能以非常少的參數(shù)量勝過以更大參數(shù)量運(yùn)行的MLP。例如，作者表示，他們用KAN以更小的網(wǎng)路和更高的自動(dòng)化程度重現(xiàn)了DeepMind的結(jié)果。具體來說，DeepMind的MLP有大約300,000個(gè)參數(shù)，而KAN只有約200個(gè)參數(shù)。 KAN與MLP一樣具有強(qiáng)大的數(shù)學(xué)基礎(chǔ)，MLP基於通用逼近定理，而KAN基於Kolmogorov-Arnold表示定理。如下圖所示，KAN在邊上具
本地運(yùn)作效能超越 OpenAI Text-Embedding-Ada-002 的 Embedding 服務(wù)，太方便了！
Apr 15, 2024 am 09:01 AM
Ollama是一款超實(shí)用的工具，讓你能夠在本地輕鬆運(yùn)行Llama2、Mistral、Gemma等開源模型。本文我將介紹如何使用Ollama實(shí)現(xiàn)對(duì)文本的向量化處理。如果你本地還沒有安裝Ollama，可以閱讀這篇文章。本文我們將使用nomic-embed-text[2]模型。它是一種文字編碼器，在短的上下文和長(zhǎng)的上下文任務(wù)上，效能超越了OpenAItext-embedding-ada-002和text-embedding-3-small。啟動(dòng)nomic-embed-text服務(wù)當(dāng)你已經(jīng)成功安裝好o
美國(guó)空軍高調(diào)展示首個(gè)AI戰(zhàn)鬥機(jī)！部長(zhǎng)親自試駕全程未乾預(yù)，10萬行代碼試飛21次
May 07, 2024 pm 05:00 PM
最近，軍事圈被這個(gè)消息刷屏了：美軍的戰(zhàn)鬥機(jī)，已經(jīng)能由AI完成全自動(dòng)空戰(zhàn)了。是的，就在最近，美軍的AI戰(zhàn)鬥機(jī)首次公開，揭開了神秘面紗。這架戰(zhàn)鬥機(jī)的全名是可變穩(wěn)定性飛行模擬器測(cè)試飛機(jī)（VISTA），由美空軍部長(zhǎng)親自搭乘，模擬了一對(duì)一的空戰(zhàn)。 5月2日，美國(guó)空軍部長(zhǎng)FrankKendall在Edwards空軍基地駕駛X-62AVISTA升空注意，在一小時(shí)的飛行中，所有飛行動(dòng)作都由AI自主完成！ Kendall表示——在過去的幾十年中，我們一直在思考自主空對(duì)空作戰(zhàn)的無限潛力，但它始終顯得遙不可及。然而如今，
FisheyeDetNet：首個(gè)以魚眼相機(jī)為基礎(chǔ)的目標(biāo)偵測(cè)演算法
Apr 26, 2024 am 11:37 AM
目標(biāo)偵測(cè)在自動(dòng)駕駛系統(tǒng)當(dāng)中是一個(gè)比較成熟的問題，其中行人偵測(cè)是最早得以部署演算法之一。在多數(shù)論文當(dāng)中已經(jīng)進(jìn)行了非常全面的研究。然而，利用魚眼相機(jī)進(jìn)行環(huán)視的距離感知相對(duì)來說研究較少。由於徑向畸變大，標(biāo)準(zhǔn)的邊界框表示在魚眼相機(jī)當(dāng)中很難實(shí)施。為了緩解上述描述，我們探索了擴(kuò)展邊界框、橢圓、通用多邊形設(shè)計(jì)為極座標(biāo)/角度表示，並定義一個(gè)實(shí)例分割mIOU度量來分析這些表示。所提出的具有多邊形形狀的模型fisheyeDetNet優(yōu)於其他模型，並同時(shí)在用於自動(dòng)駕駛的Valeo魚眼相機(jī)資料集上實(shí)現(xiàn)了49.5%的mAP
