Meta的Llama 3.1：與GPT-4O MINI進(jìn)行深入研究和比較

2024年目睹了生成AI的顯著進(jìn)步。在Openai發(fā)布GPT-4O Mini之后，Meta推出了Llama 3.1，這是AI景觀中強(qiáng)大的競爭者。本文深入研究了Llama 3.1的功能，性能和與GPT-4O Mini在各種任務(wù)中的直接比較。

Llama 3.1的關(guān)鍵優(yōu)勢(shì)在于其完全開源的性質(zhì)，包括代碼和數(shù)據(jù)集。這標(biāo)志著一個(gè)重要的步驟，提供了405億個(gè)參數(shù)LLM - 比GPT-3.5大的2.5倍。 Meta還發(fā)布了較小的變體（8B和70B參數(shù)），增強(qiáng)了多語言功能和通用性能。這些模型擁有本機(jī)工具支持和寬敞的上下文窗口。

建筑和培訓(xùn)：

Llama 3.1采用標(biāo)準(zhǔn)的變壓器體系結(jié)構(gòu)，建立在Llama和Llama 2的基礎(chǔ)上?？冃У奶岣咴从谠鰪?qiáng)的數(shù)據(jù)質(zhì)量，多樣性和培訓(xùn)量表的提高。培訓(xùn)過程涉及兩個(gè)階段：

• 預(yù)訓(xùn)練：大量的多語言文本語料庫用于下一步的預(yù)測(cè)，使模型能夠?qū)W習(xí)語言結(jié)構(gòu)和世界知識(shí)。
• 訓(xùn)練后（微調(diào)）：此階段通過監(jiān)督的微調(diào)（SFT）和直接偏好優(yōu)化（DPO）將模型與人類的反饋保持一致，從而結(jié)合了工具使用和改進(jìn)編碼和推理。

性能基準(zhǔn)和比較：

Llama 3.1始終優(yōu)于各種基準(zhǔn)數(shù)據(jù)集的其他LLM。在許多測(cè)試中，即使是8B參數(shù)變體都超過了GPT-3.5渦輪增壓器。人類評(píng)估表明，與GPT-4O MINI相比，Llama 3.1在推理和編碼方面具有優(yōu)勢(shì)，但與GPT-4O和Claude 3.5相比，多語言任務(wù)的某些弱點(diǎn)。

可用性和定價(jià)：

Llama 3.1的開源自然可確?？稍L問性。在擁抱面上很容易獲得模型權(quán)重，從而使開發(fā)人員可以自定義并為特定應(yīng)用程序微調(diào)模型。盡管封閉的車型通常具有成本效益，但Llama 3.1提供了競爭性的定價(jià)，尤其是其較小的變體。

面對(duì)面的比較（Llama 3.1 8B與GPT-4O Mini）：

對(duì)十項(xiàng)任務(wù)進(jìn)行了比較分析：零射門和幾乎沒有射擊的分類，Python和SQL編碼，信息提取，閉合域和開放域問題答案，文檔匯總，轉(zhuǎn)換和翻譯。這兩種模型都表現(xiàn)出強(qiáng)勁的性能，Llama 3.1在某些任務(wù)中表現(xiàn)出質(zhì)量稍好，而GPT-4O MINI則顯示出卓越的指導(dǎo)。 Llama 3.1在一個(gè)充滿挑戰(zhàn)的數(shù)學(xué)問題上表現(xiàn)出色，這通常會(huì)使其他LLMS迷惑。

（示例圖像 - 替換為實(shí)際比較結(jié)果表）

結(jié)論：

Llama 3.1和GPT-4O Mini都代表了生成AI的重大進(jìn)步。它們之間的選擇取決于特定的需求和優(yōu)先級(jí)。 Llama 3.1在某些復(fù)雜任務(wù)中的開源性質(zhì)和卓越的性能使其成為令人信服的選擇，尤其是對(duì)于優(yōu)先考慮數(shù)據(jù)隱私和可定制性的用戶而言。 GPT-4O MINI提供了易于訪問和強(qiáng)大的整體性能。未來對(duì)Llama 3.1具有令人興奮的可能性，并具有針對(duì)各個(gè)領(lǐng)域量身定制的專業(yè)版本。

COLAB筆記本（替換為實(shí)際鏈接）

參考：

[1] Meta AI博客： https：//ipnx.cn/link/21c9bc90ecc8a2e623d4f0bec82b4c8 [2]人工分析： https：//ipnx.cn/link/link/1c1608a8.8a8a8a8bb.cn/ipnx.cn/ [3] Llama 3研究論文： https：//ipnx.cn/link/cab8961422e0f17f17f3795d82388e9204b

（注意：需要將圖像占位符替換為輸入中的實(shí)際圖像。此外，需要添加參考文獻(xiàn)和COLAB筆記本中的鏈接。）

以上是Meta Llama 3.1：開源AI模型搭配GPT-4O MINI的詳細(xì)內(nèi)容。更多信息請(qǐng)關(guān)注PHP中文網(wǎng)其他相關(guān)文章！