本週的AI景觀取得了重大進步，領(lǐng)先的公司揭示了尖端的模型和工具。關(guān)鍵亮點包括AI21實驗室的Jamba 1.5的發(fā)布，Anthropicai對Claude 3的增強功能以??及Bindu Reddy的Dracarys的引入，這是一種以編碼為中心的模型。在迅速的工程和混合體系結(jié)構(gòu)中取得了進一步的進展，強調(diào)了AI功能和應(yīng)用的快速發(fā)展。

關(guān)鍵發(fā)展

• 新型號： AI21實驗室推出了Jamba 1.5，這是一種功能強大的模型，具有更快的推理和出色的長篇小寫性能，超過了Llama 3.1 70B之類的模型。
• 模型改進： Anthropicai集成了乳膠渲染，並促使緩存到Claude 3中，從而提高了其數(shù)學(xué)能力和效率。 Bindu Reddy的Dracarys成為了頂級開源編碼模型。
• 研究突破：迅速優(yōu)化和混合體系結(jié)構(gòu)的實質(zhì)進展正在擴大AI處理複雜任務(wù)和廣泛背景的能力。
• AI工具和應(yīng)用程序：諸如Spellbook Associate（法律技術(shù)）和MLX HUB（模型管理）之類的新工具正在擴大AI的實際影響範(fàn)圍。
• 行業(yè)挑戰(zhàn)：該報告強調(diào)了在多步AI工作流程中高精度以及圍繞開源與封閉源模型的相對優(yōu)點進行的持續(xù)討論的持續(xù)困難。
• 監(jiān)管格局：圍繞AI安全性和法規(guī)的持續(xù)辯論被強調(diào)，重點是加利福尼亞的SB 1047和Anthropic在開源模型法規(guī)中的立場。

AI模型的進步和發(fā)布

AI21 Labs'Jamba 1.5

AI21實驗室揭開了Jamba 1.5的介紹，這是對Jamba模型的重大升級。這種增強的模型在處理長篇小說中表現(xiàn)出色，並提供更快的推理速度2.5倍。基準(zhǔn)測試證明了其出色的性能，甚至超過了較大的模型，例如Llama 3.1 70B。

• Jamba 1.5是Mini（52B - 12B Active）和大型（398B - 94B Active）版本提供的混合SSM轉(zhuǎn)換器MOE模型。
• 關(guān)鍵功能包括256K上下文窗口，多語言功能以及針對長篇小說應(yīng)用程序的優(yōu)化性能。
• 在競技場硬基準(zhǔn)上，其令人印象深刻的分數(shù)為65.4，這強調(diào)了其在諸如Llama 3.1 70B之類的大型競爭對手中的性能優(yōu)勢。

Anthropicai的Claude 3增強

Claude 3收到了更新，包括用於改進數(shù)學(xué)方程式處理的乳膠渲染，並提示Claude 3 Opus的緩存，從而導(dǎo)致更有效的查詢處理。

賓杜·雷迪（Bindu Reddy）的糟糕

Bindu Reddy推出了Dracarys，以專門設(shè)計用於編碼任務(wù)的領(lǐng)先開源70B類模型。在基準(zhǔn)測試中，它的表現(xiàn)優(yōu)於Llama 3.1 70B和其他型號，並且可以在擁抱的臉上使用。該模型與開源對應(yīng)物相比顯示了編碼性能的明顯改善。

其他值得注意的型號：Mistral Nemo Minitron 8B，PHI-3.5和Flexora

Mistral Nemo Minitron 8B表現(xiàn)出比美洲駝的表現(xiàn)出色3.1 8b和Mismtral 7b。微軟的PHI-3.5因其安全性和性能而受到讚譽。 Flexora引入了一種創(chuàng)新的Lora微調(diào)方法，改善了結(jié)果，同時將訓(xùn)練參數(shù)降低了50％。

人工智能研究和方法論

迅速的工程進步

突出了迅速優(yōu)化的複雜性，強調(diào)了在廣闊的搜索空間內(nèi)識別最佳提示的困難。注意到了簡單算法（如Autoprompt/GCG）的驚人有效性。

混合體系結(jié)構(gòu)

討論了混合MAMBA/變壓器體系結(jié)構(gòu)的效率，特別是對於長篇小說和快速推斷。

AI應(yīng)用程序和相關(guān)工具

拼寫副本和其他工具

法術(shù)專業(yè)人士的AI代理Spellbook副助理，可以自動化任務(wù)並改編項目計劃。 Llamaindex 0.11還發(fā)布了具有新功能，例如工作流程。引入了MLX HUB，這是一種用於管理擁抱面樞紐模型的命令行工具。

人工智能發(fā)展，行業(yè)趨勢和安全

挑戰(zhàn)和考慮因素

該報告強調(diào)了在多步AI代理工作流程中實現(xiàn)高精度的挑戰(zhàn)，將其與自動駕駛汽車的“最後一英里問題”進行了比較。還解決了有關(guān)開源和封閉源模型之間性能權(quán)衡的持續(xù)辯論。

監(jiān)管和道德方面

圍繞加利福尼亞州SB 1047的討論以及對開源LLM法規(guī)的人類立場強調(diào)了對負責(zé)人AI開發(fā)和部署的關(guān)鍵需求。

結(jié)論

過去一周展示了AI領(lǐng)域的顯著進步，從開創(chuàng)性模型發(fā)佈到有關(guān)負責(zé)AI開發(fā)的關(guān)鍵討論。諸如Jamba 1.5和Dracarys之類的模型中的持續(xù)創(chuàng)新，再加上迅速優(yōu)化和混合體系結(jié)構(gòu)的進步，標(biāo)誌著快速發(fā)展的景觀。但是，需要仔細考慮道德意義和監(jiān)管框架的需求仍然是至關(guān)重要的，以確保AI使社會受益。

以上是AV字節(jié)：新模型，研究進展和監(jiān)管辯論的詳細內(nèi)容。更多資訊請關(guān)注PHP中文網(wǎng)其他相關(guān)文章！