如果您可以直接在智能手機上運行功能強大的LLM怎麼辦？

有新興的建築創(chuàng)新為新的AI平臺鋪平了道路。這些系統(tǒng)旨在減少能源消耗，同時啟用廣泛的增強和新穎的功能，尤其是支持邊緣計算功能。

了解邊緣計算

邊緣計算是指在源附近發(fā)生的數(shù)據(jù)處理（例如傳感器或用戶的個人設(shè)備），而不是被發(fā)送到其他地方進行集中處理。

查看它的另一種方法是遠(yuǎn)離以雲(yún)為中心的模型的轉(zhuǎn)變。雖然集中數(shù)據(jù)在雲(yún)中具有好處，例如減少對本地基礎(chǔ)架構(gòu)的需求，但它也帶來了轉(zhuǎn)移成本和更少的控制。在硬件設(shè)備上本地處理任務(wù)引入了許多效率，包括降低能源使用，這在應(yīng)對氣候挑戰(zhàn)方面發(fā)揮了作用。

這一運動的最前沿是新興的液體粉底模型（LFM），它們從常規(guī)的基於變壓器的LLM結(jié)構(gòu)脫離了更具適應(yīng)性的東西。

卡爾·弗蘭岑（Carl Franzen）在VentureBeat的2024年9月的一篇文章探討了其中一些發(fā)展。我會添加標(biāo)準(zhǔn)說明：我已經(jīng)擔(dān)任Liquid AI的顧問，我很熟悉MIT Csail的許多參與。但是自己驗證弗蘭岑報告了什麼。

他指出：“這些新的LFM模型已經(jīng)超過了大小的基於變壓器的替代方案，例如Meta的Llama 3.1-8B和Microsoft的Phi-3.5 3.8B?！?“它們不僅是為了高性能，而且是為了運營效率而建造的，使其在企業(yè)應(yīng)用程序（從資金和生物技術(shù)到消費電子產(chǎn)品）中適當(dāng)，並用於在邊緣設(shè)備上進行部署。”

來自首席開發(fā)人員的見解

在4月在IIA的Will Knight和Liquid AI的Ramin Hasani之間的一次採訪中，分享了進一步的見解。

哈薩尼（Hasani）描述了該團隊如何使用C秀麗隱桿線蟲的神經(jīng)結(jié)構(gòu)（一種小蠕蟲）作為設(shè)計模型的基礎(chǔ)。

他討論了將這些轉(zhuǎn)換後模型實施到汽車，無人機，飛機等設(shè)備中，以及用於預(yù)測金融和醫(yī)療保健中的用途。

他解釋說，LFM可以執(zhí)行類似於GPT的功能，但直接在本地設(shè)備上執(zhí)行。

他指出：“他們可以聽，他們可以回應(yīng)?！?/p>

探索進一步的發(fā)展

自最近發(fā)起一項計劃以來，Hasani提到Liquid AI已經(jīng)與主要公司進行有關(guān)有效整合在企業(yè)環(huán)境中的商業(yè)談判。

他說：“組織優(yōu)先考慮隱私，確保AI使用和低延遲的AI應(yīng)用程序?！?“這些領(lǐng)域是當(dāng)前的AI提供者無法完全滿足企業(yè)需求?！?/p>

Hasani強調(diào)成為“科學(xué)家”的心態(tài)，強調(diào)了離線運行LLMS的核心優(yōu)勢。

無需基礎(chǔ)設(shè)施

LFM圍繞討論的一個關(guān)鍵要點是，當(dāng)模型在設(shè)備上本地運行時，不依賴外部基礎(chǔ)架構(gòu) - 無需數(shù)據(jù)中心，雲(yún)服務(wù)或網(wǎng)絡(luò)連接。

從本質(zhì)上講，這些系統(tǒng)將負(fù)擔(dān)能力與強勁的性能相結(jié)合，反映了類似於適用於AI的摩爾定律的趨勢。這意味著越來越有能力，適應(yīng)性和可管理的AI工具變得比以往任何時候都更快。

繼續(xù)觀察這個空間，因為更聰明，更有效的AI解決方案繼續(xù)出現(xiàn)。

以上是變形後模型系統(tǒng)可以驅(qū)動更改的詳細(xì)內(nèi)容。更多資訊請關(guān)注PHP中文網(wǎng)其他相關(guān)文章！