隨著B(niǎo)ittensor網(wǎng)絡(luò)上的子網(wǎng)9的重新啟動(dòng)（想像它是應(yīng)用程序商店中的移動(dòng)應(yīng)用程序），Macrocosmos正在邁向人工智能邁向更民主的未來(lái)。實(shí)現(xiàn)這一里程碑的秘訣在於子網(wǎng)的新首字母縮寫(xiě)IOTA：激勵(lì)精心策劃的培訓(xùn)架構(gòu)。該框架使任何具有圖形處理單元的人，無(wú)論其大小如何，都可以協(xié)助培訓(xùn)高級(jí)AI模型。

基於一種新穎的“ Swarm”方法，該方法是AI的理論培訓(xùn)策略，Macrocosmos的突破解決了與數(shù)據(jù)和模型壓縮有關(guān)的關(guān)鍵挑戰(zhàn)，如周五發(fā)布的白皮書(shū)中所述。它的核心是一個(gè)願(yuàn)景，可以重新想像智力的構(gòu)建方式和誰(shuí)參與該過(guò)程。

Macrocosmos CTO Steffen Cruz在X上的一篇文章中寫(xiě)道：“我們專(zhuān)注於創(chuàng)建能夠與集中式實(shí)驗(yàn)室競(jìng)爭(zhēng)的競(jìng)爭(zhēng)分散技術(shù)?！?

什麼是分散的AI，為什麼重要？ ---------------------------------------------------------------------

在進(jìn)行群培訓(xùn)之前，讓我們掌握傳統(tǒng)AI和分散的AI之間的主要區(qū)別。簡(jiǎn)而言之，分散的AI意味著AI模型培訓(xùn)不會(huì)在一個(gè)位置或在一個(gè)公司的控制下進(jìn)行。取而代之的是，它在全球範(fàn)圍內(nèi)遍布全球，實(shí)驗(yàn)室，校園和服務(wù)器。就像比特幣從集中銀行分散的資金一樣，Bittensor和Macrocosmos旨在使情報(bào)本身民主化。

這很重要，因?yàn)锳I越來(lái)越多地影響我們的生活。它決定了我們看到的新聞，我們提供的產(chǎn)品，我們?nèi)绾钨?gòu)物，互動(dòng)，工作，甚至被錄用。將這種權(quán)力集中在一些秘密計(jì)算系統(tǒng)中，給隱私，公平和創(chuàng)新帶來(lái)風(fēng)險(xiǎn)。通過(guò)將這些系統(tǒng)開(kāi)放給公眾參與，分散的AI提供了一種新形式的對(duì)齊方式，在那裡用戶(hù)成為共同創(chuàng)建者。

克魯茲指出：“這不僅是宏觀和比滕森人的新研究，而且對(duì)我們來(lái)說(shuō)更深入，更個(gè)人化?！?“我們是科學(xué)家，研究人員和開(kāi)發(fā)人員?！?/p>

了解AI群和預(yù)訓(xùn)練

由Macrocosmos通過(guò)IOTA實(shí)施的群訓(xùn)練從大自然中汲取靈感。就像一群蜜蜂，魚(yú)類(lèi)學(xué)?；蛞蝗壶B(niǎo)類(lèi)在沒(méi)有中央控制的情況下導(dǎo)航的鳥(niǎo)類(lèi)一樣，這種創(chuàng)新的子網(wǎng)使成千上萬(wàn)的獨(dú)立機(jī)器可以協(xié)作培訓(xùn)單個(gè)大型AI模型。

Macrocosmos並不要求每個(gè)網(wǎng)絡(luò)參與者下載和運(yùn)行整個(gè)模型（一種代價(jià)高昂，不切實(shí)際的需求），而是採(cǎi)用模型並行性。每個(gè)子網(wǎng)成員都以礦工的身份引用，因?yàn)樗麄兊男袆?dòng)“礦山”貨幣激勵(lì)措施使整個(gè)網(wǎng)絡(luò)受益 - 培訓(xùn)只是模型的一部分，通常是神經(jīng)網(wǎng)絡(luò)的幾層。隨著數(shù)據(jù)貫穿這些各個(gè)層，每個(gè)礦工都會(huì)處理其部分並將輸出轉(zhuǎn)發(fā)。迅速的反向檢查評(píng)估了距離距離距離的距離，並相應(yīng)地調(diào)整了礦工支出。

這種方法不僅比集中式方法更有效，而且更具包容性。與需要頂級(jí)硬件的傳統(tǒng)方法不同，這種體系結(jié)構(gòu)使低計(jì)算參與者都可以有意義地做出貢獻(xiàn)。這將拆除障礙，使開(kāi)源社區(qū)在AI模型培訓(xùn)的邊緣。

集中式與分散的AI培訓(xùn)

為了理解常規(guī)AI模型培訓(xùn)與宏觀群體所做的區(qū)別，該圖形提供了有用的並排比較：

在集中式培訓(xùn)中，一個(gè)模型將單個(gè)數(shù)據(jù)中心內(nèi)GPU緊密相連的層分成層。一切都針對(duì)高速本地連接進(jìn)行了優(yōu)化。但是，此設(shè)置是昂貴，排他性和關(guān)閉的。

相反，分散的群體培訓(xùn)分散了全球貢獻(xiàn)者或礦工網(wǎng)絡(luò)的不同模型層。每個(gè)參與者都處理工作量的一部分，並與他人共享結(jié)果。群體系統(tǒng)經(jīng)常將所有零件集成到統(tǒng)一模型中。它不依靠大量的計(jì)算集群，而是利用各種連接的設(shè)備，從個(gè)人桌面GPU到較大的工業(yè)設(shè)置。

結(jié)果？較低的成本，更高的透明度以及由許多人而不是少數(shù)人制定的AI模型。

是什麼使這個(gè)煉金術(shù)成為可能

但是，以這種方式培訓(xùn)模型提出了挑戰(zhàn)。 Internet帶寬落後於數(shù)據(jù)中心內(nèi)部的光纖。分散的參與者可能會(huì)斷開(kāi)連接，試圖利用激勵(lì)系統(tǒng)或意外脫機(jī)。

儘管有些問(wèn)題超出了Macrocosmos的控制，但他們?yōu)橛嘘P(guān)礦工激勵(lì)措施和獎(jiǎng)勵(lì)的潛在問(wèn)題設(shè)計(jì)了一個(gè)優(yōu)雅的解決方案。他們的新IOTA網(wǎng)絡(luò)解決了三個(gè)主要障礙：

1. 帶寬瓶頸：一種專(zhuān)門(mén)的壓縮技術(shù)可將數(shù)據(jù)傳輸降低128次，即使在家庭互聯(lián)網(wǎng)速度上也可以同步。
2. 容忍度：一種名為Butterfly All-Reduce的策略可確保模型的平均更新並在眾多獨(dú)立貢獻(xiàn)者中進(jìn)行驗(yàn)證，從而阻止任何單個(gè)輟學(xué)者停止系統(tǒng)。
3. 公平的獎(jiǎng)勵(lì)：每個(gè)貢獻(xiàn)者都可以根據(jù)每個(gè)人（或計(jì)算機(jī)）的數(shù)量通過(guò)計(jì)算獨(dú)特的貢獻(xiàn)來(lái)實(shí)現(xiàn)目標(biāo)，從而使用獎(jiǎng)勵(lì)系統(tǒng)進(jìn)行準(zhǔn)確的影響。誠(chéng)實(shí)的努力獲得透明和成比例的補(bǔ)償。

為什麼現(xiàn)在分散的AI預(yù)先培訓(xùn)很重要

在此視頻剪輯中，該公司的聯(lián)合創(chuàng)始人Cruz和Will Squires解釋了為什麼分散的培訓(xùn)很重要，以及如何為AI打開(kāi)新章節(jié)。

這超出了技術(shù)增強(qiáng)的範(fàn)圍，這是一種深刻的哲學(xué)轉(zhuǎn)變。多年來(lái)，分散的AI計(jì)劃依靠幕後集中培訓(xùn)。宏觀群正在轉(zhuǎn)移該範(fàn)式。

克魯茲說(shuō)：“現(xiàn)在是時(shí)候讓我們成為一個(gè)社區(qū)，並在模型培訓(xùn)中面臨新的挑戰(zhàn)。這對(duì)Bittensor至關(guān)重要。競(jìng)爭(zhēng)對(duì)手正在關(guān)閉?！?/p>

“我們的表現(xiàn)優(yōu)於民族國(guó)家，嚴(yán)格地基準(zhǔn)了我們的進(jìn)步，並在白皮書(shū)中詳細(xì)介紹了我們的發(fā)現(xiàn)。這是一個(gè)非凡的實(shí)驗(yàn)，將其遠(yuǎn)遠(yuǎn)超出了其最初的設(shè)計(jì)?！?/p>

這項(xiàng)主動(dòng)性通過(guò)群培訓(xùn)向所有人分發(fā)AI的計(jì)算和所有權(quán)的舉措設(shè)想了一個(gè)未來(lái)，即AI並沒(méi)有由精英實(shí)體壟斷，同時(shí)滴落到大眾。這是我們共同建立的集體努力。

Macrocosmos正在將分散的培訓(xùn)從Big Tech的封閉式花園轉(zhuǎn)變?yōu)楣_(kāi)。如果成功的話(huà)，下一個(gè)開(kāi)創(chuàng)性的AI模型可能不是源自O(shè)penai，Google或Meta，而是來(lái)自我們的一群。

大多數(shù)美國(guó)人想要AI分散的，而不是由MBA的Tor Constantino控制的Big Tech

以上是群體智能正在重塑AI的訓(xùn)練方式的詳細(xì)內(nèi)容。更多資訊請(qǐng)關(guān)注PHP中文網(wǎng)其他相關(guān)文章！