BittensorネットワークでSubnet 9のリニューアルにより、App Storeのモバイルアプリとして想像してみてください - Macrocosmosは、人工知能のより民主的な未來に向けて最初の重要な動(dòng)きをしています。このマイルストーンを達(dá)成する秘secretは、サブネットの新しい頭字語であるIota：Incentived Orchestrated Training Architectureにあります。このフレームワークにより、グラフィックス処理ユニットがそのサイズに関係なく、高度なAIモデルのトレーニングを支援することができます。

AIの理論的なトレーニング戦略として機(jī)能する新しい「Swarm」メソッドに基づいて、Macrocosmosのブレークスルーは、金曜日に発表されたホワイトペーパーで詳述されているように、データとモデルの圧縮に関連する重要な課題に対処します。その心には、知性がどのように構(gòu)築され、誰がそのプロセスに參加するかを再考するビジョンがあります。

「私たちは、集中型ラボに匹敵する競爭力のある分散テクノロジーを作成することに焦點(diǎn)を當(dāng)て、情熱を注いでいます」と、Macrocosmos CTO Steffen CruzはXの投稿に書いています。

分散型AIとは何ですか？なぜそれが重要なのですか？ -------------------------------------------------------

群れトレーニングに飛び込む前に、従來のAIと分散型AIの主な違いを把握しましょう。簡単に言えば、分散型AIは、AIモデルトレーニングが1つの場所でも1つの會(huì)社の管理下でも発生しないことを意味します。代わりに、世界中の家、研究室、キャンパス、サーバー全體にグローバルに広がっています。ビットコインが集中銀行から分散化されたお金と同じように、ビテンサーとマクロコスモスは、知性自體を民主化することを目指しています。

これは、AIが私たちの生活にますます影響を與えているためです。それは、私たちが見るニュース、私たちが提供している製品、私たちが買い物、やり取り、仕事、さらには雇われる方法を決定します。いくつかの秘密のコンピューティングシステムにこの力を集中化することは、プライバシー、公平性、革新にリスクをもたらします。これらのシステムを公共の関與に開放することにより、分散型AIは、ユーザーが共同作成者になる新しい形式のアライメントを提供します。

「これはマクロコスモとビテンサーの新しい研究の努力であるだけでなく、私たちにとってより深く、より個(gè)人的なものです」とクルーズは指摘しました。 「私たちは科學(xué)者、研究者、開発者です?！?/p>

AIの群れとトレーニング前の理解

IOTAを介してMacrocosmosによって実裝されたSwarm Trainingは、自然からインスピレーションを得ています。ミツバチの群れ、魚の群れ、または中央の制御なしで航行する鳥の群れのように、この革新的なサブネットは、數(shù)千の獨(dú)立した機(jī)械が単一の大きなAIモデルのトレーニングで協(xié)力することができます。

各ネットワーク參加者にモデル全體（費(fèi)用と実用的な需要）全體をダウンロードして実行することを要求するのではなく、マクロコスモはモデルの並列性を採用しています。各サブネットメンバーは、ネットワーク全體に利益をもたらす「鉱山」金銭的インセンティブから鉱山労働者として言及されていますが、通常はニューラルネットワークの數(shù)層であるモデルのセグメントにすぎません。データがこれらの個(gè)々のレイヤーを介して移動(dòng)すると、各マイナーはその部分を処理し、出力を転送します。迅速なリバースチェックは、モデルからどれだけ離れているかを評価し、それに応じてマイナーの支払いを調(diào)整します。

この方法は、集中化されたアプローチよりも効率的ではなく、より包括的です。一流のハードウェアを必要とする従來の方法とは異なり、このアーキテクチャを使用すると、低コンピュートと高計(jì)量の両方の參加者が有意義に貢獻(xiàn)できます。これにより、AIモデルトレーニングの縁にオープンソースコミュニティを維持する障壁が解體されます。

集中化と分散型AIトレーニング

従來のAIモデルトレーニングとマクロコスモスが行っていることとの區(qū)別を理解するために、このグラフィックは役立つ並べ替えの比較を提供します。

集中トレーニングでは、1つのモデルが、単一のデータセンター內(nèi)のGPU全體でしっかりと相互接続されたレイヤーに分割されます。すべてが高速ローカル接続に最適化されます。ただし、このセットアップは費(fèi)用がかかり、排他的で、閉鎖されています。

逆に、分散型の群れトレーニングは、貢獻(xiàn)者または鉱夫のグローバルネットワーク全體にさまざまなモデル層を分散させます。各參加者はワークロードの一部を処理し、結(jié)果を他の人と共有します。群れシステムは、すべての部品を統(tǒng)一モデルに頻繁に統(tǒng)合します。大規(guī)模な計(jì)算クラスターに依存する代わりに、個(gè)人のデスクトップGPUからより大きな産業(yè)セットアップまで、多様な接続デバイスを活用しています。

結(jié)果？コストの削減、透明性の向上、および少數(shù)ではなく、多くの人によって作られたAIモデル。

このaiの錬金術(shù)を可能にするもの

しかし、このようにトレーニングモデルは課題を提示します。インターネット帯域幅は、データセンター內(nèi)の光ファイバーの後ろに遅れています。分散型の參加者は、切斷したり、インセンティブシステムを悪用しようとするか、予期せずオフラインにすることができます。

いくつかの問題はマクロコスモスのコントロールを超えてありませんが、鉱夫のインセンティブと報(bào)酬に関する潛在的な問題のエレガントなソリューションを考案しました。彼らの新しいIOTAネットワークは、3つの主要なハードルに取り組んでいます。

1. 帯域幅のボトルネック：特殊な圧縮技術(shù)により、データ送信が最大128倍減少し、ホームインターネットの速度でも同期を可能にします。
2. フォールトトレランス： Butterfly All-Reduceという名前の戦略により、モデルの更新が平均的に更新され、多數(shù)の獨(dú)立した貢獻(xiàn)者全體で検証され、単一のドロップアウトがシステムの停止を防ぎます。
3. 公正な報(bào)酬：すべての貢獻(xiàn)者の測定値は正確に影響を與え、各人（またはコンピューター）が一意の貢獻(xiàn)を計(jì)算することにより、ネットワークに到達(dá)することに基づいて報(bào)酬システムを採用します。正直な努力は、透明で比例した補(bǔ)償を受けます。

なぜ地方分権化されたAI事前トレーニングが今重要であるのか

このビデオクリップでは、同社の共同設(shè)立者であるCruzとWill Squiresは、分散化されたトレーニングが重要な理由と、AIの新しい章をどのように開くかを説明します。

これは技術(shù)的な強(qiáng)化を超えています。これは、深い哲學(xué)的変容です。何年もの間、分散型AIイニシアチブは、舞臺(tái)裏で集中訓(xùn)練に依存していました。マクロコスモスはそのパラダイムを変えています。

「私たちがコミュニティとして前進(jìn)し、モデルトレーニングの新しい課題に立ち向かう時(shí)が來ました。これはビテンサーにとって重要です。競合他社は閉じています」とクルスは述べています。

「私たちは國民國家よりも優(yōu)れており、進(jìn)捗狀況を厳密にベンチマークし、ホワイトペーパーで調(diào)査結(jié)果を詳述しました。それは並外れた実験であり、初期のデザインをはるかに超えています?！?/p>

SWARMトレーニングを通じてAIの計(jì)算と所有権をすべての人に配布するこのイニシアチブは、AIがエリートエンティティによって獨(dú)占されていないが、スクラップが大衆(zhòng)に滴り落ちる未來を想定しています。それは私たちが一緒に構(gòu)築する集合的な努力です。

マクロコスモスは、ビッグテックの囲まれた庭園からオープンに分散型トレーニングを移行しています。成功した場合、次の畫期的なAIモデルは、Openai、Google、またはMetaに由來するものではありませんが、むしろ私たちの群れに由來します。

ほとんどのアメリカ人はAIが分散化されていることを望んでおり、 Tor Constantino、MBAによってBig Techによって制御されていません

以上がSwarm Intelligenceは、AIがどのように訓(xùn)練されるかを再構(gòu)築していますの詳細(xì)內(nèi)容です。詳細(xì)については、PHP 中國語 Web サイトの他の関連記事を參照してください。