Avec la relance de Subnet 9 sur le réseau Bittensor - imaginez-le comme une application mobile sur une boutique d'applications - Macrocosmos fait la première évolution significative vers un avenir plus démocratique pour l'intelligence artificielle. Le secret pour atteindre cette étape réside dans le nouvel acronyme du sous-réseau, Iota: architecture de formation orchestrée incitée. Ce cadre permet à toute personne disposant d'une unité de traitement graphique, quelle que soit sa taille, pour aider à la formation de modèles AI avancés.

Sur la base d'une nouvelle méthode "Swarm", qui sert de stratégie de pré-formation théorique pour l'IA, la percée de Macrocosmos aborde les défis critiques liés à la compression des données et des modèles, comme détaillé dans leur livre blanc publié vendredi. En son c?ur se trouve une vision qui réinvente la fa?on dont l'intelligence est construite et qui participe à ce processus.

"Nous sommes concentrés et passionnés par la création de technologies décentralisées compétitives capables de rivaliser avec des laboratoires centralisés", a écrit le CTO CTO CTO de Macrocosmos dans un article sur X.

Qu'est-ce que l'IA décentralisée et pourquoi est-ce important? ------------------------------------------------

Avant de plonger dans l'entra?nement de l'essaim, saisissons les principales différences entre l'IA traditionnelle et l'IA décentralisée. En termes simples, une IA décentralisée signifie que la formation du modèle d'IA ne se produit pas dans un seul endroit ou sous le contr?le d'une seule entreprise. Au lieu de cela, il se propage à l'échelle mondiale dans les maisons, les laboratoires, les campus et les serveurs dans le monde. Tout comme le bitcoin décentralisé de l'argent des banques centralisées, le bittenseur et les macrocosmos visent à démocratiser l'intelligence elle-même.

Cela compte parce que l'IA influence de plus en plus nos vies. Il détermine les nouvelles que nous voyons, les produits qui nous sont offerts, comment nous achetons, interagissons, travaillons et même nous sommes embauchés. La centralisation de cette puissance dans quelques systèmes informatiques secrets présente des risques pour la confidentialité, l'équité et l'innovation. En ouvrant ces systèmes à la participation du public, l'IA décentralisée fournit une nouvelle forme d'alignement - où les utilisateurs deviennent des co-créateurs.

"Non seulement c'est une nouvelle entreprise de recherche pour Macrocosmos et Bittensor, mais c'est quelque chose de plus profond et de plus personnel pour nous", a noté Cruz. "Nous sommes des scientifiques, des chercheurs et des développeurs."

Comprendre l'essaim et l'entra?nement de l'IA

La formation à l'essaim, mise en ?uvre par Macrocosmos via Iota, s'inspire de la nature. Tout comme des essaims d'abeilles, des écoles de poisson ou des troupeaux d'oiseaux naviguant sans contr?le central, ce sous-réseau innovant permet aux milliers de machines indépendantes de collaborer à la formation d'un seul grand modèle d'IA.

Plut?t que d'obliger chaque participant au réseau à télécharger et à exécuter l'ensemble du modèle - une demande co?teuse et peu pratique - les Macrocosmos utilisent le parallélisme du modèle. Chaque membre de sous-réseau - a été référé en tant que mineur car leurs actions "mine" des incitations monétaires bénéficiant à l'ensemble du réseau - ne se produisent qu'un segment du modèle, généralement quelques couches du réseau neuronal. Au fur et à mesure que les données se déplacent dans ces couches individuelles, chaque mineur traite sa pièce et transmet la sortie. Un chèque inversé rapide évalue à quelle distance le modèle est et ajuste les paiements de mineurs en conséquence.

Cette méthode n'est pas simplement plus efficace que les approches centralisées - elle est plus inclusive. Contrairement aux méthodes traditionnelles nécessitant un matériel de niveau supérieur, cette architecture permet aux participants à faible et haute compose de contribuer de manière significative. Cela démonte les barrières qui gardaient les communautés open source en marge de la formation des modèles d'IA.

Formation centralisée versus décentralisée d'IA

Pour comprendre la distinction entre la formation conventionnelle du modèle d'IA et ce que fait Macrocosmos, ce graphique offre une comparaison c?te à c?te utile:

Dans l'entra?nement centralisé, un modèle se divise en couches étroitement interconnectées entre les GPU dans un seul centre de données. Tout optimise pour les connexions locales à grande vitesse. Cependant, cette configuration est co?teuse, exclusive et fermée.

à l'inverse, l'entra?nement décentralisé des essaims disperse différentes couches de modèle à travers un réseau mondial de contributeurs ou de mineurs. Chaque participant gère une partie de la charge de travail et partage les résultats avec d'autres. Le système d'essaims intègre fréquemment toutes les pièces dans un modèle unifié. Au lieu de s'appuyer sur des grappes de calcul massives, il exploite une gamme diversifiée d'appareils connectés - d'un GPU de bureau personnel à des configurations industrielles plus grandes.

Le résultat? Les co?ts inférieurs, une plus grande transparence et un modèle d'IA ont fabriqué par beaucoup, pas par quelques-uns.

Ce qui rend cette alchimie AI possible

Pourtant, la formation des modèles de cette fa?on présente des défis. La bande passante Internet est à la tra?ne de la fibre optique dans les centres de données. Les participants décentralisés peuvent se déconnecter, tenter d'exploiter le système d'incitation ou de se déconnecter de fa?on inattendue.

Bien que certains problèmes soient au-delà du contr?le de Macrocosmos, ils ont con?u une solution élégante pour des problèmes potentiels concernant les incitations et les récompenses des mineurs. Leur nouveau réseau Iota aborde trois obstacles majeurs:

1. Les goulots d'étranglement de la bande passante: Une technique de compression spécialisée réduit la transmission des données jusqu'à 128 fois, permettant la synchronisation même sur les vitesses Internet à domicile.
2. Tolérance aux pannes: Une stratégie nommée Butterfly All-Reduce garantit que le modèle met à jour en moyenne et vérifiez de nombreux contributeurs indépendants, empêchant tout décrochage unique d'arrêter le système.
3. Récompenses équitables: chaque contributeur mesure un impact avec précision, en utilisant un système de récompense en fonction de la quantité de chaque personne (ou ordinateur), le réseau atteint les objectifs en calculant des contributions uniques. Les efforts honnêtes re?oivent une compensation transparente et proportionnelle.

Pourquoi la pré-formation de l'IA décentralisée est maintenant importante

Dans ce clip vidéo, les co-fondateurs de l'entreprise Cruz et Will Squires expliquent pourquoi la formation décentralisée est importante et comment elle ouvre un nouveau chapitre pour l'IA.

Cela va au-delà d'une amélioration technique - c'est une transformation philosophique profonde. Pendant des années, les initiatives décentralisées de l'IA se sont appuyées sur une formation centralisée dans les coulisses. Macrocosmos change ce paradigme.

"Le temps est arrivé pour nous pour avancer en tant que communauté et faire face à de nouveaux défis dans la formation des modèles. Ceci est crucial pour Bittensor. Les concurrents se rapprochent", a déclaré Cruz.

"Nous avons surpassé les états-nations, a rigoureusement comparé nos progrès et détaillé nos résultats dans notre livre blanc. C'était une expérience extraordinaire, la poussant bien au-delà de sa conception initiale."

Cette initiative visant à distribuer le calcul et la propriété de l'IA à tout le monde via la formation de Swarm envisage un avenir où l'IA n'est pas monopolisé par les entités d'élite tandis que les restes ruissent aux masses. C'est une entreprise collective que nous construisons ensemble.

Macrocosmos transit la formation décentralisée des jardins fermés de Big Tech en plein air. En cas de succès, le prochain modèle d'influence IA pourrait ne pas provenir d'Openai, Google ou Meta, mais plut?t d'un essaim de nous.

Les Américains les plus prospères veulent une IA décentralisée, non contr?lée par Big Tech par Tor Constantino, MBA

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!