Wenn Sie diese Fortschritte jedoch wieder auf das Gesetz von Moore zurückverfolgen und wirklich auspacken, wie inkrementelle Verdoppelungsfunktionen, wird das Bild klar.

Erinnern Sie sich an das Gleichnis vom Weisen (manchmal als Erfinder des Schachs angesehen), der einen K?nig um ein einzelnes Reisk?rnern fragte, das sich auf jedem Platz des Boards 64 -mal verdoppelte. Diese Geschichte zeigt perfekt, wie das exponentielle Wachstum bescheiden beginnt - 1, 2, 4, 8, 16, 32 - und explodiert dann pl?tzlich in Zahlen, die so gro? sind, dass sie sich der Vorstellungskraft widersetzen. Auf dem letzten Platz befassen Sie sich mit 18 Quintillionen, 446 Fülle, 744 Billionen Reisk?rnern - eine unverst?ndliche Menge.

Es ist eine einfache Mathematik, aber es fühlt sich wie Zauberei an. Und ich liebe diese Fu?note von Wikipedia über den Ursprung des Tale: ?Abh?ngig von der Version wird der clevere Erfinder entweder ein vertrauenswürdiger k?niglicher Berater oder wird umgehend ausgeführt.“

Das gleiche Prinzip spielt sich jetzt im heutigen KI -Boom ab. Tats?chlich pr?gte AI Visionary Ray Kurzweil den Begriff ?die zweite H?lfte des Schachbretts“, um den Moment zu beschreiben, in dem sich der exponentielle Fortschritt von kaum aufmerksam zu ?u?erst transformativ verlagert. Die erste H?lfte sieht überschaubar aus; Die zweite H?lfte umgestaltet die Realit?t. Dann steigt die Kurve nicht nur auf - sie rastet nach oben und bricht die Decken durch, die wir einst dauerhaft hielten.

Die spannende Geschwindigkeit der Hardware -Innovation

Ich habe bereits über den WSE -Chip von Cerebras geschrieben - ein Silizium -Sterbchen in der Gr??e eines Telleres, der mit rund 90.000 Kernen verpackt ist.

Laut Berichten aus Quellen wie dem IEEE-Spektrum erreicht das WSE-2 (verwendet im Cerebras CS-2-System) rund 7,5 Petaflops FP16-Compute-7.500 Billionen Operationen pro Sekunde. Die neuere WSE-3? Es springt auf erstaunliche 125 Petaflops.

Eines dieser Chips zu halten ist wie ein Stück der Zukunft zu halten. Es verk?rpert die rohe Kraft der massiven Parallelit?t. Vor nicht allzu langer Zeit haben wir Dual-Core-Prozessoren gefeiert. Dann kamen Quad-Core, Octa-Core-der Schritt revolution?r. Jetzt haben wir einen Bereich betreten, in dem Zehntausende von Kernen im Einklang operieren.

Dann gibt es Systeme wie Huawei CloudMatrix, bei denen genaue Spezifikationen eng bewacht werden, aber die zugrunde liegende Botschaft ist unverkennbar: Die Rechenleistung ist über das hinausgeht, was die meisten Menschen überhaupt konzipieren k?nnen.

Hardware als ?kosystem

Bei einer kürzlich durchgeführten TED -Veranstaltung lieferte der junge Technologe Caleb Sirak eine überzeugende Gespr?chsrahmen -Hardware als eine Art ?Siliziumgef?ngnis“.

Er ging durch die Entwicklung der Hardwarebeschleunigung - von frühen Maschinen, die Millionen von Operationen pro Sekunde abwickelten, bis hin zu den heutigen Systemen, die Billionen knirschen, sogar bei vierzig Billionen. W?hrend das Gaming die frühen Innovation treibst, stellte er fest, dass der wahre Durchbruch kam, als Plattformen wie Nvidia's Cuda die Tür zum Allzweck-GPU-Computing ?ffneten.

Jetzt, argumentierte er, ist es Zeit für ein neues Paradigma.

"Wir müssen die gesamte Architektur überdenken", erkl?rte Sirak.

Anspruch auf den Hardwarevorteil

Ein Schlüssel zur Erschlie?ung der GPU-Leistung der n?chsten Generation ist die Quantisierung.

Beispielsweise ist ein 4-Bit-Multiplikator dramatisch effizienter als sein 32-Bit-Gegenstück-die weniger Leistung, Platz und Zeit erfordert.

Er zitierte Chips wie Cerebras 'WSE als Hauptbeispiele, wie die Minimierung der Datenbewegung die AI -Effizienz beenden kann.

"Wenn die Parameter kleiner sind", erkl?rte er, "k?nnen wir jede Sekunde mehr davon über das System bewegen und Engp?sse in Speicher- und Netzwerkverbindungen drastisch reduzieren."

Er bezog sich auf das Colossus -Projekt von XAI und seine ehrgeizige ?Roadmap“, um bis zu einer Million GPUs zu skalieren. Doch auch in dieser Gr??enordnung bleibt die Effizienz K?nig.

"Sie k?nnen eine Stadt mit kurvenreichen Stra?en und gemischtem Verkehr entwerfen", sagte er, "oder Sie k?nnen eine F1 -Rennstrecke bauen. Auf dieser Strecke geht das F1 -Auto nicht nur schnell - es dominiert."

Er betonte die Bemühungen mehrerer Unternehmen, koordinierte Cluster von Hardware -Einheiten zu erstellen - was er als ?intelligente Kolonien“ bezeichnet - im Konzert wie Schw?rme von Engineered Brilliance.

"Die F?higkeiten, die wir durch KI -Chips und architektonische Sprünge freischalten, sind transformativ", fügte Sirak hinzu. "Und damit diese Revolution der Menschheit zugute kommt, muss Innovation offen, zug?nglich und global geteilt sein. Im Kern des All ist eine Lieferkette der erstaunlichen Komplexit?t: Seltene erdelemente, die auf einem Kontinent abgebaut sind, raffinierte Chemikalien aus einem anderen und die endgültige Herstellung auf einem Drittel."

Um die globale Interdependenz zu veranschaulichen, wies er darauf hin, dass ein einzelner Chip über ein Dutzend L?nder durchquert, bevor er sein endgültiges Ziel erreichte. Dies ist für jeden, der bewusst ist, dass TSMC - Taiwan Semiconductor Manufacturing Company - die Mehrheit der weltweit fortgeschrittenen Halbleiterchips produziert.

Eines ist sicher: Wir sind jetzt tief in den vertikalen Anstieg der Hockey -Stick -Kurve - eine historische Welle der Hardwarebeschleunigung. Die Zukunft kommt nicht nur. Es ist schon da.

Das obige ist der detaillierte Inhalt vonHardware Beschleunigung treibt die Zukunft an. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!