但是，如果您將這些進(jìn)步追溯到摩爾的定律，并真正解開了增量倍增功能的方式，則圖片變得清晰。

回想一下智者的寓言（有時說是國際象棋的發(fā)明者），他要求國王吃一粒米飯，在董事會的每個正方形上翻了一番64次。這個故事完美地說明了指數(shù)級的增長是如何適度開始的，即1、2、2、4、8、16、32-然后突然突然爆炸成如此龐大的數(shù)字，無視想象力。到了最后的廣場，您要處理18千萬億，446億億，744萬億粒的大米，這是不可理解的。

這是簡單的數(shù)學(xué)，但感覺就像是巫術(shù)。我喜歡Wikipedia關(guān)于這個故事的起源的腳注：“根據(jù)版本，聰明的發(fā)明家要么成為值得信賴的皇家顧問，要么迅速被執(zhí)行?！?/p>

現(xiàn)在，同樣的原則正在今天的AI繁榮中發(fā)揮作用。實際上，AI有遠(yuǎn)見的雷·庫茲維爾（Ray Kurzweil）創(chuàng)造了“棋盤的后半部分”一詞，以描述指數(shù)進(jìn)步從幾乎沒有引人注目的變?yōu)橥耆兏锏哪且豢?。上半年看起來很易于管理。下半年重塑現(xiàn)實。那是曲線不僅上升的時候，它會向上旋轉(zhuǎn)，突破了我們曾經(jīng)認(rèn)為永久性的天花板。

硬件創(chuàng)新的突破速度

我之前寫過關(guān)于腦WSE芯片的文章 - 一種硅死亡的餐盤大小，里面裝有大約90,000個核心。

根據(jù)IEEE Spectrum等來源的報道，WSE-2（在小腦CS-2系統(tǒng)中使用）可實現(xiàn)約7.5 petaflops的FP16計算機(jī) - 每秒7500萬億美元的操作。較新的WSE-3？它跳到了驚人的125 petaflops。

拿著這些籌碼之一就像持續(xù)一部分。它體現(xiàn)了巨大的平行性的原始力量。不久前，我們慶祝了雙核處理器。然后是四核，八核 - 每個步驟都感到革命?，F(xiàn)在，我們進(jìn)入了一個領(lǐng)域，其中成千上萬的核心一致運作。

然后是像華為cloudmatrix這樣的系統(tǒng)，在該系統(tǒng)中，確切的規(guī)格受到密切保護(hù)，但是基本消息是無誤的：計算能力已經(jīng)超出了大多數(shù)人甚至可以概念化的內(nèi)容。

硬件作為生態(tài)系統(tǒng)

在最近的一次TED活動中，年輕的技術(shù)專家Caleb Sirak發(fā)表了引人入勝的演講，將硬件作為“硅監(jiān)獄”。

他瀏覽了硬件加速度的發(fā)展 - 從早期機(jī)器處理每秒數(shù)百萬次操作，到當(dāng)今的系統(tǒng)，甚至四億。他指出，盡管游戲有助于提前創(chuàng)新，但真正的突破就實現(xiàn)了，當(dāng)時Nvidia的Cuda這樣的平臺為通用GPU計算打開了大門。

他認(rèn)為，現(xiàn)在是時候進(jìn)行新的范式了。

“我們需要重新考慮整個建筑，” Sirak說。

聲稱硬件優(yōu)勢

他強(qiáng)調(diào)，解鎖下一代GPU性能的一個關(guān)鍵是量化。

例如，一個4位乘數(shù)比其32位對應(yīng)物更有效地更有效，這會減少功率，空間和時間。

他將諸如小腦WSE之類的芯片列為最小化數(shù)據(jù)移動可以提高AI效率的主要例子。

他解釋說：“當(dāng)參數(shù)較小時，我們可以在整個系統(tǒng)上移動更多的參數(shù)，從而大大減少內(nèi)存和網(wǎng)絡(luò)互連的瓶頸?！?/p>

他提到了Xai的巨像項目及其雄心勃勃的“路線圖”，以擴(kuò)展到一百萬個GPU。然而，即使在這個規(guī)模上，效率仍然是國王。

他說：“您可以設(shè)計一個有蜿蜒的街道和混血交通的城市，也可以建造一個F1賽道。在那條軌道上，F(xiàn)1汽車不僅速度快，而且占主導(dǎo)地位。”

他強(qiáng)調(diào)了幾家公司為創(chuàng)建協(xié)調(diào)的硬件單元（他稱之為“智能殖民地”）的努力，例如像工程精神的群體一樣。

Sirak補(bǔ)充說：“我們通過AI芯片和建筑飛躍所解鎖的功能具有變革性。” “為了使這場革命受益，必須開放，可訪問并在全球范圍內(nèi)共享創(chuàng)新。這一切的核心都是驚人的復(fù)雜性的供應(yīng)鏈：在一個大陸上開采的稀土元素，從另一個大陸上挖掘出來的化學(xué)物質(zhì)，而最終的制造是三分之一的?！?/p>

為了說明全球相互依存，他指出，在到達(dá)最終目的地之前，一個籌碼可能會越過十幾個國家。這對任何人都意識到TSMC（泰旺半導(dǎo)體制造公司）生產(chǎn)了全球大部分高級半導(dǎo)體芯片。

可以肯定的是：我們現(xiàn)在深入曲棍球曲線曲線的垂直激增，這是一波歷史性的硬件加速浪潮。未來不僅僅是來了。已經(jīng)在這里了。

以上是硬件加速推動了未來的詳細(xì)內(nèi)容。更多信息請關(guān)注PHP中文網(wǎng)其他相關(guān)文章！