Tetapi jika anda mengesan kemajuan ini kembali ke undang -undang Moore dan benar -benar membongkar bagaimana fungsi penggandaan tambahan, gambar menjadi jelas.

Ingatlah perumpamaan lelaki bijak (kadang -kadang dikatakan sebagai pencipta catur) yang meminta seorang raja untuk satu bijirin beras, dua kali ganda pada setiap persegi papan 64 kali. Kisah itu menggambarkan dengan sempurna bagaimana pertumbuhan eksponen bermula dengan sederhana -1, 2, 4, 8, 16, 32 -dan kemudian tiba -tiba meletupkan angka -angka yang begitu luas mereka menentang imaginasi. Dengan dataran akhir, anda berurusan dengan 18 quintillion, 446 quadrillion, 744 trilion bijirin beras -jumlah yang tidak dapat difahami.

Ia adalah matematik yang mudah, namun rasanya seperti sihir. Dan saya suka nota kaki ini dari Wikipedia mengenai asal kisahnya: "Bergantung pada versi, pencipta pintar sama ada menjadi penasihat diraja yang dipercayai atau segera dilaksanakan."

Prinsip yang sama kini bermain dalam ledakan AI hari ini. Malah, AI berwawasan Ray Kurzweil mencipta istilah "separuh kedua papan catur" untuk menggambarkan masa ketika kemajuan eksponen beralih dari hampir tidak dapat dilihat sepenuhnya. Bahagian pertama kelihatan boleh diurus; Separuh kedua membentuk semula realiti. Itulah ketika lengkung tidak hanya bangkit -roket ke atas, memecah melalui siling yang pernah kita sangka kekal.

Kelajuan inovasi perkakasan

Saya telah menulis sebelum ini mengenai cip WSE Cerebras -silikon mati saiz plat makan malam, penuh dengan 90,000 teras.

Menurut laporan dari sumber seperti IEEE Spectrum, WSE-2 (digunakan dalam sistem Cerebras CS-2) mencapai sekitar 7.5 Petaflops FP16 mengira-7,500 trilion operasi sesaat. WSE-3 yang lebih baru? Ia melompat ke 125 petaflops yang menakjubkan.

Memegang salah satu cip ini adalah seperti memegang sekeping masa depan. Ia merangkumi kuasa mentah paralelisme besar -besaran. Tidak lama dahulu, kami merayakan pemproses dwi-teras. Kemudian datang quad-core, octa-core-langkah merasakan revolusioner. Sekarang, kami telah memasuki alam di mana puluhan ribu teras beroperasi secara serentak.

Kemudian ada sistem seperti Huawei Cloudmatrix, di mana spesifikasi tepat dijaga dengan teliti, tetapi mesej yang mendasari tidak dapat disangkal: kuasa pengkomputeran telah melampaui apa yang kebanyakan orang dapat mengkonseptualisasikan.

Perkakasan sebagai ekosistem

Pada acara TED baru -baru ini, ahli teknologi muda Caleb Sirak menyampaikan perkakasan membingkai ceramah yang menarik sebagai sejenis "penjara silikon."

Dia berjalan melalui evolusi pecutan perkakasan -dari mesin awal yang mengendalikan berjuta -juta operasi sesaat, ke sistem hari ini mengorbankan trilion, bahkan quadrillions. Walaupun permainan membantu membakar inovasi awal, beliau berkata, kejayaan sebenar datang apabila platform seperti CUDA Nvidia membuka pintu kepada pengkomputeran GPU tujuan umum.

Sekarang, dia berhujah, sudah tiba masanya untuk paradigma baru.

"Kita perlu memikirkan semula seluruh seni bina," kata Sirak.

Menuntut kelebihan perkakasan

Satu kunci untuk membuka prestasi GPU gen seterusnya, beliau menekankan, adalah kuantisasi.

Sebagai contoh, pengganda 4-bit secara dramatik lebih cekap daripada rakan sejawatannya yang kurang 32-bit yang memerlukan kuasa, ruang, dan masa yang kurang.

Dia memetik cip seperti Cerebras 'WSE sebagai contoh utama bagaimana meminimumkan pergerakan data dapat meningkatkan kecekapan AI.

"Apabila parameter lebih kecil," jelasnya, "kita boleh menggerakkan lebih banyak daripada mereka di seluruh sistem setiap saat, secara drastik mengurangkan kesesakan dalam memori dan hubungan rangkaian."

Beliau merujuk projek Colossus Xai dan "pelan tindakan" yang bercita -cita tinggi untuk skala sehingga satu juta GPU. Namun, walaupun pada skala itu, kecekapan tetap menjadi raja.

"Anda boleh merancang sebuah bandar dengan jalan -jalan berliku dan lalu lintas bercampur," katanya, "atau anda boleh membina litar lumba F1. Di trek itu, kereta F1 tidak hanya bergerak pantas -ia menguasai."

Beliau menyerlahkan usaha oleh beberapa syarikat untuk mencipta kluster unit perkakasan yang diselaraskan -apa yang dia panggil "koloni pintar" -bekerja dalam konsert seperti kawanan kecemerlangan kejuruteraan.

"Keupayaan yang kami buka melalui cip AI dan lompatan seni bina adalah transformatif," tambah Sirak. "Dan bagi revolusi ini untuk memberi manfaat kepada kemanusiaan, inovasi mesti dibuka, boleh diakses, dan dikongsi secara global.

Untuk menggambarkan saling ketergantungan global, beliau menegaskan bahawa cip tunggal boleh melintasi sedozen negara sebelum mencapai destinasi terakhirnya. Ini masuk akal kepada sesiapa yang menyedari bahawa Syarikat Pembuatan Semikonduktor TSMC -Taiwan -menghasilkan majoriti cip semikonduktor maju di dunia.

Satu perkara yang pasti: kita kini jauh ke dalam lonjakan menegak lengkung tongkat hoki -gelombang bersejarah percepatan perkakasan. Masa depan bukan hanya akan datang. Sudah ada di sini.

Atas ialah kandungan terperinci Percepatan perkakasan mendorong masa depan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!