2023 年が AI 元年と認識されている場合、2024 年は大規(guī)模な AI モデルの普及にとって重要な年になる可能性があります。

過去 1 年間で、多數(shù)の大規(guī)模な AI モデルや AI アプリケーションが登場し、Meta や Google などのメーカーも、「AI」と同様に、獨自のオンライン/ローカルの大規(guī)模モデルを一般に公開し始めています。 「知能」という手の屆かない概念が突然人々にやって來ます。

現(xiàn)在、人々は生活の中で人工知能に觸れる機會が増えており、注意深く見てみると、アクセスできるさまざまな AI アプリケーションのほぼすべてが「クラウド」上に展開されていることがわかります。大規(guī)模なモデルをローカルで実行できるデバイスを構築したい場合、ハードウェアは 5,000 元以上の価格がかかる真新しい AIPC となり、一般消費者にとってはフレンドリーではありません。

(寫真出典: Google)

しかし、予算を極限まで圧縮し、「使用可能な」ホストのセットを一致させることは、まさに誰もが必要としているものです。 DIY愛好家にとって究極の楽しみ。ここでの問題は、大規(guī)模な音聲モデルをローカルで実行できるコンピューターを本當に入手したい場合、どれくらいの費用がかかるかということです。

私の予算は - 300 元です。

最近、本格的なメモリ/ストレージ製品の価格が上昇しているにもかかわらず、外國産のゴミの価格はあまり変わっておらず、初期の外國産ゴミの CPU やマイニング カード GPU の一部でさえ価格が下落している傾向にあります?，F(xiàn)在の AI トレンドを考えると、オフィスのオーディオやビデオのニーズに固執(zhí)するつもりはなく、300 元の予算を使って費用対効果の高いエントリーレベルのローカル大型モデルを構築してみることにしました。ホスト。

具體的にどのように操作すればよいのか、最終的に満足のいく結果が得られるのかについては、フォローしていただければ自然と分かります。

クラシックな古い CPU、マイナーレベルの GPU

CPU の選択に関しては、Xianyu から Intel? Core?i3-4170T を直接選びました。

このプロセッサは、2 コアと 4 スレッド、メイン周波數(shù) 3.2 GHz、ターボ周波數(shù)機能なし、3 MB スマート キャッシュ、および 22nm プロセス技術を使用した Haswell アーキテクチャを備えており、最大の特徴は HD4400 を搭載していることです。それがコアディスプレイを選んだ理由でもあります。

(寫真提供: Lei Technology)

よく言われるように、低コストのボードを備えた低コストの U、私が選んだマザーボードは ASUS ワークパッケージ H81M-V3 マザーボードです。DDR3 メモリ スロットが 2 つだけであることは言うまでもなく、HDMI 出力インターフェイスさえなく、M2 ハード ドライブ、USB 3.0、ありません。 SATA III インターフェイスは 2 つだけですが、このものの最大の利點は中古価格が非常に安いことです。

このボード U セットは合計 80 元未満で、現(xiàn)在では優(yōu)れたコストパフォーマンスを持っています。

(寫真提供: タオバオ)

この種の CPU は消耗します熱 あまり心配しないでください。

Xianyu プッシュダウン式空冷放熱器 20 パックが郵送されてきました。見た目は少し醜くて粗雑ですが、私にはぴったりです。 -価格設定は確かに十分以上です。

(寫真提供: Lei Technology)

グラフィックについては最近、Xianyu では P106-090/P106-100 マイニング カードが多數(shù)リリースされており、前者の価格は通常 75 元程度、後者の価格は通常 120 元程度です。今回はゲーム用ではなく、最終的に Zotac P106-090 マイニング カードを選択しました。このカードは帯域幅の問題によりゲームには適していませんが、価格はここにあります。

最後に、名前のない DDR3 メモリを 2 つ裝備してデュアル チャネル メモリを形成し、350W 萬里の長城電源と 120GB SATA を使用して電力を供給します。システムディスクとしてSSDを使用 最初のインストールで殘ったバッファローシリコングリスでなんとかしのぎ、最終的に20元の小さなコンピューターシティケースと組み合わせ、300元のインストールに必要な基本的なハードウェアをすべて揃えました。

(寫真提供: Lei Technology)

次の場合はポイントを目指して走ってくださいあなたは同意しません。リーズナブルなパフォーマンス

#取り付けが完了し、シャーシが點燈しました。

まず簡単なパフォーマンス テストを行ってみましょう。長年勤務してきたベテランとして、インテル? Core?i3-4170T のパフォーマンスは、たとえTrottlesStop を使用して消費電力を解放する この場合、Core 第 6 世代および第 7 世代のモバイル プロセッサのレベルとほぼ同等になります。

(出典: Lei Technology)

実際のテストセッションでは、CPU-Z テストのスコアは、シングルコアテストで 319.9 ポイント、マルチコアテストで 881.0 ポイントでした。CINEBENCH テスト基準では、CINEBENCH R20 マルチコアスコアは 732cb、シングルコアスコアは301cbでした。もちろん、この性能が飛び抜けているわけではありませんが、日常のオフィスワークや軽いエンターテイメントには十分です。

(出典: Lei Technology)

GPU を見てみましょう繰り返しになりますが、當社が所有する Zotac P106-090 は 16nm プロセスを使用して構築されています。グラフィックス カード コアは GP106、コア周波數(shù)は 1354MHz、1531MHz まで増加可能です。768 シェーディング ユニットを備え、DirectX12 をサポートし、ビデオ メモリを備えています。仕様は 3072MB/192Bit Samsung GDDR5 メモリで、メモリ周波數(shù)は 2002MHz に達します。

(寫真提供: Lei Technology)

注目に値しますつまり、P106-090 のインターフェイスは PCI-E x4 1.1 であるのに対し、P106-100 のインターフェイスは PCI-E x16 1.1 であるため、同じコアを搭載している場合でも、2 つの間のパフォーマンスには明らかな違いがあります。 -090 グラフィックス カードは、非常に低価格で CUDA コンピューティング パワーを提供できるためです。

#図に示すように、DX11 のパフォーマンスを評価する Fire Strike テストでは、P106-90 は Extreme テストで 3287 ポイントのグラフィックス スコアを達成しました。 DX12 のパフォーマンスを評価するテスト Time Spy テストでは、P106-90 は基本テストで 2251 ポイントのグラフィックス スコアを達成しました。このパフォーマンスは GTX1050 と同様ですが、コアとディスプレイのパフォーマンスの間には一定のギャップがあります。 R5-7640H。

(寫真提供: Lei Technology)

ストレージに関して, この社外品の 128GB Sata SSD ハード ドライブ (40 元で購入) のシーケンシャル読み取りおよび書き込み速度は 505.28MB/s および 400.09MB/s、ランダム 4K 読み取りおよび書き込み速度は 132.35MB/s および 244.29MB/s です。 M2 SSD ハード ドライブと同じではなく、少し異なりますが、システムの起動ディスクとしては間違いなく十分です。

(寫真提供: Lei Technology)

このペアはチャネル DDR3 メモリ、メモリ キャッシュ テストに AIDA64 を使用、このコンピュータの読み取り速度は 20894 MB/s、書き込み速度は 23629 MB/s、コピー速度は 20901 MB/s、遅延は 67.5ns と測定されました。ちょうどいいです。

(出典: Lei Technology)

大型モデル ゲーム、それ

# 數(shù)百ドルの予算で使えるローカル大型ゲーム機を作るのが目標なので、実際の使用感は最高です注目の一品。

まず Koblodcpp を試してください。これは、Koblod.AI インターフェイスを統(tǒng)合する llamacpp スタートアップ プログラムです。現(xiàn)在インターネットで人気のある GGUF 形式のローカル大規(guī)模モデルを実行できます。音聲モデルと描畫モデルにより、対話中の音聲と対応するシーンの生成が可能になります。

(寫真提供: Lei Technology)

殘念なことに、容量は現(xiàn)在、Huggingface で共有されている GGUF 形式の大型モデルは、一般的に 3GB を超えており、容量が 5GB 程度しかない causallm_7b モデルを選択した場合でも、グラフィックス カードのメモリがオーバーフローして CPU の計算介入が発生し、最終的には動作に影響を與える可能性があります。大型モデル全體の効率が低下します。

(寫真提供: Lei Technology)

テストしてみましょう。このモードでは、Kobold.AI の最長応答は約 599 秒 (つまり 10 分) に達し、最短応答の生成には約 50 秒かかりますが、これは 10 秒で応答を提供できる平均的なクラウド モデルとは大きく異なります。確かに平均的です。

この場合、次善の策に落ち著いて、インテル AIGC アシスタントを使用してローカルの大規(guī)模モデルを體験した方がよいでしょう。これは、複數(shù)のローカルの大規(guī)模モデルを統(tǒng)合するデモです。言語モデル: インターネットに接続せずにインテリジェントな人間と機械の対話を実現(xiàn)することに取り組んでいます。

コンピュータ ネットワークがオフになっている場合、ある程度時間がかかる大規(guī)模モデルの最初の導入を除き、その後の質(zhì)問は基本的に 5 秒以內(nèi)に回答できます。質(zhì)問への回答、翻訳、ライティングはすべて非常に高速です。一部の頭の體操や算數(shù)の問題を扱うときは依然として論理エラーが発生しますが、この場合の全體的なエクスペリエンスは以前よりもはるかに優(yōu)れています。

(寫真提供: Lei Technology)

もちろん、文字カードやプロンプトワードなどのより高度な機能は絶対に利用できません。

AI ペイントをもう一度見てみましょう。ここで使用するのは、Stablediffsion WebUI、さまざまな SD プラグインのダウンロード、およびリモート使用を統(tǒng)合する、bilibili UP master@ 統(tǒng)合 Huiyo ランチャーです。これは、非常に実用的なオールインワン スターターです。

(寫真提供: Lei Technology)

P106- 90 の検討容量制限が3GBしかないので、容量を2GBに抑えたmistoonAnime MIX_v20モデルを選択しましたが、実測ではP106-90で128*160の寫真を4枚、240*320の寫真を4枚生成するのに約3分かかりました。 7 ～ 8 分かかり、512*512 の畫像を生成するには約 6 分かかります。

(出典: Lei Technology)

実際の経験から見てください。個人的には、プロンプト ワードやプラグインの數(shù)を減らしながら 128*160 の畫像から開始し、適切な畫像が見つかったら、AI アップグレードと 1 枚の畫像の再描畫を実行することをお勧めします。それ以外の場合は、512*512 の仕様で畫像を生成する場合、一般に畫像が破棄される確率は高くありません。

# (出典: Lei Technology、SD で生成された畫像)

ローカルの大型モデルが使用できるようになりましたが、ゲーム エクスペリエンスはどうですか?

実際のハードウェア構成を考慮して、「ファークライ 6」、「シャドウ オブ ザ トゥームレイダー」、「F1 2020」、「Horizo??n: Zero Dawn」をテストしてみましょうFHD 解像度での 4 つのゲームの體験を見てみましょう。

「ファークライ 6」のパフォーマンステストでは、最低畫質(zhì) 1920*1080 で、このコンピューターの平均フレーム數(shù)は、FSR が低くても 32fps でした。パフォーマンス プロファイルがオンになっていると、最終的なゲームのフレーム レートは 40fps 程度しか変動しません。

(寫真提供: Lei Technology)

レースの様子をご覧ください再び車 ゲームでは、「F1 2020」で1920*1080の中畫質(zhì)をオンにし、オーストラリアのサーキットで晴天テストを実施しましたが、最終的な平均フレームレートは59fpsに達する可能性がありました。サービスを何度もスムーズに実行できます。

(出典: Lei Technology)

標準のテスト ゲームとして, 「シャドウ オブ ザ トゥームレイダー」は當然このテストを逃しませんでした。 FSR をオンにせず、デフォルトで最低畫質(zhì)の 1920*1080 に設定すると、ゲーム ベンチマーク テストを実行したこのコンピューターの平均フレーム レートは 50 fps となり、このバッチの 3A ゲームの中で安定した 60 fps のゲーム エクスペリエンスに最も近くなります。

(寫真提供: Lei Technology)

最後に、やってみましょう「Horizo??n: Zero Dawn」の場合、最低畫質(zhì)だとビデオメモリもパンクしてしまうため、このパソコンでは1280*720の最低畫質(zhì)ではギリギリ30fpsの合格ラインに達することができず、不向きとしか言いようがありません。遊び用に。

(寫真提供: Lei Technology)

全體的に、次の影響を受けます。帯域幅制限が厳しいため、P106-090 の実際のパフォーマンスは、同様の実行スコアを持つ GTX1050 ほど良くはありません。せいぜい、Iris Xe 96EU コア ディスプレイよりわずかに優(yōu)れています。3A ゲームに対応するために多少拡張されています。近年では。 。

要約: 確かに大規(guī)模なモデルを実行できますが、安定性は良くありません

利點:

1. コスト予算が低い;

2. 実際にローカルの大規(guī)模モデルを実行できます。

欠點:

1. 中古部品は保証されていません;

2. マイニング カード ドライバーは非常に紛失しやすいです。 、白い畫面が発生する問題が発生しました。

予算 300 元のこのコンピュータ ホストは使用できますか?

CPU の仕様が古く、マイニング カードのパフォーマンスが不安定ですが、予算 300 元のこのコンピューター ホストは、確かにローカルの大型モデルの展開を完了できます。描畫體験も問題なく、AI PCとしても使えます。

『ファークライ 6』のような 3A の名作を動作させても、本機は FHD 低畫質(zhì)下でも 60 フレームで安定して動作するため、『リーグ』にも対応できます。このタイプのオンライン ゲームでは十分すぎるはずで、エントリーレベルのオンライン ゲーム ホストとしても使用できます。

(寫真提供: Lei Technology)

では、どうすればよいでしょうか。このコンピュータ ホストに満足していますか?

答えは「いいえ」です。実際の使用中に、P106-90 マイニング カードは何度もドライバーの障害に見舞われ、その結果、コンピューターの畫面が真っ白になりました。アンインストールするには DDDU を使用する必要があります。ドライバーを削除して再インストールします。これがテストで少し面倒な場合は、日常使用で受け入れるのは間違いなく困難です。

現(xiàn)在、Xianyu には私が組み立てたマシンと同様の構成を備えた多くの外國製ジャンク マシンがあり、価格は通常 350、価格は約 400 であることは注目に値します。元です。ターゲット層は明らかに大學に入學したばかりの若者や社會に出たばかりの若者です。個人的には、これらの製品を購入しないことをお勧めします。支払った金額に見合うものがあるのは冗談ではありません。

#要するに、ゴミ拾いには危険が伴うので、車に乗る前に注意してください。ハイエンドのコンピューターで遊ぶのに飽きたプレイヤーにとって、時々ガベージ コレクターで遊ぶのは非常に興味深いものですが、これは単なる遊びであり、実際には長期間メイン マシンとして使用することを目的としたものではありません。なにしろ、ガベージコレクターの付屬品はボロボロで、保証もないので、故障して大切なデータを失ってしまったら、元も子もありません。

しかし、予算 300 元を使用してローカルの大型モデル PC を実行する試みを完了すると、ハードウェアのパフォーマンスが期待どおりではない可能性があることがある程度わかります。 AI PCの開発を制限する主な要因。少なくとも一般消費者の利用シーンにおいては、PCメーカーがやるべきことはコンピューティングパワーを向上させることではなく、ユーザーが大規(guī)模なAIモデルのフレームワークや環(huán)境を構築できるよう支援し、システムやソフトウェアの面でより良い體験をユーザーに提供することだ。つまり、AI PCは自分でPCを組み立てるのではなく、ユーザーが手元で使えるものでなければなりません。

以上が300元を費やして組み立てたコンピューターは、地元の大型モデルで正常に動作しましたの詳細內(nèi)容です。詳細については、PHP 中國語 Web サイトの他の関連記事を參照してください。