韓國(guó)で作られ、ゼロから開発されました

多くのローカル言語モデルは、大規(guī)模な國(guó)際フレームワークの微調(diào)整バージョンです。これではありません。 SK Telecomのチームは、AX 3.1ライトを完全に內(nèi)部で作成し、韓國(guó)語の內(nèi)容に重點(diǎn)を置いて、1.65兆の多言語トークンでトレーニングしました。このプロジェクトはSKTのTitan Supercomputersで実行され、すべてのレベルは、トークンザーから推論まで、會(huì)社によって管理されました。

結(jié)果？國(guó)內(nèi)でデータを保持し、外國(guó)の技術(shù)への依存を最小限に抑えるシステム。

「私たちが著実に構(gòu)築した韓國(guó)のLLM開発の専門知識(shí)に基づいて、AIエコシステムの獨(dú)立性を高め、國(guó)のAIの競(jìng)爭(zhēng)力の向上に貢獻(xiàn)するために取り組みます」

モデルの背後にある技術(shù)

2025年の基準(zhǔn)では70億のパラメーターは大きくないように見えるかもしれませんが、それが意図です。小規(guī)模なモデルは、より速く積み込み、消費(fèi)電力を減らし、微調(diào)整しやすく、モバイルアプリ、中小企業(yè)、リサーチラボにとって非常に手頃な価格です。

このバランスを達(dá)成するために、SKTのエンジニアは、32の注意ヘッド、4,096次元の隠されたサイズ、32,768トークンのコンテキスト長(zhǎng)を備えた32層変圧器を開発しました。要するに、それは効率的で迅速で、うまく機(jī)能します。

結(jié)果はこれを確認(rèn)します。韓國(guó)語のKMMLUマルチタスク推論ベンチマークでは、AX 3.1 Liteは61.7を獲得し、SKTの大きなAX 4.0 Liteモデルの約96％でした。 Click Cultural Intelligenceテストでは、より大きなカウンターパートを上回りました：71.22対69.97。そして、より広い韓國(guó)のQAベンチマークであるKobalt-700では、27.43を獲得し、モデルのサイズを何度も一致させました。

また、韓國(guó)のプロンプトの同様のGPTモデルよりも約3分の1のトークンを使用して応答を生成します。これにより、レイテンシが低下し、モバイルバッテリー壽命が延長(zhǎng)されます。

このモデルは、Apache 2.0ライセンスの下で、GithubおよびHugging Faceにアクセスできるオープンソースです。

すでに使用されています

SKテレコムは、ラボの設(shè)定でAX 3.1 Liteを?qū)g験するだけではありません。すでに同社のA.Dot Voice Assistantを動(dòng)作させており、リアルタイムで通話を要約できます。開発者は、この同じテクノロジーを翻訳アプリ、カスタマーサービスツール、またはオフラインチャットインターフェイスに統(tǒng)合できますが、すべてデータセンターや外部APIに依存することはできません。

大規(guī)模な実裝のために、SKTは、オンプレミスを展開できるAPIおよびDockerベースのコンテナオプションも提供します。これは、國(guó)境の中で機(jī)密情報(bào)を保持しなければならない銀行、病院、および公的機(jī)関にとって特に重要です。

二重戦略：ライトとフルサイズ

SKTの計(jì)畫は、デュアルパスアプローチに従います。 3.1 LiteなどのAx 3シリーズは、主権、コンパクトさ、速度に焦點(diǎn)を當(dāng)てて、完全にゼロから構(gòu)築されています。対照的に、4つのシリーズははるかに大きく、継続的な事前トレーニングを通じてパフォーマンスに最適化されています。

これにより、韓國(guó)の組織が選択肢を提供します。毎日のタスクに高速で軽量のライトモデルを使用するか、プロバイダーを切り替えることなく、より強(qiáng)力なAX 4シリーズでスケールアップします。

AX 3.1 Liteも最終バージョンではありません。 SKTは、2025年8月末までに社內(nèi)で開発された34億パラメーターバージョンをリリースする予定です。このモデルは、韓國(guó)語の効率を維持しながら、創(chuàng)造的なライティングとコード生成を強(qiáng)化することを目的としています。

AI獨(dú)立への韓國(guó)の主要な動(dòng)き

SKテレコムのイニシアチブは、より広い國(guó)家的努力の一部です。韓國(guó)政府は、數(shù)十億の勝利を、獨(dú)自の基礎(chǔ)的なAIモデルの開発に投資しています。契約が進(jìn)行中であり、SKTは競(jìng)合他社のNaverとKakaoとともに、それを競(jìng)うことが期待されています。

目的？言語的および政治的に韓國(guó)の言語を反映するツールを作成することにより、外國(guó)のAPIとモデルへの依存を減らします。

この運(yùn)動(dòng)は韓國(guó)専用ではありません。フランスのミストラルAIは、18,000-GPUスーパーコンピューターを使用してローカルでモデルをトレーニングすることです。 UAEのTechnology Innovation Instituteは、Falcon 180BとLighter Falcon 3シリーズをリリースしました。どちらも完全にオープンソースです。インドでは、Google Cloudの支援を受けて開発されたBharatgptは、12以上の地域言語をサポートしています。サウジアラビアは、王國(guó)のソブリンウェルスファンドに支えられたアラビア語モデルであるHumainに資金を提供しています。

メッセージは明確です：ソブリンAIはもはや単なる流行語ではありません。

SKTの場(chǎng)合、AX 3.1 Liteは単なる製品ではありません。それはマイルストーンであり、韓國(guó)が內(nèi)部的に有能で競(jìng)爭(zhēng)力のある言語モデルを開発し、すでにポケットに入れているデバイスでそれらを操作できることを証明しています。

以上がSKテレコムは、ゼロから構(gòu)築された韓國(guó)のソブリンLLMをリリースしますの詳細(xì)內(nèi)容です。詳細(xì)については、PHP 中國(guó)語 Web サイトの他の関連記事を參照してください。