目次

1. はじめに
2. なぜ大規(guī)模な言語(yǔ)モデルを微調(diào)整するのでしょうか?
3. ソリューションの概要
4. 環(huán)境設(shè)定
5. Python を使用したトレーニングと微調(diào)整
6. 微調(diào)整されたモデルを .NET Core に統(tǒng)合する
7. Azure へのデプロイ
8. ベストプラクティス
9. 結(jié)論

1. はじめに

大規(guī)模言語(yǔ)モデル (LLM) は、人間のようなテキストを理解して生成する能力で広く注目を集めています。ただし、多くの組織は、汎用モデルでは完全には捕捉できない可能性のある、獨(dú)自のドメイン固有のデータ セットと語(yǔ)彙を持っています。 微調(diào)整により、開発者はこれらの大規(guī)模なモデルを特定の環(huán)境や業(yè)界に適応させ、精度と関連性を向上させることができます。

この記事では、Python を使用して LLM を微調(diào)整し、その結(jié)果のモデルを .NET Core C# アプリケーションに統(tǒng)合してデプロイする方法について説明します。スケーラビリティと利便性を高めるために、すべてを Microsoft Azure 上で実行します。

2. なぜ大規(guī)模な言語(yǔ)モデルを微調(diào)整するのでしょうか?

3. ドメインの特異性: LLM は、業(yè)界固有の用語(yǔ)、製品名、専門用語(yǔ)を使用するように微調(diào)整できます。

4. パフォーマンスの向上: 微調(diào)整により、多くの場(chǎng)合、エラーが減少し、顧客サービス、調(diào)査、分析などのユースケースでの関連性が向上します。

5. コストの削減: モデルを最初から構(gòu)築する代わりに、既存の強(qiáng)力な LLM をカスタマイズできます。

6. 効率の向上: 事前トレーニングされた重みを利用し、最終レイヤーまたはパラメーターのみを調(diào)整することで、プロセスを高速化します。

3. ソリューションの概要

コンポーネントとテクノロジー

1. 微調(diào)整用の Python

   • 一般的に使用されるライブラリ (例: Hugging Face Transformers、PyTorch)
   • 事前トレーニングされたモデルのロードと調(diào)整のプロセスを簡(jiǎn)素化しました

2. 統(tǒng)合用の .NET Core C#

   • モデルを微調(diào)整するためのバックエンド サービスまたは API を公開する
   • 多くのエンタープライズ開発者に馴染みのある、厳密に型指定された言語(yǔ)

3. Azure サービス

   • トレーニングとモデル管理のための Azure Machine Learning
   データとモデル アーティファクト用の
   • Azure Storage
   • Azure App Service または .NET Core アプリケーションをホストするための Azure Function
   • Azure Key Vault (オプション) 資格情報(bào)を保護(hù)するため

4. 環(huán)境設(shè)定

前提條件

• Azure サブスクリプション: Machine Learning Workspace や App Service などのリソースを作成するために必要です。
• Python 3.8 : モデルの微調(diào)整のためにローカルにインストールされます。
• .NET 6/7/8 SDK: .NET Core C# アプリケーションの作成と実行用。
• Visual Studio 2022 または Visual Studio Code: 推奨される IDE。
• Azure CLI: ターミナルを介して Azure サービスを構(gòu)成および管理するために使用されます。
• Docker (オプション): 必要に応じてアプリケーションをコンテナ化するために使用できます。

5. Python を使用したトレーニングと微調(diào)整

この例では、最も広く採(cǎi)用されている LLM 微調(diào)整ライブラリの 1 つである Hugging Face Transformers を使用します。

5.1 仮想環(huán)境のセットアップ

<code>python -m venv venv
source venv/bin/activate  # 在 Windows 上：venv\Scripts\activate</code>

5.2 依存関係をインストールする

<code>pip install torch transformers azureml-sdk</code>

5.3 Azure Machine Learning ワークスペースを作成する

1. リソース グループ および ワークスペース:

<code>   az group create --name LLMFinetuneRG --location eastus
   az ml workspace create --name LLMFinetuneWS --resource-group LLMFinetuneRG</code>

1. ワークスペースに接続するためのローカル環(huán)境を構(gòu)成します (config.json ファイルまたは環(huán)境変數(shù)を使用)。

5.4 微調(diào)整スクリプト (train.py)

<code>import os
import torch
from transformers import AutoModelForCausalLM, AutoTokenizer, TrainingArguments, Trainer
from azureml.core import Workspace, Run

# 連接到 Azure ML
ws = Workspace.from_config()
run = Run.get_context()

model_name = "gpt2"  # 示例模型
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name)

# 加載自定義數(shù)據(jù)集（本地或來自 Azure 存儲(chǔ)）
# 示例：Azure ML 中的文本文件或數(shù)據(jù)集
train_texts = ["此處輸入您的特定領(lǐng)域文本..."]  # 簡(jiǎn)化版
train_encodings = tokenizer(train_texts, truncation=True, padding=True)

class CustomDataset(torch.utils.data.Dataset):
    def __init__(self, encodings):
        self.encodings = encodings
    def __len__(self):
        return len(self.encodings["input_ids"])
    def __getitem__(self, idx):
        return {k: torch.tensor(v[idx]) for k, v in self.encodings.items()}

train_dataset = CustomDataset(train_encodings)

training_args = TrainingArguments(
    output_dir="./results",
    num_train_epochs=3,
    per_device_train_batch_size=2,
    save_steps=100,
    logging_steps=100
)

trainer = Trainer(
    model=model,
    args=training_args,
    train_dataset=train_dataset,
)

trainer.train()

# 保存微調(diào)后的模型
trainer.save_model("./fine_tuned_model")
tokenizer.save_pretrained("./fine_tuned_model")</code>

5.5 Azure へのモデルの登録

<code>from azureml.core.model import Model

model = Model.register(
    workspace=ws,
    model_path="./fine_tuned_model",
    model_name="myFineTunedLLM"
)</code>

この時(shí)點(diǎn)で、簡(jiǎn)単にアクセスしてバージョンを管理できるように、微調(diào)整されたモデルは Azure Machine Learning に保存されます。

6. 微調(diào)整されたモデルを .NET Core に統(tǒng)合する

6.1 .NET Core Web API プロジェクトを作成する

<code>dotnet new webapi -n FineTunedLLMApi
cd FineTunedLLMApi</code>

6.2 依存関係を追加する

Azure エンドポイントまたはローカル推論 API を呼び出すための
• HttpClient
• Newtonsoft.Json (シリアル化に JSON.NET を使用したい場(chǎng)合)
Azure リソースへの安全なアクセスのための
• Azure.Storage.Blobs または Azure.Identity

<code>dotnet add package Microsoft.Extensions.Http
dotnet add package Microsoft.Azure.Storage.Blob
dotnet add package Newtonsoft.Json</code>

6.3 ModelConsumerService.cs

微調(diào)整されたモデルを Web サービスとしてデプロイしていると仮定します (たとえば、Azure Container Instance または Azure ML のカスタム エンドポイントを使用)。次のコード スニペットは、サービスを呼び出して完了結(jié)果を取得します。

<code>using Newtonsoft.Json;
using System.Net.Http;
using System.Text;
using System.Threading.Tasks;

public class ModelConsumerService
{
    private readonly HttpClient _httpClient;

    public ModelConsumerService(IHttpClientFactory httpClientFactory)
    {
        _httpClient = httpClientFactory.CreateClient("FineTunedModel");
    }

    public async Task<string> GetCompletionAsync(string prompt)
    {
        var requestBody = new { prompt = prompt };
        var content = new StringContent(
            JsonConvert.SerializeObject(requestBody),
            Encoding.UTF8, 
            "application/json");

        var response = await _httpClient.PostAsync("/predict", content);
        response.EnsureSuccessStatusCode();
        return await response.Content.ReadAsStringAsync();
    }
}</code>

6.4 LLMController.cs

<code>using Microsoft.AspNetCore.Mvc;
using System.Threading.Tasks;

[ApiController]
[Route("[controller]")]
public class LLMController : ControllerBase
{
    private readonly ModelConsumerService _modelService;

    public LLMController(ModelConsumerService modelService)
    {
        _modelService = modelService;
    }

    [HttpPost("complete")]
    public async Task<IActionResult> CompletePrompt([FromBody] PromptRequest request)
    {
        var result = await _modelService.GetCompletionAsync(request.Prompt);
        return Ok(new { Completion = result });
    }
}

public class PromptRequest
{
    public string Prompt { get; set; }
}</code>

6.5 .NET Core アプリケーションの構(gòu)成

Program.cs または Startup.cs:

<code>var builder = WebApplication.CreateBuilder(args);

// 注冊(cè) HttpClient
builder.Services.AddHttpClient("FineTunedModel", client =>
{
    client.BaseAddress = new Uri("https://your-model-endpoint/");
});

// 注冊(cè) ModelConsumerService
builder.Services.AddTransient<ModelConsumerService>();

builder.Services.AddControllers();
var app = builder.Build();

app.MapControllers();
app.Run();</code>

7. Azure へのデプロイ

8. Azure App Service:

   • 多くの .NET Core アプリケーションにとって、これが最も簡(jiǎn)単なパスです。
   • Azure portal または CLI 経由で、新しい Web アプリ を作成します。

<code>python -m venv venv
source venv/bin/activate  # 在 Windows 上：venv\Scripts\activate</code>

1. Azure 関數(shù) (オプション):

   • 使用が斷続的またはスケジュールされている場(chǎng)合に、サーバーレスのイベント駆動(dòng)型ロジックを?qū)g行するのに最適です。

2. Azure Kubernetes Service (AKS) (詳細(xì)):

   • 大規(guī)模な導(dǎo)入に最適です。
   • Docker を使用してアプリケーションをコンテナー化し、Azure Container Registry (ACR) にプッシュします。

8. ベストプラクティス

9. データ プライバシー: 特にモデルのトレーニング中に、機(jī)密データや専有データを責(zé)任を持って取り扱うようにします。

10. 監(jiān)視とログ: Azure Application Insights と統(tǒng)合して、パフォーマンスの監(jiān)視、使用狀況の追跡、異常の検出を行います。

11. セキュリティ: Azure Key Vault を使用してキー (API キー、接続文字列) を保存します。

12. モデルのバージョン管理: 必要に応じて、Azure ML でモデルのさまざまな微調(diào)整されたバージョンを追跡し、古いバージョンにロールバックします。

13. ヒント エンジニアリング: 微調(diào)整されたモデルから最良の結(jié)果を得るためにヒントを調(diào)整します。

9. 結(jié)論

Python と Azure Machine Learning を使用して LLM を微調(diào)整し、それらを .NET Core アプリケーションに統(tǒng)合して、強(qiáng)力なドメイン固有の AI を構(gòu)築できるようにしますソリューション。この組み合わせは、Azure の拡張性をすべて活用した Python の AI エコシステムと .NET のエンタープライズ機(jī)能を活用したい組織にとって優(yōu)れた選択肢です。

セキュリティ、データ ガバナンス、DevOps を慎重に計(jì)畫することで、実世界のニーズを満たす本番環(huán)境に対応したソリューションを立ち上げ、強(qiáng)力で保守が容易なフレームワークで正確なドメイン固有の言語(yǔ)機(jī)能を提供できます。

以上が.NET Core、Python、Azure を使用した大規(guī)模言語(yǔ)モデル (LLM) の微調(diào)整の詳細(xì)內(nèi)容です。詳細(xì)については、PHP 中國(guó)語(yǔ) Web サイトの他の関連記事を參照してください。